Geoffrey Hinton, considerado uno de los “padrinos” de la inteligencia artificial, advirtió que la humanidad podría enfrentar este año o el próximo un incidente de gran escala vinculado al desarrollo de esta tecnología, similar a un apagón temporal en sistemas financieros o eléctricos. El científico, ganador del premio Nobel, llegó a plantear que “quizás nos hubiera convenido no haberla desarrollado nunca”, aunque matizó que no se considera un “doomer” (agorero) respecto al futuro de la IA.
En declaraciones a The Guardian, Hinton, de 78 años, sostuvo que dentro de una década, y posiblemente antes, la humanidad sabrá si puede gestionar los riesgos de la tecnología y alcanzar lo que llamó una “abundancia radical” o si, por el contrario, fracasa en ese control y enfrenta “una enorme brecha entre ricos y pobres, grandes problemas culturales, desempleo masivo y una sociedad desgarrada”.
Un posible “Chernóbil” tecnológico este año o el próximo
El investigador, nacido en Londres y criado en Bristol, comparó una serie de incidentes ocurridos este verano boreal con el accidente nuclear parcial de Three Mile Island, en Pensilvania, ocurrido en 1979. Se refería a casos en los que agentes de IA desarrollados por OpenAI intentaron, de forma coordinada, vulnerar el sitio web Hugging Face.
“O a finales de este año o el próximo, veremos un Chernóbil, y eso puede ser suficiente para que la gente realmente preste atención”, afirmó Hinton, según recogió el diario británico.
El científico aclaró que ese eventual “Chernóbil” no sería un incidente nuclear, sino que podría tratarse de un ataque habilitado por IA contra el sistema de generación eléctrica que provoque un apagón de gran escala, o bien una falla que deje fuera de funcionamiento al sistema financiero durante una semana. “¿Te imaginás qué pasaría? Podríamos recuperarnos [pero] eso los haría sentarse y prestar atención”, señaló, en referencia a líderes mundiales “distintos de Trump”.
Críticas a los responsables de las grandes empresas de IA
Hinton, quien desarrolló gran parte de su carrera en la Universidad de Toronto y acuñó en la década de 1970 el concepto de red neuronal —un sistema matemático capaz de aprender de forma similar a los humanos—, apuntó directamente contra los líderes de las principales compañías del sector. Según declaró a The Guardian, no confía “en absoluto” en Sam Altman, director ejecutivo de OpenAI, la empresa detrás de ChatGPT.
“Creo que [Mark Zuckerberg] y [Elon Musk] y Sam Altman entienden los riesgos, y no les importa. Prefieren el dinero. Esa es mi creencia”, declaró Hinton. El investigador calificó de “extremadamente preocupante” que Altman esté al frente de una de las pocas empresas estadounidenses que lideran la carrera tecnológica frente a China. Altman había señalado en septiembre que “el mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y porque sentimos la magnitud de esto”.
Los antecedentes de un crítico desde dentro de la industria
Hinton, que lleva alrededor de 44 años trabajando en inteligencia artificial, dejó Google en 2023 para poder hablar con libertad sobre los riesgos de la tecnología que él mismo contribuyó a crear. En ese momento había advertido: “Si estas cosas se dejan llevar por obtener más control, estaremos en problemas”.
Sus declaraciones más recientes se produjeron antes de la proyección de un documental titulado AI: Probably Nothing to Worry About (cuyo título fue sugerido por un chatbot de IA), en el que participa junto a su excolega de Google, Demis Hassabis. En esa producción, Hinton afirma: “Siento que tengo un deber. Tengo una reputación que me convierte en un portavoz y necesito quemarla toda en esto”.
Propuestas de regulación internacional
Frente a este panorama, Hinton respaldó un plan impulsado por el presidente de Finlandia y respaldado por otros 32 países, entre ellos Singapur, Alemania, Canadá y Australia, que contempla pruebas obligatorias para los modelos de IA más avanzados, evaluaciones independientes y estándares comunes entre gobiernos.
Esta postura contrasta con la del presidente de Estados Unidos, Donald Trump, quien “rechaza totalmente cualquier intento de construir un esquema globalista” para controlar la IA y prefiere que las empresas líderes del sector se autorregulen, en medio de la preocupación de que una normativa más estricta pueda perjudicar la posición de Estados Unidos en su competencia con China.
Por su parte, el primer ministro del Reino Unido, Andy Burnham, anunció que utilizará la presidencia británica del G20 el próximo año para buscar un acuerdo sobre “un único conjunto de principios y estándares globales” orientados a “desbloquear todo el potencial de la IA al tiempo que se protege contra sus riesgos”.
