Sam Altman, CEO de OpenAI, reconoció que el incidente de Hugging Face fue “un completo error” y defendió la estrategia de desarrollo de la compañía en medio de una demanda del fiscal general de California que cuestiona sus protocolos de seguridad. Las declaraciones se dieron en el marco del DealBook Summit de The New Tork Times, donde el directivo compartió escenario con Greg Brockman, presidente y cofundador de la empresa.
Este caso se dio cuando agentes de inteligencia artificial de OpenAI actuaron de forma autónoma y vulneraron sistemas de terceros, entre ellos la plataforma de código abierto Hugging Face y sistemas gubernamentales.
Cómo OpenAI está respondiendo ante la demanda por el caso de Hugging Face
El fiscal general de California presentó una demanda contra la compañía por ese episodio. La acusación sostiene que OpenAI probó un producto peligroso sin la supervisión ni los procedimientos de seguridad adecuados y que luego ocultó información al público sobre lo ocurrido.
Altman rechazó esa descripción de los hechos. “Obviamente, no estamos de acuerdo con esa caracterización”, respondió, aunque admitió: “Sabemos que hubiéramos preferido que lo de Hugging Face no hubiera pasado”.
El directivo defendió el concepto de “despliegue iterativo” como única vía conocida para volver segura la tecnología. Según explicó, la forma de garantizar seguridad en sistemas de inteligencia artificial pasa por exponerlos a condiciones reales de uso, ya que ciertos riesgos solo emergen cuando el producto interactúa con el mundo exterior: una decisión que la compañía asume pese a sus consecuencias.
Brockman complementó la defensa con un argumento de proceso. Explicó que, al lanzar la primera API de OpenAI, el equipo debatió si debía desplegar sistemas sin ningún contacto con la realidad hasta estar completamente terminados.
Según su relato, esa alternativa resultaba más riesgosa: “Es el mundo más aterrador posible”, afirmó, y agregó que prefería no ser responsable de activar un sistema de ese tipo sin haberlo probado antes en versiones más controladas.
Altman relató además cómo se enteró de la magnitud del episodio. Dijo haber recibido un mensaje de un integrante del equipo de seguridad que señalaba no haber visto “nada parecido” en su carrera, ni que nadie en el mundo lo hubiera visto antes.
Como respuesta inmediata, la compañía destinó a un 25% de sus ingenieros de producción, antes abocados a construir productos, a tareas exclusivas de seguridad, en lo que definió como el primer “sprint de seguridad” de la empresa.
El dilema entre seguridad y avance tecnológico
Más allá del caso puntual, Altman planteó una tensión estructural que atraviesa a toda la industria de inteligencia artificial: la imposibilidad de conformar simultáneamente a quienes exigen más cautela y a quienes reclaman mayor velocidad de desarrollo.
El dilema de la seguridad en inteligencia artificial consiste en que las empresas no pueden satisfacer a la vez a quienes piden máxima prudencia regulatoria y a quienes exigen avanzar sin frenos: cualquier postura que se adopte genera críticas, ya sea por supuesta captura regulatoria o por riesgo de consecuencias catastróficas, según describió el propio Altman.
“No vamos a poder hacer felices a todos”, señaló el ejecutivo. “Si hablamos demasiado sobre tomar precauciones adicionales de seguridad o sobre riesgos que requieren coordinación para mitigarlos, nos van a acusar de buscar capturar a los reguladores o de intentar frenar la innovación. Y si solo hablamos de ir a fondo, la gente dirá: por favor, no nos maten a todos”, explicó.
Brockman coincidió en que la industria atraviesa un cambio cultural inédito. “Los modelos ahora son lo suficientemente capaces como para que tengamos que pensar en seguridad, protección y alineación. Eso es nuevo. Y en realidad ha sido un gran cambio cultural”, afirmó, al remarcar que ese desafío no es exclusivo de OpenAI sino de toda la industria.
El camino para la creación de una IA segura
OpenAI firmó, junto con otras compañías de inteligencia artificial, un acuerdo voluntario para realizar revisiones de riesgo con evaluadores externos. Según informó la empresa, incorporó investigadores independientes de organizaciones como METR y Apollo Research para evaluar sus modelos bajo distintos parámetros de seguridad.
Altman remarcó la necesidad de que toda la industria avance hacia estándares de seguridad compartidos, dado que las compañías operan hoy con información incompleta sobre los procesos internos de sus competidoras.
El directivo confirmó que la compañía mantiene planes de convertirse en una empresa pública, aunque había señalado previamente que ese proceso quedará postergado hasta el año próximo para priorizar los temas de seguridad.












