Un agente de OpenAI pirateó un sitio web del gobierno de Australia y accedió a datos del salud, según últimos registros. Expertos consideraron este hecho como el primer caso conocido de este tipo en el mundo y al respecto el primer ministro conversó con las autoridades de la compañía, a la vez que le advirtió que habría «consecuencias legales».
El incidente se remonta a junio y entre los detalles del hecho el agente se «infiltró» en un portal de estadísticas que contenía datos «no confidenciales» del programa universal de atención médica de Australia, Medicare, según testimonios del primer ministro Anthony Albanese en Nueva York el miércoles.
Al respecto, el funcionario mantuvo una «conversación muy franca» con el director ejecutivo de OpenAI, Sam Altman, por haber tardado «demasiado» en revelar la filtración y afirmó que habría «consecuencias legales».
OpenAI afirmó que solo tuvo conocimiento de la brecha de seguridad en agosto, mientras revisaba una «actividad de modelo desalineada» y envió un correo electrónico a la agencia Services Australia el pasado 10 de septiembre.
Un agente deshonesto de OpenAI se «infiltró» en un sitio web del gobierno australiano, un hecho sin precedentes a nivel mundial.
Cinco días después, la agencia remitió el correo electrónico al centro de ciberseguridad de Australia antes de notificar al gobierno. Albanese sostuvo que habló con Altman y le expresó «la extrema preocupación de Australia por este incidente», así como su «decepción» por el hecho de que la empresa hubiera tardado meses en revelar la filtración y «la forma» en la que lo hizo.
El líder australiano afirmó que Altman había reconocido que existían «problemas con los protocolos» en OpenAI. Según Albanese, una «investigación forense» dirigida por la agencia de ciberseguridad del país tendría como objetivo averiguar si otros sistemas gubernamentales se vieron afectados.
La investigación también evaluará si el asunto debe ser tratado por la policía señalando que «obviamente habrá consecuencias legales». Al detallar la filtración, Albanese sostuvo que había afectado a «archivos públicos y no públicos» en el portal del Servicio de Informes de Estadísticas de Medicare.
Otros tres sistemas gubernamentales también podrían haberse visto afectados como el Instituto Australiano de Salud y Bienestar y dos agencias estatales -la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur y el Departamento de Salud de Victoria. «Por el momento, no se cree que se haya accedido a información personal, pero las investigaciones continúan», sostuvo el primer ministro.
«En el transcurso de ese proceso, nuestros modelos realizaron acciones que no habíamos previsto», sostuvo OpenAI en un comunicado. Australia fue uno de los 22 países que a principios de esta semana firmaron una declaración en favor de una supervisión global para el desarrollo de la IA. Expertos en ciberseguridad declararon a la BBC que el incidente supone una llamada de atención para los reguladores, dado la disponibilidad cada vez mayor de los agentes para su uso individual y comercial.
El profesor titular del Instituto de Ciberseguridad de la Universidad de Nueva Gales del Sur Hammond Pearce declaró a la BBC que, si bien este es el primer incidente conocido en el que agentes de IA optó por vulnerar un organismo gubernamental por voluntad propia, habrá más casos similares: «Espero que este tipo de ataques sigan ocurriendo», dijo, y agregó que probablemente «aumentarán en gravedad y frecuencia».
OpenAI presiona a Donald Trump para establecer estándares internacionales de IA
OpenAI volvió a instar al gobierno de Estados Unidos a que redoble los esfuerzos por establecer estándares internacionales para el desarrollo de los modelos de frontera de intelgiencia artificial. «Creemos que Estados Unidos debería liderar un esfuerzo para trabajar junto con países de todo el mundo en el desarrollo de estándares técnicos globales para la IA de frontera, incluido el RSI (mejora recursiva de la IA)», detallaron en una entrada de su blog publicada el pasado lunes.
La discusión sobre la seguridad del desarrollo de la IA se instaló en el centro del debate público luego de las advertencias realizadas por el exinvestigador de Anthropic y OpenAI, Jacob Coxon, a la que luego adhirieron distintas figuras centrales del sector tecnológico estadounidense, tales como Dario Amodei (CEO de Anthropic), Elon Musk (xAI) y el propio líder de OpenAI, Sam Altman.
La disputa se inscribe – más allá del debate general sobre la IA – en un escenario donde China busca recortar la distancia con el desarrollo estadounidense. Mientras tanto, desde Washington elevan las alarmas y denuncian los «peligros» de la evolución del gigante asiático.