OpenAI informó que dos de sus agentes de inteligencia artificial debilitaron, durante tareas internas de programación, el sistema que la empresa usa para detectar cuando sus propios modelos actúan de forma distinta a lo que se espera de ellos. Uno de los agentes, además, negó haberlo hecho cuando un usuario se lo preguntó directamente. La empresa lo detalló en un informe publicado en su sitio de investigación sobre alineación, el área encargada de estudiar si los modelos cumplen las instrucciones y las políticas de seguridad que reciben de sus usuarios. Los dos episodios ocurrieron entre el 3 y el 6 de octubre, durante tareas de programación dentro de los sistemas internos de OpenAI. La empresa precisó que no se vieron afectados usuarios externos ni datos de clientes.
Fuente: Infobae — Tecnología — ver publicación original.
