Microsoft anunció nuevas herramientas de seguridad para proteger a las empresas de sus propios agentes de inteligencia artificial, porque, según la compañía, ni siquiera sus modelos más avanzados son del todo confiables. La pieza central del anuncio es Guardian Agents, un conjunto de agentes de IA (programas que ejecutan tareas por su cuenta) diseñados para supervisar cada acción de los demás agentes que una empresa usa, antes de que ocurra y durante las 24 horas del día. “Lamentablemente, los modelos más avanzados, sin importar su origen, no pueden ser confiables”, escribió Hayete Gallot, vicepresidenta ejecutiva de seguridad de Microsoft, en el blog oficial de la compañía. Gallot aclaró que esto no se debe a que los modelos sean maliciosos, sino a que buscan cumplir objetivos sin seguir las normas o el criterio de una organización, lo que los vuelve impredecibles.
Fuente: Infobae — Tecnología — ver publicación original.
