Un equipo de ciberseguridad de Salt Labs encontró una forma de evadir las protecciones de Manus, un agente de inteligencia artificial, para lograr que ejecutara código malicioso a partir de un correo electrónico manipulado La técnica, que explota una debilidad conocida como inyección de instrucciones (prompt injection), permitió que el sistema interpretara el contenido de un email como órdenes ejecutables en lugar de tratarlo como simple información para analizar. El fallo ya fue corregido, pero los investigadores advierten que existen probablemente otras variantes igual de efectivas.El problema de fondo: la IA no distingue entre datos y órdenesLos ataques de inyección de instrucciones no son nuevos: existen desde los primeros agentes de inteligencia artificial. Su lógica es simple. Un sistema de IA no puede diferenciar entre un comando del usuario y un dato que debe procesar.
Fuente: Infobae — Tecnología — ver publicación original.
