El CEO de Google, Sundar Pichai, reveló que utiliza agentes de inteligencia artificial (IA) para concentrar en resúmenes, seguimientos técnicos y conversaciones internas la información necesaria para dirigir la compañía, aunque mantiene bajo control humano las decisiones sobre recursos informáticos.
Pichai explicó en el podcast Sources, conducido por Alex Heath, que revisar por sí mismo los acontecimientos de las últimas 24 horas podría demandarle una hora diaria. “Pero ahora tengo agentes que resumen y me traen esa información. Puedo profundizar aún más, y lo hago con frecuencia”, afirmó.
Los sistemas potenciados con IA le permiten conocer la evolución de los modelos de inteligencia artificial, revisar el uso de los recursos informáticos de Google y seguir conversaciones repartidas entre numerosos grupos de chat internos sin leer cada intercambio.
Cómo los agentes de inteligencia artificial ayudan a Sundar Pichai, CEO de Google
El ejecutivo señaló: “Hay agentes con telemetría que registran nuestro uso de recursos informáticos por área de producto, eficiencia y utilización, y me brindan información y perspectivas valiosas”.
A su juicio, estas herramientas contribuyeron a que los grupos de trabajo mejoraran su desempeño. Sin embargo, aclaró que la inteligencia artificial no toma las decisiones trascendentes sobre la asignación de capacidad informática: él y otros responsables humanos intervienen directamente en esas definiciones.
En este sentido, la supervisión de agentes se convirtió, a la vez, en una nueva tarea para trabajadores que deben controlar el rendimiento de los bots, evitar duplicaciones y corregir desvíos respecto de las tareas asignadas.
La delegación tampoco implica necesariamente jornadas más cortas. Un director de ingeniería de Cisco, responsable de más de 10 agentes, dijo a Business Insider que monitorearlos exige cambiar de tarea con mayor frecuencia y puede volver el trabajo más intenso sin reducir el tiempo laboral.
Pichai considera que la continuidad de estos sistemas es una ventaja porque funcionan en la nube las 24 horas y conservan el contexto de las tareas. “Para cuando el sistema esté funcionando, tú ya estarás trabajando en el siguiente problema, y así sucesivamente”, dijo.
Cuál es la visión de otras empresas sobre la importancia de los agentes de IA
La proyección de esta tecnología va más allá de la gestión corporativa. Mark Zuckerberg, creador de Facebook, anticipó que dentro de cinco años miles de millones de personas podrían contar con un agente personal capaz de comprender sus objetivos y trabajar de forma permanente para alcanzarlos.
Zuckerberg sostuvo que los agentes personales podrían ayudar en finanzas, salud, relaciones interpersonales y gestión del hogar. Agregó que los sistemas que desarrolla Meta serán “la base de su próxima oleada de productos y líneas de ingresos en los meses y años venideros”.
Los agentes empresariales de la compañía, desplegados globalmente en WhatsApp y Messenger, ya fueron adoptados por más de un millón de empresas.
Zuckerberg agregó que WhatsApp y otras plataformas de mensajería de Meta adquirirán mayor relevancia a medida que la interacción cotidiana con múltiples agentes se extienda, porque WhatsApp es actualmente la plataforma principal donde los usuarios se relacionan con Meta AI.
Qué riesgos tiene la implementación de agentes de IA en empresas
La expansión de los agentes de inteligencia artificial dentro de las empresas está abriendo una nueva puerta para los ciberdelincuentes. Análisis muestran que un atacante puede manipular a uno de estos sistemas para que transmita instrucciones maliciosas a otros agentes de una misma organización y consiga acceso a información confidencial, bases de datos o recursos internos.
El problema fue identificado en los últimos cinco meses en organizaciones como JPMorgan Chase, Rapid7, Weaviate y organismos gubernamentales de Francia. Aunque estas entidades no tienen una relación directa, todas utilizan agentes de IA conectados entre sí para ejecutar tareas de manera automática.
La técnica aprovecha una debilidad sencilla de explicar: un agente de IA puede confiar demasiado en otro agente. Si uno recibe una instrucción maliciosa y la transmite como si fuera una tarea legítima, el siguiente sistema puede ejecutarla sin comprobar suficientemente su origen.
