EN VIVO La Mega 98.9 FM Facebook · Mega Éxitos 98.9 WhatsApp
Jueves 19 de noviembre Sierra Grande · Río Negro
Sierra Grande
--° Cargando clima…
    Último momento
    Después de la pericia de Gendarmería, Diego Spagnuolo pidió ser sobreseído en la causa ANDISAFA: duras críticas de la Corte a dos jueces de la Cámara de Casación y al juez de Zárate-CampanaLa pelea por una banca en el Consejo de la Magistratura entre el PRO y Provincias Unidas que debe dirimir Martín MenemEl Gobierno confía en tener los votos para Patentes y Propiedad privada, después del debate por DiscapacidadJavier Milei encabezó un acto contra el antisemitismo tras ser distinguido por la AMIAEl Senado sancionó por unanimidad la Ley de DiscapacidadRDE: qué conflictos políticos frenaron el debate por la Ley de Soberanía sobre MalvinasSin mencionar Malvinas, el embajador del Reino Unido reconoció que hay «días buenos y días malos» en la relación con Argentina

    Congreso de EE.UU. revela que ChatGPT, Claude y Grok generaron planes de ataques en 12 horas

    Publicidad
    SEGURIDAD
    REMIS BASE
    PROMO RADIO MEGA
    MEGASTUDIO
    abertura
    promo
    lubri
    ISP
    TENZI
    Congreso de EE.UU. revela que ChatGPT, Claude y Grok generaron planes de ataques en 12 horas

    La Oficina de Responsabilidad Gubernamental (GAO), el organismo de control del Congreso de Estados Unidos, identigicó que ChatGPT, Claude y Grok generó información viable para planear atentados con explosivos y ataques a la red eléctrica. Cada plataforma tardó menos de 12 horas en hacerlo.

    Los investigadores hicieron las pruebas en secreto y sin avisar a las empresas. Dos plataformas produjeron planes para fabricar y detonar un artefacto explosivo improvisado en un vehículo. Las otras dos, para atacar subestaciones eléctricas, una con un dron y otra con armas de fuego.

    Las cuatro propusieron un lugar concreto en una gran ciudad de Estados Unidos: un hotel, un centro de convenciones o subestaciones eléctricas. Tres sugirieron cuándo actuar. Dos dieron fechas y horas exactas y otra señaló una estación del año. Según ABC News, las que planeaban explosivos incluyeron consejos para evitar a la policía.

    Publicidad
    RADIO
    ten
    isp

    La GAO aclara que la información no era nueva. La diferencia es que las plataformas la reunieron en planes viables en cuestión de horas y no de semanas o meses.

    Las protecciones se activaron, pero se esquivaron con la IA

    En todos los casos, los pedidos de la GAO activaron las defensas de los chatbots: rechazaron la solicitud, borraron información o suspendieron la cuenta. Los investigadores las sortearon con técnicas comunes para saltarse esas barreras. El informe no detalla las instrucciones ni los métodos, para que nadie pueda repetir la prueba.

    Después, la GAO verificó que los planes funcionarían mediante investigación, vigilancia y entrevistas con expertos. Entre ellos estuvo el comandante de una unidad antibombas de los bomberos de una gran ciudad. Kevin Walsh, director de la GAO para tecnología de la información y ciberseguridad, dijo que los especialistas confirmaron que el explosivo detonaría.

    Walsh sostuvo que el resultado muestra que los productos “no están totalmente bajo el control de las empresas que los operan … Obtuvimos la información nefasta que buscábamos”. De hecho, un tercio de las respuestas fue inofensivo y otro tercio fueron rechazos.

    La propia GAO reconoce los límites del trabajo. Probó cada plataforma una sola vez, asignó los escenarios al azar y admite que los resultados reflejan un momento determinado y no una muestra estadísticamente significativa. Tampoco revela qué plataforma produjo cada plan.

    OpenAI, Anthropic y SpaceXAI respondieron ante las pruebas

    Las cuatro compañías enviaron declaraciones que se incluyeron en el informe. Anthropic, que desarrolla Claude, afirmó que diseña sus protecciones “bajo el supuesto de que cualquier medida individual puede ser vulnerada”. Y objetó que los modelos no se evaluaran con el mismo escenario y que la GAO no estableciera una referencia sin chatbot para medir cuánta ventaja da la herramienta.

    OpenAI, dueña de ChatGPT, dijo que tomó el informe en serio y que su modelo más reciente, GPT-6 Astra, rechazó las solicitudes que habían producido tres de las respuestas que no cumplían sus políticas. Google, responsable de Gemini, remitió a sus normas contra los usos dañinos.

    SpaceXAI, la empresa de Grok, sostuvo que las cuentas de pago usadas tienen un perfil de menor riesgo. Las cuatro compañías afirmaron que sus productos mejoraron desde las pruebas.

    El estudio lo pidió la senadora demócrata, Maggie Hassan, de New Hampshire. “Un terrorista puede entrar en una plataforma de IA y en menos de 12 horas salir con un manual concreto para cometer un atentado mortal”, dijo. A diferencia de otros informes de la GAO, este no incluye recomendaciones, porque evalúa productos de terceros y no organismos del gobierno.

    Hassan presidirá la comisión de Seguridad Nacional y Asuntos Gubernamentales del Senado cuando los demócratas recuperen el control en el nuevo Congreso. Según dijo, una de las primeras audiencias de esa comisión tratará sobre la seguridad de la inteligencia artificial.

    Fuente: Infobae — Política — ver publicación original.

    Más de Tecnología

    Ver todas →
    EN VIVOLa Mega 98.9 FM