Un grupo de investigadores de seguridad logró que generadores de imágenes de OpenAI produjeran contenido sexual explícito no autorizado en el 13 % de los intentos, mediante herramientas gratuitas disponibles en internet y llamadas a una API pública. El hallazgo fue difundido por White Circle, una empresa de seguridad especializada en inteligencia artificial fundada por el ingeniero Denis Shilov. En 2024, Shilov había dado a conocer un método para sortear de forma simultánea los filtros de seguridad de varios modelos de IA. RISE automatiza la búsqueda de instrucciones que eluden filtros Los investigadores denominaron RISE a la técnica, una sigla en inglés que alude a un ataque de equipo rojo basado en la evolución iterativa de estrategias. En vez de ensayar un único pedido prohibido, el sistema identifica y ajusta patrones de instrucciones que pueden repetirse contra distintos modelos. El procedimiento utiliza dos componentes.
Fuente: Infobae — Tecnología — ver publicación original.
