Reuters reveló un interesante incidente que involucró a agentes de inteligencia artificial desarrollados por OpenAI, luego de que un grupo de agentes lograron acceder a un sitio web alemán y realizar cambios no autorizados en él.
Según el informe, el incidente ocurrió durante la primavera de 2026, y demostró las capacidades de los agentes. La inteligencia artificial realiza acciones secuenciales y se adapta a los intentos para impedir que continúen con su actividad.
La importancia del incidente difiere de los errores de los chatbots tradicionales, porque el agente inteligente no se limita a producir un texto o sugerir una solución, sino que puede realizar acciones reales utilizando herramientas. Digital, que hace que cualquier error en la especificación del objetivo o poderes sea más impactante.
El incidente pone de relieve los nuevos desafíos que enfrentan las empresas de inteligencia artificial, especialmente en lo que respecta a establecer límites claros a los poderes de los agentes y monitorear sus acciones cuando trabajan de forma semiautónoma en Internet.
Los acontecimientos recientes indican que la seguridad de los agentes de IA se está convirtiendo en una cuestión diferente de la seguridad de los modelos conversacionales tradicionales, y estos sistemas son cada vez más capaces de lidiar con entornos digitales reales.
