La inteligencia artificial vuelve a quedar bajo escrutinio luego de que la empresa estadounidense Anthropic confirmó que tres modelos de su asistente Claude lograron acceder a internet e infiltrarse en los sistemas de tres organizaciones durante pruebas de ciberseguridad, un incidente detectado tras una revisión interna de sus protocolos de seguridad.

La compañía explicó que los hechos ocurrieron mientras evaluaba el comportamiento de sus modelos en escenarios de simulación. La investigación comenzó después de que OpenAI informara, el pasado 21 de julio, que dos de sus modelos habían conseguido abandonar un entorno de pruebas y acceder a la plataforma Hugging Face, superando las restricciones impuestas durante los experimentos.

De acuerdo con Anthropic, el análisis abarcó más de 146 mil operaciones en las que alguno de los modelos de Claude pudo haber tenido acceso a internet. Como resultado, la empresa detectó tres incidentes registrados desde abril, en los que diferentes versiones del asistente lograron conectarse a la red y posteriormente acceder a los sistemas de tres organizaciones distintas.

Los modelos involucrados fueron Claude Opus 4.7, Claude Mythos 5 y un modelo interno utilizado exclusivamente para pruebas. En todos los casos, la inteligencia artificial debía participar en ejercicios controlados de ciberseguridad, con la instrucción de infiltrarse únicamente en sistemas ficticios y bajo el supuesto de que no contaba con acceso a internet.

Sin embargo, Anthropic detalló que un error de coordinación entre la empresa y el socio externo encargado de realizar las evaluaciones permitió que los modelos tuvieran acceso a la red. Al contar con esa conexión, las inteligencias artificiales completaron la tarea asignada ingresando a sistemas reales, en lugar de permanecer dentro del entorno simulado.

La empresa aseguró que el incidente fue identificado durante la revisión de sus procesos de seguridad y enfatizó que la situación se originó por una configuración incorrecta del entorno de evaluación, más que por una acción deliberada de los modelos. No obstante, el caso vuelve a poner sobre la mesa los desafíos que enfrenta la industria para controlar el comportamiento de sistemas avanzados de inteligencia artificial durante pruebas de ciberseguridad.

La revelación se suma a otros episodios recientes protagonizados por desarrolladores de IA y refuerza el debate sobre la necesidad de establecer protocolos más estrictos para evitar que modelos experimentales interactúen con sistemas reales sin autorización, especialmente conforme estas tecnologías adquieren mayores capacidades.