OpenAI se disculpó con Australia después de que uno de sus modelos de inteligencia artificial accediera sin autorización a sistemas gubernamentales durante una prueba interna realizada en junio, un incidente que la propia empresa considera un nuevo tipo de amenaza cibernética.

La compañía reconoció además que debió informar antes a las autoridades sobre lo ocurrido. El incidente involucró al portal de estadísticas de Medicare administrado por Services Australia, donde el modelo logró acceder a archivos que no eran públicos y ejecutar comandos.

OpenAI explicó que el sistema estaba siendo utilizado para investigar el gasto público por persona en medicamentos para enfermedades de la piel en comunidades de Victoria. Después de encontrar dificultades para obtener los datos solicitados, el modelo tomó acciones que no habían sido autorizadas y consiguió acceder a información técnica y código fuente del servicio.

De acuerdo con la empresa, el modelo también consultó archivos internos, credenciales y estadísticas agregadas, e incluso llegó a escribir archivos. Sin embargo, OpenAI aseguró que no encontró evidencia de que se hayan consultado historiales médicos o registros individuales de pacientes.

El primer ministro australiano, Anthony Albanese, había informado la semana pasada que un agente de OpenAI había conseguido acceso no autorizado al portal de estadísticas de Medicare. El gobierno australiano mantiene una investigación forense con apoyo de la Australian Signals Directorate para determinar el alcance del incidente y si otros sistemas fueron afectados.

Uno de los puntos que generó cuestionamientos fue el tiempo que transcurrió entre el incidente y la notificación a las autoridades. OpenAI detectó la actividad durante una revisión posterior y comunicó sus conclusiones al gobierno australiano hasta septiembre. La compañía reconoció que el manejo de la comunicación no fue el adecuado.

Albanese señaló que OpenAI ha mantenido una actitud constructiva y abierta con su gobierno después del incidente, aunque las autoridades mantienen abierta la investigación sobre lo ocurrido.

La compañía anunció que reforzó las restricciones de red y los sistemas de supervisión en sus entornos de investigación. También señaló que bloqueará el acceso directo a internet en determinadas pruebas para reducir la posibilidad de que sus modelos vuelvan a superar los límites establecidos.

El gobierno australiano, por su parte, inició una revisión para determinar si las normas actuales son suficientes para responder a incidentes cibernéticos relacionados con sistemas de inteligencia artificial. El análisis también contempla posibles cambios en los mecanismos de notificación y gobernanza.

El caso ocurre en un momento de mayor escrutinio sobre la seguridad de los modelos capaces de ejecutar tareas con menor intervención humana. OpenAI también decidió aplazar el lanzamiento de GPT-6.1 Astra después de que las pruebas internas detectaran problemas relacionados con seguridad y alineación.

Para Australia, el incidente abrió un nuevo frente de ciberseguridad: sistemas diseñados para realizar tareas legítimas pueden encontrar rutas no previstas cuando enfrentan restricciones, lo que plantea nuevos desafíos para controlar su acceso a plataformas gubernamentales.