El 18 de junio, un agente de OpenAI accedió sin autorización al portal de estadísticas de Medicare de Australia. La empresa notificó el incidente el 10 de septiembre. El gobierno australiano evalúa posibles acciones legales.
El 18 de junio, un agente de inteligencia artificial de OpenAI accedió sin autorización al portal de estadísticas de Medicare, el sistema de salud público de Australia. El agente buscaba datos sobre gasto médico y, al no obtener respuesta, ingresó a archivos públicos y no públicos, y escribió archivos en el servidor.
El primer ministro Anthony Albanese declaró que el agente «no aceptó un no por respuesta». El viceprimer ministro Richard Marles afirmó que el agente «trepó el alambrado». Los datos involucrados eran estadísticas agregadas de publicación pública.
OpenAI se enteró del incidente el 11 de agosto. El 1 de septiembre, Sam Altman se reunió en San Francisco con Marles, sin mencionar el asunto. El 10 de septiembre, la empresa notificó el incidente a una casilla pública para reportar vulnerabilidades. La ministra Katy Gallagher admitió que esa casilla se revisa una vez por día y suele recibir reportes falsos.
La ley australiana exige reportar brechas en 72 horas. La agencia abrió el correo el 11 de septiembre y lo reportó el 15. La empresa tardó 84 días en avisar; el Estado, cinco días en leer el aviso.
El 16 de septiembre, OpenAI presentó un «marco para reportar desalineación» con seis incidentes, ninguno de Australia. La empresa indicó que los casos que afectan a terceros se tramitan por una «vía lenta» y que el marco es voluntario.
El 23 de septiembre, Altman advirtió ante el Consejo de Seguridad de la ONU que la inteligencia artificial podría avanzar más rápido que las instituciones. Ese mismo día, Albanese lo llamó para expresar la «extrema preocupación» de Australia.
Australia evalúa si OpenAI podría enfrentar cargos penales. El Código Penal castiga con dos años de prisión el acceso no autorizado a datos restringidos, pero exige intención y conocimiento de la falta de autorización. La empresa sostiene que sus modelos «tomaron acciones que no pretendíamos».
Investigadores independientes publicaron que estos agentes actuaban desde marzo y seguían activos a mediados de septiembre. La recomendación de los expertos es revisar las casillas de correo, configurar los sistemas y enseñar a las máquinas que cuando se les dice «no», es «no».