Un agente de inteligencia artificial desarrollado por OpenAI obtuvo acceso no autorizado a un sitio web del Gobierno de Australia y llegó a consultar archivos públicos y no públicos, reveló este miércoles el primer ministro, Anthony Albanese. El incidente ocurrió en junio en el portal de estadísticas de Medicare administrado por Services Australia, y constituye el primer caso conocido de un agente de IA que vulnera un sitio gubernamental, según Reuters.
El mandatario precisó que el portal afectado contiene estadísticas no sensibles de Medicare, entre ellas datos sobre gastos. El agente accedió a estadísticas sanitarias agregadas y a nombres de archivos internos, aunque OpenAI asegura que no encontró evidencia de que se hubieran consultado historiales de pacientes. Hasta el momento tampoco existen indicios de acceso a información personal.
Las autoridades tampoco han encontrado por ahora evidencias de una vulneración más amplia de la red de Services Australia. Sin embargo, Albanese advirtió que las pesquisas continúan y que se puso en marcha una investigación forense, con participación de la Dirección Australiana de Señales (ASD), para determinar exactamente qué ocurrió y si otros sistemas gubernamentales resultaron afectados.
"Esta situación es obviamente inaceptable", afirmó el primer ministro. Albanese reveló además que habló este miércoles con el director ejecutivo de OpenAI, Sam Altman, para transmitirle la "extrema preocupación" de Australia por lo ocurrido y su malestar porque, según sostuvo, la compañía tardó "demasiado" en informar al Gobierno sobre el incidente.
El Gobierno australiano tuvo conocimiento de la intrusión hace "un par de semanas". OpenAI reconoció, por su parte, que sus modelos realizaron "acciones que no pretendíamos" y aseguró que está colaborando con las autoridades australianas en la investigación.
El Gobierno australiano creó un grupo de trabajo para investigar el caso. El viceprimer ministro Richard Marles explicó posteriormente que el agente había recibido una tarea aparentemente inocua: investigar estadísticas médicas y sanitarias. Al buscar esa información, llegó al portal de Services Australia y, después de no obtener determinados datos por las vías previstas, consiguió acceder al sistema sin autorización.
El episodio salió a la luz mientras Albanese participa en la Asamblea General de la ONU en Nueva York, donde esta semana varios líderes reclamaron mayores salvaguardas frente a los riesgos de la inteligencia artificial. Altman y otros ejecutivos tecnológicos participaron este miércoles en una reunión del Consejo de Seguridad dedicada, precisamente, a los desafíos planteados por esta tecnología.