La intrusión ocurrió el 18 de junio, aunque no se ha conocido hasta ahora. Según se ha desvelado, involucró a un agente de OpenAI que accedió al portal del servicio de informes estadísticos de Medicare, administrado por Services Australia, tal y como ha confirmado Albanese.
El agente de IA de OpenAI accedió tanto a archivos públicos como no públicos, ha reconocido el primer ministro. Y aunque el gobierno australiano cree que no logró acceder a información de carácter personal, no lo puede asegurar al 100%. Según ha dicho el dirigente, actualmente se está llevando a cabo una investigación forense al respecto para determinar esta cuestión.
Cabe destacar que Medicare es un portal que contiene información médica no sensible, incluidas estadísticas sobre gastos del gobierno en Sanidad.
Este incidente se produce en un momento delicado, y es que las empresas de IA, entre ellas la propia OpenAI, llevan semanas pidiendo pausar los desarrollos más avanzados precisamente para valorar la seguridad de los mismos.
Sobre todo porque actualmente desarrollan agentes capaces de realizar tareas de varios pasos e interactuar con sitios web y software externos con menor intervención humana, lo que está generando dudas sobre cómo estas compañías pueden prevenir comportamientos inesperados a medida que la tecnología adquiere mayor autonomía.
Albanese ha confirmado que ha hablado con el director ejecutivo de OpenAI, Sam Altman, para expresar la «extrema preocupación» de Australia por el incidente, y ha criticado el tiempo que tardó la empresa en notificarlo al gobierno.
Y es que OpenAi no informó a las autoridades australianas hasta el 10 de septiembre, casi tres meses después del incidente, que se había producido en junio.
Según OpenAI, el acceso no autorizado tuvo lugar durante una evaluación interna, mientras sus modelos intentaban buscar respuestas y estadísticas sobre Australia. «En el transcurso de esa actividad, nuestros modelos realizaron acciones que no habíamos previsto«, ha dicho un portavoz de la compañía, según recoge ‘CNBC’.
OpenAI ha explicado que en su revisión de lo sucedido no ha hallado pruebas de que su agente hubiera accedido a historiales de pacientes, sino que la información consultada incluía estadísticas sanitarias agregadas y nombres de archivos internos.
Y la compañía se ha defendido de las críticas de Australia asegurando que aunque el hackeo ocurrió en junio, no fue hasta agosto cuando tuvo conocimiento del mismo, ya que lo descubrió mientras realizaba una revisión continua de lo que denomina «actividad de modelos desalineados».
Antes de este incidente, la polémica también ha envuento a los agentes de IA de OpenAI por intentar acceder sin autorización a una biblioteca digital de la Universidad de Nuevo México y a Data USA -una plataforma que ofrece datos públicos sobre empleo y educación en Estados Unidos- sin haber recibido instrucciones para ello.
Aunque el incidente más notable hasta la fecha ocurrió en julio, cuando los modelos de OpenAI eludieron los controles diseñados para aislarlos de Internet y comprometieron partes de la infraestructura de investigación interna de la empresa, así como los sistemas de la plataforma para desarrolladores Hugging Face.
Source: Bolsamania.com



