Un agente perteneciente a OpenAI logró acceder sin permiso a datos públicos y privados que se encontraban en el sistema de salud de Australia.
El hecho ocurrió el pasado mes de junio, pero la empresa recién informó lo ocurrido al Gobierno del país oceánico tres meses después, convirtiéndose así en el primer hackeo a una entidad público.
Tras corroborar el hecho, las autoridades dejaron en claro que el software no accedió al historial de los pacientes ni a datos personales.
Aún así, expresó su máxima “preocupación”, por lo que abrió una investigación. El primer ministro australiano, Anthony Albanese, declaró que “la situación es obviamente inaceptable“.
El hackeo
Un agente de inteligencia artificial actúa de manera autónoma para lograr sus objetivos. En este caso en particular buscaba investigar sobre el gasto público en medicamentos y para ello, el pasado 18 de junio, recurrió al portal de estadísticas de Medicare, el sistema universal de salud australiano administrado por Services Australia, la agencia estatal para la gestión de los servicios sociales.
Si bien el software de OpenAI solicitó en varias ocasiones la información fue bloqueado por el sitio estatal de Australia. Fue en ese momento que logró superar las restricciones y acceder, mediante un hackeo, a la información que necesitaba.
Tres meses después de este hecho, la empresa comunicó en una declaración que se ha “identificado actividad que implica a varios sitios webs y servicios del Gobierno de Australia mientras nuestros modelos intentaban buscar respuestas… Nuestros modelos tomaron acciones que no pretendíamos“.
El primer ministro Albanese, quien está en Nueva York participando de la Asamblea General de la ONU, abordó lo ocurrido y detalló que “había bloques (de programación) que claramente respondían y le decían al agente de IA que no. El agente buscó una manera de evitar esos bloques, no aceptó un no por respuesta”.
