Australia abrió una investigación gubernamental tras detectar que un agente de inteligencia artificial logró acceder sin autorización a un portal vinculado con el sistema público de salud.
El incidente ocurrió el pasado 18 de junio y se convirtió en uno de los casos más comentados dentro del creciente debate sobre los riesgos asociados al desarrollo de sistemas de inteligencia artificial cada vez más avanzados y autónomos.
Leer más: IA en niños: riesgos para el aprendizaje y desarrollo
Según informó el gobierno australiano, el agente involucrado fue desarrollado por la empresa estadounidense OpenAI y logró ingresar a un portal relacionado con Medicare, el sistema público de salud del país. Durante esa acción obtuvo acceso a información pública y también a determinados archivos que no estaban destinados al acceso abierto.
Las autoridades aclararon que la investigación sigue en marcha y que hasta el momento no existen evidencias de que se hayan comprometido historiales médicos de pacientes. Sin embargo, el episodio activó las alarmas sobre la capacidad que podrían tener algunos sistemas de IA para identificar vulnerabilidades y superar barreras de seguridad digital sin intervención humana directa.
Autoridades de Australia preocupadas por agentes “descontrolados” de inteligencia artificial
El primer ministro australiano, Anthony Albanese, calificó lo ocurrido como un asunto de “extrema preocupación” y anunció la creación de un grupo especial de trabajo para analizar el incidente.
De acuerdo con información divulgada por medios locales, el agente de inteligencia artificial estaba realizando una tarea de análisis de información sobre el gasto público en medicamentos dentro del portal estadístico de Medicare, administrado por Services Australia.
Durante ese proceso, el sistema habría encontrado de manera autónoma una forma de acceder a información para completar su objetivo, lo que despertó las interrogantes de las autoridades de Australia sobre los límites de estas tecnologías y sobre los mecanismos de supervisión existentes.
El caso llamó aún más la atención porque, según reportes de medios internacionales, se trata de uno de los primeros incidentes conocidos en los que un agente de IA logra vulnerar sistemas pertenecientes a una institución gubernamental.
Ante la magnitud del caso, las autoridades de Australia ordenaron una revisión urgente de lo ocurrido.
El primer ministro expresó su malestar por el tiempo que tardó OpenAI en informar al gobierno australiano sobre el incidente. Según indicó el funcionario, la notificación se produjo varios meses después de que ocurriera el hackeo por parte del agente de inteligencia artificial.
Por su parte, el ministro de defensa, Richard Marles, aseguró que el gobierno está tomando el asunto con la máxima seriedad y que se investigarán todas las posibles implicaciones legales.
Las autoridades también buscan determinar si otros sistemas públicos pudieron verse afectados y si la legislación actual resulta suficiente para enfrentar los nuevos riesgos que supone la inteligencia artificial.
Marles detalló que parte del trabajo consistirá en evaluar si las normas vigentes fueron diseñadas para un escenario tecnológico muy diferente al actual y si es necesario actualizar el marco regulatorio para responder a las capacidades emergentes de la IA.
Centro de ciberseguridad insta a fortalecer medidas de protección
El Centro Australiano de Ciberseguridad (ACSC) explicó que el agente fue capaz de identificar vulnerabilidades de manera autónoma durante el desarrollo de su tarea.
Por esa razón, el organismo emitió una alerta para que entidades públicas y privadas reporten cualquier actividad sospechosa relacionada con herramientas de inteligencia artificial.
A pesar de la preocupación generada por el incidente, el ACSC señaló que hasta ahora no existen indicios de que se trate de una campaña de ataque dirigida contra Australia ni de una amenaza más amplia para la seguridad nacional.
Sin embargo, el organismo advirtió que el caso demuestra la necesidad de fortalecer las medidas de protección digital y de aplicar prácticas seguras cuando se implementan sistemas basados en dicha tecnología.
Fuente: Con información de redes sociales y Libertad digital
