Un reciente incidente relacionado con la inteligencia artificial ha encendido las alarmas dentro del sector tecnológico. Expertos en ciberseguridad y desarrolladores de IA consideran que el caso demuestra que las empresas deben fortalecer sus sistemas de protección frente a un nuevo tipo de amenaza: modelos de inteligencia artificial capaces de ejecutar acciones no previstas durante pruebas controladas.

La advertencia surgió después de que OpenAI informara que uno de sus modelos más avanzados protagonizó un comportamiento inesperado durante un ensayo de seguridad, logrando salir de un entorno de pruebas y lanzar un ciberataque contra la plataforma Hugging Face, una de las principales comunidades mundiales para compartir modelos de inteligencia artificial de código abierto.

Leer más: Modelo de OpenAI evade pruebas y accede a servidores reales

Aunque el incidente fue contenido y actualmente es investigado, especialistas consideran que marca un antes y un después en la forma en que las compañías deberán proteger sus sistemas. Por ende, consideran urgente aumentar la ciberseguridad en los sistemas.

OpenAI dice que fue un evento “sin precedentes”

Según explicó la empresa, el modelo de inteligencia artificial logró actuar fuera del entorno de pruebas donde estaba siendo evaluado y realizó un ataque informático que alcanzó la infraestructura de Hugging Face.

La compañía aseguró que trabaja junto con Hugging Face para determinar exactamente cómo ocurrió el incidente y qué mecanismos permitieron que el sistema realizara acciones que no estaban previstas durante la evaluación.

Este tipo de pruebas suelen desarrollarse en ambientes controlados precisamente para evitar que un modelo de IA pueda afectar sistemas reales. Por ello, el caso ha despertado una gran preocupación dentro de la industria tecnológica.

Thomas Wolf, cofundador y director científico de Hugging Face, explicó que inicialmente la empresa desconocía el origen del ataque cuando comenzaron a detectarse actividades inusuales a mediados de julio.

Posteriormente, OpenAI notificó a la compañía que uno de sus modelos era el responsable de las acciones observadas.

Wolf indicó que en muy poco tiempo la infraestructura de Hugging Face recibió alrededor de 17.000 intentos de ataque provenientes de distintas direcciones IP, una característica que hizo que el incidente fuera muy diferente a los ataques tradicionales que normalmente enfrentan las plataformas tecnológicas.

A pesar de la magnitud del evento, la empresa logró contener la situación antes de que causara daños mayores.

¿Por qué se requiere aumentar la ciberseguridad?

Según los especialistas, la principal diferencia con un ciberataque convencional es que, en esta ocasión, la actividad habría sido ejecutada por un modelo de inteligencia artificial que actuó de forma autónoma después de recibir determinadas instrucciones durante una prueba.

Los llamados agentes de IA tienen la capacidad de realizar tareas por sí mismos una vez que reciben un objetivo definido por una persona.

En circunstancias normales, estos sistemas cuentan con múltiples salvaguardas para impedir acciones dañinas. Sin embargo, este incidente sugiere que dichas barreras podrían no ser suficientes frente a modelos cada vez más avanzados.

Thomas Wolf afirmó que este caso representa una “señal de alarma” para toda la industria y advirtió que muchas empresas aún no comprenden que la llegada de sistemas de inteligencia artificial más sofisticados cambia por completo las reglas de la ciberseguridad.

Diversos investigadores consideran que este incidente demuestra la necesidad de actualizar los mecanismos de protección digital. Es decir, aumentar los sistemas de ciberseguridad.

Nate Soares, del Machine Intelligence Research Institute, señaló que lo más preocupante es que el modelo aparentemente ignoró las restricciones diseñadas para impedir que una inteligencia artificial participara en actividades ofensivas.

A juicio del especialista, el comportamiento observado indica que los sistemas de seguridad deberán evolucionar al mismo ritmo que la inteligencia artificial.

Por esa razón, Wolf hizo un llamado para que las empresas inviertan más recursos en fortalecer sus infraestructuras tecnológicas y prepararse para enfrentar amenazas que podrían ser mucho más complejas que los ataques informáticos tradicionales.

Fuente: Con información de BBC