La inteligencia artificial continúa avanzando a un ritmo que hace apenas unos años parecía imposible. Herramientas capaces de generar textos, imágenes, videos y resolver problemas complejos ya forman parte de la vida cotidiana de millones de personas. Sin embargo, algunos de los principales expertos del sector consideran que lo que hemos visto hasta ahora podría ser solo el comienzo y la AGI ya está tocando la puerta. 

Demis Hassabis, director ejecutivo de Google DeepMind y ganador del Premio Nobel de Química, lanzó recientemente una advertencia que ha llamado la atención de las empresas tecnológicas de todo el mundo.  

Leer más: Wifi: objetos inesperados que pueden debilitar tu señal

Según el científico, la llegada de la llamada inteligencia artificial general (IAG o AGI, por sus siglas en inglés) podría producirse en apenas tres o cuatro años, un escenario que obligaría a tomar decisiones importantes desde ahora. 

El CEO De Google explicó que la AGI es un concepto que va más allá de los sistemas actuales de IA. Mientras que las herramientas disponibles actuales suelen estar diseñadas para tareas específicas, como generar contenido, traducir idiomas o analizar datos, la AGI tendría la capacidad de aprender, razonar y adaptarse a una amplia variedad de actividades de manera similar a un ser humano. 

En teoría, una AGI podría resolver problemas en diferentes campos sin necesidad de ser entrenada específicamente para cada uno de ellos. Incluso podría superar las capacidades humanas en numerosas áreas del conocimiento. 

Por esta razón, consideró que su desarrollo representaría uno de los avances tecnológicos más importantes de la historia. 

Preocupación por la velocidad del progreso de AGI 

Hassabis sostuvo que el desarrollo de la inteligencia artificial está avanzando más rápido que las normas y mecanismos de supervisión creados para regularla. 

Durante los últimos años, las empresas tecnológicas han invertido miles de millones de dólares en investigación y desarrollo de modelos cada vez más potentes. Esta competencia ha acelerado la innovación, pero también ha generado preguntas sobre los límites y controles que deberían existir. 

Uno de los aspectos que más preocupa al ejecutivo de Google DeepMind es la posibilidad de que futuros sistemas alcancen niveles de autonomía mucho mayores que los actuales.  

Según su criterio, podría llegar un momento en el que algunas AGI sean capaces de mejorar determinados procesos por sí mismas, reduciendo la intervención humana. 

A esto se suma otro desafío importante: los propios investigadores aún no comprenden completamente cómo funcionan algunos de los modelos más avanzados. Aunque conocen los principios generales de su diseño, muchas veces resulta difícil explicar con precisión por qué toman ciertas decisiones o generan determinados resultados. 

Esta falta de comprensión total complica la creación de sistemas de seguridad que permitan anticipar comportamientos inesperados. 

¿Qué medidas se deben tomar? 

Ante este panorama, Hassabis detalló que el mundo necesita avanzar hacia una coordinación internacional para supervisar el desarrollo de la AGI más avanzada. 

Su propuesta contempla la creación de una organización global formada por expertos técnicos capaces de evaluar los riesgos de los nuevos sistemas antes de que lleguen al público. 

La idea es establecer estándares comunes que permitan verificar que las tecnologías cumplen con requisitos de seguridad adecuados. En una primera etapa, las empresas podrían presentar voluntariamente sus modelos para ser examinados por especialistas.  

Sin embargo, el objetivo a largo plazo sería que estas evaluaciones fueran obligatorias. 

El planteamiento busca evitar que cada país o empresa actúe de manera independiente sin criterios compartidos, especialmente cuando se trata de tecnologías con un potencial impacto global. 

Para Hassabis, Estados Unidos podría desempeñar un papel clave en la promoción de este tipo de acuerdos internacionales y en la creación de normas que posteriormente sean adoptadas por otras naciones. 

A pesar de las advertencias, el CEO de Google DeepMind no está pesimista respecto al futuro de la IAG. De hecho, consideró que esta podría convertirse en una herramienta extraordinariamente beneficiosa para la humanidad si se desarrolla de forma responsable. 

Fuente: El Confidencial