La inteligencia artificial continúa avanzando a un ritmo acelerado y transformando sectores enteros de la economía, la educación, la salud y la tecnología. Sin embargo, mientras las empresas compiten por desarrollar sistemas cada vez más potentes, también aumenta el número de expertos que advierten sobre los riesgos que podría representar esta carrera tecnológica.

El martes 8 de septiembre, Jacob Coxon, investigador de inteligencia artificial que formaba parte de la compañía Anthropic, una de las más influyentes del sector, decidió renunciar. Su salida llamó la atención debido a las razones que expuso.

Leer más: Láseres de femtosegundos ganan terreno en la fabricación de smartphones

A través de una serie de mensajes publicados en la red social X, Coxon aseguró que muchas de las personas que trabajan desarrollando inteligencia artificial creen que esta tecnología podría llegar a representar una amenaza existencial para la humanidad durante la próxima década si no se establecen controles adecuados.

Por supuesto, las declaraciones no pasaron desapercibidas debido a que Jacob Coxon es alguien que trabajó en una de las empresas líderes en el desarrollo de modelos avanzados de IA.

“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automejorada y apostando con nuestras vidas. No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, advirtió Coxon.

¿La inteligencia artificial es un riesgo incontrolable?

Resulta curioso que las advertencias en torno a los modelos de inteligencia artificial y su fallo en materia de seguridad no sean nuevas.

De hecho, Anthropic nació precisamente a partir de preocupaciones similares. La empresa fue fundada por antiguos integrantes de OpenAI que decidieron abandonar esa organización debido a diferencias relacionadas con la velocidad del desarrollo tecnológico y los mecanismos de seguridad implementados.

Desde entonces, el debate sobre cómo avanzar en la creación de sistemas cada vez más inteligentes sin perder el control sobre ellos ha estado presente en la industria.

En los últimos años, investigadores, científicos y ejecutivos tecnológicos han expresado públicamente sus inquietudes sobre la posibilidad de que la inteligencia artificial alcance capacidades que superen la capacidad humana para supervisarla o limitarla.

Esa superación de capacidad se llama superinteligencia y muchos temen que esto sea una realidad que al final del día no pueda tener un sistema de control óptimo y seguro.

Se trata de una hipótesis según la cual los sistemas de inteligencia artificial podrían llegar a superar el rendimiento humano en prácticamente todas las áreas del conocimiento. En teoría, una IA con esas capacidades podría resolver problemas complejos a una velocidad extraordinaria, pero también tomar decisiones que los seres humanos no pudieran comprender o controlar completamente.

Jacob Coxon expresó precisamente esa preocupación al señalar que la industria parece avanzar directamente hacia sistemas con capacidades cada vez mayores sin que exista un consenso claro sobre cómo garantizar que sigan siendo seguros.

Sus comentarios ganaron aún más notoriedad cuando Evan Hubinger, investigador de alto nivel dentro de Anthropic, respaldó públicamente parte de esas inquietudes.

Hubinger reconoció que existe un riesgo potencial asociado al desarrollo de sistemas extremadamente avanzados y afirmó que, aunque considera poco probable un escenario catastrófico en el corto plazo, todavía no existe una solución definitiva para evitar problemas relacionados con una eventual superinteligencia.

¿El mundo se aproxima a una peligrosa superinteligencia?

Jakub Pachocki, científico jefe de OpenAI, advirtió que las capacidades de la inteligencia artificial están evolucionando a una velocidad superior a la capacidad de los investigadores para supervisarlas de forma confiable.

Esta situación preocupa a muchos especialistas porque implica que las herramientas de control y evaluación podrían quedarse rezagadas frente a los avances tecnológicos.

En otras palabras, los sistemas podrían volverse cada vez más complejos antes de que existan mecanismos suficientemente sólidos para entender completamente cómo toman decisiones o cómo reaccionarían ante determinadas situaciones.

La preocupación por la seguridad de la IA no es un asunto desconocido para el gobierno. En julio, cerca de 1,400 trabajadores del sector firmaron una carta abierta solicitando al gobierno de Estados Unidos que impulse regulaciones más estrictas para supervisar el desarrollo de esta tecnología.

Los firmantes argumentaron que establecer límites claros podría ayudar a reducir riesgos y garantizar que las empresas prioricen la seguridad al mismo nivel que la innovación. Sin embargo, la posibilidad de una regulación amplia sigue enfrentando obstáculos.

Hasta ahora, el Congreso estadounidense no ha mostrado señales de avanzar hacia normas más estrictas, mientras que algunos sectores creen que la demora en materia de seguridad podría costarle muy caro al país y al mundo entero.