La inteligencia artificial avanza a una velocidad que hace apenas unos años parecía impensable. Hoy es capaz de redactar textos, generar imágenes, crear código informático, analizar enormes volúmenes de datos e incluso colaborar en investigaciones científicas complejas.
Sin embargo, mientras las capacidades de esta tecnología crecen, también aumentan las preocupaciones sobre los riesgos que podría representar para la seguridad global.
Leer más: Advertencias sobre la IA abren un intenso debate en Estados Unidos
Lo llamativo es que estas advertencias ya no provienen únicamente de académicos o expertos externos. Ahora son algunos de los propios líderes de la industria quienes están pidiendo más cautela.
Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, dos de las empresas más influyentes del sector, coinciden en que el desarrollo de la inteligencia artificial debe avanzar con mayores controles para evitar posibles consecuencias negativas.
¿La inteligencia artificial el enemigo del ser humano en el futuro?
Los sistemas actuales de inteligencia artificial son mucho más sofisticados que los de hace apenas unos años. Además de responder preguntas o generar contenido, algunos modelos ya pueden asistir en tareas técnicas complejas, identificar patrones difíciles de detectar para los humanos y acelerar procesos de investigación.
El problema, según los mismos creadores de Anthropic y OpenAI, es que las mismas capacidades que se utilizan para fines positivos también podrían ser aprovechadas con objetivos dañinos.
De acuerdo con un informe divulgado por Anthropic, algunos actores vinculados al gobierno de Irán habrían utilizado herramientas de inteligencia artificial para apoyar actividades relacionadas con vigilancia, propaganda y planificación de posibles operaciones contra intereses estadounidenses.
La compañía documentó estos hallazgos en un extenso documento donde analizó distintos casos de uso indebido de sus modelos durante los últimos meses.
Además de actividades relacionadas con gobiernos extranjeros, el reporte también menciona intentos de utilizar la tecnología en operaciones de espionaje digital, ciberdelincuencia y campañas de manipulación de información.
Tras la publicación del informe, Dario Amodei considera que el desarrollo de los modelos más avanzados debería avanzar a un ritmo más moderado para permitir una mejor comprensión de sus capacidades y riesgos.
Según explicó, la inteligencia artificial está evolucionando más rápido de lo que muchos habían anticipado.
Entre las principales preocupaciones se encuentra la llamada “automejora recursiva”. En términos simples, se trata de la posibilidad de que sistemas de inteligencia artificial ayuden a desarrollar versiones aún más avanzadas de sí mismos.
Aunque esta idea todavía es un poco apocalíptica, Amodei advierte que, si el proceso ocurre sin suficientes controles, podría llegar un momento en el que los seres humanos tengan dificultades para entender completamente cómo funcionan estos sistemas o cómo intervenir en caso de fallos importantes.
Las advertencias de Anthropic encontraron eco en OpenAI, la empresa detrás de ChatGPT. Sam Altman manifestó públicamente que comparte la idea de avanzar de forma responsable en el desarrollo de las tecnologías más potentes de inteligencia artificial.
Como parte de ese enfoque, OpenAI anunció que permitirá auditorías externas de algunos de sus sistemas más sofisticados.
Estas revisiones estarán a cargo de especialistas independientes que podrán analizar aspectos relacionados con la seguridad, los riesgos potenciales y posibles vulnerabilidades antes de que determinadas tecnologías sean implementadas de forma más amplia.
Un asunto de preocupación mundial
A pesar de que muchos internautas han tomado las declaraciones de las compañías como exageradas, a los gobiernos del mundo no les resulta nada descabellado. En la actualidad, la inteligencia artificial representa un elemento estratégico para las principales potencias mundiales debido a su impacto potencial en la economía, la defensa, la ciencia y la seguridad nacional.
Estados Unidos, China, la Unión Europea y otras regiones están invirtiendo miles de millones de dólares en investigación y desarrollo para no quedarse atrás en esta carrera tecnológica. Por ese motivo, cualquier avance significativo tiene implicaciones que trascienden el ámbito empresarial.
Si en el futuro los sistemas de inteligencia artificial son capaces de facilitar ataques informáticos más sofisticados, influir masivamente en la opinión pública o acelerar el desarrollo de tecnologías militares avanzadas, los gobiernos enfrentarán la difícil tarea de establecer límites y regulaciones sin frenar la innovación.
Fuente: Con información de redes sociales, OpenAI y Anthropic
