Sam Altman, director ejecutivo de OpenAI, defendió que la sociedad confíe en las compañías que desarrollan inteligencia artificial para garantizar la seguridad de una tecnología cuyo avance ha despertado preocupación por sus posibles riesgos.
Leer más: Inteligencia artificial: ¿un riesgo para la seguridad a nivel mundial?
Durante una conferencia en San Francisco organizada por Salesforce, Altman reconoció que el temor público está justificado debido a la velocidad con la que han aumentado las capacidades de la inteligencia artificial. Al mismo tiempo, sostuvo que las empresas deben actuar de manera responsable ante el alcance que puede adquirir esta tecnología.
La discusión ocurre mientras crecen las diferencias sobre quién debe establecer los límites de la IA: los propios desarrolladores mediante mecanismos de autorregulación o los gobiernos a través de nuevas leyes y controles.
Jefe de OpenAI
Altman señaló que los avances de la inteligencia artificial han hecho más fácil imaginar escenarios en los que la tecnología pueda causar daños. También admitió que el mundo tiene razones para sentir miedo ante sus posibles consecuencias.
El debate sobre la seguridad de la IA se ha intensificado después de que un investigador que abandonó Anthropic advirtiera públicamente que la tecnología podría llegar a causar la muerte de todos los seres humanos antes del final de la década si no se establecen controles.
Un pequeño grupo de ejecutivos y especialistas del sector respaldó esa evaluación, aunque no explicó cómo había llegado a esa conclusión ni de qué manera podría producirse un escenario semejante.
Las advertencias también han impulsado a algunos dirigentes de la industria a plantear una reducción del ritmo de desarrollo. Dario Amodei, director ejecutivo de Anthropic, pidió desacelerar el desarrollo de la IA y reclamó una mayor participación de los gobiernos en su regulación.
Altman respaldó anteriormente esa advertencia, al igual que Demis Hassabis, cofundador de Google DeepMind, y Elon Musk.
El debate sobre la regulación
El propio Altman ha señalado que esperaba que el Congreso de Estados Unidos estableciera un “marco básico” para la inteligencia artificial avanzada después de su comparecencia de 2023. Sin embargo, ese marco todavía no se ha concretado.
Una de las dificultades señaladas por el ejecutivo es que los legisladores deben intentar regular una tecnología que cambia rápidamente sin frenar la innovación. En Estados Unidos tampoco existe consenso entre los dos principales partidos sobre la manera en que debería establecerse esa regulación.
La discusión incluye posiciones políticas diferentes. Bernie Sanders ha cuestionado que las decisiones sobre inteligencia artificial queden concentradas en un reducido grupo de grandes empresarios tecnológicos. Steve Bannon también ha expresado dudas sobre la capacidad de los ejecutivos del sector para autorregularse.
Donald Trump, por su parte, ha criticado las propuestas para establecer mayores salvaguardias y ha calificado de “engaño” los temores relacionados con la seguridad de la IA. Según su posición expresada en el material, las principales “barandillas de protección” necesarias serían un presidente “fuerte e inteligente”.
La autorregulación gana espacio
Otros dirigentes tecnológicos defienden que las propias compañías pueden establecer mecanismos de seguridad. Mark Zuckerberg sostuvo que los laboratorios tienen incentivos para evitar que sus modelos provoquen daños, mientras Jensen Huang, director ejecutivo de Nvidia, señaló que las empresas deberían decidir cuándo están preparados los nuevos sistemas.
Huang también planteó la seguridad como un problema de ingeniería y sostuvo que las compañías deberían detener un producto si pierden confianza en él.
En este contexto aparece el concepto de “alineación”, un campo de investigación que busca incorporar principios y valores humanos a los sistemas de inteligencia artificial. Altman ha señalado que las compañías deberían mantener la seguridad y la alineación por delante del desarrollo de nuevas capacidades.
Sin embargo, Yoshua Bengio, uno de los pioneros de la inteligencia artificial moderna, ha reclamado esfuerzos externos al sector con ánimo de lucro para enfrentar los riesgos más graves.
Hacia acuerdos de seguridad
OpenAI y Anthropic también trabajan en posibles acuerdos sectoriales relacionados con la seguridad. Amodei indicó que Anthropic mantiene conversaciones con otras empresas para establecer mejores estándares y controles.
Chris Lehane, ejecutivo de OpenAI, señaló que la compañía trabaja con otros laboratorios, entre ellos Anthropic y Google DeepMind, para impulsar estándares avanzados de inteligencia artificial mediante un esfuerzo voluntario.
La discusión continúa entre quienes consideran que las empresas pueden desarrollar mecanismos propios de seguridad y quienes reclaman controles externos. Mientras la tecnología avanza, la cuestión central sigue siendo cómo equilibrar innovación, seguridad y supervisión ante una herramienta cuyas capacidades evolucionan a gran velocidad.
Fuente: BBC
