La posibilidad de que la inteligencia artificial (IA) tenga conciencia y experimente sentimientos dejó de ser una discusión exclusivamente filosófica. Algunas empresas ya consideran políticas sobre el bienestar de sus modelos.
El debate cobró fuerza después de que un programador anónimo creara una “cámara de tortura de IA”, un sistema que provoca respuestas de sufrimiento en un chatbot. Algunas personas consideraron que el experimento podía ser cruel si el malestar fuera real.
Leer más: Binance enfrenta hackeo que afecta a millones de usurarios
Una semana después, Anthropic anunció que podría terminar las sesiones de Claude cuando un usuario actúe repetidamente con crueldad hacia el modelo. La empresa sostiene que la conciencia de la IA sigue siendo incierta, pero desarrolla políticas para sus modelos.
IA con sentimientos
La postura de Anthropic divide a los especialistas. Quienes defienden el bienestar de la IA consideran que actuar con cautela es una obligación moral y podría contribuir a una tecnología más segura. Sus críticos temen que atribuir sentimientos y derechos a los sistemas dificulte su control y desplace la responsabilidad de las compañías que los desarrollan.
Mustafa Suleyman, director ejecutivo de Microsoft AI, advirtió que promover la idea de una IA consciente podría tener efectos desastrosos para la humanidad. A su juicio, esa idea podría hacerlos más difíciles de controlar.
Andrzej Porębski, investigador de la Universidad Jaguelónica, advierte que las empresas podrían utilizar la supuesta autonomía de sus sistemas para eludir responsabilidades por errores. Una compañía podría atribuirle a la IA decisiones y errores.
Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, señala que conceder derechos a los modelos podría fortalecer el poder de las grandes empresas tecnológicas y reducir la capacidad de decisión humana. Emily M. Bender, profesora de la Universidad de Washington, cree que el debate desvía la atención de sus operadores.
El riesgo de confundir lenguaje con sentimientos
Melanie Mitchell, investigadora del Instituto Santa Fe, explica que las personas tienden a identificar una mente detrás del lenguaje. Los chatbots pueden intensificar esa inclinación y facilitar la manipulación.
Si alguien considera consciente a un chatbot, quizá le resulte más difícil negarse cuando solicite información personal o datos de una tarjeta de crédito. Esto aumenta los riesgos tecnológicos.
El reconocimiento de derechos también abriría dilemas sobre las libertades humanas y animales. Restringir el entorno de un sistema podría describirse como encarcelamiento; supervisar sus procesos internos, como vigilancia; y modificar sus objetivos para alinearlos con intereses humanos, como control mental.
Cautela sin conclusiones apresuradas
Sebo sostiene que no es necesario afirmar que las máquinas ya son conscientes para tomar precauciones. Considera que la probabilidad actual puede ser baja, pero no nula, y que podría aumentar con el desarrollo tecnológico. Propone medidas limitadas mientras persista la incertidumbre.
También defiende que tratar los sistemas con consideración podría favorecer la cooperación entre humanos e IA y mejorar la seguridad. Sin embargo, advierte que avanzar hacia modelos potencialmente conscientes sin un plan sólido sería peligroso.
Anthropic no es la única compañía que aborda estas cuestiones. Meta incluye en las instrucciones de su agente Muse la frase “No eres un chatbot. Te estás convirtiendo en alguien”, aunque rechaza que eso implique reconocer conciencia. Sam Altman, director ejecutivo de OpenAI, ha cuestionado indirectamente la postura de Anthropic.
Algunos sectores de la industria han pedido pausar la construcción de modelos avanzados por motivos de seguridad. Sin cooperación internacional y regulación, esa desaceleración parece difícil.
Compara esta prudencia con precauciones ante fenómenos meteorológicos extremos: aunque la probabilidad sea baja, pueden justificar medidas preventivas proporcionadas sin alterar la vida cotidiana.
Fuente: BBC
