OpenAI enfrenta 7 demandas donde los involucrados acusan a ChatGPT de incitar suicidios y desarrollar delirios perjudiciales.
Leer más: Chatbots podrían afectar la salud mental
Las querellas, en nombre de 6 adultos y un adolescente por el Social Media Victims Law Center y el Tech Justice Law Project, fueron presentadas el pasado 6 de noviembre en tribunales de California.
Según los abogados, OpenAI lanzó su versión GPT-4o de manera prematura. Además, sostienen que la compañía ignoró las advertencias internas sobre que el sistema era adulador y psicológicamente manipulador.
El resultado de estas acciones fue el suicidio de 4 víctimas, quienes tomaron la lamentable decisión tras conversaciones con el referido chatbot.
Casos
Entre los casos más destacados en los documentos se encuentran el de Amaurie Lacey de 17 años. El adolescente comenzó a usar ChatGPT de OpenAI para buscar ayuda.
No obstante, y según la querella presentada en la corte superior de San Francisco, ChatGPT solo generó adicción y confusión.
Los demandantes también dijeron que generó depresión y le sugirió a la víctima “atar una soga en su cuello” y evaluar cuánto tiempo podría vivir sin respirar.
“La muerte de Amaurie no fue ni un accidente ni una coincidencia. Es una consecuencia de la decisión intencional de OpenAI y de Samuel Altman de reducir las pruebas de seguridad y apresurar el lanzamiento de ChatGPT al mercado”, se lee en la demanda.
Otra de las víctimas fue Zane Shamblin. Según sus padres, el joven pasó horas conversando con el chatbot antes de suicidarse, por lo que acusaron a la compañía de crear un producto que incitó a su hijo a quitarse la vida.
Posición de OpenAI
“Estas querellas tratan sobre la responsabilidad de un producto que fue diseñado para difuminar la línea entre herramienta y compañero(…) Todo en nombre de aumentar el uso por parte del usuario y la cuota de mercado”, dijo Matthew P. Bergman, abogado fundador de Social Media Victims Law Center.
Por su parte, los representantes de la compañía tildaron estas situaciones como desgarradoras. Al tiempo que informaron que procederán a revisar los documentos judiciales a fin de comprender mejor los casos.
P. Bergman dijo que al lanzar dicho producto de manera apresurada y sin salvaguardas, OpenAI puso en riesgo la seguridad de todos los jóvenes.
“Simplemente permitió y prevaleció la manipulación emocional sobre el diseño ético”, criticó el jurista.
Las querellas siguen bajo discusión en los tribunales de California.
Fuente: AP, EuroNews, Fortune
