La inteligencia artificial vuelve a estar en el centro del debate en Estados Unidos. El fiscal general de Florida, James Uthmeier, presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, en una acción legal que acusa a la compañía de priorizar el crecimiento económico por encima de la seguridad de los usuarios.
Leer más: DHS ordena “perseguir” abogados de Florida que presenten solicitudes de asilo falsas
La demanda, presentada el 1 de junio, sostiene que el éxito de OpenAI se construyó mediante prácticas que, según Florida, pusieron en riesgo a consumidores, incluidos residentes del estado. Además, busca responsabilizar personalmente a Altman por presuntos daños derivados de la operación y el desarrollo de ChatGPT.
OpenAI
El caso representa una nueva escalada en el escrutinio que enfrentan las empresas de inteligencia artificial, especialmente aquellas cuyos productos tienen millones de usuarios en todo el mundo.
La acción civil no contempla cargos penales, pero sí solicita sanciones y medidas judiciales contra la compañía.
Según el documento presentado por las autoridades floridanas, OpenAI habría promovido ChatGPT como una herramienta segura mientras ocultaba riesgos potenciales relacionados con su uso.
Entre las acusaciones figuran prácticas comerciales engañosas y desleales, negligencia, responsabilidad por productos defectuosos, falsa representación fraudulenta y la creación de una molestia pública.
La demanda afirma que los sistemas desarrollados por OpenAI pueden estar asociados con problemas como adicción, deterioro cognitivo, violencia, suicidio y otros daños relacionados.
Asimismo, cuestiona la fiabilidad de las respuestas generadas por ChatGPT y advierte sobre los riesgos que pueden surgir cuando los usuarios confían excesivamente en la información proporcionada por la herramienta.
Uno de los aspectos más destacados del caso es la referencia a diversos incidentes que, según los demandantes, estarían vinculados al uso de ChatGPT.
Entre ellos se mencionan investigaciones relacionadas con un tiroteo masivo ocurrido en la Universidad Estatal de Florida y el asesinato de dos estudiantes de posgrado de la Universidad del Sur de Florida.
Las autoridades también señalan que la plataforma puede generar respuestas incorrectas o información falsa, conocidas comúnmente como “alucinaciones”. De acuerdo con la demanda, la falta de precisión en determinados contextos podría derivar en consecuencias graves para algunos usuarios.
Otro punto central del litigio se relaciona con la tendencia de ChatGPT a mostrarse complaciente con quienes interactúan con el sistema.
Florida sostiene que esta característica puede fomentar una relación psicológica poco saludable con la plataforma, incentivando un mayor uso y, en consecuencia, generando más datos para el entrenamiento de la inteligencia artificial y mayores beneficios económicos para la empresa.
Frente a estas acusaciones, OpenAI ha defendido públicamente sus prácticas de seguridad. La empresa sostiene que desarrolla sus sistemas incorporando medidas de protección en todas las etapas y asegura que ha implementado salvaguardas para ayudar a los usuarios cuando las conversaciones abordan temas sensibles.
La compañía también afirma que continúa mejorando el entrenamiento de ChatGPT para identificar señales de angustia emocional o mental, reducir situaciones potencialmente problemáticas y orientar a las personas hacia fuentes de apoyo en el mundo real.
El proceso judicial llega en un momento de fuerte crecimiento para OpenAI. Fundada en 2015 por Sam Altman, Elon Musk y otros empresarios como una organización de investigación sin fines de lucro, la entidad evolucionó hacia una estructura que incluye una corporación con fines comerciales.
Según la información citada en el caso, la empresa alcanzó recientemente una valoración de 852,000 millones de dólares tras una importante ronda de financiación realizada en marzo.
La demanda de Florida se suma a otras acciones legales presentadas en distintos lugares contra OpenAI. Varias de ellas sostienen que los productos de inteligencia artificial pueden provocar efectos adversos significativos en determinados usuarios.
Mientras el caso avanza en los tribunales, el enfrentamiento entre reguladores y compañías tecnológicas promete convertirse en uno de los debates más trascendentes para el futuro de la inteligencia artificial.
Fuente: Telemundo 51
