El estado de Florida solicitó a un tribunal que imponga restricciones temporales a OpenAI, la empresa creadora de ChatGPT, mientras se desarrolla una demanda presentada meses atrás contra la compañía y su director ejecutivo, Sam Altman.
La petición fue presentada por el fiscal general de Florida, James Uthmeier, quien sostiene que la empresa ha desarrollado y puesto a disposición tecnologías de inteligencia artificial sin suficientes controles de seguridad. Según el funcionario, la situación requiere una intervención judicial urgente para evitar posibles riesgos contra jóvenes y menores de edad.
Leer más: OpenAI pausa su entrenamiento tras incidentes con agentes de IA
La solicitud presentada ante un tribunal estatal del condado de Highlands, forma parte de una demanda que inició en junio. En ella, la fiscalía acusó a OpenAI de haber incurrido en prácticas engañosas relacionadas con la forma en que presenta y opera ChatGPT.
Por ahora, las acusaciones continúan siendo objeto de análisis judicial y no han sido resueltas por el tribunal.
Florida quiere mayores restricciones por seguridad
La medida solicitada no pretende cerrar ChatGPT ni prohibir el uso de la plataforma. Sin embargo, sí busca imponer varias restricciones mientras avanza el proceso legal.
Florida quiere impedir que OpenAI continúe desarrollando nuevos modelos de inteligencia artificial sin la supervisión de entidades independientes encargadas de evaluar aspectos relacionados con la seguridad.
La fiscalía del estado argumenta que, a medida que estas tecnologías se vuelven más avanzadas, también aumentan los riesgos asociados a posibles errores, comportamientos inesperados o usos indebidos.
Además, Florida quiere que se limite el acceso de menores de edad a ChatGPT dentro del estado y que la empresa adopte mayores controles en el manejo de información relacionada con niños. Entre las medidas propuestas figura la obligación de informar claramente a los padres cuando se recopilen datos de menores de 13 años, obtener autorizaciones verificables y permitir que las familias revisen la información almacenada.
Por otra parte, la fiscalía también considera que OpenAI no debería promocionar el sistema como una herramienta completamente fiable, segura o precisa si existe la posibilidad de que genere errores. Según el planteamiento presentado ante el tribunal, las advertencias actuales no serían suficientes para que los usuarios comprendan plenamente las limitaciones de la tecnología.
Por esa razón, Florida solicita que cualquier comunicación sobre ChatGPT incluya avisos más visibles y claros sobre los riesgos asociados al uso de la inteligencia artificial generativa.
Asimismo, la petición está orientada a impedir que el sistema se presente de una manera que pueda llevar a los usuarios a pensar que posee capacidades humanas reales.
Autoridades advierten sobre “apariencia humana” de ChatGPT
Además de lo expuesto en materia de seguridad, la fiscalía sostiene que algunas respuestas redactadas en primera persona o expresiones que parecen transmitir emociones podrían generar la impresión de que ChatGPT piensa, siente o tiene conciencia propia.
Según el argumento presentado por Florida, este tipo de interacciones resulta problemático para personas vulnerables o para usuarios jóvenes que podrían desarrollar un nivel de confianza excesivo en las respuestas del sistema.
También cuestiona las preguntas de seguimiento que la plataforma suele formular durante una conversación, al considerar que pueden incentivar interacciones más prolongadas de las que algunos usuarios necesitan.
Florida se suma de esta manera a los reclamos a nivel nacional y a la preocupación en torno al uso de inteligencia artificial.
Por el momento, ninguna de las restricciones ha entrado en vigor. La presentación de la moción no implica automáticamente que OpenAI deba modificar sus operaciones ni que ChatGPT enfrente limitaciones inmediatas.
El próximo paso corresponde al juez encargado del caso, quien deberá analizar los argumentos de ambas partes y determinar si existen razones suficientes para imponer medidas temporales mientras se resuelve la demanda principal.
Lea el informe completo en la página web de My Florida Legal
