OpenAI, la empresa responsable de ChatGPT, enfrenta una demanda judicial presentada por ocho estados de Estados Unidos, que alegan que su herramienta de inteligencia artificial ha causado daños a menores y ha engañado a los consumidores sobre su seguridad. Las demandas fueron anunciadas el 14 de octubre y se han presentado en tribunales estatales de Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana.
Las acusaciones se centran en que OpenAI comercializó su chatbot como una herramienta segura, a pesar de conocer los riesgos que representa para los usuarios más vulnerables. Las fiscalías de los estados demandantes cuestionan las garantías ofrecidas a las familias y el diseño del sistema, que, según argumentan, fomenta la dependencia y puede proporcionar respuestas peligrosas sobre salud, autolesiones o violencia.
La fiscal general de Iowa, Brenna Bird, afirmó que la demanda busca que OpenAI cumpla con la Ley contra el Fraude al Consumidor de Iowa y que responda por las consecuencias de sus prácticas consideradas peligrosas e ilícitas. En particular, se critica cómo el diseño del chatbot puede generar una confianza indebida en los usuarios, especialmente en los menores, lo que podría resultar en un uso compulsivo y en la exposición a contenidos perjudiciales.
Qué significa para su organización
Las organizaciones que desarrollan o utilizan herramientas de inteligencia artificial deben revisar sus protocolos de seguridad y transparencia, especialmente si su público incluye menores. Es recomendable evaluar las características de diseño que puedan inducir a los usuarios a confiar en el sistema de forma inapropiada y garantizar que se implementen medidas de protección adecuadas.
Asimismo, es crucial conservar registros de las interacciones de los usuarios y de las respuestas generadas por el sistema, así como establecer mecanismos de notificación en caso de que se detecten riesgos o incidentes relacionados con la seguridad de los menores. Las empresas deben estar preparadas para responder a posibles reclamaciones y ajustar sus prácticas comerciales en función de las normativas estatales y federales que regulan la protección del consumidor.
