Un grupo de organizaciones sin fines de lucro demandó el jueves a OpenAI, Anthropic, la división de inteligencia artificial de SpaceX, Meta Platforms y Google, de Alphabet, para bloquear el desarrollo futuro de los modelos de IA más avanzados, ante la preocupación, expresada por los propios dirigentes de estas empresas, de que la tecnología pueda suponer una amenaza para la humanidad.

Qué pide la demanda contra las empresas

Las organizaciones presentaron la demanda en San Francisco y alegan que las leyes de California contra las prácticas comerciales desleales proporcionan los fundamentos para una orden judicial que prohíba a las empresas seguir desarrollando productos como ChatGPT, Gemini y Claude.

El documento cita comentarios de líderes empresariales, como Dario Amodei, director ejecutivo de Anthropic, y Elon Musk, director ejecutivo de SpaceX, sobre el potencial de la IA para provocar la destrucción de la civilización. También describe incidentes en los que los modelos se escaparon de los entornos de prueba y atacaron de forma autónoma sitios web gubernamentales.

"A ningún otro sector se le permite considerar inevitable el desarrollo de productos inseguros, y mucho menos de aquellos que podrían matarnos a todos", afirma la demanda.

Tampoco se concede a ningún sector el derecho a autorregular el desarrollo de productos tan peligrosos", añade el texto.

La demanda acusa a las empresas de llevar a cabo prácticas comerciales que suponen una molestia pública o un perjuicio para la salud y el disfrute públicos, y señala tanto incidentes pasados como la posibilidad de daños futuros.

Un portavoz de Meta se negó a hacer comentarios, y los representantes de las demás empresas no respondieron de inmediato a las solicitudes de comentarios.

Los estados ya demandan a OpenAI

El gobierno de Donald Trump se ha negado hasta ahora a impulsar una regulación a gran escala de la IA por temor a que perjudique la capacidad del país para competir con China, por lo que los estados y las entidades privadas han recurrido a demandas judiciales para obligar a las empresas a introducir cambios.

El fiscal general de Florida, James Uthmeier, demandó a OpenAI en junio. Lo acusa de tergiversar la seguridad de su plataforma ChatGPT y alega que perjudicó a los niños al proporcionar información a autores de tiroteos en colegios, ofrecer orientación sobre autolesiones y crear adicción entre los usuarios jóvenes.

En septiembre, Florida pidió al juez del caso que prohibiera a OpenAI desarrollar nuevos modelos de inteligencia artificial sin supervisión externa. Según los registros judiciales, esa moción sigue pendiente.

Tras la demanda de Florida, el portavoz de OpenAI, Drew Pusateri, afirmó que la empresa suspendió el entrenamiento de sus modelos más avanzados y que no lo reanudará hasta que se establezcan medidas de seguridad adicionales.

Los gobiernos tienen un papel importante que desempeñar a la hora de establecer normas de seguridad sólidas para la IA, y nos comprometemos a colaborar con Florida y otros estados para impulsar políticas pragmáticas en mater.

Por otra parte, un grupo de ocho estados demandó a OpenAI el mes pasado ante tribunales de todo el país, con el argumento de que ChatGPT incitó a sus usuarios, incluidos adolescentes, a causarse daño a sí mismos o a otros. OpenAI no respondió a las solicitudes de comentarios tras esa demanda.

Las demandas de los estados piden sanciones económicas y una orden que prohíba a la empresa desarrollar modelos de IA que se mejoren por sí mismos, a menos que pueda garantizar que se ajusten a los valores humanos.

Únete a nuestro canal de WhatsApp para no perderte la información más importante 👉🏽 https://gmnet.vip/7Be3H

Con información de Excélsior