OpenAI, Google y Anthropic, objeto de una demanda que busca frenar desarrollo de la IA de vanguardia

Résumé détaillé

Un grupo de ocho estados demandó a OpenAI el mes pasado ante tribunales de todo el país, alegando que ChatGPT ha incitado a sus usuarios —incluidos ...

Un grupo de ocho estados demandó a OpenAI el mes pasado ante tribunales de todo el país, alegando que ChatGPT ha incitado a sus usuarios —incluidos adolescentes— a causarse daño a sí mismos o a otros.

Un grupo de organizaciones sin ánimo de lucro demandó el jueves a OpenAI, Anthropic, la división de IA de SpaceX, Meta Platforms y Google, de Alphabet, para bloquear el desarrollo futuro de los modelos de IA más avanzados debido a la preocupación —expresada por los propios dirigentes de estas empresas— de que la tecnología pueda suponer una amenaza para la humanidad.

Las organizaciones presentaron la demanda en San Francisco, alegando que las leyes de California contra las prácticas comerciales desleales proporcionan los fundamentos para una orden judicial que prohíba a las empresas seguir desarrollando productos como ChatGPT, Gemini y Claude.

La demanda cita comentarios de líderes empresariales, como Dario Amodei, director ejecutivo de Anthropic, y Elon Musk, CEO de SpaceX, sobre el potencial de la IA para provocar la destrucción de la civilización. También describe incidentes en los que los modelos se han escapado de los entornos de prueba y han atacado de forma autónoma sitios web gubernamentales.

"A ningún otro sector se le permite considerar inevitable el desarrollo de productos inseguros, y mucho menos de aquellos que podrían matarnos a todos", afirma la demanda. "Tampoco se concede a ningún sector el derecho a autorregular el desarrollo de productos tan peligrosos".

La demanda acusa a las empresas de llevar a cabo prácticas comerciales que suponen una molestia pública o un perjuicio para la salud y el disfrute públicos, señalando tanto incidentes pasados como la posibilidad de daños futuros.

Un portavoz de Meta se negó a hacer comentarios. Los representantes de las demás empresas no respondieron de inmediato a las solicitudes de comentarios.

Aunque el Gobierno de Donald Trump se ha negado hasta ahora a impulsar una regulación a gran escala de la IA por temor a que…

El…

Début de l'article, extrait de El Economista México. Pour lire la suite, ouvrez l'article chez le média.