Cuatro organizaciones sin ánimo de lucro han presentado una demanda ante el Tribunal Superior de California, en el condado de San Francisco, para intentar detener el desarrollo de los modelos de inteligencia artificial más avanzados. La acción judicial se dirige contra OpenAI, Anthropic, Meta y la división de inteligencia artificial de SpaceX.
Los demandantes son Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI, según informó Public Citizen. El escrito invoca la ley de competencia desleal de California y sostiene que las empresas estarían incurriendo en prácticas que provocan una molestia pública, concepto legal relacionado con daños para la salud y la seguridad de la comunidad.
La petición solicita al juez que prohíba la mejora recursiva de los sistemas de IA, es decir, que un sistema participe en el perfeccionamiento de versiones posteriores de sí mismo. También reclama frenar el desarrollo de la inteligencia artificial general o la superinteligencia, así como de herramientas capaces de vulnerar redes ajenas o escapar al control de sus operadores.
«Invocar al demonio»
La frase aparece en el documento judicial, según Courthouse News Service, que la atribuye a Elon Musk. Reuters señaló que la demanda también cita declaraciones de Dario Amodei, director ejecutivo de Anthropic, y de Musk, director ejecutivo de SpaceX, sobre la posibilidad de que la inteligencia artificial llegue a destruir la civilización. Estas referencias forman parte de los argumentos de los demandantes y no constituyen una resolución judicial.
El texto tiene 63 páginas, según Courthouse News Service, y menciona productos como ChatGPT, Gemini y Claude. La demanda vincula esas herramientas con la evolución hacia sistemas más capaces, aunque las empresas incluidas en el procedimiento son las cuatro señaladas en la acción presentada en California.
Qué pide la demanda
- Impedir la mejora recursiva de sistemas de inteligencia artificial.
- Frenar el desarrollo de inteligencia artificial general o superinteligencia.
- Prohibir sistemas capaces de vulnerar redes ajenas o escapar al control de sus operadores.
La presentación de la demanda no implica que el tribunal haya aceptado esas peticiones ni que exista ya una prohibición sobre los modelos afectados. El caso queda ahora sujeto al procedimiento judicial en California.
