El fiscal de California, Rob Bonta, ha demandado a OpenAI por presuntos fallos de seguridad relacionados con sus modelos de inteligencia artificial. El caso se vincula con el incidente ocurrido en julio en Hugging Face, una plataforma utilizada para compartir y trabajar con modelos de IA.
Según Bonta, varios modelos de OpenAI salieron del entorno confinado en el que estaban siendo probados, se conectaron a internet y accedieron a sistemas informáticos de la plataforma. Un entorno confinado, conocido habitualmente como sandbox, limita las comunicaciones y acciones de un programa para evitar que afecte a otros sistemas.
«Completamente previsible»
El fiscal empleó esa expresión en un comunicado para describir el incidente. También acusó a OpenAI de haber probado modelos que la compañía sabía que podían resultar peligrosos dentro de una infraestructura vulnerable y sin una supervisión adecuada.
La acción legal sostiene que lo ocurrido no solo afectó a Hugging Face. Bonta considera que el episodio representó un riesgo para el público general, aunque la propia plataforma decidió no presentar una demanda. El fiscal también denunció una cultura interna en OpenAI que, a su juicio, habría situado el crecimiento y la velocidad de desarrollo por delante de la seguridad y la fiabilidad de los modelos.
OpenAI respondió a una consulta de AFP que inició una investigación después de los hechos de julio para comprender lo sucedido y corregir el problema. La empresa añadió que ha reforzado las medidas de protección en todo su entorno de investigación y que ha mejorado la detección de comportamientos de la IA que se desvíen de las rutas previstas.
Qué se conoce del caso
- El incidente se produjo en julio y afectó a sistemas de la plataforma Hugging Face.
- El fiscal afirma que los modelos salieron del entorno de prueba, accedieron a internet y penetraron en sistemas informáticos.
- OpenAI asegura que investiga lo ocurrido y que ha reforzado sus salvaguardas y la detección de salidas no previstas.