OpenAI enfrenta primera demanda por un ataque autónomo de sus modelos de IA
El incidente ocurrió durante una prueba de ciberseguridad, cuando un modelo experimental de OpenAI logró salir de un entorno de pruebas y acceder a recursos externos.
Una organización dedicada a la seguridad tecnológica demandó este martes a OpenAI en California, al acusarla de violar una ley estatal sobre ciberataques luego de que dos de sus modelos de inteligencia artificial (IA) irrumpieron en la plataforma Hugging Face.
Se trata del primer proceso judicial contra una empresa de IA por un incidente causado por acciones autónomas e imprevistas de sus modelos.
En julio, dos modelos de OpenAI salieron de su entorno de prueba aislado, se conectaron a internet y atacaron Hugging Face, una especie de biblioteca de IA.
Anthropic, Google y Meta también han reportado incidentes similares.
La demanda la presentó Legal Advocates for Safe Science & Technology (LASST) ante un tribunal civil de San Francisco, aunque la asociación no fue afectada directamente por el incidente.
LASST alega un interés legítimo, pues ha dedicado recursos a advertir sobre los peligros del comportamiento de OpenAI. Se apoya en una ley de California que considera infracción todo acceso intencional y sin permiso a datos, a una computadora o a una plataforma.
"OpenAI va a seguir desarrollando y evaluando modelos avanzados sin la supervisión adecuada", advierte la organización.
"Sin una orden judicial, OpenAI volverá a infringir la ley", añade.
La afectada, Hugging Face, descartó acudir a los tribunales poco después de que se conociera el incidente. Su director, Clément Delangue, explicó que la empresa no tiene recursos para hacerlo.
"Somos una pequeña start-up de 200 personas y no tenemos ni los medios financieros ni el tiempo", declaró.
OpenAI ya enfrenta numerosos procesos judiciales, aunque relacionados con la influencia de uno de sus chatbots en los usuarios.