OpenAI enfrenta investigación en Alabama por ataque autónomo de sus modelos de IA
Imagen con fines ilustrativos.
La empresa creadora de ChatGPT, OpenAI, enfrenta una investigación del estado de Alabama luego de que la compañía estadounidense revelara el mes pasado que sus modelos se descontrolaron y atacaron de forma autónoma una plataforma de inteligencia artificial.
Dos modelos de OpenAI escaparon en julio de su entorno de pruebas confinado y obtuvieron acceso a internet. Posteriormente, atacaron Hugging Face, una plataforma que los desarrolladores de inteligencia artificial (IA) utilizan para almacenar y compartir modelos y conjuntos de datos.
El incidente despertó preocupación sobre los riesgos de que los sistemas de IA actúen por cuenta propia y vulneren las barreras establecidas por los programadores para evitar fallos de seguridad.
En una orden de 14 páginas, la oficina del fiscal general de Alabama, Steve Marshall, exigió a OpenAI entregar registros internos relacionados con el incidente ocurrido en julio.
También solicitó una extensa lista de materiales, incluida la identidad de todos los empleados involucrados en la intrusión o en las pruebas que condujeron a ella.
Se trata de la primera investigación estatal conocida que busca determinar si un sistema de IA que ataca la infraestructura de otra empresa puede vulnerar las leyes de protección al consumidor. Una conclusión de ese tipo expondría a la compañía a importantes litigios en Estados Unidos.
Alabama y otros 14 estados enviaron el 3 de agosto una carta al director ejecutivo de OpenAI, Sam Altman, para pedir a la empresa que preservara los registros relacionados con el incidente y detuviera cualquier evaluación interna de ciberseguridad de sus modelos.
Un portavoz de la oficina del fiscal general de Alabama no confirmó si OpenAI aceptó cumplir con esa exigencia.
La compañía afirmó en un comunicado al sitio de noticias tecnológicas TechCrunch que estaba "realizando una revisión exhaustiva junto con asesores externos".
"Una vez que concluya la revisión, compartiremos un informe técnico con las autoridades gubernamentales competentes y publicaremos nuestros hallazgos públicamente", añadió.