Las claves del acuerdo de Trump con los gigantes de la IA

Si tiene solo unos segundos, lea estas líneas:

• Trump y seis grandes empresas tecnológicas acordaron controles voluntarios para supervisar los sistemas de inteligencia artificial más avanzados.
• El pacto contempla monitoreo interno, evaluaciones externas y mecanismos de supervisión para reducir riesgos de ciberseguridad, bioseguridad y amenazas químicas.
• El acuerdo no es una ley ni establece sanciones; las compañías aplicarán las medidas de forma voluntaria y algunas podrían convertirse en normas legales posteriormente.

La administración de Donald Trump y seis grandes empresas tecnológicas acordaron un esquema voluntario de controles para supervisar los sistemas de inteligencia artificial más avanzados, en medio del debate sobre los riesgos que plantea el rápido desarrollo de esta tecnología.

El acuerdo fue anunciado el 29 de septiembre en la Casa Blanca, después de un almuerzo entre Trump y ejecutivos de las principales compañías del sector. El documento establece medidas de seguridad, monitoreo y auditoría que deberán aplicar las empresas participantes.

Sin embargo, hay un punto clave: el pacto no es una ley ni establece nuevas obligaciones legales o sanciones. Se trata de un compromiso voluntario de autorregulación. Trump lo calificó como "moralmente vinculante".

1. ¿Qué acordó Trump con las empresas de IA?

El documento, denominado Acuerdo de la Casa Blanca sobre Superinteligencia, plantea un sistema de controles para supervisar los modelos de IA más avanzados.

Entre las medidas contempladas se encuentra el monitoreo interno de seguridad durante el entrenamiento y uso de los modelos, con el objetivo de detectar y reducir riesgos relacionados con ciberseguridad, bioseguridad y amenazas químicas.

Las compañías también deberán contar con equipos internos encargados de comprobar que esos mecanismos de seguridad funcionen correctamente.

El acuerdo contempla, además, evaluaciones externas e independientes para revisar los sistemas de monitoreo. A esto se suma la creación de mecanismos de supervisión dentro de las juntas directivas para analizar los informes de seguridad.

El documento establece así cuatro niveles de control: supervisión interna, equipos encargados de verificar esos controles, auditorías externas y revisión por parte de órganos independientes de las juntas directivas.

Trump dejó claro que el pacto no tiene fuerza de ley. Por ello, las empresas no enfrentan automáticamente una sanción legal si no cumplen los compromisos asumidos.

2. ¿Quiénes participaron?

En la reunión participaron ejecutivos de las principales empresas tecnológicas y de inteligencia artificial, además de inversionistas y funcionarios del Gobierno estadounidense.

El acuerdo fue firmado por Trump y representantes de seis compañías: Elon Musk, de xAI; Jensen Huang, de Nvidia; Mark Zuckerberg, de Meta; Sundar Pichai, de Google; Greg Brockman, de OpenAI; y Dario Amodei, de Anthropic.

También asistieron figuras como Jeff Bezos, fundador de Amazon; Satya Nadella, director ejecutivo de Microsoft; Lisa Su, directora ejecutiva de AMD; y otros representantes de empresas tecnológicas.

3. ¿Qué riesgos busca enfrentar?

El acuerdo busca establecer controles frente a algunos de los riesgos asociados con el desarrollo y utilización de sistemas de IA cada vez más avanzados.

Entre ellos figuran las amenazas de ciberseguridad, los riesgos relacionados con la bioseguridad y la posibilidad de que los sistemas puedan facilitar determinadas amenazas químicas.

El documento también contempla mecanismos para detectar comportamientos no deseados de los modelos y comprobar que los sistemas de seguridad funcionen durante las distintas etapas de desarrollo.

Uno de los conceptos centrales es el alineamiento, que se refiere a la necesidad de que los sistemas de IA funcionen de acuerdo con los objetivos, instrucciones y límites establecidos por sus desarrolladores.

4. ¿El acuerdo es obligatorio?

No.

El pacto no crea una nueva ley ni establece sanciones para las compañías que no cumplan sus disposiciones. Su aplicación depende de que las empresas participantes adopten voluntariamente las medidas.

El propio documento, sin embargo, deja abierta la posibilidad de que algunos de estos compromisos puedan convertirse posteriormente en normas legales.

Por ahora, el modelo planteado por la administración Trump se basa en la autorregulación de las compañías, en lugar de establecer nuevas obligaciones mediante legislación federal.

5. ¿Por qué Trump impulsa este modelo?

Trump ha planteado que Estados Unidos debe mantener su liderazgo tecnológico frente a China y ha defendido un desarrollo acelerado de la inteligencia artificial.

La administración sostiene que una regulación excesiva podría afectar la innovación y la capacidad de las empresas estadounidenses para competir internacionalmente.

El acuerdo busca combinar ese desarrollo con mecanismos de seguridad que permitan a las propias compañías identificar y reducir los riesgos de sus sistemas.

La iniciativa se produce en medio de un debate más amplio en Estados Unidos sobre cuánto control debe ejercer el Gobierno sobre la industria de IA y qué responsabilidades deben asumir las propias empresas.

6. ¿Qué podría pasar después?

Las empresas participantes deberán avanzar en la implementación de los mecanismos de supervisión contemplados en el acuerdo.

También se espera una mayor participación de auditores externos, aunque el pacto no establece un mecanismo gubernamental de cumplimiento ni obliga a las compañías a publicar los resultados de esas evaluaciones.

Trump también planteó la creación de un órgano de 10 integrantes para supervisar asuntos relacionados con la seguridad de la IA y el nombramiento de un responsable dentro de la Casa Blanca para dirigir la política en esta materia.

Uno de los principales puntos de discusión será si este modelo de autorregulación resulta suficiente o si algunas de sus disposiciones terminarán incorporándose a leyes y regulaciones.

Por ahora, el acuerdo establece un sistema voluntario en el que las empresas asumen buena parte de la responsabilidad de vigilar sus propios sistemas, mientras continúa el debate sobre el papel que debería desempeñar el Gobierno estadounidense en la supervisión de esta tecnología.