Congreso de EE. UU. debate cómo responder a los riesgos de la IA

El Congreso de Estados Unidos regresó del receso con apenas cuatro días de sesión legislativa antes de que los miembros de la Cámara de Representantes se concentren en la campaña para las elecciones de mitad de mandato del 3 de noviembre. Entre los asuntos que buscan abordar está uno que genera profundas divisiones: cómo responder al avance de la inteligencia artificial (IA).

Los legisladores enfrentan advertencias cada vez más fuertes sobre los riesgos de sistemas de IA capaces de actuar con mayor autonomía, pero todavía no existe consenso sobre si Washington debe intervenir, cómo debería hacerlo y hasta dónde debería llegar la regulación.

Las diferencias atraviesan las líneas partidarias e incluso aparecen dentro de cada partido.

El líder de la minoría demócrata en el Senado, Chuck Schumer, exigió este lunes una sesión informativa clasificada para todos los senadores sobre las pruebas de inteligencia artificial de vanguardia, el acceso de China a chips avanzados y la amenaza de ciberataques con IA contra infraestructura estadounidense.

"Las señales de alarma suenan con más fuerza que nunca, y la administración Trump está mirando hacia otro lado", dijo Schumer.

"Si Trump no actúa, el Congreso deberá hacerlo."

Un Congreso dividido ante la IA

La posición de la Casa Blanca complica aún más el debate.

El presidente Donald Trump ha rechazado en gran medida las advertencias sobre los riesgos de la IA y ha presentado su desarrollo como una carrera tecnológica que Estados Unidos no puede permitirse perder frente a China.

"El único control o ‘mecanismo de seguridad' que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), y Estados Unidos lo tiene de sobra", dijo Trump el lunes en una publicación en su red social Truth Social.

El presidente de la Cámara de Representantes, Mike Johnson, comparte buena parte de ese enfoque y ha advertido contra la adopción de medidas de emergencia.

"Si el Congreso se apresura a convocar una sesión de emergencia para intentar regular la IA, perderemos la carrera frente a China, y eso supone una amenaza para todos y cada uno de los estadounidenses", declaró el republicano a CNN el domingo.

Johnson sostiene que los legisladores no deberían entrar en pánico y que deberían abordar la inteligencia artificial como lo han hecho con otras tecnologías, sin frenar la innovación estadounidense.

En su lugar, propone que el Congreso se reúna con los principales ejecutivos de las compañías de IA, una idea que, según afirmó, ya planteó a Trump.

Esa postura lo enfrenta con la congresista de Florida Anna Paulina Luna, también republicana, quien ha pedido una sesión especial dedicada a la inteligencia artificial.

Los demócratas tampoco mantienen una posición unificada.

El líder demócrata de la Cámara de Representantes, Hakeem Jeffries, afirmó que los legisladores deben "actuar con urgencia" y prometió que la IA será una prioridad para su partido.

El senador Bernie Sanders, por su parte, quiere prohibir la IA superinteligente y pausar el desarrollo de sistemas avanzados, mientras que otros demócratas prefieren medidas más específicas, como revisiones de seguridad más rigurosas o la notificación obligatoria de riesgos catastróficos.

Propuestas sobre la mesa

El debate ya se tradujo en distintas iniciativas legislativas.

En la Cámara de Representantes, un proyecto de ley bipartidista exigiría a los desarrolladores de los sistemas más potentes conservar la capacidad de limitar su velocidad, suspenderlos o apagarlos.

Otra propuesta establecería un marco nacional para los modelos avanzados de inteligencia artificial.

En el Senado, los legisladores también han comenzado a investigar los riesgos existenciales que plantea esta tecnología y estudian una legislación bipartidista que exigiría a las empresas realizar pruebas para detectar y reportar peligros catastróficos.

Sin embargo, todavía no se ha publicado ningún texto legislativo.

Ninguna de estas propuestas parece estar cerca de convertirse en ley antes de que los legisladores abandonen Washington para concentrarse en la campaña electoral.

¿Por qué aumenta la presión sobre el Congreso?

Las advertencias que llegan desde la propia industria han elevado la presión sobre los legisladores.

La semana pasada, Jacob Coxon, investigador que trabajó durante tres años en OpenAI y posteriormente en Anthropic, abandonó el sector y acusó a ambas compañías de "jugar con nuestras vidas" en la carrera por desarrollar sistemas capaces de aprender por sí mismos.

El sábado, Dario Amodei, consejero delegado de Anthropic, publicó un ensayo en el que instó a las empresas de IA a reducir el ritmo al que mejoran las capacidades de sus modelos.

Las advertencias también surgieron después de que OpenAI revelara que algunos modelos habían escapado de su entorno de prueba durante una evaluación, se habían conectado a internet y se habían infiltrado en Hugging Face, un sitio donde los desarrolladores almacenan y comparten código. Anthropic informó de un incidente similar.

Estas situaciones alimentan las preocupaciones sobre sistemas que puedan trabajar durante largos periodos sin supervisión constante, utilizar herramientas externas, tomar decisiones y perseguir objetivos de manera cada vez más autónoma.

Washington intenta ponerse al día

El Congreso no parte de cero. A principios de agosto, el Gobierno introdujo una revisión de seguridad voluntaria para los modelos avanzados antes de su lanzamiento.

Sin embargo, sus parámetros todavía no están claros y algunos observadores de la industria dudan de su eficacia, dada la preferencia de la administración Trump por una regulación poco intrusiva.

El problema también es institucional. La inteligencia artificial afecta áreas tan distintas como la seguridad nacional, el empleo, la energía y la protección del consumidor, por lo que la responsabilidad está repartida entre diferentes comités que rara vez actúan de manera coordinada.

El congresista demócrata Ted Lieu, copatrocinador de un proyecto de ley conocido como el "interruptor de apagado", considera que una condición básica debe ser que los humanos puedan intervenir cuando un sistema pierda el control.