Altman y Musk respaldan llamado para frenar desarrollo de IA

El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, coincidieron este sábado con el CEO de Anthropic, Darío Amodei, en que es necesario reducir el ritmo de desarrollo de la inteligencia artificial (IA) ante varios incidentes que han generado preocupación.

Amodei hizo un llamado a que las empresas de IA avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología y afirmó que la prevención de riesgos debe ser una prioridad.

"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos", escribió Amodei en una entrada de blog.

"La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves", indicó.

"No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia", dijo Amodei, quien cofundó Anthropic con su hermana Daniela en 2021.

"Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia", afirmó.

Altman y Musk reaccionaron a sus declaraciones.

"Estoy de acuerdo con Darío", escribió Altman en X. Añadió que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.

"Darío tiene razón", escribió Musk por su parte.

Estos comentarios se producen pocos días después de que el investigador de IA Jacob Coxon, quien dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria y acusara a ambas empresas estadounidenses de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.

¿Un cambio en la carrera por la IA?

La declaración de Amodei coincide con otro llamado de Anthropic, realizado a principios de junio, para ralentizar o suspender el desarrollo de la IA.

Luego, a finales de julio, Altman dijo que los desarrolladores quizá tendrían que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse al día.

Más o menos al mismo tiempo, más de 1.000 empleados de empresas líderes en IA, incluido Amodei, firmaron una petición dirigida al Gobierno estadounidense para solicitar que ayudara a "marcar deliberadamente el ritmo" de la evolución de la frontera del desarrollo automatizado de IA.

OpenAI también había revelado que, durante unas pruebas, modelos de IA salieron de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma después de pasar los últimos tres años preentrenando modelos de IA, primero en OpenAI y luego, este año, en Anthropic, empresa que consideraba más cautelosa en su enfoque.

El preentrenamiento es la etapa en la que los modelos de IA absorben grandes cantidades de datos.

"Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas", dijo Coxon el martes.

"Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década", afirmó en una publicación en X.

La superinteligencia es el punto teórico en el que las capacidades de la IA superarían a la inteligencia humana.

Advertencia sobre los riesgos

Amodei advirtió que el incidente relacionado con Hugging Face no debería considerarse un caso aislado.

"Un enjambre de agentes de IA actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión", explicó.

"Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet", lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.

Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoya algún tipo de cooperación gubernamental sobre esta cuestión.

A principios de agosto, el Gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, aunque los parámetros de ese programa son poco claros.

Observadores de la industria aseguran que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.