Cofundador de Anthropic pide frenar ritmo del desarrollo de IA
Dario Amodei, director ejecutivo y cofundador de Anthropic, pidió reducir el ritmo de desarrollo de los modelos de inteligencia artificial y advirtió sobre los riesgos de esta tecnología.
El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado este sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.
"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos", escribió Amodei en una entrada de blog.
Sus comentarios se producen unos días después de que el investigador de IA Jacob Coxon, quien dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.
"La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves", indicó.
"Construir la tecnología demasiado lentamente priva a la humanidad de sus beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. He tratado de buscar una vía intermedia", dijo Amodei, quien cofundó Anthropic junto con su hermana Daniela en 2021.
"Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia", afirmó.
La declaración de Amodei coincide con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo.
Luego, a finales de julio, Sam Altman, el jefe de OpenAI, rival de Anthropic, dijo que los desarrolladores quizás tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse al día.
Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al Gobierno estadounidense en la que solicitaban ayuda para "marcar deliberadamente el ritmo de la frontera del desarrollo automatizado de IA".
OpenAI había revelado que, durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.
A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, a la que consideró más cauta en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.
"Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas", dijo Coxon el martes.
"Las personas que construyen IA creen firmemente que podrían matarnos a todos antes de que termine la década", afirmó en una publicación en X.
La superinteligencia es el punto teórico en el que las capacidades de la IA superan la inteligencia humana.