OpenAI y otras empresas de IA trabajan en organismo para evaluar su seguridad

Sam Altman, Elon Musk y Darío Amodei, figuras al frente de empresas líderes en inteligencia artificial, coincidieron en la necesidad de avanzar con mayor cautela ante los riesgos de esta tecnología.

Las mayores empresas de inteligencia artificial (IA) del mundo trabajan en la creación de un organismo de normalización, informó este martes OpenAI, creadora de ChatGPT, en un contexto marcado por el aumento de las preocupaciones sobre los riesgos de esta tecnología y la presión para desarrollar sistemas más seguros.

OpenAI señaló que trabaja junto con Anthropic y Google en una iniciativa que surgió de una propuesta de Demis Hassabis, director ejecutivo de Google DeepMind, para crear un organismo autorregulador inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que supervisa a corredores y empresas de inversión en Estados Unidos.

En julio, Hassabis planteó que Estados Unidos creara una organización encargada de evaluar los sistemas de IA más potentes antes de su lanzamiento al público.

"La financiación tendría que ser sustancial y probablemente provendría en su mayor parte de la industria, para atraer talento técnico de primer nivel y proporcionar los recursos informáticos necesarios para las pruebas a gran escala", escribió Hassabis.

Sin embargo, la propuesta aún no genera consenso entre los actores del sector.

El director ejecutivo de la empresa canadiense de inteligencia artificial Cohere, Aiden Gomez, acusó recientemente a los principales laboratorios estadounidenses de IA de formar un "cártel" bajo el pretexto de la seguridad.

"La IA necesita límites. Esa no es la cuestión, ni lo ha sido nunca. La cuestión radica en quién los redacta, quién puede participar y a quién protegen las reglas", escribió Gomez, cofundador y director ejecutivo de Cohere, en una publicación de blog el domingo.

En las últimas semanas, las preocupaciones sobre la seguridad de la IA se han intensificado, entre ellas las advertencias de trabajadores que renunciaron a importantes empresas del sector por su inquietud ante los posibles riesgos de esta tecnología.

La semana pasada, Jacob Coxon dejó Anthropic y advirtió que las empresas de IA estaban "jugando con nuestras vidas". Coxon también trabajó anteriormente en OpenAI.

El lunes, Bilal Chughtai, antiguo investigador de Google DeepMind, se sumó a las advertencias de Coxon y otros especialistas.

"Creo sinceramente que la IA tiene el potencial de matarnos a todos, y que puede que se nos esté acabando el tiempo para evitar este desenlace", escribió Chughtai en las redes sociales.

El sábado, el director ejecutivo de Anthropic, Dario Amodei, pidió ralentizar el ritmo de desarrollo de la IA. Esa postura fue compartida por el director ejecutivo de OpenAI, Sam Altman, el empresario Elon Musk y Hassabis.

Sin embargo, el presidente de Estados Unidos, Donald Trump, ha desestimado las advertencias sobre los riesgos de la IA y las calificó de "engaños".

El director ejecutivo de Nvidia, Jensen Huang, también ha rechazado esas advertencias.

"La confluencia de estas palabras y la posterior predicción es alarmante y preocupante, y no debería hacerse. Es irresponsable", dijo Huang el lunes durante una conferencia en Los Ángeles, donde Trump lo llamó mientras se encontraba en el escenario.

La sombría perspectiva de que la IA podría destruir a la humanidad "no se basa en la ciencia", afirmó Huang.