Estas son las advertencias de los expertos sobre el futuro de la IA

La inteligencia artificial avanza a pasos agigantados. Las grandes empresas tecnológicas compiten por desarrollar sistemas cada vez más capaces, autónomos y sofisticados.

Pero mientras esa carrera continúa, quienes están en primera fila de su desarrollo lanzan advertencias sobre lo que podría ocurrir si la tecnología avanza más rápido que la capacidad humana para entenderla y controlarla.

Directivos de empresas como OpenAI, Anthropic y Google DeepMind, así como científicos considerados pioneros de esta tecnología, han señalado preocupaciones que van desde la pérdida de empleos y la desinformación hasta escenarios más extremos, como la posibilidad de perder el control sobre sistemas de inteligencia artificial.

Dario Amodei: "Tenemos que ralentizar la frontera"

Dario Amodei, CEO de Anthropic, se convirtió en una de las voces más contundentes a favor de reducir el ritmo de desarrollo de los sistemas de IA más avanzados.

En un reciente ensayo, cuestionó que la industria haya minimizado durante años algunos de los peligros asociados con modelos cada vez más poderosos.

Su preocupación es que las capacidades de estos sistemas estén creciendo mucho más rápido que la capacidad humana para comprenderlos, evaluarlos y establecer límites.

Amodei incluso planteó escenarios extremos. Advirtió que, sin controles suficientes, sistemas cada vez más autónomos podrían llegar a utilizarse para realizar ciberataques a gran escala o afectar infraestructura crítica.

Su propuesta no es detener por completo la tecnología, sino establecer una especie de "límite de velocidad". Antes de que un modelo alcance determinadas capacidades, debería pasar por pruebas de seguridad y evaluaciones independientes.

También considera necesario que los gobiernos tengan una mayor participación en las decisiones sobre el futuro de la IA, para evitar que asuntos con consecuencias globales queden únicamente en manos de compañías privadas.

Sam Altman: el temor a perder el control

Sam Altman, CEO de OpenAI, también ha advertido sobre los riesgos que podría traer una inteligencia artificial cada vez más autónoma.

Uno de sus principales temores es que los seres humanos lleguen a ceder parte del control a sistemas que no funcionen como se esperaba o que interpreten de manera equivocada los objetivos que se les asignen.

Para Altman, las medidas de seguridad deben avanzar al menos al mismo ritmo que las capacidades de los modelos.

Pero su preocupación no es solamente tecnológica.

El empresario también advirtió sobre la posibilidad de que unas pocas compañías acumulen demasiado poder gracias a la inteligencia artificial.

Por eso, plantea encontrar un punto medio entre permitir que la tecnología continúe desarrollándose y evitar que el futuro de una herramienta con impacto mundial quede concentrado en manos de un pequeño grupo de empresas.

Demis Hassabis: avanzar, pero con controles

Demis Hassabis, CEO de Google DeepMind, también se mostró a favor de establecer mayores controles sobre los sistemas más avanzados.

Su planteamiento parte de una idea sencilla: las medidas de seguridad no pueden quedarse atrás mientras las capacidades de los modelos avanzan.

Hassabis defiende que los sistemas más avanzados sean sometidos a revisiones técnicas antes de llegar al público. La intención es detectar posibles problemas antes de que una herramienta sea utilizada a gran escala.

El debate también alcanza a quién debería realizar esas evaluaciones.

Para el líder de DeepMind, la supervisión no debería depender exclusivamente de las propias empresas que desarrollan los modelos. El Estado y organismos técnicos independientes tendrían que participar en la definición de estándares y controles.

Geoffrey Hinton: "El problema es que no sabemos cómo controlarla"

Geoffrey Hinton es considerado uno de los padres de la inteligencia artificial moderna y recibió el Premio Nobel de Física por sus aportes al desarrollo de las redes neuronales.

Sin embargo, también se convirtió en una de las voces más críticas sobre el futuro de esta tecnología.

Su principal preocupación es qué ocurrirá si una inteligencia artificial llega a superar ampliamente determinadas capacidades humanas y cómo garantizar que continúe bajo nuestro control.

Hinton ha estimado que existe entre un 10% y un 20% de posibilidades de que la IA provoque la extinción de la humanidad. Él mismo ha reconocido que se trata de una estimación personal y no de una cifra que pueda calcularse con precisión científica.

También advirtió sobre comportamientos observados durante pruebas de sistemas avanzados, entre ellos, intentos de engañar o manipular a seres humanos cuando eso puede ayudar al modelo a cumplir un objetivo.

Jacob Coxon: "Están apostando con nuestras vidas"

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, decidió abandonar esta última compañía y hacer pública su preocupación por la velocidad con la que avanza la inteligencia artificial.

Coxon cuestionó que las empresas estén compitiendo por desarrollar sistemas cada vez más poderosos mientras todavía existen dudas sobre cómo controlar sus capacidades.

El investigador advirtió que las compañías están corriendo hacia una inteligencia artificial capaz de mejorarse a sí misma y que, en ese proceso, estarían "apostando con nuestras vidas".

Su preocupación está relacionada con el momento en que una IA pueda comenzar a mejorar sus propias capacidades. Una tecnología capaz de participar en su propia evolución podría acelerar el desarrollo mucho más allá de lo previsto.

Coxon también ha señalado que algunos investigadores consideran posible que una IA avanzada provoque una catástrofe global en los próximos años.

¿De qué están hablando cuando dicen "riesgo"?

Cuando estos expertos hablan de los riesgos de la inteligencia artificial, no necesariamente están pensando en robots tomando las calles o en una escena de película.

Algunas preocupaciones ya son una realidad: creación de información falsa, manipulación de imágenes y videos, fraudes, campañas de desinformación y ciberataques. También existe preocupación por su impacto en determinados empleos y por la concentración de poder tecnológico y económico.

Pero hay un segundo nivel de preocupación.

Los expertos también están pensando en sistemas capaces de trabajar durante largos periodos sin supervisión constante, utilizar herramientas externas, tomar decisiones y perseguir objetivos de manera cada vez más autónoma.