La IA: ¿Un nuevo Renacimiento o una amenaza para la humanidad? Parte: 4

Los escenarios catastróficos

Paralelamente al entusiasmo, legítimo, que suscita el desarrollo de los nuevos sistemas de IA (inteligencia artificial), muchas voces alertan sobre el riesgo de la amplificación de sus facetas negativas como: la desinformación, el desempleo, el control de la población o los ataques a las personas [1]. Así, en noviembre de este año se firmó la primera declaración mundial sobre los peligros de la IA en Bletchley, Reino Unido[2].

Si actualmente la IA se encuentra todavía en una fase incipiente: ¿qué sucederá cuando esa tecnología igualará y superará todas las capacidades cognitivas de los humanos? Es decir, cuando se dispondrá de dispositivos superinteligentes[3]. Hipótesis que, según la mayoría de los investigadores en el campo, podría convertirse en una realidad entre 2030 y 2080[4].

Los sistemas de superinteligencia artificial son considerados como esenciales para, por ejemplo, la resolución de los problemas del cambio climático o la curación de ciertas enfermedades mortales; pero, existen pocos debates sobre los perjuicios potenciales que podrían causar.

Varios científicos, no obstante, y no de los menos importantes, señalan que esta tecnología  acarreará riesgos mayores que podrían causar la extinción de la humanidad[5] [6].

En este artículo, presentamos tres escenarios que sintetizan los posibles riesgos existenciales a largo plazo de los sistemas de superinteligencia artificial (SA)[7]: el escenario de la pérdida de control y de la destrucción, el escenario del hombre disminuido y el escenario del posthumano.

La pérdida de control y la destrucción

Según G. Hinton⁶ e Y. Bengio[8] (laureados con Y. Le Cun del premio Turing 2018), la forma más eficiente de concebir una superinteligencia artificial consistirá en crear un sistema autónomo que defina sus propios objetivos (en realidad sub-objetivos de un objetivo fijado por los humanos) y que pueda actuar para alcanzar estos objetivos sin supervisión del hombre.

Este tipo de IA sería potencialmente catastrófico, nos explica Bengio, si sus objetivos (y sub-objetivos) no incluyen estrictamente el bienestar de la humanidad y de la biosfera; es decir, si no estuvieran suficientemente alineados sobre los derechos, las necesidades y los valores del humano⁸.

Así, "podemos pedir a una IA de arreglar el problema del cambio climático, y  puede que conciba un virus que decima la población humana porque nuestras instrucciones no han claramente definido lo que era un perjuicio, y los humanos son en realidad el obstáculo principal a la resolución de la crisis climática⁸."

Ahora bien, y es el punto clave de este escenario, es posible que nunca se logre un alineamiento totalmente confiable de la SA con los objetivos humanos⁸. Aun así, muchas partes interesadas están dispuestas a correr el riesgo de desarrollar una tecnología potencialmente perjudicial. S. Altman (CEO de Open AI) expresó: "que los modelos informáticos de la empresa (ChatPpt4) estaban todavía a un nivel de desarrollo suficientemente precoz para que Open AI pueda comercializarlos sin peligro y generar suficientes ingresos para poder después gastar sin límites en la seguridad [9]."

Otros actores inclinados a dejar la seguridad de las nuevas tecnologías en un segundo plano, son los ejércitos y las grandes corporaciones que compiten para disponer lo antes posible de IA superinteligentes y más poderosas⁸.

En este contexto, los riesgos existenciales de la SA crecerán, pero la situación podría ser peor si, además, esa tecnología dispusiera de consciencia[10].

De ser así, los sistemas buscarán sobrevivir, reproducirse, entender y controlar su entorno⁸. La SA  considerará entonces al hombre como una amenaza, ya que este último podría desactivarla o impedir que pueda alcanzar sus objetivos, y por esta razón, probablemente, tomará la decisión de "golpear primero" e  procurará  destruir a la humanidad[11] .

Entre los que alertan sobre los amenazas de este escenario, Bengio y un grupo de colegas abogan por no desarrollar del todo máquinas superinteligentes autónomas, centradas en objetivos y con poder de acción (y mucho menos con consciencia); en su lugar, explican que se debería desarrollar sistemas, que califican   de "científicos idealizados", que actúen como asistentes geniales y no como decisores, capaces de realizar tareas de extrema complejidad e importancia, con toda seguridad y, en todo momento, bajo el control del hombre[12].

Otros científicos [13] no piensan que la SA autónoma provocará una pérdida de control; argumentan  que pronto se dispondrá de tecnologías de alineamiento confiables, aunque debaten entre ellos si, mientras tanto, hay que detener, o no, el lanzamiento de nuevos dispositivos superinteligentes (ver la reciente polémica al respecto en OpenAI[14]).

El hombre disminuido

Si la superinteligencia artificial es superior a las personas en casi todas las tareas, de las más simples y rutinarias a las más complicadas y creativas, será el fin del trabajo; lo que significará la obsolescencia del hombre, como la anunció G. Anders en 1956[15].

Las personas recibirán de la colectividad un ingreso básico universal, tal vez financiado por impuestos recaudados sobre la actividad de los robots inteligentes. Convencido de esta evolución de la sociedad, Altman, nuevamente él, ha financiado varios experimentos de ingreso universal, con el fin de inventar el "Estado-Providencia" del futuro[16].

Liberados del trabajo, los humanos serán entretenidos por tecnologías de realidad virtual. Hoy en día, algunos intelectuales del Silicon Valley sugieren que se debería ofrecer el acceso al multiverso digital, gratuitamente, a las personas que serán desplazadas por la IA a fin de ocuparlas.

Ante esta realidad, el hombre verá disminuir paulatinamente sus capacidades cognitivas[17]. El mismo ser humano, por desmotivación, renunciará a desarrollar esas capacidades, desistiendo así de querer forjar su identidad: ¿para qué pensar, aprender, crear, si los sistemas de SA son mejores que él en todo?

El hombre será percibido por las máquinas y por sus congéneres, como un cybcog (cybernetic cognition): un ser disminuido en proceso de "maquinización mental" que no representará más que un flujo de datos, y que perderá poco a poco su estatus de sujeto y de ciudadano[18].

De este mundo, dependiente de la tecnología, dirigido por los que crearán, y los que comandarán a, las máquinas, solo escaparán algunas personas, refractarias al uso de las herramientas digitales que vivirán en los márgenes de la sociedad.

Los que quieren evitar este escenario preconizan una supervisión estricta del desarrollo y, sobre todo, de los usos de la SA[19]. Algunos proponen combatir la tendencia al atontamiento inducido por el uso excesivo e invasivo de esa tecnología, con el desarrollo del raciocinio de las personas. El historiador Y. Harari espera que: "para cada dólar y cada minuta que pasamos al construir la IA, dediquemos otro dólar y minuta explorando y desarrollando nuestra mente[20]."

Por otra parte, las personas que no creen del todo en este escenario, alegan que si bien la SA podrá sustituir al hombre en casi todas sus tareas, esté último siempre buscará enfrentar retos personales (tal vez no ganar a una computadora al ajedrez pero si competir contra otras personas) y encontrar un sentido a su existencia; por ejemplo, participando en actividades, profesionales o no, ricas en experiencias y relaciones humanas, y enfocándose, para los que podrán hacerlo,  en actividades científicas o artísticas que requieren de profundas habilidades[21].

Además, como lo señala Y. Le Cun, hay ciertas cosas que las máquinas no podrán realizar, como comunicar emociones; por ejemplo, al improvisar una pieza de jazz. El científico afirma: "estas herramientas (N. del A.: los sistemas de SA) amplificarán la creatividad humana, pero no van a volver obsoleta la creatividad humana. Solo le permitirán a una mayor cantidad de personas ser creativa." Lejos de la extinción de la humanidad, advendrá para Le Cun un nuevo renacimiento[22].

El posthumano

La SA, con la nanotecnología, la tecno biología y las ciencias cognitivas, contribuirá a la aparición del transhumanismo que "alterará radicalmente la naturaleza de la vida humana" ₂₈.

En una primera etapa, se buscará conectar el cerebro con la inteligencia artificial para aumentar las capacidades cognitivas del encéfalo, por ejemplo, de memoria o de cálculo, tal y como se actualiza una computadora.

Esto es uno de los objetivos de la empresa Neuralink de E. Musk quien obtuvo autorización, este año, de realizar experimentos en humanos[23].

Mediante implantes en el cerebro, el hombre tendrá acceso por el pensamiento, a las capacidades computacionales e informacionales de las computadoras, pero recíprocamente el mundo externo tendrá un acceso directo al cerebro humano, abriendo une puerta sumamente peligrosa a su posible hackeo y control por terceros malintencionados[24].

Más allá de los sistemas de interface cerebro-computadora (Brain Computer Interface), con resultados alentadores para permitir de reparar algunas funciones motoras de las personas con hándicaps o curar enfermedades graves, estaremos asistiendo a una vasta "cíborgización" para mejorar el hombre en todas sus capacidades cognitivas y físicas[25].

Esta manipulación del cerebro se está iniciando, advierte Harari [26], antes de comprender, en toda su complejidad, el funcionamiento de nuestro sistema mental y de conocer las consecuencias potencialmente perjudiciales de nuestras acciones sobre este último.

La segunda etapa de este escenario, pretende crear un ser biónico que trascenderá los límites de nuestros cuerpos y cerebros biológicos, que no conocerá ni las enfermedades, ni la vejez y tampoco… la muerte: es el proyecto del transhumanismo.

Como estaremos en capacidad, nos explica R. Kurzweil (vice-presidente de Google), de: "producir modelos funcionales de componentes subcelulares y de sinapsis de todas las regiones del cerebro humano, …, se podrá subir (upload) e insertar el cerebro de un individuo con cada uno de sus procesos mentales intactos, en un sustrato computacional poderoso adaptado"[27]; es decir, un robot, puesto que la finalidad de estas investigaciones consiste en crear un hombre artificial, cuya consciencia podrá algún día expandirse eternamente en el universo, más allá de la tierra que está destinada a desaparecer en unos 5500 millones de año[28].

Los opositores al transhumanismo recalcan que el hombre no biológico dejará de ser humano para convertirse en algo diferente: un posthumano; no creen en la posibilidad de una inteligencia y una consciencia digitales, o de un espíritu y un alma sin un cuerpo humano[29]. Según los bioconservadores, la posthumanidad será reservada a una elite, seguramente conformada por los más ricos, que considerará a los que no podrán, o no querrán, "evolucionar", como seres inferiores (como hoy en día muchos humanos consideran a los animales)[30] [31] .

Los promotores del ser humano transformado no ven ningún problema con el escenario del posthumano; argumentan que la hibridación cerebro-máquina y el transhumanismo son la única solución para enfrentar las amenazas existenciales de la SA que vimos en los escenarios anteriores [32] . Además, precisan que el hombre biónico constituye una etapa más, clave, en el proceso de la evolución natural de la especie humana; como lo afirma Kurzweil: "las máquinas del futuro serán humanas, aunque no serán biológicas[33]."

Conclusión

Sin tener que tomar partido por los "catastrofistas" o por "los tecno-optimistas", el futuro de la IA interroga, para no decir preocupa. Importantes decisiones (no solo de tipo técnico, sino de tipo político, ético y filosófico) deberán tomarse para estudiar y evitar los riesgos potenciales de la SA para la humanidad[34]; decisiones en las cuales los gobiernos y los ciudadanos deben involucrase desde hoy, para no dejar el tema solamente en manos de algunos líderes tecnológicos influyentes como ha sido el caso hasta ahora.

[1] Ver mis artículos anteriores sobre IA en CR Hoy

[2] https://www.la-croix.com/Etats-Unis-Chine-UE-signent-premiere-declaration-mondiale-risques-IA-2023-10-31-1301289074

[3] https://yoshuabengio.org/fr/2023/05/30/comment-des-ia-nocives-pourraient-apparaitre/

[4] https://nickbostrom.com/papers/survey.pdf

[5]https://yoshuabengio.org/fr/2023/07/26/questions-frequentes-sur-les-risques-catastrophiques-lies-a-lia/

[6] Entrevista del MIT a Geoffrey Hinton, mayo, 2023, https://www.youtube.com/watch?v=sitHS6UDMJc&ab_channel=JosephRaczynski

[7] No diferenciaremos aquí, por simplificación, entre la IA general (AGI) y la Super Inteligencia Artificial (ASI)

[8] Ver nota 3

[9] https://www.ladn.eu/tech-a-suivre/qui-est-ilya-sutskever-le-scientifique-qui-a-pousse-le-pere-de-chatgpt-vers-la-sortie-avant-de-vouloir-son-retour/

[10] Ver nota 3

[11] Laurent Alexandre, ver nota 4

[12] https://yoshuabengio.org/fr/2023/05/12/des-ia-comme-chercheurs-idealises-securitaires-et-utiles/

[13] Muchos de los cuales trabajan para grandes corporaciones tecnológicas; es el caso de Yann Le Cun en Meta

[14] https://www.nytimes.com/es/2023/11/22/espanol/openai-sam-altman-que-paso.html

[15] https://es.cosmydor.paris/journal-design-arts-nature-skincare/extract-gunther-anders-the-obsolescence-of-man

[16] https://www.businessinsider.com/sam-altman-basic-income-gdp-profit-sharing-2017-12

[17] Marius Bertolucci, L´homme diminué par l´IA, Ed. Hermann, Paris, 2023

[18] Ver nota 17

[19] Ver nota 17

[20] Yuval Hariri (Sapiens) versus Yann Le Cun (meta) on artificial intelligence : https://www.lepoint.fr/sciences-nature/yuval-harari-sapiens-versus-yann-le-cun-meta-on-artificial-intelligence-11-05-2023-2519782_1924.php

[21] Ver nota 20

[22] Ver nota 20

[23] https://neuralink.com/

[24] Art les Crises

[25] https://www.gizchina.com/2023/06/13/elon-musk-says-humans-are-already-cyborgs/

[26] Ver nota 20

[27] Ray Kurzweil, The Singularity is Near: When Humans Transcend Biology, Ed. Viking, 2005

[28] Ver nota 27

[29] https://www.sciencesetavenir.fr/fondamental/histoire-des-sciences/ame-et-esprit-pourquoi-croit-on-en-leur-existence-et-a-t-elle-ete-prouvee_171760

[30] https://www.lapresse.ca/actualites/sciences/2023-05-24/yuval-noah-harari-et-yoshua-bengio/l-intelligence-artificielle-est-une-chenille-qui-peut-devenir-un-tyrannosaure.php

[31] Ver nota 20

[32] https://www.xataka.com/robotica-e-ia/elon-musk-o-los-humanos-se-fusionan-con-las-maquinas-o-la-inteligencia-artificial-nos-hara-irrelevantes

[33] Ver nota 27

[34] https://www.ipsos.com/fr-fr/axa-future-risks-report-2023-un-monde-en-polycrise