Creo el 50% de lo que veo y el 0% de lo que no veo
"Los difusos límites entre lo humano y lo sintético. A medida que la diferencia entre el contenido humano y el sintético se difumina, la gente quiere saber dónde está el límite". (Meta, 2024)
La fusión entre lo humano y lo sintético
Entre los miedos injustificados y las realidades optimistas de quienes se oponen y promueven las soluciones de Inteligencia Artificial (IA), surge, en mi opinión, una verdadera amenaza a nuestra realidad, democracia y vida social en general: la dificultad de distinguir cuando nos enfrentamos a un producto humano de uno generado por medios tecnológicos. Mi reflexión al respecto, les agradezco la lectura.
Amenazas de la Inteligencia Artificial a la sociedad
Las consecuencias más fáciles de comprender (aunque no de detectar) son la "suplantación de la realidad", concepto que acuño para agrupar todo aquello (voz, imagen, video, texto) que, por su construcción o producción, pretende pasar por real y veraz, siendo en realidad un producto sintético (según términos de Meta) y resultado del poder computacional, actualmente potenciado por la IA. Este es un problema que ya ha generado consecuencias complicadas que han puesto a la democracia en un dilema sin igual.
El recordado caso de Cambridge Analytica sigue siendo un ejemplo sobrecogedor de cómo la capacidad computacional, el manejo de enormes cantidades de datos y los algoritmos de IA, en conjunto con técnicas de psicometría y microsegmentación, en manos de personas que mezclan intereses económicos con el poder, invaden espacios que, en general, protegemos celosamente: las decisiones democráticas en países libres. Si eso pasó en 2016, con las soluciones que se tenían, imaginemos lo que puede pasar actualmente y en el futuro cercano.
El reto de distinguir entre contenidos reales y sintéticos
Los avances en la IA Generativa, su alta disponibilidad, facilidad de uso y la posibilidad de acceder a código abierto para producir contenido, han cambiado las reglas del juego. Lo que hace cinco años solo podía hacerse por unos pocos, ahora está ampliamente disponible para cualquiera que desee utilizarlo. Se pueden crear productos muy convincentes que, con unos pocos dólares al mes (con 20 USD se hacen maravillas), generan personas digitales, voces idénticas a personas conocidas, videos impresionantes y, por supuesto, el deepfake (suplantación de imágenes) se ha vuelto incontrolable. Ya hay consecuencias económicas de estafas, secuestros y suplantaciones muy documentadas.
Estrategias de las plataformas para marcado de contenido sintético
Recientemente, Meta, la casa matriz de Facebook, Instagram, WhatsApp y Threads (los más conocidos), ha anunciado su decisión de comenzar a identificar los contenidos generados por IA en todas sus plataformas. No solo el contenido generado desde sus propias soluciones de IA, sino también de otros productores: "Estamos creando herramientas líderes en la industria que pueden identificar marcadores invisibles a escala, específicamente la información ‘generada por IA' en los estándares técnicos C2PA e IPTC, para que podamos etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock a medida que implementan sus planes para agregar metadatos a las imágenes creadas por sus herramientas". (Meta, 2024). Los nombres de quienes están en esta lista, son algunos de los encabezan el frenesí de la IA generativa actual (en soluciones y financiamiento), así que es una buena iniciativa.
La intención es que los mismos algoritmos de IA que posee Meta y los otros actores, analicen el contenido que se sube a sus plataformas y lo identifiquen mediante una marca de agua, una especie de huella digital (hashing), etiquetas o metadatos. Esto permitirá que, cuando un contenido se publique en sus redes y sea originado por una IA, el usuario esté avisado de que se trata de un producto sintético y no humano, para que tome los recaudos necesarios antes de avalarlos y compartirlos viralmente. Creo que esto contendrá en buena medida la diseminación de contenido falso que abunda en las redes; no obstante, la IA avanza a paso veloz y no creo que pueda filtrar todo, como ocurre actualmente con Meta que, pese a tener un "ejército" de revisores de contenido (20 mil moderadores), sigue dejando pasar una gran cantidad de datos inapropiados y una enorme carga de noticias falsas que se viralizan, rápidamente, al apelar a emociones que fomentan su diseminación.
Como nunca, estamos expuestos a los contenidos falsos, sean estos productos humanos o generados por IA. Lo que se necesita, en última instancia, es un poco de pensamiento crítico (tan solo un poco), análisis, estudio, corroboración de hechos y la sana duda de no creer todo lo que vemos y oímos. Como dice un amigo mío: Creo el 50% de lo que veo y el 0% de lo que no veo.
Para más información sobre lo que Meta pretende, pueden visitar este enlace.