“Deepfakes” se sofistican con uso de Inteligencia Artificial

(CRHoy.com).-Si ya eran un dolor de cabeza para muchos, ahora los deepfakes se sofistican con uso de herramientas de Inteligencia Artificial (IA).

En términos generales se puede definir a esta amenaza informática como una técnica respaldada por algoritmos conocidos como RGA (Redes Generativas Antagónicas o GAN, por sus siglas en inglés). Estos permiten la creación de imágenes falsas (fotografías, videos o audios) que resultan increíblemente realistas para cometer estafas virtuales o engaños en línea, detalla la firma Noventiq, dedicada a soluciones y servicios de ciberseguridad.

El término proviene del inglés "deep": profundo y "fake": falso y utilizan el aprendizaje profundo (una forma de aprendizaje automático) para crear contenidos que falsifican acontecimientos, define por su parte la empresa de detección de amenazas Eset.

"Un deepfake es la creación o modificación de un contenido multimedia para obtener un resultado con apariencia realista, se pueden utilizar para influir sobre la opinión pública, manchar la imagen de alguien o romper relaciones; la credibilidad radica en su calidad.

Esto ha dado lugar al mercado clandestino, donde existe una demanda mayormente significativa que la oferta en la dark web, la mayoría de estas ofertas va relacionada a la estafa con criptomonedas, los estafadores buscan duplicar la cantidad que se les pidió, va muy de la mano con requerimientos específicos como evadir sistemas de reconocimiento facial en cuentas bancarias, el costo varía de acuerdo con la complejidad del proyecto y la calidad del producto final", explicó María Isabel Manjarrez, investigadora de Seguridad en el equipo global de Investigación y Análisis para América Latina de Kaspersky.

Así logran duplicar la voz o los rasgos faciales de un individuo para luego agregarlos en una grabación o fotografía existente. El resultado muestra a las personas en situaciones en las que nunca estuvieron realmente implicadas; por eso también pueden utilizarse como medio de burla e incluso de acoso.

Los cibercriminales también utilizan la tecnología machine learning para conocer mejor a sus víctimas e identificar el momento ideal en el que realizar un ataque, incluso utilizar aplicaciones de deepfakes para suplantar la identidad de empleados de la empresa o imitar la voz de altos mandos de importantes compañías.

Uno de los fines es cometer fraudes para obtener algún beneficio, que puede ser económico o para hacerse pasar por otra persona para ingresar ilegalmente a un sistema crítico.

Con estos contenidos, el objetivo de la ciberdelincuencia es acosar, vengarse, realizar estafas, entre otros crímenes.

"Los deepfakes representan una amenaza en rápido crecimiento que se extiende más allá de la esfera de la tecnología. Desde la política hasta los negocios, la capacidad de manipular imágenes y videos con Inteligencia Artificial ha dado lugar a nuevas formas de fraude y difamación. Es hora de reconocer la urgencia de estar a la vanguardia en la lucha contra esta peligrosa herramienta y salvaguardar nuestra privacidad y seguridad", expresó Ingrid Mora, gerente general para Noventiq Costa Rica.

Según datos del Foro Económico Mundial, el fenómeno deepfake crece a un ritmo anual del 900%, cifra que respalda la forma en como escala este ciberdelito en todo el mundo, provocando fraudes, chantajes, manipulación, afectación en la reputación de individuos o empresas, además del fomento a la desinformación a través de "fake news" o noticias falsas.

"Uno de los grandes peligros de los deepfake para las empresas no es solo el robo de datos. Los riesgos reputacionales pueden tener consecuencias muy graves. Basta con la publicación de un video en donde, aparentemente, un ejecutivo hace declaraciones sesgadas de temas delicados.

Esto puede provocar, por ejemplo, la caída de la compañía en la bolsa de valores. Sin embargo, la posibilidad de que se produzcan estos ataques aún es baja por el alto costo de crear un deepfake realista", manifestó Dmitry Anikin, experto senior de seguridad en Kaspersky.

Los tipos

En resumen, se conocen 3 formatos más utilizados de deepfakes: videos e imágenes, que consisten en alterar o fabricar contenido visual para mostrar un comportamiento o información diferente al original; audio o voz, que crea o modifica audio que parece auténtico y texto: contenido escrito que parece ser redactado por una persona real.

En todos ellos, la IA que emplea múltiples capas de algoritmos de machine learning para generar contenido multimedia con apariencia realista.

De acuerdo con la compañía Kaspersky hay 3 tipos más comunes de deepfakes: el financiero, que consiste en suplantación de identidad para crear estafas; pornográficos, que son creación de contenido en el que la víctima aparezca en una situación comprometedora y estafas empresariales, que generan pérdida financiera o espionaje industrial.

Fraude financiero

Los ciberdelincuentes pueden utilizar deepfakes para hacerse pasar por celebridades, políticos y empresarios para que las víctimas caigan fácilmente en el engaño. Un ejemplo es un video creado artificialmente el año pasado con Elon Musk como protagonista. En la grabación falsa, el aparente fundador de Tesla prometía grandes ganancias si se seguían una serie de consejos para invertir en criptomonedas.

El contenido se volvió viral y muchos usuarios perdieron su dinero. Para crear deepfakes como este, los estafadores utilizan imágenes de personas de interés o combinan videos antiguos y publican material o transmisiones en vivo en redes sociales, prometiendo algún beneficio, como duplicar cualquier pago en criptomoneda.

Pornográficos

Con la foto de una persona, individuos malintencionados pueden crear una pieza en la que su víctima aparezca en una situación comprometedora. En varias ocasiones se han detectado videos de este tipo utilizando rostros conocidos, pero las víctimas también pueden ser personas anónimas, sufriendo graves consecuencias.

Quienes son involucrados en este ataque ven dañada su reputación y vulnerados sus derechos. Uno de los ejemplos fue el de la cantante Rosalía, quien fue víctima de una foto falsificada donde aparecía, supuestamente en "topless".

Estafas empresariales

Los deepfakes también pueden utilizarse para atacar a empresas mediante extorsión, chantaje o espionaje industrial. En una ocasión, los ciberdelincuentes engañaron al gerente de un banco de Emiratos Árabes Unidos con este método, robando $35 millones. A partir de una pequeña grabación de voz, crearon una locución con la que lograron estafar al responsable de la entidad.

En otro caso, los criminales trataron de burlar a la mayor plataforma de criptomonedas del mundo, Binance. Generaron un deepfake de uno de sus directivos y lo utilizaron en una reunión en línea para hablar en su nombre.

¿Cómo enfrentarlos?

Las empresas de ciberseguridad brindan una serie de consejos para enfrentar este desafío: