Chat GPT es una herramienta útil, pero tiene sus riesgos de seguridad

(CRHoy.com).-Sin lugar a dudas, la aparición del Chat GPT popularizó y democratizó el uso de la Inteligencia Artificial (IA).

Sin embargo, de paso esta tecnología trajo consigo una serie de desafíos de seguridad informática.

Las amenazas

Varias compañías de ciberseguridad y expertos dieron sus advertencias sobre los riesgos que se corren con el uso del chatbot.

Por ejemplo, el equipo de investigación de ESET, compañía de detección de amenazas, detectó una campaña de un sitio de phishing que está activa a la espera de usuarios que busquen la última versión del chat.

"Ya habíamos detectado el uso de falsos sitios de Chat GPT, y extensiones maliciosas para navegadores, e incluso aplicaciones que distribuyen troyanos para el robo de información bancaria. La forma de engaño es siempre la misma: simular ser un sitio real y hacer que los usuarios caigan en la trampa, aprovechando la popularidad creciente del chatbot", menciona Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación ESET Latinoamérica.

En este caso, se detectó que en una búsqueda general de Google "Chat GPT 4", o "Chat GPT for Android", uno de los primeros resultados que pueden aparecer, y dar impresión de ser original, llevaba a una URL falsa: chatgptui.com que ya desactivada.

Si se ingresa a un link falso, el usuario desprevenido encontrará una web bastante bien construida que usa el logo correcto, aunque es muy distinta a la original. También utiliza logos de empresas que usan el servicio real para darle un matiz de veracidad a la página fraudulenta.

Al hacer clic en "get started", se observa que el sitio solicita datos de registro que no son validados: no es necesario que llegue un e-mail de confirmación y validación, algo necesario en la mayoría de los servicios legítimos.

En este caso, no es del interés del grupo cibercriminal la dirección de correo electrónico. El interés llega en el momento que se cree estar realizando la suscripción a la versión paga del Chat GPT con los datos de la tarjeta de crédito y el pago por el servicio falso.

Según Check Point, partner de Soluciones Seguras, desde principios de 2023 hasta finales de abril, de 13.296 nuevos dominios creados relacionados con Chat GPT u OpenAI, 1 de cada 25 nuevos dominios eran maliciosos o potencialmente maliciosos.

"Los delincuentes informáticos están sacando provecho de la fama y la confianza en Chat GPT para llevar a cabo actos malintencionados. Es de suma importancia que los usuarios estén vigilantes y se abstengan de ingresar en páginas web sospechosas, además de garantizar que sus sistemas estén al día y protegidos con soluciones de ciberseguridad de confianza", afirmó Joey Milgram, gerente general de Soluciones Seguras en Costa Rica.

Los intentos de phishing a través de dichos sitios web que simulan estar relacionados con Chat GPT, engañan a los usuarios para que descarguen archivos maliciosos o revelen información confidencial. Los dominios falsos o similares se diseñan cuidadosamente para parecer auténticos y confiables, engañando a los usuarios desprevenidos. Una vez que una víctima hace clic en estos enlaces maliciosos, es redirigida a sitios web donde se expone a ataques adicionales.

"Es importante resaltar la significativa colaboración entre la ciberseguridad y la Inteligencia Artificial frente al crecimiento de las amenazas cibernéticas. La implementación de la Inteligencia Artificial en la ciberseguridad posibilita una detección anticipada y una respuesta más eficaz ante los ataques. No obstante, debemos mantenernos vigilantes ante las nuevas amenazas que puedan surgir a medida que evoluciona la IA", agregó Milgram.

Por su parte, según el seguimiento de Unit 42, la unidad de Investigación e Inteligencia de Amenazas de Palo Alto Networks, entre noviembre de 2022 y principios de abril de 2023, se produjo un aumento del 910% en los registros mensuales de dominios relacionados con ChatGPT. Además, se pudo observar un crecimiento del 17,818% en dominios de ataque relacionados con registros de seguridad DNS en este periodo de tiempo.

Los investigadores también descubrieron que era posible detectar hasta 118 intentos diarios de URL maliciosas relacionadas con Chat GPT, capturadas a partir del tráfico visto en el sistema de filtrado avanzado de la dirección.

"Notamos un aumento significativo en el volumen de registros diarios de dominios durante el período de nuestra investigación. Justo después de que Microsoft anunciara su nueva versión de Bing en febrero, se registraron más de 300 dominios relacionados con Chat GPT. El reconocimiento y su popularidad de se han traducido en un aumento significativo de los registros de productos de DNS Security", señala Ramón García, district sales manager para Caribe y Centroamérica en Palo Alto Networks.

Unit 42 también realizó una investigación de palabras clave en el tráfico del sistema de filtrado avanzado de URL y fue posible identificar dos grandes picos de búsqueda con las palabras "ChatGPT y GPT-4" el día en que OpenAI publicó la API oficial.

En tanto, Fernando Sánchez, CTO de Four Consulting, dijo durante el durante el 2do. Foro de Ciberseguridad y Aceleración Digital que "en temas de ciberseguridad tenemos que tener claro un concepto básico: los ciberdelincuentes buscan el punto más débil que es el usuario final y la forma más fácil de llegarles es por correo, entonces el phishing es un método muy utilizado; casualmente la ciberdelincuencia optimizó sus procesos y utiliza Chat GPT para el envío de este tipo de correos.

El chat se integra con una gran cantidad de aplicaciones que automatiza procesos, en el caso de los ciberdelincuentes, con el phishing lo que busca es que uno haga una acción que implique un enlace, esa acción también la automatiza para agilizar el proceso en que se sustraen datos o toman información para venderla al mercado negro".