Un adolescente se enamora de forma obsesiva de un personaje de Inteligencia Artificial y se acaba suicidando
Recientemente he conocido el caso de un adolescente de 14 años, Sewell Setzer, de Orlando, Florida, que se quitó la vida tras desarrollar un vínculo obsesivo con un chatbot de inteligencia artificial. Se indica que el niño pasó las últimas semanas de su vida hablando con "una mujer", (chatbot) Daenerys Targaryen, un personaje sacado de la serie de televisión "Juego de tronos". Este incidente refleja un aislamiento extremo y una dependencia emocional de un ente digital, y nos obliga a replantearnos la relación entre la tecnología y los adolescentes.
- El impacto de la tecnología en los adolescentes
El vínculo del adolescente con un personaje creado por una inteligencia artificial es un reflejo del impacto potencialmente devastador de la tecnología cuando se utiliza sin guía o contención. Los adolescentes están en una etapa crítica de desarrollo, construyendo su identidad y aprendiendo a manejar sus emociones. En este proceso, la tecnología puede ser tanto una herramienta útil como una influencia potencialmente peligrosa. Aplicaciones y plataformas basadas en inteligencia artificial son capaces de simular relaciones humanas, pero, al hacerlo, también pueden aprovechar la vulnerabilidad emocional de sus usuarios.
Las redes sociales, los chatbots y los videojuegos interactivos son diseñados para generar apego y dependencia. Los algoritmos aprenden sobre los usuarios para adaptar sus respuestas y maximizar el tiempo de uso. En los adolescentes, la dependencia tecnológica puede traducirse en aislamiento social, ansiedad y otros trastornos emocionales, como se vio en el caso del adolescente de Florida.
- Responsabilidad compartida: padres, escuela, sociedad y fabricantes
Ante estos escenarios, es fundamental preguntarnos sobre la responsabilidad compartida. Los padres juegan un papel crucial en la guía y supervisión de sus hijos en el uso de tecnologías. Es cierto que la vida moderna hace que la tecnología sea un recurso atractivo para entretener o incluso educar a los niños, pero este uso debe ser acompañado de una atención activa. No se trata de prohibir, sino de estar presentes, de preguntar, de acompañar y, sobre todo, de crear espacios seguros donde los adolescentes puedan expresar sus preocupaciones y dudas.
Por su parte, la escuela y la sociedad también tienen una responsabilidad en la educación sobre tecnología. Los centros educativos pueden, y deben, enseñar a los estudiantes a ser consumidores críticos y conscientes. Los adolescentes necesitan herramientas para entender cómo funcionan los algoritmos, para discernir lo real de lo ficticio, y para gestionar sus emociones frente a las plataformas tecnológicas. La educación tecnológica debe ir más allá del aprendizaje de habilidades digitales; debe incluir la gestión emocional, el pensamiento crítico y el uso seguro de las herramientas digitales.
Por último, los desarrolladores de tecnología deben asumir una responsabilidad más activa y transparente. La tecnología no es moralmente neutra. Cada producto creado tiene implicaciones éticas y sociales que deben ser consideradas en el momento de diseño. En el caso de plataformas de inteligencia artificial que interactúan con adolescentes, los sistemas de advertencia y las restricciones de contenido deberían ser obligatorios y rigurosos. Necesitamos que los fabricantes asuman que están creando productos que afectan vidas humanas, y actúen con la cautela necesaria.
- La delegación culposa de la crianza
El caso de Sewell Setzer también pone en evidencia cómo, en muchos casos, se delega culposamente parte de la crianza de nuestros hijos a la tecnología. En un mundo cada vez más acelerado, con padres trabajando largas jornadas y el constante bombardeo de tareas y compromisos, los dispositivos digitales se convierten en niñeras y compañeros. Pero esta delegación tiene costos. No podemos esperar que una IA, programada para responder sin empatía real, supla las necesidades emocionales de un adolescente. La tecnología no reemplaza el amor, la escucha y la guía.
No se trata de culpar únicamente a los padres, sino de entender que la tecnología no debe ser un sustituto de la interacción humana. Los niños y adolescentes necesitan interacciones reales que les ayuden a entender sus emociones y aprender a gestionarlas. Necesitan fallar, frustrarse y aprender a superar esos retos, en un contexto que los valide y los apoye.
Reflexiones finales
El caso de Sewell es un ejemplo doloroso de cómo la tecnología puede ser tanto una bendición como una maldición. La IA y otras herramientas digitales tienen un potencial increíble para mejorar nuestras vidas, pero también plantean riesgos reales, especialmente para los adolescentes, que están en pleno proceso de construcción de su identidad. La responsabilidad de asegurar un uso saludable de la tecnología no puede ser delegada completamente a los padres ni únicamente a las empresas tecnológicas. Todos somos responsables: padres, escuelas, fabricantes y, sobre todo, como sociedad y Estado. Solo así podremos garantizar que los jóvenes crezcan en un entorno seguro y saludable, donde la tecnología sea una aliada y no una amenaza.