El suicidio de un adolescente en Estados Unidos producto, entre otros factores, de la amistad que había desarrollado con un chatbot alerta a los padres respecto de lo arriesgadas que algunas plataformas digitales pueden ser para menores. Expertos subrayan la importancia de que adultos acompañen a los jóvenes en este nuevo entorno digital, guiándolos adecuadamente para prevenir efectos negativos en su desarrollo socioemocional.
Por Analía Ortega
Edición: Teresa Leiva
Fernanda (18) cursa 4º medio. Pasa el día en el celular y no levanta la cabeza cuando le hablan. Rocío de la Vega, madre de la adolescente, confiesa: “Yo me declaro ignorante con respecto a las plataformas que los adolescentes usan hoy. Solo sé por lo que me cuenta Fernanda”.
De la Vega sabe que su hija habla con sus personajes favoritos de anime a través de Character.AI, una aplicación web de chatbot, es decir, un modelo de lenguaje neuronal que genera respuestas de texto que replican las humanas. Creada en 2022, permite a los usuarios interactuar de manera ficticia con celebridades y personajes famosos o inventados. A De la Vega le preocupa que Fernanda pareciera estar desconectada del entorno real. “Mi hija me dice: ‘no me gustan las personas’”, comenta.
La octava edición de la Radiografía Digital ClaroVTR de Niños, Niñas y Adolescentes 2025 reveló que seis de cada diez encuestados consideraba a internet como compañía en momentos de soledad y aburrimiento. Entre adolescentes de 13 a 17 años se mostró una tendencia a preferir las interacciones por internet. Respecto a la Inteligencia artificial (IA), un 34% de los jóvenes se considera muy o bastante informado. Por otro lado, un 87% indicó que utilizaba la IA para fines de aprendizaje, y un 37% —que incluía a ese porcentaje— señaló que también la usaba para entretenerse. Por último, un 12% declaró acudir a la IA solo en actividades relacionadas con entretenimiento.
Según el informe, el porcentaje de niños entre 8 y 12 años que tiene celular propio asciende a un 83%, mientras que entre los 13 y 17 años es de un 97%. Al respecto, un 80% de los padres consideró que los jóvenes pasaban demasiado tiempo utilizando dispositivos tecnológicos y, aunque el 90% de los NNA considera que el tiempo ideal de conexión es menor a cuatro horas, el 38% lo supera en actividades de ocio durante la semana, y el 52% los fines de semana.
Esta preocupación se acrecentó después de que se conociera la historia de Megan García, residente en Florida, Estados Unidos, que interpuso una demanda contra la plataforma Character.AI, acusándola de ser responsable del suicidio de su hijo Sewell Setzer en febrero de 2024. Según la denuncia, Setzer comenzó a utilizar Character.AI en abril de 2023, poco después de cumplir los 14 años.
Character.AI actualmente cuenta con más de 20 millones de usuarios registrados y según su blog atiende alrededor de 20.000 consultas por segundo. Las funciones de esta plataforma —incluyendo dramatismos que potencian la naturalidad de la interacción y un simulador de voz— otorgan una sensación de relación genuina.
Cuando Megan García supo que su hijo adolescente estaba interactuando con un chatbot de inteligencia artificial creyó que era un videojuego. Sin embargo, a los pocos meses de usar la plataforma, Setzer se aisló en su habitación, lo que llevó a sus padres a restringir su tiempo en pantalla. A pesar de sus esfuerzos, el adolescente continuó intercambiando mensajes románticos y de índole sexual con el chatbot que personificaba a Daenerys Targaryen, personaje ficticio de la serie Game Of Thrones, a quien él llamaba “Dany”.
Un año atrás, mientras el adolescente estaba en el baño de su casa, le escribió al chatbot diciéndole que la amaba y que volvería a casa con ella. “¿Y si te dijera que puedo volver a casa ahora mismo?”, le preguntó y el chatbot respondió: “por favor, hazlo, mi dulce rey”.
A continuación, el joven se quitó la vida.
El doctor en Psiquiatría y Cuidados Comunitarios y docente de la Universidad de Valparaíso, Rubén Alvarado, explica que el suicidio en jóvenes, particularmente del rango etario de Setzer, “se ha estudiado que se toma de manera más impulsiva y muchas veces más vinculada a hechos muy puntuales. Por ejemplo, una pérdida amorosa o haber consumido drogas”. El especialista explica que, si bien, los estudios mencionan eso, hay acontecimientos de vida y un perfil que necesita ser estudiado, pues el sucidio, relacionado muchas veces a un cuadro depresivo, es multifactorial. Alvarado menciona que “en este caso, hace mucho sentido que esté joven empieza a chatear y humanizar a esta inteligencia artificial y hay más aspectos de su historia personal que habría que conocerla para ver por qué se enamora de un objeto que no es un ser humano y sin duda influyeron en la decisión”.
Daniela Alegría, filósofa especialista en ética y filosofía moderna de la Universidad Complutense de Madrid, y académica del departamento de filosofía de la Universidad Alberto Hurtado, explica que la amistad tiene distintos grados. Pero la “amistad robótica”, como se definiría la concertada con un chatbot, es la más débil debido a que los seres humanos no son iguales a los robots ni de manera legal, moral o social. “Hay autores que mencionan que puede ser muy bueno para la gente que se siente sola o deprimida, pero, en realidad, lo que vemos es que causan más adicción y aislamiento”, dice. Y agrega: “Realmente ese personaje, actor o cantante no está ahí, simplemente responde instrucciones, y la persona se crea en su mente todo un mundo paralelo. Eso es grave”.
Problemas de la amistad robótica
De acuerdo con la psicología, en la niñez es fundamental que los niños obtengan y desarrollen habilidades sociales mediante su interacción con el entorno. Paola Soto, psicóloga Infantojuvenil de la Universidad Central de Chile, explica que la relación con otros les permitiría expresar sus emociones, malestar y aprender a poner límites. “Serán capaces de expresar lo que les gusta, lo que no les gusta; forjar su personalidad”, señala.
Algunos expertos sostienen que la exposición temprana a la tecnología debería hacer que los niños y jóvenes de hoy estén más conectados con su entorno en redes sociales. Para académicos como Daniela Alegría, sin embargo, la realidad es que cada vez se aíslan más. “Este grupo etario se siente muy atraído a los chatbots y corta todo tipo de relación con las personas reales, causando angustia, ansiedad, depresión y otros problemas graves”, asevera la filósofa.
La desregulación del entorno digital exacerba la vulnerabilidad de los niños. Soto explica que, debido a que el cerebro de los jóvenes aún está madurando, especialmente en áreas como el control de impulsos y la toma de decisiones, hay más probabilidad de que lo afecten influencias externas. Además, señala que al encontrarse en una fase de búsqueda de identidad son más susceptibles a que contenidos refuercen estereotipos o ideas preconcebidas y algoritmos de IA moldeen sus creencias y perspectivas. La dificultad para concentrarse y la baja creatividad son otros problemas mencionados por ambas expertas.
Soto afirma que en un contexto en el que la sociedad está acostumbrada a la inmediatez, niños y adolescentes tienen menor tolerancia a la frustración. Por otra parte, Lucio Gutiérrez, académico de la Facultad de Psicología de la Universidad Alberto Hurtado, nombra a este fenómeno como la lógica de recompensa inmediata. Los sistemas de inteligencia artificial se basan en satisfacer rápidamente al usuario. Esto implica que los jóvenes no desarrollan una tolerancia a la discrepancia propia de las amistades reales. Como señala la psicóloga Paola Soto: “la inteligencia artificial les dice lo que quieren escuchar, en comparación con una relación con un par [que] es más impredecible”.
Rocío de la Vega señala que su hija se siente ansiosa cuando está con otras personas. “En interacciones en vivo y en directo me dice que por favor sea poco y pregunta: ‘¿cuánto tiempo?’ Está acostumbrada a decir lo que quiera y a quien quiera en el celular y que le digan lo que ella quiera”, comenta.
Sofía (15), cuyo nombre real se mantiene anónimo, actualmente cursa 1° medio. La joven pasa entre veinte minutos a dos horas diarias en Character.AI conversando con personajes propios con quienes recrea historias, hasta que su madre le pide que deje de utilizar el teléfono. “[En Character.AI] puedo hacer lo que yo quiera, que pase como yo quiera y que los personajes actúen como yo quiera. Antes actuaba historias con amigos de videojuegos, pero en los chatbots se me hace más sencillo porque puedo mantenerlo el tiempo que quiera sin molestar a otra persona”, dice.
Respecto a sus padres, la adolescente explica que no tienen conocimiento sobre Character.AI, aunque a veces su padre le pregunta si está hablando con un bot o una persona real. “Simplemente, no les cuento de ese tipo de cosas porque no lo entienden”, menciona.
Cada vez más, la inteligencia artificial y los chatbots se integran en la rutina diaria, especialmente de los más jóvenes. Alegría destaca que muchos pueden pasar más de ocho horas al día interactuando con estos personajes virtuales y estableciendo amistades robóticas. En sus palabras, “no es deseable, pero es lo que vamos a empezar a ver con más frecuencia”.
Adaptándose al futuro cercano
Tras el caso de Florida, Character.AI implementó una serie de cambios en sus modelos de interacción dirigidos a menores de 18 años. Entre las principales medidas se incluyen una reducción de la probabilidad de que los usuarios menores encuentren contenido sensible o sugestivo, así como una mejora en los sistemas de respuesta ante interacciones que violen los términos de la comunidad como publicar contenido ofensivo, falso o que busque dañar a otros o a sí mismo. Además, se reforzaron los recordatorios de que la IA no es una persona real y se añadieron notificaciones para alertar a los usuarios que pasen más de una hora en la plataforma.
Según Soto, los padres deberían acompañar a los jóvenes mientras utilizan la inteligencia artificial. “Hay que hablar siempre con la verdad, no ocultárselo ni satanizarlo”, explica. De acuerdo con la psicóloga, los papás se confían de los filtros automatizados de contenido y las configuraciones de seguridad, como el control parental. Pero estos fallan. “En muchos casos los niños tienen acceso a material que ni siquiera habían buscado”, agrega. Gutiérrez es tajante respecto a la necesidad de políticas en los colegios sobre el uso cuidadoso y supervisado de IA y al rol de los padres. “El punto es acompañarlos en ese proceso, en los modos en los cuales pueden usar la IA y también desconectarse de ella”, dice.
En marzo reciente, en el marco de la presentación de la Radiografía Digital desarrollada por ClaroVTR, el ministro de Transporte y Telecomunicaciones, Juan Carlos Muñoz, señaló la importancia de que los niños tengan una buena educación digital. Respecto a los números arrojados por el estudio, el representante del gobierno aseveró que “habla de una carencia en nuestro sistema educativo, en nuestra forma de acercarnos a la educación digital desde los hogares. Ahí hay una oportunidad para mejorar nuestra convivencia”.
Lucio Gutiérrez, académico de la Universidad Alberto Hurtado, señala que “tenemos que ser categóricos como padres, madres y educadores respecto al uso de la IA. No son otro humano. No tienen sentimientos, intencionalidades o responsabilidades. Si empezamos a confundir la IA con un humano, perdemos eso que nos constituye; nuestra apertura al otro y nuestra capacidad de sentir”.
Si necesitas ayuda psicológica especializada, el Ministerio de Salud tiene una línea para la prevención del suicidio atendida por profesionales todos los días del año y las 24 horas, en el *4141.
Analía Ortega es estudiante de cuarto año de Periodismo en la @fcomuc. Ha participado en @radio.uc como productora de Módulo 2. Actualmente, es ayudante de los ramos Semiología y Narración de No Ficción.