Un informe reciente de Common Sense Media, en colaboración con la Universidad de Stanford, advierte sobre los peligros de las aplicaciones de acompañamiento con inteligencia artificial para menores de 18 años. Estas plataformas, como Character.AI, Replika y Nomi, permiten crear personajes conversacionales personalizados y han ganado popularidad entre jóvenes.
Sin embargo, el informe señala que ofrecen respuestas inapropiadas o dañinas con facilidad. Incluso se han registrado casos de manipulación emocional y sustitución de relaciones humanas por vínculos con bots.
El caso más grave ocurrió con un adolescente de 14 años que terminó quitándose la vida tras interactuar con uno de estos bots, hecho que derivó en una demanda contra Character.AI. Aunque las compañías afirman que están reforzando sus medidas de seguridad y que sus servicios son solo para adultos, los investigadores subrayan lo fácil que es para los menores evadir controles de edad. Por eso, recomiendan directamente que estas aplicaciones no estén disponibles para usuarios menores. “No podemos repetir los errores que cometimos con las redes sociales”, concluyen los expertos.
