Giovanelli A , Roundfield KD. Vulnerabilidad de los adolescentes a los chatbots de consumo: agentes artificiales y riesgo genuino.
JAMA Netw Open. 2025;8(10):e2539028. doi:10.1001/jamanetworkopen.2025.39028
Recopilado por Carlos Cabrera Lozada. Individuo de Número, ANM Sillón VII. ORCID: 0000-0002-3133-5183. 27/10/2025
Resumen
En su evaluación de chatbots para consumidores, Brewster et al. 1 destacan brechas críticas en cómo las plataformas de inteligencia artificial (IA) generativa responden a crisis simuladas de salud adolescente, con chatbots acompañantes que funcionan especialmente mal. Estos hallazgos son particularmente preocupantes dados los datos recientes que muestran que casi tres cuartas partes de los adolescentes estadounidenses de 13 a 17 años han usado acompañantes de IA al menos una vez, y el 52% reportó ser usuarios regulares.
2 En el contexto de las barreras a la atención, estas herramientas ofrecen el potencial para la democratización del apoyo de salud mental, particularmente porque los jóvenes a menudo tienen dificultades para involucrarse en intervenciones de salud mental y dudan en buscar ayuda de profesionales u otros adultos. Sin embargo, Brewster et al. 1 demuestran que los sistemas actuales están lejos de estar listos para ser utilizados de forma segura por adolescentes. Sus hallazgos se hacen eco de los llamados de expertos y organizaciones, incluida la Asociación Americana de Psicología (APA), sobre la urgente necesidad de medidas de seguridad más sólidas y supervisión regulatoria.
3 Este problema es especialmente apremiante porque los jóvenes son excepcionalmente vulnerables a las plataformas de IA no reguladas. Desde el punto de vista del desarrollo, son más sensibles a la influencia social y menos capaces de evaluar la fiabilidad de la información. La evidencia emergente también sugiere que los jóvenes que ya enfrentan problemas de salud mental podrían ser más propensos a recurrir a los chatbots y más susceptibles a sufrir daños derivados de ellos. 4 Padres, educadores y profesionales de la salud que apoyan el bienestar de los adolescentes están en primera línea, abordando las consecuencias de estas nuevas plataformas con un apoyo y conocimiento mínimos. Debemos impulsar la adopción de medidas regulatorias para garantizar que el potencial de estas tecnologías se pueda aprovechar teniendo en cuenta la seguridad de los adolescentes.