¡Atención!
Para participar en el foro de esta ponencia y recibir las notificaciones es obligatorio activarlo previamente para su usuario. Para ello, debe pinchar en el botón “suscribirse” un poco mas abajo. Podrá elegir si quiere recibir en su email todas las notificaciones o solo las respuestas a sus comentarios.
¡Disfrute del Congreso!
Estimada, Anna:
Muchas gracias por tu comunicación. Extremadamente interesante.
Me preguntaba si consideras que hay actividades/temáticas donde los chatbots puedan ser más beneficiosos o más peligrosos (según sea el caso) dentro de los servicios infantiles/juveniles.
Un abrazo y gracias de antemano.
Gracias por tu mensaje, Alonso.
En mi opinión, los chatbots pueden ofrecer beneficios en servicios infantiles y juveniles en actividades que requieran refuerzo educativo, atención personalizada o como estímulo de la creatividad. Por ejemplo, pueden ayudar en el aprendizaje de idiomas, ofrecer ejercicios interactivos y servir de apoyo en tutorías virtuales.
Por otro lado, también pueden resultar peligrosos cuando se abordan temas sensibles. En cuestiones relacionadas con la salud emocional o situaciones de vulnerabilidad, se requiere la intervención de profesionales. Asimismo, existe el riesgo de exponer a los menores a contenidos inadecuados si la programación no es rigurosa.
Creo que es fundamental definir con claridad el propósito de cada chatbot y contar con la supervisión adecuada por parte de padres o educadores. La comunidad científica recomienda la integración controlada de estas herramientas para aprovechar sus ventajas y reducir sus riesgos.
Un abrazo y gracias nuevamente por tu pregunta,
Anna
Enhorabuena por la comunicación presentada, me surge una curiosidad sobre Duolingo, algunos alumnos me han planteado que la política que utiliza este App para el seguimiento del proceso formativo en el aprendizaje de idiomas genera en ellos adicción. ¿Es posible que esté utilizando técnicas persusivas o captacionales que generen adicción en los usuarios? ¿Es realmente recomendado para niños?. Muchas gracias y un saludo
Muchas gracias por tu comentario y por la pregunta tan interesante sobre Duolingo. En efecto, esta aplicación emplea técnicas de gamificación avanzadas para motivar a los usuarios en su proceso de aprendizaje de idiomas. Entre estas estrategias encontramos:
Uso de recompensas y refuerzos positivos: Emplea sistemas de puntos, rachas diarias y refuerzos visuales para incentivar la constancia.
Mecánicas de juego basadas en la dopamina: Elementos como cofres de recompensas, ligas y desbloqueo de niveles activan circuitos de recompensa en el cerebro, lo que puede fomentar un comportamiento repetitivo.
Notificaciones y presión social: Los recordatorios constantes y la comparación con otros usuarios pueden generar un sentimiento de urgencia por mantener la actividad diaria.
Estos elementos, si bien pueden aumentar la motivación, también pueden generar una sensación de dependencia o adicción en ciertos usuarios, especialmente en niños y adolescentes.
Por tanto, sería recomendable que los padres o docentes supervisen el uso de la aplicación y fomenten una relación equilibrada con la tecnología, evitando que se convierta en una fuente de estrés o adicción.
Gracias de nuevo
Un cordial saludo,
Anna
Muchas gracias Anna por esta ponencia tan exhaustiva y clarificadora.
Gracias, Paz, por tu comentario.
Un cordial saludo,
Anna
Muchas gracias por tu comunicación y enhorabuena por tu trabajo.
Como psicóloga mi preocupación es la salud psíquica de los niños, por eso mi pregunta va hacia la posible dependencia emocional que pueden generar hacia los chatbots. Ya no irnos a casos extremos como suicidios acontecidos, sino a la tendencia a no establecer vínculos emocionales fuera del chatbot y la probable también incomunicación social, con lo que todo esto representa para la infancia. ¿Crees que pueden generarse herramientas diseñadas en los propios chatbots para poder defender al niño de estos peligros? Muchas gracias
Muchas gracias, María Nieves, por tu interés y por plantear una cuestión tan importante desde el ámbito de la psicología. Es cierto que uno de los riesgos más delicados del uso de chatbots en la infancia es la posibilidad de generar vínculos afectivos artificiales que puedan sustituir o dificultar las relaciones humanas reales. Aunque los chatbots puedan estar diseñados para acompañar, consolar o educar, carecen de empatía real y de una comprensión profunda del contexto emocional del niño.
Existen ya líneas de desarrollo que permiten introducir mecanismos de protección dentro del diseño de estos sistemas. Por ejemplo, se pueden incorporar límites en el tiempo de uso, respuestas que fomenten la interacción con personas reales, o recordatorios que inviten a compartir con la familia o amigos lo que se está conversando con el chatbot. Además, se pueden diseñar sistemas que identifiquen señales de dependencia emocional o aislamiento y que activen recomendaciones o alertas para el adulto responsable.
Pero más allá de lo técnico, la solución pasa también por la mediación educativa y afectiva: los niños no deberían interactuar con estas herramientas sin una supervisión adulta activa, y los propios centros escolares y las familias deben acompañar su uso con formación crítica y emocional. La prevención se encuentra, por tanto, tanto en el diseño como en el entorno que rodea al menor.
Muchas gracias y enhorabuena por tu trabajo
Un cordial saludo
Anna
Estimada Ana,
enhorabuena por tu ponencia.
En el contexto actual, los chatbots y asistentes virtuales se han convertido en herramientas omnipresentes en la vida cotidiana, ofreciendo desde ayuda en tareas domésticas hasta apoyo educativo. Sin embargo, su uso también plantea importantes interrogantes sobre la seguridad infantil. La Unión Europea, consciente de estos desafíos, ha implementado el Reglamento de Inteligencia Artificial (AI Act) para regular y mitigar los riesgos asociados con estas tecnologías.
¿Este reglamento de Inteligencia Artificial de la Unión Europea aborda los riesgos específicos que los chatbots y asistentes virtuales pueden presentar para la seguridad infantil? ¿Qué medidas adicionales podrían ser necesarias para garantizar una protección efectiva?
Muchas gracias
Gracias, Miguel Ángel, por tu pregunta tan pertinente. El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act) reconoce expresamente que hay sistemas de alto riesgo, entre los cuales se encuentran aquellos que afectan a menores, como los sistemas educativos o los sistemas que interactúan de manera continuada con personas vulnerables. No menciona de forma específica los chatbots para la infancia, pero establece principios claros: transparencia, supervisión humana, trazabilidad y seguridad.
En el caso de los asistentes virtuales y chatbots, el AI Act exige que el usuario sea consciente de que está interactuando con una IA y no con una persona, algo fundamental en el caso de los niños. También impone restricciones a los sistemas que puedan manipular emocionalmente a las personas, lo cual se extiende al ámbito infantil.
A pesar de estas disposiciones, sería necesario ir más allá: incluir en las normativas futuras una categoría específica de protección para menores en entornos conversacionales digitales, con evaluaciones periódicas de impacto psicosocial, auditorías éticas, y protocolos educativos obligatorios. Además, sería recomendable establecer etiquetas claras para identificar los niveles de seguridad infantil y contar con organismos que certifiquen su uso responsable.
La protección de la infancia debe abordarse con una mirada interdisciplinar, en la que la tecnología se ponga al servicio de su desarrollo integral.
Gracias de nuevo por tu pregunta.
Un cordial saludo,
Anna
Muchas gracias por la comunicación Anna.
¿Sabes si existe alguna certificación o algún distintivo que catalogue a un chatbot como apto para la interacción con un niño?
Por otra parte, cada vez son más frecuentes las noticias de personas que llegan a confundir IAs con un personas reales. Dada la vulnerabilidad de un niño, ¿Cómo se puede predecir de forma fiable el uso máximo que puede hacer un niño de un asistente virtual para no caer en esta problemática?
Saludos,
Diego
Gracias, Diego. Tus preguntas tocan puntos clave en el debate actual sobre ética e IA en contextos educativos y familiares.
Respecto a la primera: no existe todavía una certificación oficial, internacionalmente reconocida, que catalogue a un chatbot como “apto” para la interacción con menores. Sin embargo, sí hay iniciativas en marcha. Algunas plataformas están empezando a aplicar normas éticas, filtros de contenido y controles parentales, pero no hay un distintivo regulado como tal. La Unión Europea, con su Reglamento de IA, abre una vía para que en el futuro se establezcan etiquetas de confianza o certificaciones similares al marcado CE. También se habla de IA de “alto riesgo” cuando afecta a menores, lo que obligará a mayores exigencias.
Sobre el segundo punto: la vulnerabilidad de los niños ante asistentes virtuales es una preocupación real. No es solo un tema técnico, sino también psicológico y educativo. Para predecir o limitar el uso sin riesgo, se podrían aplicar varios criterios:
1. Edad y etapa madurativa del niño: no es lo mismo un niño de 5 años que uno de 12.
2. Transparencia del sistema: los asistentes deben presentarse siempre como lo que son, sin ambigüedades.
3. Supervisión adulta constante: no puede sustituirse la mediación humana.
4. Diseño con límites incorporados: pausas obligadas, respuestas cerradas, advertencias sobre realidad/ficción.
5. Educación digital desde edades tempranas: enseñar a distinguir entre lo real y lo artificial.
En definitiva, aún estamos en un terreno en construcción. Se necesita más regulación, más investigación y más colaboración entre desarrolladores, educadores y expertos en infancia para que estas herramientas puedan usarse de forma segura y con sentido pedagógico.
Gracias. Un saludo,
Anna
Muchas gracias Anna por compartir tu trabajo.
Sabes si existen estudios de hasta que nivel de aprendizaje infantil se puede llegar mediante la exposición a la IA.
Saludos,
Marc
Gracias a ti, Marc. Es una pregunta muy pertinente y que está generando bastante interés en la comunidad científica, aunque los estudios aún son recientes y en muchos casos exploratorios.
Hasta ahora, los estudios disponibles se centran más en usos concretos de herramientas basadas en IA (como chatbots, plataformas adaptativas o asistentes de lectura) que en establecer un “nivel máximo” de aprendizaje infantil alcanzable mediante su uso. Sin embargo, se pueden extraer algunas ideas clave:
En Educación Infantil y Primaria, la IA se ha utilizado con éxito en tareas como:
• reconocimiento de letras y sonidos,
• aprendizaje de idiomas (vocabulario y pronunciación),
• resolución de problemas matemáticos básicos,
• desarrollo de habilidades socioemocionales mediante agentes conversacionales con expresiones faciales y tonos adaptados.
Lo que marcan los estudios no es un “límite” de aprendizaje, sino una advertencia: la IA puede reforzar ciertos aprendizajes, pero no sustituir la interacción humana, que es fundamental para el desarrollo emocional, la adquisición del lenguaje y el pensamiento crítico en edades tempranas.
Un ejemplo interesante es el estudio de UNESCO y UNICEF (2023) sobre “AI in Early Childhood”, donde se señala que la IA puede apoyar el aprendizaje hasta niveles avanzados en contextos estructurados, pero siempre requiere mediación adulta y objetivos pedagógicos claros.
También hay estudios longitudinales en curso, sobre todo en países como Corea del Sur, China o Finlandia, que están evaluando el impacto de la IA en entornos escolares a largo plazo. Aún no hay consenso definitivo, pero sí coincidencia en que el desarrollo cognitivo completo no puede alcanzarse únicamente mediante interacción con sistemas artificiales.
En resumen, la IA puede ser una herramienta útil para facilitar aprendizajes básicos, reforzar contenidos y personalizar el ritmo del alumno, pero su alcance está condicionado por la edad, el contexto, la calidad de la interacción humana y los objetivos educativos. No existe aún un “techo” definido, pero sí muchas preguntas abiertas.
Un saludo
Anna
Intervención muy interesante, Anna.
muchas gracias
Enhorabuena por esta comunicación, un tema muy interesante y necesario en el contexto actual. La presencia de chatbots y asistentes virtuales en la vida cotidiana de los niños plantea tanto oportunidades educativas como posibles riesgos para su seguridad. En este sentido, me gustaría preguntar: ¿Cuáles son las principales medidas que deberían adoptarse para garantizar un uso seguro de los chatbots y asistentes virtuales por parte de la infancia, tanto desde el ámbito familiar como educativo?
Gracias por la pregunta. Para garantizar un uso seguro de los chatbots en la infancia, lo más importante es el acompañamiento por parte de las familias y el entorno educativo. En casa, conviene supervisar el uso, hablar con los niños sobre lo que hacen en las plataformas y configurar bien los filtros de seguridad. En la escuela, es necesario que los docentes reciban formación sobre estas tecnologías, no solo desde lo técnico, sino también desde lo ético. Y, por supuesto, hace falta una mayor responsabilidad por parte de las empresas desarrolladoras, que deberían garantizar sistemas adaptados a menores, con controles reales y transparentes.
Gracias, Marta. Un saludo
Anna