ChatGPT para adolescentes incorpora controles de seguridad ante los riesgos de la inteligencia artificial

OpenAI lanzó ChatGPT for Teens para usuarios de 13 a 17 años, con controles parentales y medidas adicionales frente a riesgos digitales.

La herramienta busca apoyar el aprendizaje y la creatividad. Además, incorpora protecciones específicas para contenidos e interacciones considerados inapropiados para menores.

Nuevas barreras frente a contenidos de riesgo

Las medidas contemplan situaciones relacionadas con autolesiones, violencia gráfica y desafíos peligrosos. También incluyen restricciones sobre contenido sexual, romántico y problemas de imagen corporal.

OpenAI reconoce que ningún sistema de inteligencia artificial ofrece protección absoluta. Por eso, combina filtros tecnológicos con configuraciones específicas para adolescentes y supervisión familiar.

Según la compañía, el diseño parte de cuatro compromisos. Estos priorizan la seguridad, el apoyo en el mundo real, el trato acorde con la edad y la transparencia.

Los padres pueden configurar la experiencia

Los controles parentales permiten vincular la cuenta de un adolescente con la de sus responsables. Desde allí, pueden modificar distintas opciones de seguridad.

Entre ellas figuran el Modo Estudio y los horarios de silencio. Además, el sistema puede enviar alertas ante situaciones consideradas de alto riesgo.

Sin embargo, los padres no pueden acceder a las conversaciones. OpenAI sostiene que busca evitar que la herramienta se convierta en un mecanismo de vigilancia.

La inteligencia artificial también plantea nuevos desafíos

ESET Latinoamérica advierte que la protección no debe limitarse al bloqueo de contenido. La relación que los jóvenes desarrollan con estas herramientas también genera nuevos retos.

Uno de ellos es la antropomorfización. Este fenómeno ocurre cuando una persona atribuye emociones o características humanas a un sistema tecnológico.

Mario Micucci, investigador de seguridad informática de ESET Latinoamérica, señaló que la IA no debe sustituir las relaciones humanas.

El especialista también destacó la importancia de incorporar seguridad y privacidad desde el diseño.
Además, consideró necesario adaptar estas medidas conforme avance la tecnología.

Modo Estudio busca reforzar el aprendizaje

ChatGPT for Teens incorpora funciones orientadas al ámbito educativo. El Modo Estudio utiliza preguntas, explicaciones y acompañamiento paso a paso.

La herramienta puede activar este modo cuando detecta que un estudiante busca únicamente una respuesta directa. Así, intenta promover la comprensión en lugar de entregar solo el resultado.

Las Horas de Estudio permiten establecer períodos para iniciar automáticamente nuevas conversaciones bajo esta modalidad.

De esta forma, OpenAI busca equilibrar el acceso de los adolescentes a la inteligencia artificial con mayores medidas de protección, privacidad y apoyo educativo.