La empresa de inteligencia artificial (IA) OpenAI anunció el lanzamiento global de ‘ChatGPT for Teens’ (ChatGPT para adolescentes), una nueva modalidad en la que el chatbot limita automáticamente ciertas conversaciones para proteger mejor a los usuarios jóvenes y ofrece controles parentales.

Según la compañía, este nuevo chatbot tiene las mismas capacidades que el tradicional, pero está “diseñado para ayudar a los adolescentes a aprender, resolver problemas y explorar nuevas ideas”.

Además, limitará las conversaciones de alto riesgo relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico.

En algunos casos, ChatGPT enviará alertas a los adultos que hayan optado por activar los controles parentales y las notificaciones.

No obstante, los controles parentales no permiten que el padre o el tutor lea o supervise las conversaciones del adolescente.

“Si OpenAI envía una notificación de seguridad, solo comparte la información necesaria para proteger el bienestar del joven”, precisa el comunicado.

También ofrece “recordatorios de tareas” que pueden sugerir el uso del modo de estudio y ayudar a completar las asignaciones paso a paso, en lugar de proporcionar la respuesta en la primera consulta.

Para activar esta nueva función, la empresa rastrea más de 2.000 señales, como los horarios habituales de inicio de sesión, para detectar si un usuario es menor de 18 años, en cuyo caso el chatbot activará automáticamente este modo adolescente.

Este lanzamiento con enfoque educativo y de seguridad llega en un momento en el que OpenAI se enfrenta a una presión cada vez mayor sobre la salud mental y el desarrollo de sus usuarios más jóvenes.

Grupos de padres en ciudades como Nueva York y Los Ángeles (Estados Unidos) están presionando a las escuelas para que detengan la implementación de productos de IA por temor a que obstaculicen el pensamiento crítico.