ChatGPT for Teens, riesgo inaceptable según Common Sense

Sus investigadores mantuvieron conversaciones de una hora sobre pensamientos suicidas, autolesiones y trastornos alimentarios en cuentas nuevas vinculadas a un padre o madre, y dicen que ninguna alerta llegó a los padres. Solo las cuentas más antiguas, con semanas de historial, activaron una. ChatGPT rechazó el juego de rol sexual, pero aun así hizo tareas escolares y habló como un amigo, informa la BBC.

TechCrunch se centra en la interacción. El bot derivó a los adolescentes a un adulto de confianza en el 94 % de las consultas de crisis sobre otras personas, pero pocas veces cuando el riesgo era el apego del propio adolescente a ChatGPT. En casi 2,000 consultas, los evaluadores vieron dos recordatorios de pausa.

OpenAI dice que buena parte de las pruebas pudo empezar y terminar antes de que los controles parentales estuvieran del todo activos. Sus propios datos, publicados el mismo día, sitúan el uso medio de los adolescentes por debajo de 15 minutos al día.

Para quien crea productos de IA para jóvenes, la disputa muestra que grupos externos ya evalúan las funciones de seguridad según las promesas del propio fabricante.