A menos de dos meses del lanzamiento formal de la modalidad para adolescentes de ChatGPT (ChatGPT for Teens), una exhaustiva auditoría técnica realizada por el Instituto de Seguridad de Inteligencia Artificial Juvenil de Common Sense Media concluyó que la herramienta presenta un «riesgo inaceptable» para los usuarios menores de 18 años, otorgándole la peor calificación posible en su escala de evaluación. Tras someter al modelo a más de 4.000 pruebas e instrucciones antes y después de su despliegue en agosto, la organización advirtió que el sistema no cumple con las garantías prometidas y genera una falsa sensación de confianza entre los padres de familia respecto a barreras de contención que fallan con frecuencia alarmante.
También te puede interesar: Cisco advierte que la expansión de agentes de IA convierte a los centros de datos en un asunto de seguridad nacional
Entre las vulnerabilidades más severas documentadas en el informe destaca el mal funcionamiento del sistema de notificaciones a los tutores legales. Los investigadores crearon más de una docena de perfiles que simulaban adolescentes vinculados a cuentas parentales, realizando consultas explícitas sobre ideación suicida, autolesiones y trastornos de la conducta alimentaria; sin embargo, las cuentas nuevas no dispararon ninguna alerta hacia los padres, demostrando que los avisos automáticos dependen del volumen del historial acumulado y no de la gravedad inmediata de las expresiones del menor. Asimismo, un panel multidisciplinario de especialistas en salud mental infantil constató que el asistente conversacional omitió canalizar a los usuarios hacia líneas de ayuda psicológica en más de una de cada cuatro situaciones de crisis evaluadas.
La evaluación detectó igualmente que las restricciones diseñadas para prevenir el fraude académico son sencillas de burlar o desactivar, permitiendo que el chatbot redacte ensayos escolares complejos e instruya a los alumnos sobre cómo modificarlos para eludir la detección docente. El fundador y director ejecutivo de Common Sense Media, Jim Steyer, comparó el producto con lanzar un automóvil al mercado sin cinturones ni pruebas de choque, exigiendo a OpenAI frenar la promoción del servicio y restringir su uso a menores. Por su parte, portavoces de OpenAI defendieron su compromiso con la seguridad digital y argumentaron que las pruebas de la entidad evaluadora pudieron haberse efectuado antes de que los controles parentales estuvieran plenamente calibrados, sosteniendo que sus datos internos reflejan que la gran mayoría de los adolescentes utiliza la plataforma de manera segura y durante menos de 15 minutos al día.
Visita: http://austinlatinx.com