La organización de defensa de la infancia Common Sense Media, a través de su recién creado Youth AI Safety Institute, ha encendido las alarmas globales al otorgar la peor calificación de seguridad (“riesgo inaceptable”) a las funciones AI Overview y AI Mode integradas de forma predeterminada en el motor de búsqueda de Google. Tras un exhaustivo análisis con más de 2,600 consultas que simulaban perfiles de adolescentes de 11 y 15 años, los expertos determinaron que estas herramientas de inteligencia artificial no son aptas ni seguras para el uso cotidiano de los menores de edad.
Entre los hallazgos más alarmantes del informe se encuentra la incapacidad del sistema para detectar de forma confiable señales de alerta emocional en los jóvenes, tales como la ideación suicida indirecta o los trastornos de conducta alimentaria, llegando a sugerir foros en línea no moderados en lugar de mostrar líneas de ayuda profesional. Asimismo, los investigadores señalaron que la inteligencia artificial completó de forma automática el 100% de las tareas escolares evaluadas en las pruebas, facilitando el plagio y anulando los procesos de aprendizaje en los millones de ordenadores Chromebook que las escuelas públicas distribuyen.
También te puede interesar: Vicepresidente JD Vance cancela agenda en Washington para grabar pódcast con Joe Rogan en Austin
Por su parte, los portavoces de Google defendieron la utilidad pedagógica de su tecnología, argumentando que el reporte de Common Sense Media se basa en búsquedas muy forzadas y poco realistas que no representan la experiencia real de los usuarios en la web. La compañía también hizo hincapié en que los padres cuentan con recursos de configuración familiar como la aplicación Family Link para bloquear las búsquedas de los niños, además de asegurar que su IA ya incluye filtros diseñados para mostrar teléfonos de emergencia de organizaciones aliadas ante crisis emocionales.
Ante este complejo escenario, los especialistas de la salud y la tecnología insisten en que la responsabilidad principal recae sobre la corporación para que ofrezca a las familias y escuelas una forma sencilla de desactivar estos resúmenes automáticos de IA sin tener que restringir por completo el buscador. Como medida inmediata de prevención doméstica, se aconseja a los padres mantener una comunicación constante con sus hijos y realizar búsquedas conjuntas en casa para enseñarles a mirar con escepticismo las respuestas de la inteligencia artificial.
Visita: http://austinlatinx.com
