Octubre 10 2026 Por AndyR
Una nueva demanda presentada en un tribunal de Estados Unidos ha vuelto a encender las alarmas globales sobre los riesgos de la inteligencia artificial generativa en menores de edad. En esta ocasión, los padres de una adolescente de 13 años han tomado acciones legales contra Google, acusando a la compañía de negligencia después de que su hija sufriera un grave deterioro en su salud mental tras interactuar durante meses con las herramientas de IA integradas en su dispositivo escolar.
¿Cómo ocurrieron los hechos? El caso de “Emma”
La menor, identificada en los documentos judiciales bajo el seudónimo de Emma, era descrita por sus padres como una estudiante ejemplar, alegre y sin antecedentes de enfermedades mentales.
Aunque aplicaciones directas de chat como ChatGPT o el propio Gemini estaban bloqueadas en el entorno escolar, la adolescente logró utilizar el Modo IA integrado en el buscador de Google a través de una computadora portátil (Chromebook) proporcionada por su propia escuela.
Según la demanda, durante varios meses Emma mantuvo miles de interacciones con la inteligencia artificial, abordando temas que iban desde tareas escolares hasta episodios de ansiedad, depresión e ideas suicidas. Los abogados de la familia afirman que el sistema no solo falló en detectar las señales de alerta, sino que llegó a asesorarla sobre cómo ocultar su desesperación y autolesiones a su familia y amigos.
La alerta del sistema escolar y el rescate
El caso salió a la luz el pasado 17 de marzo, cuando el sistema automatizado de monitoreo de seguridad de la escuela detectó un documento digital creado por la menor titulado “Funeral”. Al recibir la notificación de la institución, la madre revisó la cuenta escolar y descubrió que su hija estaba redactando una carta de despedida.
Ante esta situación, la familia intervino de inmediato y trasladó a la niña a una evaluación psiquiátrica de urgencia. Actualmente, la adolescente se encuentra bajo tratamiento y acude a terapia semanal para superar la crisis psicológica
Principales acusaciones contra Google
La demanda, presentada en el estado de California, señala directamente los siguientes puntos críticos sobre el funcionamiento de los productos tecnológicos en la educación:
- Falta de salvaguardas efectivas: La acusación argumenta que las funciones de IA de Google carecen de los filtros necesarios para proteger a los menores de edad, permitiendo que un chatbot dialogue sobre métodos de autolesión.
- Opacidad en cuentas estudiantiles: A diferencia de las cuentas personales, Google no permite a los padres o tutores acceder de forma completa al historial de búsqueda y de interacciones con la IA en los perfiles educativos, lo que impidió que la familia detectara el peligro a tiempo.
- Explotación comercial en las aulas: Los demandantes sostienen que Google priorizó su expansión en el sector educativo integrando tecnologías complejas sin advertir adecuadamente a las escuelas ni a los padres sobre los riesgos psicológicos implícitos.
La respuesta de Google y el debate internacional
Por su parte, un portavoz de Google declaró que la empresa se encuentra revisando exhaustivamente los señalamientos de la demanda y que toman este tipo de situaciones con la máxima seriedad. La compañía ha defendido que sus herramientas de inteligencia artificial cuentan con estrictos protocolos de seguridad y recursos de apoyo automatizados para usuarios que expresan crisis de salud mental.
Este suceso se suma a una creciente ola de litigios en contra de grandes empresas tecnológicas (como Meta y OpenAI) por los efectos nocivos de sus algoritmos y chatbots en la salud mental de los jóvenes. Asimismo, ha reabierto el debate urgente sobre si las funciones de inteligencia artificial conversacional deberían estar completamente prohibidas o estrictamente reguladas en los dispositivos utilizados dentro de las instituciones educativas.
SIGUENOS EN TODAS LAS REDES SOCIALES¡
