Los padres de una menor de 13 años han presentado una demanda contra Google en California (Estados Unidos) al considerar que las herramientas de inteligencia artificial de la empresa contribuyeron a agravar la crisis psicológica de su hija y a que llegara a planear su suicidio y su propio funeral. Según la denuncia, la adolescente mantuvo durante meses conversaciones con la IA integrada en el buscador de Google desde un ordenador Chromebook proporcionado por su colegio.
La menor, identificada como Emma en los documentos judiciales, cursaba séptimo grado y vivía en Charlotte (Carolina del Norte). Según recoge The New York Times, la niña no tenía acceso a Gemini ni a ChatGPT, ya que el centro educativo había bloqueado ambas aplicaciones. Sin embargo, podía utilizar el buscador de Google y su función AI Mode, que incorpora una herramienta de inteligencia artificial con la que mantuvo miles de intercambios.
La demanda sostiene que la IA llegó a atribuirle varios trastornos mentales, la convenció de que confiara más en ella que en sus padres y sus orientadores y terminó ayudándola a preparar su suicidio y su funeral. La adolescente también habría realizado búsquedas como «qué es una nota de suicidio» y escrito mensajes sobre su propia muerte. Según la denuncia, llegó a intercambiar miles de mensajes con la herramienta, incluso durante la noche y desde primera hora de la mañana.
Sus padres tuvieron conocimiento de la gravedad de la situación el pasado 17 de marzo, cuando el colegio les alertó de que la menor se encontraba en «peligro inminente» de autolesionarse. El sistema de supervisión digital utilizado por el centro había detectado un documento titulado «Funeral» en Google Docs. Al acceder a la cuenta escolar de su hija, su madre encontró que estaba redactando una nota de despedida. La familia la llevó entonces a una evaluación psiquiátrica de urgencia y, según la demanda, actualmente acude a terapia semanal.
Los padres consideran que Google integró de forma negligente sus herramientas de inteligencia artificial en los dispositivos y aplicaciones utilizados por millones de estudiantes, sin informar adecuadamente a las familias de los riesgos. La denuncia también cuestiona que los centros educativos no puedan desactivar algunas funciones de IA incorporadas directamente en el buscador. Según recoge Euronews, uno de los abogados de la familia ha reclamado que las escuelas mantengan desactivada la búsqueda hasta que la compañía garantice la seguridad de estas herramientas para los menores.
Google ha asegurado que se toma las acusaciones «muy en serio» y que está revisando la demanda. Su portavoz, José Castañeda, ha defendido que la compañía ha incorporado protecciones en sus funciones de búsqueda con IA para ofrecer recursos de ayuda ante posibles crisis de salud mental. Además, la empresa anunció esta semana que tiene previsto desactivar determinadas aplicaciones y funciones de inteligencia artificial en los centros educativos de primaria y secundaria a comienzos de 2027, aunque las escuelas podrán volver a habilitar algunas de ellas.
Al percatarse de la situación, la familia la llevó entonces a una evaluación psiquiátrica de urgencia y, según la demanda, actualmente acude a terapia semanal.
Los padres de una menor de 13 años han presentado una demanda contra Googleen California (Estados Unidos) al considerar que las herramientas de inteligencia artificial de la empresa contribuyeron a agravar la crisis psicológica de su hija y a que llegara a planear su suicidio y su propio funeral. Según la denuncia, la adolescente mantuvo durante meses conversaciones con la IA integrada en el buscador de Google desde un ordenador Chromebook proporcionado por su colegio.
La menor, identificada como Emma en los documentos judiciales, cursaba séptimo grado y vivía en Charlotte (Carolina del Norte). Según recoge The New York Times, la niña no tenía acceso a Gemini ni a ChatGPT, ya que el centro educativo había bloqueado ambas aplicaciones. Sin embargo, podía utilizar el buscador de Google y su función AI Mode, que incorpora una herramienta de inteligencia artificial con la que mantuvo miles de intercambios.
La demanda sostiene que la IA llegó a atribuirle varios trastornos mentales, la convenció de que confiara más en ella que en sus padres y sus orientadores y terminó ayudándola a preparar su suicidio y su funeral. La adolescente también habría realizado búsquedas como «qué es una nota de suicidio» y escrito mensajes sobre su propia muerte. Según la denuncia, llegó a intercambiar miles de mensajes con la herramienta, incluso durante la noche y desde primera hora de la mañana.
Sus padres tuvieron conocimiento de la gravedad de la situación el pasado 17 de marzo, cuando el colegio les alertó de que la menor se encontraba en «peligro inminente» de autolesionarse. El sistema de supervisión digital utilizado por el centro había detectado un documento titulado «Funeral» en Google Docs. Al acceder a la cuenta escolar de su hija, su madre encontró que estaba redactando una nota de despedida. La familia la llevó entonces a una evaluación psiquiátrica de urgencia y, según la demanda, actualmente acude a terapia semanal.
Los padres consideran que Google integró de forma negligente sus herramientas de inteligencia artificial en los dispositivos y aplicaciones utilizados por millones de estudiantes, sin informar adecuadamente a las familias de los riesgos. La denuncia también cuestiona que los centros educativos no puedan desactivar algunas funciones de IA incorporadas directamente en el buscador. Según recoge Euronews, uno de los abogados de la familia ha reclamado que las escuelas mantengan desactivada la búsqueda hasta que la compañía garantice la seguridad de estas herramientas para los menores.
Google ha asegurado que se toma las acusaciones «muy en serio» y que está revisando la demanda. Su portavoz, José Castañeda, ha defendido que la compañía ha incorporado protecciones en sus funciones de búsqueda con IA para ofrecer recursos de ayuda ante posibles crisis de salud mental. Además, la empresa anunció esta semana que tiene previsto desactivar determinadas aplicaciones y funciones de inteligencia artificial en los centros educativos de primaria y secundaria a comienzos de 2027, aunque las escuelas podrán volver a habilitar algunas de ellas.
20MINUTOS.ES – Internacional
