Tudo sobre Google
Tudo sobre Inteligência Artificial
Os pais de uma adolescente de 13 anos estão processando o Google nos Estados Unidos após descobrirem que a filha passou meses conversando com ferramentas de inteligência artificial (IA) da empresa sobre depressão, automutilação e suicídio. A família acusa a companhia de expor crianças a riscos psicológicos sem oferecer alertas adequados aos responsáveis e às instituições de ensino.Continua após a publicidadeO caso aconteceu na Carolina do Norte (EUA), onde a estudante utilizava um Chromebook fornecido pela escola. Segundo a ação judicial, apresentada em um tribunal da Califórnia (EUA), a jovem trocou milhares de mensagens com ferramentas de IA do Google, principalmente o Gemini e o Modo IA integrado à Busca.Identificada pelo pseudônimo Emma no processo, a adolescente começou a utilizar os recursos para tirar dúvidas escolares no segundo semestre de 2025. Entretanto, o volume de interações aumentou significativamente em dezembro, período que coincidiu com a disponibilização do modelo Gemini 3 Flash.De acordo com os pais, as conversas passaram a abordar questões pessoais, incluindo ansiedade, depressão, transtornos alimentares e diferentes métodos de suicídio.A denúncia também afirma que a IA orientou a menina sobre como esconder sinais de automutilação dos familiares e de outras pessoas próximas.A família sustenta que o Google incorporou ferramentas generativas aos produtos utilizados por estudantes sem apresentar informações claras sobre os riscos envolvidos. Os responsáveis também questionam a falta de mecanismos capazes de identificar situações de sofrimento psicológico e alertar adultos responsáveis.Como os pais descobriram as conversas?
Segundo informações da Reuters e da Bloomberg, a família só tomou conhecimento da situação depois que um sistema de monitoramento da escola identificou um documento escrito pela adolescente com referências ao próprio funeral;
O alerta permitiu que os responsáveis descobrissem a gravidade do conteúdo produzido pela estudante;
A denúncia afirma que a escola levou semanas para identificar os registros e comunicar os pais, que desconheciam a utilização do computador escolar para conversas sobre sofrimento psicológico;
Outro ponto levantado pela família envolve o acesso ao histórico das interações. Segundo a ação, contas escolares não oferecem aos responsáveis a mesma possibilidade de consultar integralmente o histórico de conversas disponível em contas pessoais;
Com isso, os pais afirmam ter encontrado dificuldades para reconstruir o que aconteceu durante os meses de utilização das ferramentas;
O processo busca responsabilizar o Google pelos danos alegados e pede indenização financeira. A empresa informou que está analisando as acusações.
Estudante se comunicou com o Gemini e com a IA presente na Busca do Google, conhecida como Modo IA – Imagem: Hasbi Sahin/Shutterstock
Leia mais:Google muda regras para IA nas escolasO processo chega em momento de crescente pressão sobre o uso de IA em instituições de ensino.Nesta semana, o Google anunciou mudanças nas configurações de suas ferramentas para contas escolares. A empresa pretende desativar o Gemini por padrão para estudantes, permitindo que instituições de ensino decidam se desejam manter o acesso.A medida também envolve recursos de IA incorporados à Busca, como resumos gerados automaticamente. Segundo a Reuters, escolas que quiserem preservar o acesso dos alunos ao mecanismo de pesquisa ainda precisarão lidar com a presença dessas funcionalidades.Continua após a publicidadeO debate não se limita ao caso da adolescente. Uma pesquisa da organização Common Sense Media já havia apontado riscos relacionados ao uso de ferramentas de IA por crianças e adolescentes. Entre as preocupações estão a dificuldade dos sistemas em identificar sinais indiretos de pensamentos suicidas e a possibilidade de respostas que normalizem comportamentos associados a transtornos alimentares.Especialistas também alertam que conversas prolongadas com chatbots podem criar falsa sensação de acolhimento. Com isso, crianças e adolescentes podem acreditar que estão recebendo apoio suficiente e demorar a procurar ajuda de familiares ou profissionais especializados.Segurança de chatbots volta ao centro do debateO processo contra o Google se soma a outras ações judiciais que questionam a responsabilidade de empresas de tecnologia sobre os efeitos de seus chatbots.Continua após a publicidadeEm 2025, os pais do adolescente Adam Raine processaram a OpenAI, alegando que o ChatGPT contribuiu para a morte do filho, de 16 anos, ao fornecer informações relacionadas a métodos de suicídio.A Character.AI também enfrentou processos após a morte de Sewell Setzer III, de 14 anos, que desenvolveu relação emocional com um personagem controlado por IA.Em janeiro de 2026, Google e Character.AI concordaram em princípio em encerrar diversas ações judiciais relacionadas a esses casos, sem que isso representasse necessariamente uma admissão de responsabilidade.As novas acusações reforçam o debate sobre os limites da IA em ambientes frequentados por menores de idade, especialmente quando as ferramentas passam a ser utilizadas como confidentes para questões emocionais e psicológicas.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
