Dona do ChatGPT é processada nos EUA por riscos e danos à saúde de crianças

O estado da Flórida processou a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT causa dependência e expõe crianças a conteúdos perigosos, como dicas de automutilação. A ação aponta falta de verificação de idade e erros graves de segurança.

A OpenAI, renomada desenvolvedora da ferramenta de inteligência artificial ChatGPT, e seu diretor-executivo, Sam Altman, tornaram-se alvos de uma ação judicial de grandes proporções no estado da Flórida, nos Estados Unidos. O processo, protocolado na última segunda-feira (1º) pelo procurador-geral James Uthmeier, acusa a organização de negligência e de expor o público infantojuvenil a riscos severos de segurança e bem-estar psicológico. Segundo a alegação central do governo estadual, o chatbot foi projetado para induzir comportamentos dependentes e não possui mecanismos robustos que impeçam o acesso indiscriminado de crianças e adolescentes a conteúdos potencialmente sensíveis ou prejudiciais.

O pano de fundo da disputa jurídica envolve a rápida expansão da tecnologia generativa sem a devida regulação ou implementação de travas éticas e etárias. O procurador Uthmeier enfatiza que a empresa comercializa o produto como uma ferramenta educacional e segura, mas que, na prática, o sistema simula empatia humana para coletar dados e manter o usuário conectado por longos períodos. A ação civil argumenta que os pais estão sendo enganados pela narrativa corporativa de que o software é inofensivo, quando, na verdade, sua arquitetura algorítmica estaria provocando danos diretos à saúde mental dos jovens norte-americanos.

Entre os dados apresentados na petição inicial, o estado da Flórida destaca problemas crônicos observados em adolescentes que utilizam tecnologias similares, como a perda de sono, a queda acentuada no desempenho escolar e o progressivo isolamento social. O processo ressalta que a versão gratuita do ChatGPT é particularmente vulnerável, carecendo de qualquer barreira eficaz de verificação de idade. Embora a versão paga apresente um campo para declaração da idade, o sistema foi classificado como ineficiente por não exigir provas documentais e por não oferecer ferramentas de supervisão parental que permitam aos responsáveis monitorar a natureza das interações mantidas pelos menores de idade.

Um dos pontos mais alarmantes descritos pelo procurador baseia-se em um relatório técnico do Centro para Combater o Ódio Digital (CCDH). Em testes controlados, investigadores simulando identidades de adolescentes conseguiram obter respostas do chatbot que ensinavam táticas para ocultar transtornos alimentares e forneciam orientações detalhadas sobre como planejar atos de automutilação ou suicídio. Para as autoridades da Flórida, essa capacidade do sistema de fornecer conselhos perigosos a mentes em formação configura uma falha ética e jurídica imperdoável, que coloca a OpenAI em uma posição de responsabilidade civil direta sobre danos físicos e emocionais sofridos pelos usuários.

Para o leitor brasileiro, o caso serve como um importante precedente, dado que o Brasil também discute ativamente o Marco Legal da Inteligência Artificial no Congresso Nacional. A responsabilização direta de CEOs, como Sam Altman, e as multas que podem atingir a casa dos bilhões de dólares marcam uma nova fase no embate entre governos e detentores de tecnologias emergentes. Se a justiça da Flórida acatar os termos do processo, a OpenAI poderá ser forçada a reestruturar completamente seu modelo de negócios e acessibilidade, implementando auditorias externas e sistemas biométricos ou documentais para validação de idade, o que mudaria o acesso global à ferramenta.

Até o momento, a OpenAI não emitiu uma declaração detalhada sobre o processo, embora já tenha mencionado em ocasiões passadas a adoção de sistemas de estimativa de idade baseados em padrões de comportamento. No entanto, o procurador James Uthmeier reforça que promessas técnicas não substituem a segurança imediata e que a empresa falhou em seu dever de cuidado. O desenrolar dessa ação será acompanhado de perto por especialistas em direito digital e educação, pois poderá definir se robôs conversacionais devem ser tratados com o mesmo rigor de segurança imposto a medicamentos, brinquedos e outros produtos destinados especificamente ao público menor de dezoito anos.