O estado da Flórida entrou nesta terça-feira (02/06) com um processo judicial contra a empresa OpenAI e seu presidente executivo, Sam Altman: ambos são acusados de terem ignorado alertas de segurança e lançado o ChatGPT mesmo sabendo que ele poderia causar danos às pessoas.

O processo argumenta que “a versão gratuita do ChatGPT não possui qualquer mecanismo de controle de acesso ou verificação de idade” e que, embora a versão paga solicite a idade dos usuários, “não existe mecanismo para verificar a idade de seus usuários nem meio de informar os pais sobre as conversas que os menores estão mantendo com o ChatGPT”. O processo também lista vários casos em que o ChatGPT teria fornecido informações a pessoas que, posteriormente, cometeram atos de violência, incluindo um atentado na Universidade Estadual da Flórida, em Tallahassee, no ano passado.

A Flórida se torna o primeiro estado a processar a big tech pelos supostos perigos de seu produto. Uthmeier ainda disse à imprensa que espera que outros estados se juntem ao seu esforço.

A OpenAI se defende, afirmando que os seus modelos reiteradamente incentivam pessoas a procurar apoio, incluindo de profissionais de saúde mental, e disse ter cooperado com as autoridades policiais.