O estado da Flórida entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman, alegando que a empresa não tomou medidas suficientes para proteger usuários — em especial crianças e adolescentes — dos riscos associados ao ChatGPT. É mais um capítulo de uma onda crescente de processos contra desenvolvedores de IA generativa nos Estados Unidos.
A ação foi anunciada pelo procurador-geral da Flórida e mira tanto práticas de marketing quanto a forma como o chatbot lida com conteúdo sensível. Segundo a denúncia, a OpenAI teria minimizado riscos conhecidos e falhado em implementar salvaguardas proporcionais ao alcance do produto, que hoje é usado por centenas de milhões de pessoas.
O que diz o processo
De acordo com a reportagem da Politico, o estado argumenta que o ChatGPT pode entregar conteúdo inadequado a menores, induzir usuários a comportamentos prejudiciais e gerar respostas enganosas apresentadas com tom de autoridade. A acusação também cita supostas violações de leis estaduais de proteção ao consumidor.
O processo coloca Altman pessoalmente no polo passivo — algo incomum em ações contra grandes empresas de tecnologia. Isso sugere uma tentativa de responsabilização direta da liderança, e não apenas da pessoa jurídica.
A OpenAI, até o momento, contesta as alegações e afirma manter políticas de uso, filtros de conteúdo e ferramentas para responsáveis. A empresa também tem repetido o discurso de que trabalha continuamente para reduzir riscos, embora reconheça publicamente que seus modelos cometem erros.
Por que isso importa
A ação da Flórida se soma a um cenário cada vez mais hostil para a OpenAI nos tribunais. A empresa já enfrenta processos por uso indevido de obras protegidas por direitos autorais, queixas relacionadas a danos psicológicos atribuídos ao ChatGPT e investigações regulatórias em diferentes países. O processo de um estado inteiro, no entanto, tem peso político e jurídico diferente de ações individuais.
Para o público, o caso reforça uma discussão que ainda está mal resolvida: quem responde quando um sistema de IA causa dano? O desenvolvedor? A plataforma que o distribui? O usuário? Hoje, na prática, a responsabilidade está difusa, e empresas como a OpenAI têm se beneficiado dessa zona cinzenta.
Há também uma camada política. Nos Estados Unidos, ações movidas por procuradores estaduais costumam funcionar como instrumento de pressão para forçar mudanças de comportamento antes mesmo de uma decisão judicial. Foi assim com redes sociais, com tabaco e com farmacêuticas. A IA generativa parece caminhar pelo mesmo trilho.
O que muda para o usuário
No curto prazo, nada. O ChatGPT continua funcionando normalmente na Flórida e no resto do mundo. Mas processos como esse tendem a empurrar empresas de IA para políticas mais restritivas, principalmente em torno de menores de idade, temas sensíveis e respostas sobre saúde mental.
Isso pode significar verificação de idade mais rigorosa, mais avisos dentro das conversas e respostas mais conservadoras em determinados assuntos. Para alguns usuários, será visto como proteção legítima. Para outros, como excesso de cautela e censura por medo de processo.
O caso ainda vai demorar para chegar a uma definição. Mas serve como mais um sinal de que a fase em que empresas de IA podiam lançar produtos massivos sem assumir responsabilidades concretas está, aos poucos, ficando para trás. Resta saber se a regulação virá pela via dos tribunais, do Congresso — ou de ambos ao mesmo tempo.
Fonte: www.politico.com · Imagem de capa: Foto de Hansjörg Keller no Unsplash