MPF vê riscos em ‘alucinações’ do ChatGPT e emite recomendação
O Ministério Público Federal (MPF) encaminhou à OpenAI, desenvolvedora do ChatGPT, a Recomendação nº 16/2025 exigindo a adoção de alertas específicos quando o sistema apresentar informações que envolvam dados pessoais. O documento adita a Recomendação nº 03/2025 e parte do entendimento de que o fenômeno conhecido como alucinação — quando o modelo de linguagem gera conteúdo plausível, mas incorreto — pode violar a Lei Geral de Proteção de Dados Pessoais (LGPD).
O texto, assinado pelo procurador da República Carlos Bruno Ferreira da Silva, afirma que as respostas produzidas por grandes modelos de linguagem (LLMs), como o ChatGPT, podem criar dados sobre pessoas que não constam em sua base de treinamento. Isso compromete os princípios da LGPD, em especial os da qualidade dos dados (art. 6º, V), da transparência (art. 6º, VI) e da segurança (art. 6º, VII).
“A ferramenta do ChatGPT 4.5 atualmente possui alerta genérico sobre possível ocorrência de erro, não indicando ao usuário quando ocorre efetivamente o fenômeno da alucinação”, afirma o procurador no documento.
Segundo o MPF, a justificativa apresentada pela OpenAI de que o tratamento de dados pessoais se baseia no “legítimo interesse” (art. 7º, IX da LGPD) não é suficiente para sustentar a geração de informações inverídicas sobre indivíduos. A recomendação ressalta que a ausência de um mecanismo eficaz para identificar respostas geradas com erros e a apresentação de um alerta genérico agravam a vulnerabilidade dos titulares de dados.
O documento destaca que, mesmo após a primeira recomendação expedida em 2025, ficou demonstrada a limitação técnica do modelo em reconhecer, de forma específica, em quais respostas ocorre a “formulação genérica” — termo usado pela OpenAI como sinônimo de alucinação.
O MPF determina que, em até 15 dias a partir do recebimento, a OpenAI deve informar as medidas adotadas para cumprir a recomendação ou justificar o motivo de eventual não acatamento. O pedido é fundamentado no artigo 6º, inciso XX, da Lei Complementar nº 75/93, que atribui ao Ministério Público Federal a defesa dos direitos constitucionais do cidadão.
A iniciativa se soma a um contexto mais amplo de mobilização institucional sobre os impactos da inteligência artificial. No Brasil, o tema está em debate no Congresso Nacional por meio do projeto de lei 2.338/2023 e também no âmbito da Autoridade Nacional de Proteção de Dados (ANPD), que realiza estudos sobre regulamentação de sistemas automatizados com potencial de risco à privacidade.
O post MPF vê riscos em ‘alucinações’ do ChatGPT e emite recomendação apareceu primeiro em TeleSíntese.
