Conselho de condicional da Tasmânia usou documento com jurisprudência inexistente
O Conselho de Liberdade Condicional da Tasmânia, na Austrália, usou um documento que citava decisões judiciais que não existem para impedir Susan Neill-Fraser, condenada pelo assassinato do companheiro em 2009, de declarar publicamente sua inocência, segundo o Guardian. O governo do estado foi obrigado a defender a forma como a IA é usada em seu sistema de justiça.
Neill-Fraser sempre negou o crime e recorreu até a Suprema Corte australiana. Defensores chamaram o caso de "profundamente preocupante". A parte lida da reportagem não detalha quem redigiu o documento, que ferramenta foi usada nem se a decisão será revista.
Anúncio
Uso de citações inexistentes relatado pela imprensa e objeto de resposta do governo.
Critério: Promessa oficial com data ou escopo, sem acesso público.
Fontes originais
Resumo escrito com palavras próprias a partir destas fontes. Nenhum trecho é reproduzido.
O que muda pra você
- Dev
- Ferramentas que geram textos jurídicos precisam verificar cada citação contra bases oficiais.
- PM
- Em produtos jurídicos, mostre a fonte de cada citação e marque o que não foi verificado.
- Executivo
- Órgãos e empresas que usam IA em decisões precisam de checagem humana documentada.
- Investidor
- Sem efeito direto para investidores.
- Educador
- Exemplo real de alucinação com consequência para os direitos de uma pessoa.