Accenture será o primeiro avaliador externo embutido na Anthropic
A Anthropic anunciou que funcionários da Accenture vão trabalhar dentro da empresa para examinar seus modelos, no primeiro caso de avaliador externo embutido. O trabalho será feito pela Faculty, empresa que a Accenture comprou em janeiro para ser sua divisão de IA, e inclui testar modelos, fazer red-teaming, avaliar o alinhamento e testar as proteções.
As duas empresas esperam investir pelo menos US$ 1 bilhão no projeto em cinco anos. A escolha surpreendeu observadores do setor e o mercado: as ações da Accenture subiram 8% após o fechamento. A ideia de avaliadores dentro dos laboratórios foi proposta por Dario Amodei em um artigo recente.
Anúncio
Acordo anunciado pelas empresas, com início previsto.
Critério: Promessa oficial com data ou escopo, sem acesso público.
Fontes originais
Resumo escrito com palavras próprias a partir destas fontes. Nenhum trecho é reproduzido.
O que muda pra você
- Dev
- Avaliadores internos terão acesso próximo ao das equipes de risco; os processos de teste vão se formalizar.
- PM
- Avaliação externa pode atrasar lançamentos, mas aumenta a confiança de clientes grandes.
- Executivo
- A avaliação independente de IA vira serviço de consultoria de grande porte.
- Investidor
- A Accenture ganha uma nova linha de receita em segurança de IA.
- Educador
- Discuta a independência de um avaliador pago pela empresa avaliada.