Nível de hype: AnúncioOrigem: EUA
Base Labs, Hugging Face e Goodfire criam parceria de segurança para modelos abertos
A Baseten, por meio do seu braço de pesquisa Base Labs, lançou com a Hugging Face e a Goodfire AI uma parceria para criar infraestrutura de avaliação e monitoramento de segurança para modelos de pesos abertos, além de um novo padrão de segurança.
O anúncio acontece em meio ao debate sobre a segurança de modelos abertos, que podem ser tornados perigosos pela remoção das proteções, técnica conhecida como "abliteração". Segundo a reportagem, a Hugging Face lista hoje mais de 6 mil modelos abliterados.
Anúncio
Parceria anunciada, com ferramentas em desenvolvimento.
Critério: Promessa oficial com data ou escopo, sem acesso público.
Fontes originais
Resumo escrito com palavras próprias a partir destas fontes. Nenhum trecho é reproduzido.
O que muda pra você
- Dev
- Monitoramento de segurança para modelos abertos é útil para quem os implanta em produção.
- PM
- Se o seu produto usa modelo aberto, avalie se ele passou por remoção de proteções.
- Executivo
- A segurança de modelos abertos ganha iniciativa própria no setor.
- Investidor
- Ferramentas de segurança para modelos abertos formam um mercado novo.
- Educador
- Explique o que é remover proteções de um modelo e por que é arriscado.