Pesquisador da Anthropic se demite e alerta para IA que se aprimora sozinha
Jacob Coxon, pesquisador da Anthropic que diz ter passado três anos em pesquisa de pré-treino na OpenAI e na Anthropic, pediu demissão por medo de que o desenvolvimento sem freios de modelos que se aprimoram sozinhos acabe matando todos. Ele acusou as empresas de não agirem com responsabilidade.
Segundo ele, quem corre para construir a tecnologia acredita sinceramente que ela pode matar a todos até o fim da década. Coxon pediu acordos entre laboratórios para compassar o desenvolvimento, e chamou a situação de "apostar com nossas vidas", segundo o TechCrunch.
Anúncio
Declaração pública de ex-funcionário.
Critério: Promessa oficial com data ou escopo, sem acesso público.
Fontes originais
- Ars Technica · IAFonte primária · original em inglês(abre em nova aba)
- TechCrunch · IAoriginal em inglês(abre em nova aba)
Resumo escrito com palavras próprias a partir destas fontes. Nenhum trecho é reproduzido.
O que muda pra você
- Dev
- Sem efeito técnico.
- PM
- Sem efeito direto no produto.
- Executivo
- Demissões públicas de pesquisadores aumentam a pressão por desaceleração.
- Investidor
- Alertas internos reforçam o risco regulatório dos laboratórios.
- Educador
- Discuta o que é IA que se aprimora sozinha e por que preocupa.