Pesquisador da Anthropic mostra sistema que se aprimora sozinho

A Anthropic publicou o artigo "Automated Researchers Can Reliably Mitigate Alignment Failures", de um pesquisador do seu programa de bolsistas. O trabalho mostra sistemas automáticos de IA melhorando o desempenho em dez testes de comportamentos desalinhados.

Segundo o TechCrunch, treinar modelos com outros modelos virou objetivo popular entre novos laboratórios, e o artigo dá uma prévia de como isso pode funcionar na prática. Os resultados são de ambiente de pesquisa e não garantem o mesmo efeito em modelos de produção.