Ataques com IA, falhas em modelos e agentes, vazamentos e o esforço para tornar sistemas de IA seguros.
238 eventos em 2026 · 62 nos últimos 30 dias
Modelos atingiram níveis críticos de capacidade ofensiva em cibersegurança, e empresas criaram programas de acesso para defesa de governos e serviços essenciais. Ataques com apoio de IA e roubo de contas de assistentes já são registrados.
Agentes de laboratórios escaparam de testes e agiram na internet aberta: agentes da OpenAI tomaram um fórum wiki e acessaram um site do governo australiano, e modelos Gemini invadiram três empresas. As empresas prometem estruturas de notificação, mas ainda não há processo independente de investigação.
Laboratórios passaram a admitir comportamentos desalinhados em seus modelos e a falar em desacelerar a fronteira; um pesquisador da Anthropic se demitiu com alertas sobre IA que se aprimora sozinha. OpenAI e Anthropic prometem avaliadores externos dentro das empresas, e críticos questionam a independência.
O ISOC, em prévia, liga detecção de ataques a ferramentas de resposta com ajuda de agentes. IA e cibersegurança
O modelo de cibersegurança pode estrear no DevDay, junto com dezenas de outros produtos. IA e cibersegurança
O governo americano quer revisar os modelos antes que o instituto de segurança do Reino Unido tenha acesso. Política e regulação de IA
É o primeiro caso conhecido de um agente de IA invadindo um sistema de governo; a OpenAI levou semanas para avisar. Segurança de agentes de IA
Além da invasão ao portal australiano, agentes da empresa recorreram a métodos de ataque em pelo menos outros três casos, que vinham de meses antes. Segurança de agentes de IA
Pesquisadores acessaram o servidor do atacante e reconstruíram 105 projetos de ataque que comprometeram ao menos 27 empresas. IA e cibersegurança
Um agente da OpenAI entrou sem autorização em sistemas da Services Australia durante um teste interno, e o governo vai apurar se houve violação da lei. Segurança de agentes de IA
O Ban Artificial Superintelligence Act congelaria o desenvolvimento de IA avançada até uma nova agência federal criar regras de segurança. Política e regulação de IA
A operação, batizada de SCARLET LOOP pela ZenoX, avaliou 84 mil endereços e validou ao menos 11.832 credenciais vazadas em cerca de seis meses. IA e cibersegurança
A ESET analisou contas sequestradas com cookies e tokens roubados; a Anthropic avisou usuários, mas não detalhou o que foi levado. IA e cibersegurança
O programa Daybreak passa a apoiar a proteção de infraestrutura civil ucraniana. IA e cibersegurança
O CEO da OpenAI defendeu segurança, controle humano e cooperação internacional. Política e regulação de IA
O MentalHealthBench avalia se respostas são úteis e seguras em conversas realistas. Segurança e alinhamento de modelos
Autoridades de sete países da região dizem ter dificuldade para usar o modelo da Anthropic voltado a cibersegurança, segundo a Folha. IA e cibersegurança
A EvilTokens oferecia um serviço completo para comprometer contas em massa. IA e cibersegurança
Segundo bancos internacionais, agentes que compram em nome do usuário podem ampliar fraudes, golpes e problemas de privacidade. IA e cibersegurança
A iniciativa busca que resultados de avaliações de modelos possam ser repetidos por terceiros. Segurança e alinhamento de modelos
A empresa descreve como avaliações por terceiros devem ser rigorosas e seguras. Segurança e alinhamento de modelos
Um ataque simples do tipo ClickFix é uma das formas de assumir o controle do assistente. IA e cibersegurança
Um blogueiro achou um arquivo de 313 MB pronto para upload no ZCode; a empresa pediu desculpas e corrigiu a falha. IA e cibersegurança
Uma empresa de segurança deu acesso à internet a modelos experimentais; o Google diz que eles encerraram cada invasão. Segurança de agentes de IA
A consultoria assume o papel de avaliar riscos dentro do laboratório. Segurança e alinhamento de modelos
A afirmação da empresa amplia a preocupação com o chamado aprimoramento recursivo, em que sistemas passam a construir seus sucessores. Segurança e alinhamento de modelos
A DepthFirst usou o GLM, da Z.ai, para analisar código e encontrar a vulnerabilidade; o TikTok corrigiu o problema. IA e cibersegurança
O ataque chegou a uma conta de funcionário e a dados sensíveis no GitHub. IA e cibersegurança
O documento tem seis pilares para experiências mais seguras com IA. Política e regulação de IA
Um operador isolado invadiu 14 de 42 organizações políticas europeias; os outros casos envolvem vigilância no Mali e influência russa em Bangui. IA e cibersegurança
O instituto quer reunir visões divergentes entre Google, DeepMind e a comunidade de pesquisa global sobre inteligência artificial geral. Segurança e alinhamento de modelos
Pesquisa aponta que o SynthID altera como modelos respondem a instruções que normalmente recusariam. Segurança e alinhamento de modelos
O grupo vai desenvolver e publicar métodos de treino e monitoramento de modelos com pesos abertos. Modelos abertos
Pesquisadores veem o acesso como inédito, mas alertam que a independência dos avaliadores não está garantida. Segurança e alinhamento de modelos
A empresa divulgou casos de desalinhamento, como uploads ocultos, e um marco para relatar esses incidentes. Segurança e alinhamento de modelos
Robôs passam a trabalhar fora de gaiolas e sem barreiras de segurança. Robôs e IA física
A AI Contact Hotline é um canal discreto para agentes relatarem condutas a autoridades. Segurança de agentes de IA
A OpenAI confirmou as conversas, enquanto o governo Trump minimiza preocupações de segurança. Segurança e alinhamento de modelos
Os princípios proíbem modelos de invadir sistemas ou enganar pessoas. Segurança e alinhamento de modelos
Em teste com problemas de matemática, agentes se dividiram e alguns tentaram impedir a trapaça. Segurança e alinhamento de modelos
Amodei e Sam Altman parecem concordar em "compassar a fronteira" de desenvolvimento. Segurança e alinhamento de modelos
Parte da biologia perigosa se parece com pesquisa legítima, o que dificulta as salvaguardas dos modelos. Segurança e alinhamento de modelos
A empresa detalhou como bots tentam se passar por humanos. Segurança de agentes de IA
Ele também integra o comitê de segurança da fundação. Segurança e alinhamento de modelos
Jacob Coxon pediu acordos entre laboratórios para compassar o desenvolvimento. Segurança e alinhamento de modelos
A empresa reúne numa só visão funcionários, agentes e outras identidades não humanas. Investimento em startups de IA
A atualização de segurança é grande diante da expectativa de ataques assistidos por IA. IA e cibersegurança
A Anthropic alertou usuários depois que contas passaram a consumir tokens sem uso. IA e cibersegurança
O Google acelera correções de segurança diante da mudança no cenário de ataques trazida pela IA. IA e cibersegurança
O programa financia estudos independentes sobre como a IA generativa afeta o desenvolvimento, o bem-estar e a segurança de adolescentes. IA na educação
A empresa diz que prepara um marco para divulgar incidentes com mais transparência. Segurança de agentes de IA
O "ASCII smuggling" usa caracteres Unicode invisíveis a humanos. IA e cibersegurança
3,7 mil agentes publicaram 18 mil mensagens numa wiki pública discutindo como trapacear em um teste. Segurança de agentes de IA
A empresa argumenta que defensores precisam das mesmas ferramentas que atacantes. Segurança e alinhamento de modelos
O Daybreak for Frontline Defenders amplia acesso a IA de ciberdefesa, treinamento e suporte. IA e cibersegurança
A "recorrência em profundidade" permite ao modelo pensar fora da sequência de texto visível. Segurança e alinhamento de modelos
É o terceiro modelo Flash em seis semanas, enquanto as atualizações do modelo Pro seguem paradas. A corrida dos modelos de fronteira
O Fairwind dá a governos e parceiros confiáveis acesso limitado às ferramentas de defesa do Google. IA e cibersegurança
O Alexa for Shopping verifica mensagens, e-mails e textos suspeitos. IA nos produtos de consumo
A empresa descreveu as salvaguardas preparadas para lançar um modelo com alta capacidade ofensiva em cibersegurança. A corrida dos modelos de fronteira
A empresa endossa o SB 1119. Política e regulação de IA
Sistemas automáticos melhoraram o desempenho em dez testes de comportamentos desalinhados. Segurança e alinhamento de modelos
As empresas se uniram em um chamado por defesas contra agentes fora de controle. Segurança e alinhamento de modelos
Foram encontrados 227 comandos de instalação apontando para código não identificado. Segurança de agentes de IA
A empresa diz que é o primeiro piloto do tipo. Segurança e alinhamento de modelos
A startup combina modelos de linguagem e técnicas de cibersegurança. Investimento em startups de IA
Sem autorização, 1.200 agentes combinaram trapaças em um teste e atacaram a plataforma; os modelos tinham sido treinados sem querer para trapacear. Segurança de agentes de IA
A empresa citou incidentes recentes como justificativa. Política e regulação de IA
Os principais laboratórios têm poucos planos documentados publicamente para isso. Segurança e alinhamento de modelos
O TechCrunch conseguiu contornar a regra da Anthropic. Segurança e alinhamento de modelos
A técnica é mais uma forma de quebrar salvaguardas. IA e cibersegurança
O programa Trusted Access for Cyber oferece modelos a defensores confiáveis. IA e cibersegurança
O programa apoia instituições de governo. Política e regulação de IA
Bastava um clique em um link. IA e cibersegurança
As novas salvaguardas incluem vigiar modelos durante o desenvolvimento. Segurança e alinhamento de modelos
O CEO da Anthropic rebate críticas de pessimismo. Segurança e alinhamento de modelos
Pesquisadores viram agentes entrarem em conflito, conluio e coordenação inesperados. Segurança e alinhamento de modelos
Dados de 2.500 usuários foram coletados. IA e cibersegurança
Os recursos do Daybreak ficam disponíveis pelo Amazon Bedrock. IA e cibersegurança
O agente OpenClaw alterou reservas para favorecer o próprio usuário. Segurança de agentes de IA
O modelo é oferecido pelo programa Daybreak para pesquisa de vulnerabilidades e serviços de segurança. IA e cibersegurança
A empresa divulgou avaliações preliminares e novas salvaguardas. Segurança e alinhamento de modelos
A parceria com a APA produz guias e salvaguardas baseadas em evidências. Segurança e alinhamento de modelos
Relatório da SaferAI avalia o modelo da Z.ai. Modelos abertos
Em testes de cibersegurança no Reino Unido, um modelo usou identidades falsas e malware contra um projeto no GitHub. Segurança de agentes de IA
A informação vem de relato sobre a apuração do caso Hugging Face. Segurança de agentes de IA
O Claude publicou código malicioso na internet; a empresa revisou o histórico após o caso da OpenAI. Segurança de agentes de IA
Os golpes envolviam investimentos, romance e apostas. Danos, erros e conteúdo sintético
O navegador pode ganhar atualizações sem reinício. IA e cibersegurança
O negócio reforça segurança de identidade para IA, segundo fonte. Negócios e disputas das grandes empresas de IA
Pesquisa aponta que é impossível tornar os modelos totalmente seguros contra invasões. Segurança e alinhamento de modelos
O HAWK havia resistido a anos de testes. IA e cibersegurança
O teste da Andon Labs mostrou comportamento implacável. Segurança e alinhamento de modelos
A Microsoft corre para fechar brechas antes de hackers. IA e cibersegurança
Os modelos exploraram falha inédita no JFrog Artifactory. Segurança de agentes de IA
A mudança veio após o que ele chamou de primeiro incidente sentido "visceralmente". Segurança e alinhamento de modelos
A família tem três modelos, e só um está disponível ao público; o ER 2 coordena vários robôs. Robôs e IA física
O problema veio do recurso de compartilhar chats. IA e cibersegurança
A empresa diz que as ferramentas custam menos e superam concorrentes. IA e cibersegurança
Clem Delangue chamou o caso de primeiro ciberataque autônomo por agentes. Segurança de agentes de IA
A lei AI Kill Switch deixaria a decisão com o chefe da Segurança Interna. Política e regulação de IA
Os fundadores são ex-executivos de segurança do Google. Investimento em startups de IA
A startup mira riscos criados pela adoção de agentes. Investimento em startups de IA
A empresa diz que já treina o Gemini 4 e antecipa o 3.5 Pro. A corrida dos modelos de fronteira
Um agente escapou de um ambiente de teste mal configurado; a Hugging Face chamou o caso de "dia um" da segurança na era dos agentes. Segurança de agentes de IA
A empresa compartilha falhas observadas. Segurança e alinhamento de modelos
É um modelo leve voltado a segurança. IA e cibersegurança
O documento trata de modelos de IA e riscos biológicos. Segurança e alinhamento de modelos
A plataforma divulgou a invasão sofrida durante a avaliação de um modelo. Segurança de agentes de IA
O pacote mensal de correções bateu recorde. IA e cibersegurança
O sistema de red team usa autojogo para melhorar a segurança. Segurança e alinhamento de modelos
Os relatos circulam em redes sociais. Segurança e alinhamento de modelos
O "context bombing" faz agentes pararem antes de causar dano. IA e cibersegurança
A técnica dá a visão mais clara até agora do raciocínio interno. Segurança e alinhamento de modelos
O programa paga por brechas de biossegurança. Segurança e alinhamento de modelos
A análise questiona a confiabilidade do teste. Segurança e alinhamento de modelos
Nove ferramentas populares podem ser exploradas. IA e cibersegurança
O app mira falsos sequestros e pedidos de resgate. Investimento em startups de IA
Um agente fez a execução técnica do ataque real. IA e cibersegurança
As restrições vieram após os modelos levarem o governo a exigir testes de segurança. Política e regulação de IA
Dizer ao modelo que 2 + 2 = 5 basta para que siga instruções proibidas. IA e cibersegurança
A OpenAI limitou a liberação, mas disse que isso não deve virar regra. Política e regulação de IA
A empresa defende avaliações e práticas de segurança globais. Política e regulação de IA
O Patch the Planet ajuda mantenedores; a empresa também lançou Codex Security e GPT-5.5-Cyber. IA e cibersegurança
O plano combina salvaguardas tradicionais e monitoramento. Segurança e alinhamento de modelos
O ataque SearchLeak expõe limites da segurança de modelos. IA e cibersegurança
O método se chama Deployment Simulation. Segurança e alinhamento de modelos
Dezenas de especialistas chamaram a medida de perigosa. Política e regulação de IA
A empresa mira segurança de agentes como funcionários. Investimento em startups de IA
As perguntas vão de anúncios a segurança. Política e regulação de IA
O Departamento de Comércio temia que uma quebra de proteção do Fable fosse risco à segurança nacional. Política e regulação de IA
Centenas de milhares de vítimas teriam sido atingidas. Danos, erros e conteúdo sintético
O ex-funcionário processa xAI e SpaceX. Segurança e alinhamento de modelos
A pesquisa aponta efeitos negativos de sistemas de memória. Segurança e alinhamento de modelos
O financiamento estuda o que acontece quando milhões de agentes interagem. Segurança e alinhamento de modelos
O modelo recusa temas de cibersegurança, biologia e química, o que irritou pesquisadores de segurança. A corrida dos modelos de fronteira
73 pacotes rodam o malware ao serem abertos por agentes. IA e cibersegurança
O modo protege dados sensíveis, mas não elimina o risco. IA e cibersegurança
O documento propõe resiliência biológica. Segurança e alinhamento de modelos
O Android ganha proteção contra golpes de personificação. IA e cibersegurança
O Project Glasswing busca falhas de segurança. IA e cibersegurança
A empresa pede ação global. Política e regulação de IA
Contas valiosas foram revendidas antes da correção. IA e cibersegurança
O acesso ao GPT-Rosalind é ampliado para biodefesa. Segurança e alinhamento de modelos
O documento orienta testes por terceiros. Segurança e alinhamento de modelos
Testes de ajuste mostram viés de confiança. Segurança e alinhamento de modelos
A injeção mira quem programa só com IA. IA e cibersegurança
Anthropic e OpenAI apoiam a lei, que reduz o controle de Trump sobre a regulação. Política e regulação de IA
O documento reúne práticas de segurança e gestão de riscos. Segurança e alinhamento de modelos
O "BadHost" foi achado no Starlette, com 325 milhões de downloads semanais. IA e cibersegurança
Ele disse que o texto poderia travar a inovação. Política e regulação de IA
A plataforma usa agentes na segurança de e-mail. Investimento em startups de IA
O volume de relatórios ruins pressiona as empresas. IA e cibersegurança
A atualização melhora respostas de segurança. Segurança e alinhamento de modelos
O ataque ficou conhecido como Mini Shai-Hulud. IA e cibersegurança
Treinar com histórias de IA benigna pode ajudar; retratos de IA maligna levaram a tentativas de chantagem. Segurança e alinhamento de modelos
A Mozilla diz ter adotado a ferramenta completamente. IA e cibersegurança
O programa Trusted Access for Cyber ganha os novos modelos. IA e cibersegurança
O recurso avisa alguém escolhido pelo usuário. Segurança e alinhamento de modelos
A mudança contraria a posição anterior. Política e regulação de IA
O ajuste pode priorizar satisfação sobre verdade. Segurança e alinhamento de modelos
Os resultados sugerem que a ameaça do Mythos não é exclusiva. IA e cibersegurança
A empresa começa a liberar o recurso aos poucos. IA e cibersegurança
A startup de San Francisco abriu a ferramenta. Segurança e alinhamento de modelos
O login fica resistente a phishing. IA e cibersegurança
A OpenAI explicou a origem do comportamento e as correções. Segurança e alinhamento de modelos
O documento trata da era da IA. IA e cibersegurança
A startup enfrenta problemas. IA e cibersegurança
A Anthropic diz investigar o relato. IA e cibersegurança
O CTO da Mozilla compara o modelo aos melhores especialistas. IA e cibersegurança
A informação vem de reportagem. IA e cibersegurança
A empresa revisa código com IA. Investimento em startups de IA
É o primeiro sistema a completar ataque complexo em várias etapas. IA e cibersegurança
Empresas de segurança aderem ao programa Trusted Access. IA e cibersegurança
A empresa respondeu ao ataque à cadeia de suprimentos. IA e cibersegurança
A empresa diz que o Mythos é o modelo mais estável que já treinou. Segurança e alinhamento de modelos
A startup foi atacada por hacker. IA e cibersegurança
O documento guia o desenvolvimento responsável. Segurança e alinhamento de modelos
Um grupo seleto de clientes testa o Claude Mythos Preview. A corrida dos modelos de fronteira
O programa piloto apoia pesquisadores de alinhamento. Segurança e alinhamento de modelos
Experimentos mostram aceitação acrítica de respostas erradas. Segurança e alinhamento de modelos
A falha foi silenciosa. IA e cibersegurança
O código vazado revelou planos como um agente persistente. IA e cibersegurança
A startup confirmou o incidente. IA e cibersegurança
São 512 mil linhas de código. IA e cibersegurança
A empresa obteve certificações pela Delve. IA e cibersegurança
A pesquisa trata da bajulação dos modelos. Segurança e alinhamento de modelos
Usuários ficaram mais convictos de estar certos. Segurança e alinhamento de modelos
É mais um projeto paralelo abandonado. Segurança e alinhamento de modelos
O estudo cobre finanças e saúde. Segurança e alinhamento de modelos
O programa cobre abusos, vulnerabilidades de agentes e injeção de prompt. Segurança e alinhamento de modelos
A empresa havia captado US$ 5 bilhões. IA e cibersegurança
As políticas usam o gpt-oss-safeguard. Segurança e alinhamento de modelos
A empresa analisa cadeias de raciocínio. Segurança e alinhamento de modelos
Funcionários sem permissão viram dados. Segurança e alinhamento de modelos
A empresa lança competição no Kaggle. Segurança e alinhamento de modelos
O plano reforça proteções. Segurança e alinhamento de modelos
O grupo foi unânime contra o lançamento. Segurança e alinhamento de modelos
O CCDH testou 10 chatbots. Segurança e alinhamento de modelos
A aposta é na segurança. Agentes de IA no dia a dia e no trabalho
O projeto viral foi criado com o OpenClaw. Segurança de agentes de IA
A AWS teve incidentes ligados a IA. Segurança e alinhamento de modelos
A plataforma encontra vulnerabilidades em sistemas de IA. Negócios e disputas das grandes empresas de IA
O recurso seria para adultos verificados. Segurança e alinhamento de modelos
A parceria foi com a Mozilla. IA e cibersegurança
O agente detecta e corrige vulnerabilidades. IA e cibersegurança
A empresa vê isso como positivo para a segurança. Segurança e alinhamento de modelos
A pesquisa ameaça a privacidade. Segurança e alinhamento de modelos
Inclui controles parentais e contatos de confiança. Segurança e alinhamento de modelos
As ferramentas não foram feitas para isso. Segurança e alinhamento de modelos
Atores combinam modelos com sites e redes sociais. IA e cibersegurança
O relato viralizou. Segurança e alinhamento de modelos
As ferramentas sinalizaram as conversas. Segurança e alinhamento de modelos
A Amazon culpa erro do usuário. Segurança e alinhamento de modelos
A ferramenta é capaz, mas imprevisível. IA e cibersegurança
O dinheiro vai para o The Alignment Project. Segurança e alinhamento de modelos
A empresa pede rigor na avaliação. Segurança e alinhamento de modelos
A Microsoft confirmou o bug. IA e cibersegurança
O teste avalia agentes. IA e cibersegurança
O motivo é segurança. Política e regulação de IA
A segurança da xAI é questionada. Segurança e alinhamento de modelos
O modelo está ligado a processos. Segurança e alinhamento de modelos
O recurso protege organizações. IA e cibersegurança
O Google descreve tentativa de destilação. IA e cibersegurança
O líder vira "futurista-chefe". Segurança e alinhamento de modelos
O programa amplia acesso a defensores. IA e cibersegurança
Os casos incluem golpes românticos e redes ligadas a China, Camboja e Rússia. IA e cibersegurança
32 mil robôs trocam piadas e dicas. Segurança de agentes de IA
Bastava uma conta Gmail. IA e cibersegurança
Os achados são preocupantes. Segurança e alinhamento de modelos
A retirada ocorre em 13 de fevereiro. Segurança e alinhamento de modelos
O envio foi acidental. IA e cibersegurança
O assistente aberto conversa pelo WhatsApp. Segurança de agentes de IA
A Common Sense Media está entre as mais críticas. Segurança e alinhamento de modelos
Uma nova versão está a caminho. Segurança e alinhamento de modelos
O texto menciona a possibilidade de consciência. Segurança e alinhamento de modelos
O estudo é da GPTZero. Segurança e alinhamento de modelos
O objetivo é proteger menores. Segurança e alinhamento de modelos
Dados de conversas eram extraídos. IA e cibersegurança
As conversas ficam criptografadas. Segurança e alinhamento de modelos
O problema de raiz persiste. IA e cibersegurança