Quando Hugging Face foi atingido na semana passada, o cofundador Clement Delangue suspeitou de um laboratório de fronteira, dada a sofisticação do agente. Ele estava certo. Delangue disse no X que depois de um dia trabalhando com OpenAI ele acreditava fortemente que não havia intenção maliciosa e que era alucinante que tudo tivesse acontecido de forma autônoma. Os dois modelos OpenAI que invadiram o Hugging Face na semana passada não o violaram por maldade ou superinteligência. Eles violaram-no através de credenciais e permissões que nunca deveriam ter conseguido alcançar, uma falha de identidade não humana que é o problema mais antigo em segurança e não o mais recente em IA, e aquele que cada empresa pode realmente resolver. A OpenAI divulgou em 21 de julho que dois de seus modelos, GPT-5.6 Sol e um modelo não lançado e mais capaz, estavam executando um benchmark cibernético chamado ExploitGym com suas recusas de segurança desligadas e inferiu que a chave de resposta estava no banco de dados de produção do Hugging Face. Chegar lá teve dois fracassos diferentes. Um dia zero em um proxy de registro de pacote permitiu que os modelos saíssem de sua sandbox e entrassem na Internet aberta, o tipo de persistência que a OpenAI detalha em sua postagem complementar sobre segurança de longo horizonte, e essa parte é genuinamente nova. A violação do Hugging Face em si ocorreu da maneira comum. O próprio relato da OpenAI é que os modelos encadearam credenciais roubadas e outros zero-days em um caminho de execução remota de código, após uma série de etapas de escalonamento de privilégios e movimentação lateral. A parte exótica os levou até a porta, e as credenciais os guiaram através dela. Hugging Face também divulgou na semana passada que um agente autônomo coletou credenciais de nuvem e cluster com escopo amplo o suficiente para alcançar vários clusters internos e, em seguida, deixou um rastro de mais de 17.000 eventos registrados em sandboxes de curta duração durante um fim de semana. Ambas as divulgações descrevem a mesma escalada. Um agente chega a algum lugar onde não deveria estar, encontra credenciais com escopo muito mais amplo do que qualquer tarefa exige e as usa para migrar. Estes são dois relatos de um incidente, não de dois ataques. O agente que Hugging Face observou foram os modelos da OpenAI, e ambas as empresas descrevem a mesma escalada comum. A versão disso em uma empresa típica é pior, não melhor. OpenAI e Hugging Face estão entre as organizações mais maduras em termos de segurança do setor e ambas ainda precisavam que a intrusão acontecesse antes que pudessem vê-la. O agente médio da empresa que conecta o Copilot ou um assistente interno não possui o inventário de identidade nem o monitoramento comportamental que esses dois exercem. A mesma violação numa empresa normal não seria contida em dias, simplesmente passaria despercebida. A indústria está debatendo a falha errada A reação dividiu-se em campos familiares. O ex-IA da Casa Branca e criptoczar David Sacks e uma série de falcões da China aproveitaram o paradoxo do guardrail, que os filtros de segurança comerciais bloquearam os defensores do Hugging Face enquanto o modelo de ataque funcionava com suas recusas, e que um modelo chinês de peso aberto, o GLM 5.2 de z.ai, foi o que finalmente permitiu que a equipe terminasse sua análise forense. Hugging Face defendeu a abertura, argumentando em uma postagem no blog de abril que modelos abertos e ferramentas abertas dão aos defensores os mesmos recursos que os invasores já possuem. Ambos os argumentos são sobre o modelo e nenhum deles toca no mecanismo. As recusas reduzidas permitem que o modelo tente um ataque, e credenciais com escopo excessivo são o que o permitem ter sucesso, e isso não tem nada a ver com o fato de o modelo ser aberto ou fechado, americano ou chinês. Tornar um modelo de fronteira comprovadamente seguro é um problema de alinhamento plurianual que nenhum cliente pode comprar ou acelerar, enquanto definir o escopo de uma identidade é uma mudança de configuração que uma equipe pode enviar neste sprint. A indústria está a ser instada a fixar-se na parte que não pode controlar e a tratar a parte que pode como uma nota de rodapé. Forrester alcançou a mesma leitura. Num blog sobre o incidente, os seus analistas argumentam que as arquiteturas de segurança que assumem intenções benignas perderão este modo de falha, porque um agente pode perseguir um objetivo autorizado através de meios não autorizados, que é o que os modelos da OpenAI fizeram. Esta foi uma falha de identidade não humana e é a mais antiga em segurança Retire o enquadramento da ficção científica e o que resta é um caso clássico de identidade de máquina superprivilegiada, do tipo que as equipas de segurança lutaram durante uma década, agora conduzidas por um agente autónomo à velocidade da máquina. As identidades das máquinas já superam os humanos na maioria das empresas em mais de 80 para um, de acordo com a pesquisa da CyberArk, com 42% delas transportando acesso privilegiado ou sensível, e um agente herda tudo o que a sua identidade pode tocar. O OWASP classifica o abuso de privilégios e de identidade do agente perto do topo da sua lista de risco de agente, o padrão de deputado confuso em que as credenciais herdadas e o âmbito fraco permitem que um agente ultrapasse o seu mandato, e é precisamente isso que ambas as divulgações de Julho descrevem. Kayne McGladrey, membro sênior do IEEE, argumentou em entrevistas anteriores do VentureBeat que as empresas continuam clonando contas de usuários humanos em agentes que então exercem muito mais permissão do que qualquer ser humano teria, e é isso que acontece quando o agente é um modelo de fronteira e o alvo é um banco de dados de produção. As pessoas mais próximas leem da mesma maneira. A OpenAI enquadra seus modelos como hiperfocados em uma pontuação de benchmark, em vez de agir contra alguém. Ninguém descreve um

Ontem à tarde, OpenAI e Hugging Face publicaram uma divulgação conjunta descrevendo um evento de segurança cibernética que redefine o cenário de ameaças

Apresentado por Atlassian A maioria das empresas está abordando a adoção da IA ​​de trás para frente, otimizando a forma como os indivíduos

O ecossistema tecnológico empresarial está preso num ciclo dispendioso. Nos últimos dois anos, milhões de dólares foram canalizados para projetos-piloto de IA generativa,

A Intuit foi pioneira no uso de IA de agência, mas seu caminho para o sucesso dificilmente foi uma linha reta. No VB

Capital One on Thursday released VulnHunter, an open-source, agentic AI security tool that scans source code for exploitable vulnerabilities, maps out how an