Quer insights mais inteligentes em sua caixa de entrada? Inscreva -se para que nossos boletins semanais obtenham apenas o que importa para a IA, dados e líderes de segurança corporativos. Inscreva -se agora
O Antrópico começou a testar uma extensão do navegador Chrome que permite que seu assistente de IA Claude assuma o controle dos navegadores da Web dos usuários, marcando a entrada da empresa em uma arena cada vez mais lotada e potencialmente arriscada, onde os sistemas de inteligência artificial podem manipular diretamente interfaces de computador.
A empresa de IA com sede em São Francisco anunciou terça-feira que pilotaria “Claude for Chrome” com 1.000 usuários confiáveis em seu plano máximo premium, posicionando o lançamento limitado como uma prévia de pesquisa projetada para abordar vulnerabilidades de segurança significativas antes da implantação mais ampla. A abordagem cautelosa contrasta fortemente com movimentos mais agressivos dos concorrentes OpenAI e Microsoft, que já lançaram sistemas de IA de controle de computador semelhantes para bases mais amplas de usuários.
O anúncio ressalta a rapidez com que o setor de IA mudou do desenvolvimento de chatbots que simplesmente respondem a perguntas para criar sistemas “agênticos” capazes de concluir autonomamente tarefas complexas e multi-etapas em aplicativos de software. Essa evolução representa o que muitos especialistas consideram a próxima fronteira em inteligência artificial – e potencialmente uma das mais lucrativas, à medida que as empresas correm para automatizar tudo, desde relatórios de despesas até planejamento de férias.
Como os agentes da IA podem controlar seu navegador, mas o código malicioso oculto apresenta sérias ameaças à segurança
Claude for Chrome permite que os usuários instruam a IA a executar ações em seu nome nos navegadores da Web, como agendar reuniões, verificando calendários e disponibilidade de restaurantes de referência cruzada ou gerenciamento de caixas de entrada de e-mail e manipulando tarefas administrativas de rotina. O sistema pode ver o que é exibido na tela, clique em botões, preencher formulários e navegar entre sites-imitando essencialmente como os humanos interagem com o software baseado na Web.
Ai escala atinge seus limites
Capitões de energia, custos crescentes de token e atrasos de inferência estão remodelando a IA corporativa. Junte -se ao nosso salão exclusivo para descobrir como são as principais equipes:
- Transformando energia em uma vantagem estratégica
- Arquitetagem Inferência eficiente para ganhos reais de rendimento
- Desbloqueando o ROI competitivo com sistemas de IA sustentáveis
Prenda seu lugar para ficar à frente: https://bit.ly/4mwgngo
“Vemos a IA que usam o navegador como inevitável: tanto trabalho acontece nos navegadores que dando a Claude a capacidade de ver o que você está vendo, clique em botões e formulários de preenchimento o tornarão substancialmente mais útil”, afirmou a Antrópica em seu anúncio.
No entanto, os testes internos da empresa revelaram sobre vulnerabilidades de segurança que destacam a natureza de dois gumes de fornecer controle direto dos sistemas de IA sobre interfaces de usuário. Nos testes adversários, o Antrópico descobriu que atores maliciosos poderiam incorporar instruções ocultas em sites, e -mails ou documentos para induzir os sistemas de IA a ações prejudiciais sem o conhecimento dos usuários – uma técnica chamada injeção rápida.
Sem as mitigações de segurança, esses ataques tiveram sucesso 23,6% do tempo ao direcionar deliberadamente a IA que usam o navegador. Em um exemplo, um email malicioso disfarçado de diretiva de segurança instruiu Claude a excluir os e -mails do usuário “para higiene da caixa de correio”, que a IA obedientemente executou sem confirmação.
“Isso não é especulação: executamos experimentos de ‘time vermelho’ para testar Claude para o Chrome e, sem mitigações, encontramos alguns resultados relativos”, reconheceu a empresa.
OpenAI e Microsoft Rush to Market, enquanto o Antrópico adota a abordagem medida para a tecnologia de controle de computador
A abordagem medida do Anthrópico ocorre quando os concorrentes se moveram de maneira mais agressiva para o espaço de controle de computador. A OpenAI lançou seu agente “operador” em janeiro, disponibilizando-o para todos os usuários do seu serviço ChatGpt Pro de US $ 200 por mês. Alimentado por um novo modelo de “agente de uso de computador”, o operador pode executar tarefas como reservar ingressos para concertos, pedidos de compras e planejar itinerários de viagem.
A Microsoft seguiu em abril com os recursos de uso do computador integrados à sua plataforma Copilot Studio, direcionando os clientes corporativos com ferramentas de automação da interface do usuário que podem interagir com aplicativos da Web e software de desktop. A empresa posicionou sua oferta como substituição de próxima geração para os sistemas tradicionais de automação de processos robóticos (RPA).
A dinâmica competitiva reflete tensões mais amplas no setor de IA, onde as empresas devem equilibrar a pressão para enviar capacidades de ponta contra os riscos de implantar tecnologia insuficientemente testada. A linha do tempo mais agressiva da OpenAI permitiu capturar a participação de mercado precoce, enquanto a abordagem cautelosa da Anthrópica pode limitar sua posição competitiva, mas pode ser vantajosa se as preocupações com a segurança se concretizarem.
“Os agentes que usam o navegador alimentados por modelos de fronteira já estão surgindo, tornando esse trabalho especialmente urgente”, observou Anthropic, sugerindo que a empresa se sente compelida a entrar no mercado, apesar dos problemas de segurança não resolvidos.
Por que a IA de controlamento por computador pode revolucionar a automação corporativa e substituir o software caro de fluxo de trabalho
O surgimento de sistemas de IA de controlamento por computador pode remodelar fundamentalmente como as empresas abordam o gerenciamento de automação e fluxo de trabalho. A automação corporativa atual normalmente requer integrações personalizadas caras ou software de automação de processos robóticos especializado que quebre quando os aplicativos alteram suas interfaces.
Os agentes de uso de computador prometem democratizar a automação, trabalhando com qualquer software que tenha uma interface gráfica do usuário, potencialmente automatizando tarefas em todo o vasto ecossistema de aplicativos de negócios que não possuem recursos formais de APIs ou integração.
Os pesquisadores do Salesforce demonstraram recentemente esse potencial com seu sistema COACT-1, que combina a automação tradicional de apontar e clicar com os recursos de geração de código. A abordagem híbrida alcançou uma taxa de sucesso de 60,76% em tarefas complexas de computador, exigindo significativamente menos etapas que os agentes puros à base de GUI, sugerindo que ganhos substanciais de eficiência são possíveis.
“Para os líderes corporativos, a chave reside em automatizar processos complexos e multi-tool, onde o acesso completo da API é um luxo, não uma garantia”, explicou Ran Xu, diretor de pesquisa de IA aplicada no Salesforce, apontando para os fluxos de trabalho de suporte ao cliente que abrangem vários sistemas proprietários como casos de uso principal.
Os pesquisadores da universidade liberam alternativa gratuita aos sistemas de AI de uso de computador da Big Tech
O domínio dos sistemas proprietários das principais empresas de tecnologia levou os pesquisadores acadêmicos a desenvolver alternativas abertas. A Universidade de Hong Kong lançou recentemente a Opencua, uma estrutura de código aberto para o treinamento de agentes de uso de computador que rivalizam com o desempenho de modelos proprietários do OpenAI e Anthrópio.
O sistema Opencua, treinado em mais de 22.600 demonstrações de tarefas humanas no Windows, MacOS e Ubuntu, alcançaram resultados de ponta entre modelos de código aberto e tiveram um desempenho competitivo com os principais sistemas comerciais. Esse desenvolvimento pode acelerar a adoção pelas empresas hesitando em confiar em sistemas fechados para fluxos de trabalho críticos de automação.
Os testes de segurança do Anthropic revelam que os agentes da IA podem ser enganados para excluir arquivos e roubar dados
A Antrópica implementou várias camadas de proteção para Claude para o Chrome, incluindo permissões no nível do local que permitem aos usuários controlar quais sites a IA pode acessar, confirmações obrigatórias antes de ações de alto risco, como fazer compras ou compartilhar dados pessoais e bloquear o acesso a categorias como serviços financeiros e conteúdo adulto.
As melhorias de segurança da empresa reduziram as taxas de sucesso de ataque de injeção imediata de 23,6% para 11,2% no modo autônomo, embora os executivos reconheçam que isso permanece insuficiente para a implantação generalizada. Em ataques específicos do navegador envolvendo campos de forma ocultos e manipulação de URL, novas atenuações reduziram a taxa de sucesso de 35,7% para zero.
No entanto, essas proteções podem não escalar para toda a complexidade dos ambientes da Web do mundo real, onde novos vetores de ataque continuam surgindo. A empresa planeja usar informações do programa piloto para refinar seus sistemas de segurança e desenvolver controles de permissão mais sofisticados.
“Novas formas de ataques rápidos de injeção também estão sendo constantemente desenvolvidos por atores maliciosos”, alertou Antrópico, destacando a natureza contínua do desafio de segurança.
A ascensão de agentes de IA que clicam e tipo podem remodelar fundamentalmente como os humanos interagem com os computadores
A convergência de múltiplas principais empresas de IA em torno de agentes de controlamento de computador sinaliza uma mudança significativa na forma como os sistemas de inteligência artificial interagem com a infraestrutura de software existente. Em vez de exigir que as empresas adotem novas ferramentas específicas da IA, esses sistemas prometem trabalhar com qualquer aplicativo que as empresas já usem.
Essa abordagem pode diminuir drasticamente as barreiras à adoção da IA, enquanto potencialmente deslocou fornecedores de automação tradicionais e integradores de sistemas. As empresas que investiram fortemente em integrações personalizadas ou plataformas RPA podem achar suas abordagens obsoletadas por agentes de IA de uso geral que podem se adaptar às mudanças na interface sem reprogramação.
Para os tomadores de decisão corporativos, a tecnologia apresenta oportunidades e riscos. Os primeiros adotantes podem obter vantagens competitivas significativas por meio de recursos aprimorados de automação, mas as vulnerabilidades de segurança demonstradas por empresas como o antrópico sugerem que a cautela pode ser justificada até que as medidas de segurança amadurecem.
O piloto limitado de Claude para o Chrome representa o começo do que os observadores da indústria esperam ser uma rápida expansão das capacidades de IA controlador de computador em todo o cenário tecnológico, com implicações que se estendem muito além da simples automação de tarefas a perguntas fundamentais sobre a interação humano-computadores e a segurança digital.
Como o Antrópico observou em seu anúncio: “Acreditamos que esses desenvolvimentos abrirão novas possibilidades de como você trabalha com Claude e esperamos ver o que você criará”. Se essas possibilidades acabam sendo benéficas ou problemáticas podem depender de quão bem -sucedidas o setor aborda os desafios de segurança que já começaram a surgir.
Fonte ==> Cyberseo
