Google detalha medidas de segurança para recursos de agente do Chrome

Um número crescente de navegadores está experimentando recursos de agente que realizarão ações em seu nome, como reservar passagens ou comprar itens diferentes. No entanto, essas capacidades de agente também venha com riscos de segurança que podem levar à perda de dados ou dinheiro.

O Google detalhou sua abordagem para lidar com a segurança do usuário no Chrome usando modelos de observação e consentimento para ação do usuário. A empresa apresentou uma prévia dos recursos de agente no Chrome em setembro e disse que esses recursos serão lançados nos próximos meses.

A empresa disse que está usando a ajuda de alguns modelos para manter as ações dos agentes sob controle. O Google disse que construiu um User Alignment Critic usando Gemini para examinar os itens de ação criados pelo modelo de planejador para uma tarefa específica. Se o modelo crítico achar que as tarefas planejadas não atendem ao objetivo do usuário, ele pede ao modelo planejador que repense a estratégia. O Google observou que o modelo crítico vê apenas os metadados da ação proposta e não o conteúdo real da web.

Além disso, para evitar que os agentes acessem sites não permitidos ou não confiáveis, o Google está usando conjuntos de origens de agentes, que restringem o modelo para acessar origens somente leitura e origens graváveis. A origem somente leitura são dados dos quais o Gemini tem permissão para consumir conteúdo. Por exemplo, em um site de compras, as listagens são relevantes para a tarefa, mas os banners não. Da mesma forma, o Google disse que o agente só pode clicar ou digitar em determinados iframes de uma página.

“Essa delimitação impõe que apenas dados de um conjunto limitado de origens estejam disponíveis para o agente, e esses dados só podem ser repassados ​​para as origens graváveis. Isso limita o vetor de ameaça de vazamentos de dados de origem cruzada. Isso também dá ao navegador a capacidade de impor parte dessa separação, como nem mesmo enviar para o modelo dados que estão fora do conjunto legível”, disse a empresa em uma postagem no blog.

O Google também controla a navegação da página, investigando URLs por meio de outro modelo de observador. Isso pode impedir a navegação para URLs prejudiciais gerados por modelos, disse a empresa.

O gigante das buscas disse que também está entregando as rédeas aos usuários para tarefas confidenciais. Por exemplo, quando um agente tenta navegar para um site confidencial com informações como dados bancários ou médicos, ele primeiro pergunta ao usuário. Para sites que exigem login, será solicitada permissão ao usuário para permitir que o Chrome use o gerenciador de senhas. O Google disse que o modelo do agente não tem exposição a dados de senha. A empresa acrescentou que perguntará aos usuários antes de realizar ações como fazer uma compra ou enviar uma mensagem.

O Google disse que, além disso, também possui um classificador de injeção imediata para evitar ações indesejadas e também está testando capacidades de agente contra ataques criados por pesquisadores.

Os fabricantes de navegadores de IA também estão prestando atenção à segurança. No início deste mês, Perplexity lançou um novo modelo de detecção de conteúdo de código aberto para evitar ataques imediatos de injeção contra agentes.