O que saber sobre a falha de segurança no cometa da Perplexity

Bem -vindo de volta a No loopO novo boletim da Time é duas vezes por semana sobre a IA. Se você está lendo isso no seu navegador, por que não se inscrever para que o próximo entregue diretamente à sua caixa de entrada?

Inscreva -se

O que saber: os perigos dos navegadores de IA

Na semana passada, a Perplexity anunciou que seu navegador movido a IA, chamado Comet, seria liberado para todos os usuários depois de exigir uma assinatura paga. O Comet é um novo tipo de navegador, contendo um AI Chatbot integrado que pode navegar na Web em seu nome, além de executar ações autônomas, como fazer compras, enviar e -mails ou criar eventos de calendário.

Há apenas um problema. A IA interna da Comet poderia até recentemente ser seqüestrada por links maliciosos, o que fez com que o navegador singue informações pessoais de serviços conectados como o Gmail e o enviassem para zombar de atacantes, de acordo com o novo pesquisar pela empresa de segurança cibernética camada. É um sinal de que, mesmo que os navegadores movidos a IA possam tornar os usuários mais produtivos, eles também podem introduzir novas vulnerabilidades.

O ataque – Layerx descobriu uma vulnerabilidade chamada “Cometjacking”, na qual um aviso malicioso para a IA do navegador está escondido dentro de um URL. Quando o usuário clica nesse link, o navegador confunde o prompt malicioso para obter uma instrução do usuário – e começa a realizá -lo. No exemplo da Layerx, o atacante simulado consegue fazer com que o Comet extraia dados das contas de email e calendário do usuário. Embora o Comet tenha salvaguardas contra o roubo de dados, o invasor conseguiu ignorá -los, instruindo a IA a codificar as informações roubadas no Base64 (basicamente a parecerá um texto inofensivo) antes de enviá -lo para um servidor remoto sob seu controle.

Um sinal de coisas que estão por vir—Today, Google Chrome é de longe o navegador mais popular. Mas alguns acreditam que uma nova “guerra do navegador” pode chegar em breve, alimentada por novos participantes como o cometa de Perplexity. (Também acredita -se que o OpenAI seja trabalhando Em seu próprio navegador movido a IA, embora ainda não o tenha lançado.) Mas, à medida que os criadores do navegador se apressam em adicionar recursos de IA, eles também podem estar adicionando novas classes de vulnerabilidade, diz ou Eshed, CEO da Layerx. Podemos estar prestes a entrar “um mundo em que a navegação se torna mais arriscado”, diz Eshed. “Veremos antigos tipos de ataques que foram quase extintos voltando, ou mesmo novos tipos de ataques como o que acabamos de descobrir.”

Resposta da Perplexity – Quando a Layerx informou a perplexidade da vulnerabilidade no mês passado, a empresa “respondeu que não conseguiu identificar nenhum impacto na segurança”, escreveu Layerx em uma postagem no blog. Mas, em comunicado ao tempo, um porta -voz da perplexidade disse que o relatório de bug da Layerx havia sido mal redigido, que não havia respondido aos pedidos de esclarecimento e que a perplexidade “mais tarde identificou o problema de forma independente e o corrigiu”. O porta -voz disse que a vulnerabilidade nunca foi explorada e continuou: “Somos gratos à comunidade de segurança que participa de nosso próspero programa de recompensa, e estamos trabalhando para garantir que esses tipos de falta de comunicação não ocorram no futuro”.

Se você tiver um minuto, pegue nosso rápido enquete Para nos ajudar a entender melhor quem você é e quais tópicos de IA mais lhe interessam.

Quem saber: Lisa Su, CEO da AMD

Na segunda-feira, a Chipmaker Advanced Micro Devices (AMD) anunciou que havia fechado um contrato de vários bilhões de dólares com o OpenAI, que faria com que o fabricante de chatgpt adquirisse 6 gigawatts a partir de seu mais recente chip de IA ao longo de vários anos-o equivalente no consumo de energia de cerca de 4 milhões de lares. É apenas o mais recente megadeal do Openai, que atingiu um acordo de US $ 100 bilhões com a Nvidia no mês passado, pois procura o poder de computação necessário para treinar e administrar seus modelos Voraacious IA – incluindo Sora 2.

Quando eu sentou -se com Lisa Su no ano passado, ela estava no meio de girar sua empresa para construir um novo tipo de chip acelerador de IA. Seu esforço parece ter valido a pena. A AMD permanece em segundo lugar distante para a NVIDIA na indústria de semicondutores mais ampla, mas o acordo OpenAI é um voto de confiança de que os chips AMD são adequados para cargas de trabalho de IA de primeira linha. Também é mais um sinal de que o OpenAI está buscando reduzir sua dependência da Nvidia, mesmo quando aproxima a empresa de Jensen Huang.