Elloe AI quer ser o ‘sistema imunológico’ da IA ​​– confira no Disrupt 2025

Owen Sakawa, o fundador da Elloe AI, deseja que sua plataforma seja o “sistema imunológico para IA” e o “antivírus para qualquer agente de IA”.

A ideia, disse Sakawa em uma entrevista dias antes da conferência TechCrunch Disrupt, onde Elloe AI é uma das 20 finalistas na competição Startup Battlefield, é adicionar uma camada aos LLMs das empresas que verifica preconceitos, alucinações, erros, problemas de conformidade, desinformação e resultados inseguros.

“A IA está evoluindo em um ritmo muito rápido e se movendo tão rápido sem barreiras de proteção, sem redes de segurança, sem mecanismo para evitar que saia dos trilhos”, disse Sakawa (foto acima).

Elloe AI é uma API ou SDK, um módulo que fica no topo da camada de saída de um modelo de IA, uma “infraestrutura no topo do seu pipeline LLM”, como explicou Sakawa. “E fica lá basicamente verificando os fatos de cada resposta.”

O sistema da startup tem suas próprias camadas, ou “âncoras”, como disse Sakawa.

A primeira âncora verifica os fatos da resposta do LLM em relação a fontes verificáveis. Em seguida, a segunda âncora verifica se o resultado viola alguma regulamentação, como a lei de privacidade de saúde dos EUA HIPAA, a lei europeia de proteção de dados e privacidade de longo alcance GDPR, ou se expõe algumas informações pessoais privadas (PII). A última âncora é uma trilha de auditoria que mostra como todas as decisões anteriores foram tomadas e permite que os reguladores ou qualquer pessoa que audite o sistema “analisem a linha de pensamento daquele modelo a partir de onde tomou a decisão, a fonte dessa decisão, a pontuação de confiança de todas essas decisões”, segundo Sakawa.

Para ser claro, Sakawa disse que Elloe AI não é construído em um LLM, porque, em sua opinião, ter LLMs verificando outros LLMs é apenas colocar um “Band-Aid em outra ferida”. O sistema da Elloe AI usa técnicas de IA, como aprendizado de máquina. E há humanos envolvidos: os funcionários da Elloe AI, que acompanham as novas regulamentações sobre proteção de dados e proteção do usuário, disse Sakawa.

Se você quiser saber mais sobre Elloe AI – enquanto também confere dezenas de outras empresas, ouve seus argumentos de venda e ouve palestrantes convidados em quatro palcos diferentes – junte-se a nós no Disrupt, de 27 a 29 de outubro, em São Francisco. Saiba mais aqui.