Esta startup de armazenamento de dados distribuído quer enfrentar o Big Cloud

A explosão de empresas de IA levou a procura de poder computacional a novos extremos, e empresas como CoreWeave, Together AI e Lambda Labs capitalizaram essa procura, atraindo imensa atenção e capital pela sua capacidade de oferecer capacidade computacional distribuída.

Mas a maioria das empresas ainda armazena dados nos três grandes fornecedores de nuvens, AWS, Google Cloud e Microsoft Azure, cujos sistemas de armazenamento foram construídos para manter os dados próximos dos seus próprios recursos computacionais, e não espalhados por múltiplas nuvens ou regiões.

“As cargas de trabalho e a infraestrutura de IA modernas estão escolhendo a computação distribuída em vez da grande nuvem”, disse Ovais Tariq, cofundador e CEO da Tigris Data, ao TechCrunch. “Queremos oferecer a mesma opção de armazenamento, porque sem armazenamento a computação não é nada.”

A Tigris, fundada pela equipe que desenvolveu a plataforma de armazenamento da Uber, está construindo uma rede de centros de armazenamento de dados localizados que afirma poder atender às necessidades de computação distribuída das cargas de trabalho modernas de IA. A plataforma de armazenamento nativa de IA da startup “se move com sua computação, (permite) que os dados sejam replicados automaticamente para onde as GPUs estão, suporta bilhões de arquivos pequenos e fornece acesso de baixa latência para treinamento, inferência e cargas de trabalho de agente”, disse Tariq.

Para fazer tudo isso, a Tigris levantou recentemente uma rodada Série A de US$ 25 milhões liderada pela Spark Capital e contou com a participação de investidores existentes, que incluem Andreessen Horowitz, apurou exclusivamente o TechCrunch. A startup vai contra os titulares, que Tariq chama de “Big Cloud”.

Tariq acredita que esses operadores históricos não oferecem apenas um serviço de armazenamento de dados mais caro, mas também menos eficiente. AWS, Google Cloud e Microsoft Azure cobram historicamente taxas de saída (apelidadas de “imposto sobre nuvem” na indústria) se um cliente quiser migrar para outro provedor de nuvem, ou baixar e mover seus dados se quiser, digamos, usar uma GPU mais barata ou treinar modelos em diferentes partes do mundo simultaneamente. Pense nisso como ter que pagar a mais à sua academia se quiser parar de frequentá-la.

De acordo com Batuhan Taskaya, chefe de engenharia da Fal.ai, um dos clientes da Tigris, esses custos já representaram a maior parte dos gastos com nuvem da Fal.

Além das taxas de saída, Tariq diz que ainda existe o problema de latência com provedores de nuvem maiores. “As taxas de saída eram apenas um sintoma de um problema mais profundo: armazenamento centralizado que não consegue acompanhar um ecossistema de IA descentralizado e de alta velocidade”, disse ele.

A maioria dos mais de 4.000 clientes da Tigris são como Fal.ai: startups generativas de IA que criam modelos de imagem, vídeo e voz, que tendem a ter grandes conjuntos de dados sensíveis à latência.

“Imagine conversar com um agente de IA que está fazendo áudio local”, disse Tariq. “Você quer a latência mais baixa. Você quer que sua computação seja local, próxima, e quer que seu armazenamento também seja local.”

Grandes nuvens não são otimizadas para cargas de trabalho de IA, acrescentou. O streaming de grandes conjuntos de dados para treinamento ou a execução de inferência em tempo real em diversas regiões pode criar gargalos de latência, diminuindo o desempenho do modelo. Mas ser capaz de acessar o armazenamento localizado significa que os dados são recuperados mais rapidamente, o que significa que os desenvolvedores podem executar cargas de trabalho de IA de maneira confiável e mais econômica usando nuvens descentralizadas.

“O Tigris nos permite dimensionar nossas cargas de trabalho em qualquer nuvem, fornecendo acesso ao mesmo sistema de arquivos de dados de todos esses locais sem cobrar saída”, disse Taskaya, da Fal.

Existem outras razões pelas quais as empresas desejam ter dados mais próximos das suas opções de nuvem distribuída. Por exemplo, em domínios altamente regulamentados como finanças e saúde, um grande obstáculo à adoção de ferramentas de IA é que as empresas precisam de garantir a segurança dos dados.

Outra motivação, diz Tariq, é que as empresas querem cada vez mais possuir seus dados, apontando para como a Salesforce no início deste ano bloqueou seus rivais de IA de usar dados do Slack. “As empresas estão se tornando cada vez mais conscientes da importância dos dados, de como alimentam os LLMs e da IA”, disse Tariq. “Eles querem ter mais controle. Eles não querem que outra pessoa esteja no controle.”

Com os novos fundos, a Tigris pretende continuar a construir os seus centros de armazenamento de dados para apoiar a crescente procura – Tariq diz que a startup cresceu 8 vezes por ano desde a sua fundação em novembro de 2021. A Tigris já tem três centros de dados na Virgínia, Chicago e San Jose, e quer continuar a expandir-se nos EUA, bem como na Europa e na Ásia, especificamente em Londres, Frankfurt e Singapura.