Parasail está revolucionando a computação em nuvem ao focar na inferência barata em modelos de IA, atendendo a uma crescente demanda por tokens acessíveis e rápidos.
A Parasail quer atender os desenvolvedores que buscam tokens baratos e rápidos para AI generativa.
A empresa arrecadou 32 milhões de dólares para escalar sua operação global.
O foco é oferecer infraestrutura de inferência eficiente para startups e modelos open source, segundo informações do site TechCrunch.
Tokenmaxxing e o crescimento da demanda por inferência em IA
Conforme informação divulgada pelo TechCrunch, o CEO da Parasail, Mike Henry, compartilha a dificuldade dos desenvolvedores que desejam um volume enorme de tokens gerados com custos baixos e rapidez. A empresa já atende à demanda de 500 bilhões de tokens por dia, cenário definido pelo próprio Henry como tokenmaxxing.
Mike Henry, com experiência anterior na Groq, empresa de chips para grandes modelos de linguagem, percebeu que os desenvolvedores precisam de uma infraestrutura de computação em nuvem especializada para rodar esses modelos, sobretudo para tarefas de inferência, ou seja, executar os modelos prontos, e não treinar novos.
Infraestrutura diversificada com foco em custo e flexibilidade
Parasail opera alugando processamento em 40 data centers distribuídos em 15 países, além de atuar em mercados de liquidez para ampliar sua capacidade. Essa estratégia permite reduzir custos e evitar picos de demanda. Apesar de ter GPUs próprias, a empresa não depende exclusivamente dos seus próprios chips.
Essa flexibilidade possibilita à Parasail competir com gigantes que possuem suas próprias soluções de hardware, mas que enfrentam limitações devido ao compromisso com clientes tradicionais e cargas de trabalho já existentes.
Adoção crescente de modelos open source e arquitetura híbrida
Segundo Andreas Stuhlmüller, CEO do Elicit, que desenvolve ferramentas assistidas por IA para análise de literatura científica, o uso de modelos open source cresce devido aos custos elevados e a complexidade de uso de APIs comerciais como OpenAI e Anthropic.
Empresas utilizam modelos abertos para filtragem inicial de dados, reduzindo custos, e recorrem a modelos de ponta para respostas mais refinadas. Esse modelo híbrido destaca a necessidade de infraestrutura eficiente para suportar o aumento exponencial de consultas de inferência.
Mercado promissor e riscos no cenário de startups de IA
A companhia de investimento Touring Capital, que co-liderou a rodada de financiamento com 32 milhões de dólares, acredita que os custos de inferência serão responsáveis por pelo menos 20% do orçamento para desenvolvimento de software no futuro.
Mike Henry destaca que o foco exclusivo em inferência e a flexibilidade para atender startups sem contratos longos diferenciam a Parasail das grandes nuvens comerciais. Apesar do risco ligado à carteira formada majoritariamente por startups em estágio inicial, investidores como Steve Jang, da Kindred Ventures, afirmam que a demanda por inferência supera largamente a oferta.
Jang ressalta que, ao contrário da crença em uma bolha de IA, o crescimento da demanda por processamento de inferência está acelerado e justifica a necessidade de plataformas como a Parasail para atender essa nova onda de inovação, incluindo geração de conteúdo e robótica.
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
