General Compute aposta em chips da SambaNova para entregar alta performance na inferência de IA, prometendo ser mais rápido e econômico que GPUs tradicionais.
A demanda por processadores especializados para inteligência artificial só cresce e traz desafios importantes para empresas e data centers. A busca por chips adequados e sua instalação eficiente são obstáculos fundamentais no mercado atual.
General Compute, uma empresa focada em alugar poder computacional para IA em fase de inferência, tem encontrado soluções inovadoras com chips da SambaNova, fabricante apoiada pela Intel.
Este texto explora a importância do desenvolvimento desses chips e como a estratégia da General Compute pode transformar o cenário da computação para IA.
O desafio do chip ideal para inteligência artificial
Conforme informações divulgadas pelo TechCrunch, os chips tradicionais como GPUs estão saturados e não são o ideal para executar modelos de IA já treinados. A fase de inferência em IA exige arquiteturas distintas, voltadas para rápida geração de respostas.
Grandes movimentações, como a aquisição da Groq pela Nvidia por 20 bilhões de dólares e o IPO da Cerebras avaliado em 57 bilhões, indicam a relevância do setor. Contudo, a capacidade dessas empresas não é suficiente para suprir a demanda crescente.
General Compute encontrou na SambaNova uma alternativa promissora. A empresa possui chips com arquitetura flexível e maior capacidade de memória para armazenar contexto, o que aumenta bastante a velocidade da inferência. Segundo o CEO Finn Puklowski, esses chips podem gerar de 600 a 700 tokens por segundo, contra cerca de 250 tokens por segundo das GPUs.
Infraestrutura mais simples e eficiente para data centers
Outro grande problema para a expansão da computação de IA é o local e a forma de instalar esses processadores. Os chips da SambaNova se destacam por serem refrigerados a ar e consumirem menos energia, o que elimina a necessidade de grandes investimentos em infraestrutura.
General Compute já possui um pedido de 300 milhões de dólares em chips SN50, e pretende ser a primeira neocloud a usar essa tecnologia. Além disso, a empresa busca parcerias com provedores de data center e investidores do setor de criptomoedas que desejam reutilizar sua infraestrutura, ampliando assim a capacidade computacional para IA.
Velocidade e economia como diferencial competitivo
No mundo da inteligência artificial, o tempo para processar e responder é crucial, seja para agentes que produzem códigos ou para sistemas de atendimento via áudio. A aceleração desses processos impacta diretamente nos custos e na experiência do usuário.
Joe Hassleman, investidor no setor, compara a colaboração entre General Compute e SambaNova às parcerias que ocorreram entre Coreweave e Nvidia, e entre Groq e seu antigo serviço de nuvem. Ele destaca que ambas as empresas apostam no crescimento mútuo e na capacidade de atender clientes de forma competitiva.
Além disso, investimentos recentes, como a rodada de 113 milhões de dólares da OpenRouter, evidenciam que o mercado valoriza soluções que otimizam a velocidade e o custo de inferência, beneficiando usuários que buscam múltiplos modelos de IA para diferentes necessidades.
O futuro da computação para inteligência artificial
Na visão do CEO da General Compute, transformar tarefas que hoje levam horas em processos de minutos é o caminho para o futuro da tecnologia de IA. O aumento da velocidade permite que agentes virtuais ajam de forma mais natural e eficaz, competindo com a leitura e compreensão humanas.
Enquanto o mercado debate qual arquitetura dominará, as neoclouds como a General Compute nos mostram que o foco está na velocidade, eficiência e custo para aproveitar a explosão dos modelos de inteligência artificial em diferentes aplicações.
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
