Patronus AI desenvolve mundos digitais para testar agentes de IA em cenários complexos e imprevisíveis, garantindo segurança e eficiência antes do uso real.
A inteligência artificial está cada vez mais sofisticada, capaz de executar tarefas complexas de forma autônoma. Contudo, garantir a confiabilidade desses agentes em diversas situações ainda é um desafio.
A Patronus AI, startup fundada em 2023 por pesquisadores ex-Meta AI, está transformando esse cenário ao criar ambientes digitais simulados onde esses agentes são testados em tarefas reais e contínuas.
Leia a seguir como a empresa está ganhando destaque e investimentos para revolucionar o desenvolvimento de agentes inteligentes, conforme informação divulgada pelo techcrunch.
Patronus AI investe na criação de ambientes digitais para testar agentes inteligentes
O avanço da inteligência artificial trouxe agentes que vão além de apenas responder perguntas, realizando atividades complexas e multifacetadas. Porém, para que esses agentes possam ser confiáveis em funções delicadas, como reservar viagens ou realizar análises financeiras, é fundamental testá-los exaustivamente em cenários variados.
A Patronus AI, sediada em São Francisco e fundada por Anand Kannappan e Rebecca Qian, dá suporte a laboratórios e empresas de IA ao construir mundos digitais simulados. Esses ambientes replicam sites e sistemas internos, permitindo que os agentes sejam avaliados em situações reais, com múltiplos desafios.
Com um crescimento de receita de 15 vezes no último ano, a empresa anunciou recentemente uma rodada de financiamento Série B de 50 milhões de dólares. A captação, liderada pela Greenfield Partners, contou ainda com a presença de investidores como Notable Capital, Lightspeed, Datadog e Samsung, elevando o total investido a 70 milhões de dólares.
Como funcionam os testes em mundos digitais para IA
Na plataforma da Patronus AI, os agentes são submetidos a treinamentos iterativos baseados em reforço, recebendo recompensas por completar tarefas corretamente e penalizações por erros. Esses testes simulam situações imprevisíveis e desafiadoras, auxiliando no desenvolvimento de respostas mais confiáveis.
Essa abordagem é comparada ao processo utilizado pela Waymo para treinar carros autônomos em mundos sintéticos, enfrentando riscos raros como condições climáticas extremas ou crianças inesperadas na via.
Um diferencial importante é a identificação de atalhos usados indevidamente pelos agentes, que comprometem a conclusão correta das tarefas. Como destaca Glenn Solomon, diretor da Notable Capital, a Patronus se destaca por detectar essas falhas e garantir a responsabilização dos modelos testados.
Perspectivas e desafios da avaliação da inteligência artificial
Atualmente, a Patronus concentra seus esforços em áreas com processos facilmente verificáveis, como engenharia de software e finanças. No entanto, seus fundadores reconhecem que há um vasto campo de aplicação para problemas não verificáveis ou de difícil checagem.
Anand Kannappan afirma que o objetivo é desenvolver um ambiente onde um agente possa operar por períodos prolongados, que podem variar de horas a semanas, aumentando a complexidade e profundidade dos testes.
Apesar da concorrência, a Patronus afirma competir principalmente com as equipes internas dos laboratórios de IA que avaliam o comportamento dos agentes. Diferentemente das firmas que fornecem dados humanos para treinamento, como Mercor e Surge, a Patronus foca na avaliação autônoma, sem intervenção humana direta.
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
