Especialistas buscam o equilíbrio na avaliação da inteligência artificial para garantir que ela entregue informações verdadeiras, especialmente em temas complexos e delicados.
A inteligência artificial está mudando a forma como consumimos notícias e informações.
Mas quem define o que ela deve dizer, sobretudo em temas sensíveis?
Campbell Brown, ex-chefe de notícias do Meta, compartilha sua experiência e visão sobre isso.
A importância de julgar a IA com critérios de especialistas
Conforme informações divulgadas pela TechCrunch, Campbell Brown dedicou sua carreira à busca pela informação precisa, tanto como jornalista quanto no comando de notícias do Facebook. Hoje, à frente da empresa Forum AI, ela declara que a inteligência artificial já é o grande canal de acesso à informação para muitas pessoas, mas que ainda falha em muitas frentes.
Brown enfatiza que em assuntos com alta complexidade e nuances, como geopolítica, saúde mental, finanças e contratação, a IA precisa ser avaliada por especialistas com profundo conhecimento dessas áreas. Para isso, a Forum AI reúne figuras renomadas, como Niall Ferguson, Fareed Zakaria e ex-líderes políticos, para criar benchmarks que ajudam modelos de IA a alcançar cerca de 90% de concordância com esses experts.
Desafios atuais e vieses encontrados na inteligência artificial
Quando começou a analisar os principais modelos de IA, Brown encontrou resultados preocupantes. Um exemplo citado foi o Gemini, que utilizava informações de sites do Partido Comunista Chinês mesmo em temas não relacionados à China. Além disso, ela percebeu uma tendência política inclinada à esquerda na maioria dos sistemas analisados.
Outras falhas incluem falta de contexto, perspectivas ausentes, distorções nos argumentos e interpretações erradas, que comprometem a qualidade da informação entregue. Segundo Brown, apesar dos desafios, existem soluções simples que podem melhorar significativamente esses resultados.
O papel das empresas e a necessidade de responsabilidade na IA
Campbell Brown observa que, enquanto as empresas de tecnologia focam em aspectos técnicos e matemáticos da IA, a precisão da informação tem sido negligenciada. Ela relembra sua experiência no Facebook, quando viu que priorizar o engajamento prejudicou a qualidade da informação e gerou desinformação.
Para ela, o impacto da IA na sociedade é crucial, especialmente para as gerações futuras. Brown acredita que o setor empresarial pode ser um aliado, pois precisa de soluções confiáveis para decisões em crédito, seguros e contratações, com foco em minimizar riscos e garantir a responsabilidade.
Confiança abalada e a urgência de uma avaliação robusta
Na visão de Brown, a confiança do público na inteligência artificial está muito baixa, um sentimento que ela considera justificado. Ela destaca que enquanto o discurso dos líderes de tecnologia é grandioso, usuários comuns ainda enfrentam muitas respostas incorretas ou confusas.
Além disso, a fiscalização atual de IA, mesmo em locais com leis específicas — como a obrigatoriedade de auditorias para viés em contratações —, é insuficiente. Segundo dados, mais da metade dessas avaliações não detectou violações importantes, devido à falta de especialização na análise.
Brown ressalta que apenas especialistas de domínio profundo conseguem identificar nuances e casos limites que podem causar sérios problemas no uso da IA. Essa atenção ao detalhe é vital para que as tecnologias de inteligência artificial sejam mais confiáveis e úteis para todos.
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
