O CEO da Anthropic afirmou que modelos open-weight sem recursos perigosos são um bem público, mas alertou para riscos militares, biológicos e de vigilância.
Conforme informação divulgada pelo TechCrunch, Dario Amodei respondeu na segunda-feira a rumores sobre uma suposta defesa da Anthropic ao banimento de modelos de inteligência artificial com pesos abertos.
O executivo afirmou que a empresa nunca apoiou uma proibição ampla, incluindo modelos desenvolvidos na China.
A declaração ocorre após empresas como Nvidia, Meta, Microsoft, Hugging Face e Mistral pedirem cautela contra restrições abrangentes ao setor.
Anthropic nega apoio a banimento de modelos open-weight
Amodei publicou uma manifestação para esclarecer a posição da Anthropic diante do debate sobre modelos open-weight, sistemas cujos parâmetros podem ser baixados, estudados e executados por terceiros.
“Qualquer pessoa que tenha lido meus textos anteriores deve saber que não considero esses banimentos uma medida útil, mas deixe-me dizer claramente, para que não haja dúvidas: a Anthropic nunca defendeu o banimento de modelos open-weight”, escreveu o CEO.
A reação veio depois que Jensen Huang, fundador e CEO da Nvidia, publicou sua primeira mensagem na rede social X. Na sexta-feira, ele compartilhou uma carta aberta contra “restrições prematuras” e amplas aos modelos de IA com pesos abertos.
O documento reuniu empresas e organizações importantes do setor, incluindo Nvidia, Hugging Face, Meta, Microsoft e Mistral. A carta não citou a China diretamente, mas o país está no centro da discussão.
O debate aumentou após acusações de que laboratórios chineses avançam usando propriedade intelectual de empresas americanas. Uma das técnicas citadas é a destilação, que permite aprender o comportamento de um modelo ao enviar grandes volumes de perguntas.
Risco chinês é tratado como uma questão diferente
Para Amodei, o debate sobre modelos open-weight precisa ser separado da ameaça representada pela disputa geopolítica entre China e Estados Unidos.
“Modelos open-weight que não têm capacidades perigosas são um bem público. Eles não custam nada além da computação necessária para executá-los e oferecem valor a empresas, desenvolvedores e pesquisadores”, afirmou.
O CEO disse que empresas que usam modelos open-weight, inclusive sistemas criados na China, não estão entre suas principais preocupações com a inteligência artificial.
O temor central envolve governos autoritários capazes de desenvolver sistemas mais avançados que os americanos. Segundo ele, essas ferramentas poderiam ser usadas para obter “superioridade militar permanente”.
Amodei também alertou para o uso de IA na repressão de populações. Embora tenha destacado que o Partido Comunista Chinês não seja o único governo autoritário preocupante, ele classificou a China como o país mais capaz nesse cenário.
Outra preocupação envolve ataques biológicos. O executivo afirmou que a inteligência artificial pode facilitar não apenas ações criminosas no ambiente digital, mas também a criação de ameaças biológicas.
Por que modelos open-weight preocupam em ataques
Na avaliação de Amodei, modelos com pesos abertos podem ser mais perigosos em determinados casos porque é difícil inserir barreiras de segurança ou acompanhar quem está usando o sistema.
Ele citou um relatório do Instituto de Segurança de IA do Reino Unido para afirmar que, depois de liberado, um modelo open-weight não pode ser retirado de circulação.
Essa visão contrasta com a posição de defensores do código aberto. Para esse grupo, o acesso a modelos poderosos, sem controle de uma única empresa, ajuda pesquisadores e equipes de segurança a identificar e corrigir falhas.
A discussão, portanto, não se limita à liberação ou ao bloqueio dos sistemas. Ela também envolve o nível de capacidade de cada modelo, os mecanismos de proteção e a possibilidade de responsabilizar seus usuários.
Restrições a chips e combate à destilação
Amodei listou medidas que, na opinião dele, poderiam reduzir o avanço chinês na inteligência artificial. Entre elas está a limitação do acesso da China a chips avançados.
Essa política já faz parte das ações adotadas pelos Estados Unidos. Washington também ameaçou aplicar sanções caso encontre provas de roubo de propriedade intelectual envolvendo modelos americanos.
O executivo defendeu ainda uma repressão formal à destilação. A prática pode ser usada para transferir capacidades de um sistema avançado para outro, por meio da análise repetida de suas respostas.
Para a Anthropic, o combate a esse tipo de apropriação deve ocorrer de forma específica, sem transformar todos os modelos open-weight em alvos de uma proibição generalizada.
CEO apoia testes internacionais de segurança
Apesar das diferenças com parte da indústria, Amodei apoiou a criação de uma organização internacional para testar a segurança dos modelos mais avançados.
A proposta tem recebido apoio de iniciativas lideradas pelos Estados Unidos. O objetivo seria avaliar sistemas de alto risco, independentemente do país de origem ou de serem abertos ou fechados.
“Acho que essa ideia está próxima de um consenso”, escreveu Amodei. Ele também disse estar encorajado por movimentos recentes do governo Trump e por propostas apresentadas pelo setor.
Na visão do CEO, modelos menos capazes, como aqueles desenvolvidos por startups e instituições acadêmicas, deveriam ser excluídos desse tipo de exigência.
Amodei ressaltou que os testes só seriam eficazes se tivessem alcance global. Isso exigiria a participação da China e de outros países na avaliação dos sistemas mais avançados.
Mesmo diante da rivalidade entre Washington e Pequim, ele considera possível uma cooperação limitada. A prevenção do uso da inteligência artificial para criar armas biológicas poderia atender aos interesses dos dois países.
O posicionamento reforça uma divisão dentro do setor. De um lado, empresas defendem acesso aberto para estimular inovação. De outro, executivos alertam que sistemas muito capazes podem escapar de qualquer controle após sua publicação.
A Anthropic, segundo seu CEO, não busca banir modelos open-weight de maneira ampla. A prioridade defendida por Amodei é limitar capacidades perigosas, proteger tecnologias estratégicas e criar regras internacionais para os sistemas de maior risco.
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
