Dario Amodei, fundador e CEO da Anthropic, fez uma declaração pública na tarde de segunda-feira para esclarecer rumores sobre o suposto apoio da sua empresa a esforços do governo dos Estados Unidos para banir modelos chineses de “open-weight”, ou possivelmente modelos de peso aberto de forma geral. Amodei enfatizou: “Quem leu meus textos anteriores sabe que não considero essas proibições uma medida útil, mas deixo claro: a Anthropic nunca defendeu a proibição de modelos de peso aberto.”
Contexto da Discussão
Na última sexta-feira, Jensen Huang, fundador e CEO da Nvidia, publicou uma carta aberta na plataforma X. Nela, a Nvidia e outras empresas de IA, como Hugging Face, Meta, Microsoft e Mistral, solicitaram que legisladores não imponham “restrições prematuras” aos modelos de IA de peso aberto. Embora a carta não mencionasse a China especificamente, o debate no setor gira em torno de alegações de que laboratórios de IA chineses estariam crescendo em capacidade frequentemente através do roubo de propriedade intelectual de seus equivalentes americanos. Uma das técnicas utilizadas seria a destilação, onde um AI bombardeia outro modelo com prompts para aprender como ele funciona.
O Ponto de Vista de Amodei
Amodei destaca que vê os modelos de peso aberto de forma diferente do que percebe como a ameaça representada pela China. Segundo ele, “modelos de peso aberto que não têm capacidades perigosas são um bem público: eles não custam nada além do processamento necessário para rodá-los, e fornecem valor para negócios, desenvolvedores e pesquisadores.” Apesar das preocupações com IA, Amodei não considera as empresas chinesas que usam modelos de peso aberto como parte de suas preocupações. Suas inquietações estão mais voltadas para que “governos autoritários” desenvolvam modelos mais poderosos do que os dos EUA, buscando “superioridade militar permanente” ou usando IA para reprimir suas populações.
Preocupações Específicas e Propostas
Amodei expressou receio de que a IA possa permitir “ataques biológicos”, além de ciberataques. Ele vê modelos de peso aberto como mais perigosos nesses cenários por ser difícil aplicar restrições ou monitorar seu uso. Citando um relatório do Instituto de Segurança de IA do Reino Unido, Amodei ressaltou que uma vez liberados, os modelos de peso aberto não podem ser retirados. Amodei sugere ações para conter o avanço da China, como restrições ao acesso a chips poderosos (uma política já adotada pelos EUA) e um combate formal à técnica de destilação. Ele também apoia esforços para criar uma organização de teste de segurança de modelos, desde que haja cooperação global, incluindo a China.
Conclusão
A perspectiva de Amodei é que, para ser eficaz, qualquer teste de segurança de modelos deve ser global, o que incluiria a participação do Partido Comunista Chinês. Ele acredita que pode haver cooperação limitada em torno da prevenção de armas biológicas baseadas em IA, pois é do interesse da China também. Essa visão sugere uma abordagem diplomática e colaborativa para enfrentar os desafios que a inteligência artificial apresenta no cenário global.
