A Anthropic propõe uma regulação para IA que bloqueia modelos em riscos catastróficos. Avaliadores independentes e o Departamento de Comércio seriam responsáveis por decisões críticas.
Principais Conclusões
- A Anthropic sugere bloquear modelos de IA em cenários de risco catastrófico.
- Avaliadores independentes seriam essenciais na análise desses riscos.
- A proposta destaca a resistência da indústria a supervisão governamental obrigatória.
Nos últimos meses, a inteligência artificial tem sido alvo de intensos debates sobre segurança e regulação. A Anthropic, um laboratório de IA, apresentou uma proposta de regulação que pode moldar o futuro da tecnologia. Este artigo explora os principais pontos dessa proposta e suas implicações.
O Cenário de Risco Catastrófico
A proposta de lei da Anthropic sugere bloqueios para a distribuição de modelos de IA em situações de risco iminente. Esses cenários incluem:
- Risco de morte para mais de 50 pessoas;
- Prejuízos materiais superiores a um bilhão de dólares.
Esses riscos devem surgir de eventos como a criação de armas biológicas ou ciberataques, conforme relatado pela Politico.
O Papel dos Avaliadores Independentes
Para avaliar o potencial de desastre dos modelos de IA, a Anthropic sugere o uso de avaliadores independentes registrados no Departamento de Comércio dos EUA. Importante, esses avaliadores poderiam ser pagos pelos próprios laboratórios de IA, desde que o pagamento não influencie os resultados das avaliações.
Comparações e Críticas
O projeto de lei da Anthropic é comparável a legislação da Califórnia, mas propõe uma abordagem mais controlada, com a intervenção do Departamento de Comércio e um juiz em Washington, D.C., para interromper a liberação de modelos de risco.
Demis Hassabis, da DeepMind, sugeriu uma auto-regulação semelhante à FINRA do setor financeiro. No entanto, a proposta da Anthropic avança ao sugerir uma supervisão externa, embora ainda dependa de um sistema de avaliadores internos.
Resistência da Indústria
Apesar das advertências sobre os riscos da IA, muitos laboratórios resistem à supervisão governamental obrigatória. Empresas como a Nvidia defendem a ausência de novas leis, confiando em sistemas voluntários de avaliação.
Conclusão
A proposta da Anthropic para a regulação da IA destaca a complexidade de equilibrar inovação e segurança. Enquanto as discussões continuam, a indústria de IA deve considerar cuidadosamente como abordar os riscos sem sufocar o desenvolvimento tecnológico.
❓ Perguntas Frequentes
O que a proposta da Anthropic visa alcançar?
Visa regular a liberação de modelos de IA em cenários de risco catastrófico, protegendo vidas e propriedades.
Como funcionariam os avaliadores independentes?
Eles seriam registrados no Departamento de Comércio dos EUA e pagos pelos laboratórios de IA, sem influenciar os resultados.
Quais são as críticas à proposta?
A proposta enfrenta resistência da indústria, que prefere sistemas de avaliação voluntários e teme supervisão governamental.
