Califórnia Avança com Leis de IA em Meio a Temores de Armagedom

O governador da Califórnia, Gavin Newsom, deu um passo importante nesta quarta-feira ao sancionar dois projetos de lei focados em regulamentar a inteligência artificial (IA). Isso acontece após a inquietante história do pesquisador de IA Jacob Coxon, que deixou a Anthropic e alertou sobre o risco de líderes da indústria de IA estarem acelerando um possível Armagedom. Contudo, é interessante notar que as novas leis da Califórnia são bem vistas pelo setor de IA. Como destacado pelo Politico no mês passado, a Anthropic apoiou os projetos de lei. A rival da Anthropic, a OpenAI, também manifestou seu apoio às leis poucas horas antes da assinatura de Newsom.

“Alcançamos um novo capítulo nas capacidades de IA, e isso exige um novo capítulo para a política de IA”, afirma a introdução do comunicado da OpenAI, creditado a Chris Lehane, chefe de Assuntos Públicos da empresa. Quando questionado pelo Politico sobre as preocupações de Coxon com a IA fora de controle, Newsom ressaltou: “As preocupações levantadas em incidentes recentes reforçam o que a Califórnia sempre reconheceu: a inteligência artificial tem um potencial extraordinário, mas precisa ser desenvolvida e implantada com salvaguardas significativas para proteger o público.” Ele ainda destacou que o governo federal deve “agir com regulamentos nacionais robustos que correspondam à urgência deste momento.”

Novas Medidas de Regulação da IA na Califórnia

SB 813: Comissão de Padrões e Segurança em IA

O projeto SB 813, proposto pelo Senador Estadual Jerry McNerney, estabelece a criação da Comissão de Padrões e Segurança em IA da Califórnia. Esta comissão terá a responsabilidade de desenvolver um conjunto de padrões de segurança em IA de caráter voluntário. O objetivo é garantir que o desenvolvimento e a implementação da IA ocorram de forma segura e ética.

AB 1405: Registro de Auditores de Risco de IA

Por sua vez, a proposta da Deputada Rebecca Bauer-Kahan, AB 1405, cria um registro de auditores de risco de IA. Este registro funcionará como uma forma de verificar as credenciais dos auditores, assegurando que eles possuam a qualificação necessária para avaliar riscos associados à IA.

A OpenAI, através do comunicado de Lehane, também afirma que a empresa “vai defender abordagens internacionais compatíveis para medir capacidades, gerenciar riscos, preservar o controle humano e determinar quando e como o desenvolvimento deve desacelerar ou parar, mesmo que isso signifique retardar o avanço das capacidades dos modelos.”

Já a declaração da Anthropic ao Politico destaca seu histórico na criação de salvaguardas. Segundo a empresa, “é também por isso que acreditamos que o mundo se beneficiaria se a indústria adotasse uma maneira legal e verificável de trabalhar em conjunto para controlar o ritmo de lançamento de modelos poderosos.”

Conclusão

Com a sanção desses projetos, a Califórnia se posiciona na vanguarda da regulação da inteligência artificial, buscando equilibrar o potencial inovador da tecnologia com a segurança pública. A adesão das principais empresas de IA às novas leis sugere um movimento coletivo em direção a um desenvolvimento mais responsável e controlado. O próximo passo, conforme sugerido por Newsom, seria o estabelecimento de um framework regulatório nacional que aborde a urgência e os desafios apresentados pela rápida evolução da IA.