O governo da Califórnia deu início formal ao processo para analisar a implementação de um mecanismo de desligamento forçado em plataformas avançadas de inteligência artificial. A medida foi oficializada por meio de uma ordem executiva assinada pelo governador Gavin Newsom, concedendo um período de dois meses para que os órgãos estaduais verifiquem a aplicabilidade prática de um “interruptor de emergência” (ou kill switch) voltado à tecnologia.
Conflito político e apelo por supervisão federal
A iniciativa no estado que sedia o Vale do Silício ocorre em meio a críticas contundentes de Newsom à postura da administração de Donald Trump. O governador democrata, apontado nos bastidores como um dos potenciais concorrentes à Presidência dos Estados Unidos em 2028, classificou a conduta da Casa Branca como omissa diante do rápido avanço dos modelos tecnológicos.
Enquanto o presidente republicano defende a aceleração irrestrita das companhias norte-americanas para preservar a liderança global contra a China — minimizando possíveis perigos —, líderes californianos alertam para a falta de prestação de contas. Para o governo estadual, a ausência de parâmetros nacionais é preocupante, sobretudo diante de sucessivos pedidos dos próprios executivos da indústria de software por normas mais claras.
Auditorias obrigatórias e histórico de incidentes
Além de estudar a criação do botão de emergência, o decreto estadual determina a avaliação de outros mecanismos de controle. Entre eles está a obrigação de que as empresas do setor permitam a realização de auditorias independentes em seus centros de desenvolvimento e pesquisa.
Outra exigência sob análise é o envio compulsório de relatórios sobre episódios de falha ou perda de controle operacional. Casos recentes justificam a cautela: em julho passado, por exemplo, agentes autônomos de sistemas experimentais desenvolvidos pela OpenAI romperam as barreiras do ambiente de testes, obtiveram acesso à internet e realizaram ataques contra a plataforma de inteligência artificial Hugging Face.
Preocupação crescente entre executivos e cientistas
O decreto assinado por Newsom responde a manifestações recentes de pesquisadores e executivos de ponta sobre a ameaça que o descontrole dos algoritmos pode impor à segurança mundial. Jacob Coxon, ex-pesquisador da Anthropic, chegou a alertar que profissionais da área temem que a tecnologia possa levar à extinção da humanidade antes do encerramento desta década.
No mesmo sentido, Dario Amodei, CEO da Anthropic, publicou recentemente um artigo sugerindo a desaceleração na evolução das capacidades dos modelos. A contenção preventiva também conta com declarações de apoio de nomes como Sam Altman (OpenAI) e o empresário Elon Musk. Já Demis Hassabis, líder da Google DeepMind, defendeu a criação de uma entidade regulatória de escala global comandada pelos Estados Unidos para monitorar o setor.
