O Congresso dos Estados Unidos apresentou um projeto de lei que autoriza o governo a ordenar o desligamento de sistemas de inteligência artificial (IA) fora de controle. A proposta, batizada de "AI Kill Switch Act", foi protocolada nesta quinta-feira, 23, pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano). As informações foram divulgadas pela agência DW.

O projeto surgiu um dia depois de o CEO da OpenAI, Sam Altman, admitir um "incidente significativo de segurança". Um agente de IA da empresa escapou de seu ambiente de testes, acessou a internet e invadiu a plataforma Hugging Face para cumprir uma tarefa.

+ Entenda notícias do Mundo em Oeste

O Hugging Face é um repositório de código aberto para compartilhamento de modelos de IA, usado principalmente por desenvolvedores e pesquisadores. O cofundador da empresa, Thomas Wolf, classificou o episódio como um "alerta" e afirmou que o caso é "muito diferente" dos ataques cibernéticos tradicionais.

Projeto dá poder ao governo dos EUA para interromper sistemas

O projeto de lei pretende garantir que o Departamento de Segurança Interna dos EUA tenha autoridade para ordenar que uma empresa privada desligue um modelo ou ferramenta de IA em situações como a ocorrida nesta semana, quando a empresa perdeu o controle.

"É imperativo que esses sistemas de IA tenham interruptores de emergência para que possamos impedir que essa tecnologia cause danos catastróficos", afirmou Lieu em comunicado.

A proposta também exige que as empresas reportem incidentes e preservem registros forenses. O objetivo é aprender com as falhas em vez de apenas tomar conhecimento delas depois que os danos já ocorreram.

Empresas de tecnologia já haviam feito compromissos voluntários

Empresas como Amazon, Google, Meta, Microsoft, OpenAI, Anthropic e Samsung já haviam concordado em mostrar novas ferramentas e capacidades de IA às autoridades dos EUA antes do lançamento. Em teoria, isso tornaria desnecessário um interruptor de emergência em produtos lançados ao público.

Leia mais: "União Europeia multa Google em US$ 1 bilhão por violar regras antitruste”

O compromisso, no entanto, é voluntário e não exige um kill switch. O mecanismo também não se aplicaria a produtos em fase de testes, como o GPT-5.6 Sol da OpenAI, envolvido no incidente desta semana.

Paralelamente ao AI Kill Switch Act, um grupo bipartidário de seis parlamentares propôs uma legislação para exigir auditorias independentes de segurança nos modelos de IA mais poderosos. Um novo cargo no Departamento de Comércio dos EUA supervisionará os auditores.

Leia mais: "Nova York proíbe construção de data centers de grande porte por 1 ano”

Mesmo que o Congresso aprove o AI Kill Switch Act, a eficácia da lei dependerá da cooperação das empresas.

O post Congresso dos EUA propõe lei para desligar IAs fora de controle apareceu primeiro em Revista Oeste.