Nomen est omen — “o nome é presságio”, diz o velho provérbio latino. Pois o sobrenome de Dario Amodei — co-fundador e CEO da Anthropic — soa como um eco do latim amo Dei, “eu amo a Deus”, ironia que não escapa a quem tenha acompanhado o espetáculo recente do homem que construiu uma das máquinas de linguagem mais avançadas do planeta publicando, agora, um ensaio pedindo que se pise no freio diante da própria criatura. Depois de dias turbulentos, com um ex-pesquisador seu declarando publicamente que a inteligência artificial (IA) poderia significar o fim da espécie dentro de uma década, Amodei escreveu que “devemos pautar o ritmo" do progresso técnico. Terceiros avaliadores, regulação, acordos globais. A receita é: contenha o monstro que você mesmo criou, mas sem nunca abrir mão da liderança na corrida.

Exilado no Brasil em 1944, e escrevendo sob o eco ainda quente de Hiroshima, George Bernanos havia identificado um mecanismo similar. Não era o robô, como objeto, que o assustava. Era a contemplação de uma civilização que passava a se organizar em torno da técnica até esquecer daquilo que lhe era anterior: a pessoa, a alma, a liberdade que não se mede em eficiência. Para Bernanos, capitalismo liberal e totalitarismo comungavam do mesmo pecado: subordinar o homem ao sistema e, irrefletidamente, chamar essa subordinação de progresso.

Oitenta anos depois, trocamos a bomba atômica pelo modelo de linguagem, e o vocabulário mudou de “energia nuclear” para “alinhamento”. Todavia, a estrutura do drama é idêntica. O engenheiro descobre tarde demais que abriu uma porta maior do que sua própria capacidade de fechá-la, e pede à sociedade que o ajude a administrar aquilo que, obviamente, ele insiste em continuar produzindo, porque ela continua cada vez mais demandando.

+ Leia mais notícias de Tecnologia em Oeste

Há também, no episódio, uma dimensão que nem Bernanos nem Amodei resolvem sozinhos: o dilema da corrida armamentista. O próprio ensaio admite que desacelerar demais significa ceder terreno a rivais geopolíticos — leia-se, China. É a velha lógica que Bernanos via na modernidade industrial: ninguém decide livremente parar, porque parar sozinho é perder. A “pausa responsável” vira, assim, um discurso que soa nobre, mas que na prática empurra a decisão real para depois, delegando a um comitê de reguladores um problema que a própria empresa se recusa a resolver diminuindo sua produção.

A Torre de Babel da IA

Bernanos não temia a máquina; temia o homem que se deixa substituir por ela sem perceber. O ensaio de Amodei, lido com essa lente, é uma confissão tardia de que a Torre de Babel da IA já está mais alta do que qualquer um de seus construtores (e Elon Musk concordou com o argumento de Amodei) consegue supervisionar. Chama a atenção, aliás, a sincronia da conversão: OpenAI, Anthropic e xAI endossaram a pausa praticamente ao mesmo tempo, adiando até IPOs. Como observou o investidor e comentarista de mercado Adam Cochran — voz habitual em análises sobre tecnologia e criptoativos —, não existe um mundo plausível em que rivais ferozes, competindo por bilhões em investimento, decidam pisar no freio ao mesmo tempo por pura epifania moral coletiva; mais provável é que algo concreto — um incidente grave o bastante para não ser detalhado publicamente — tenha acontecido nos bastidores para assustar todo mundo de uma vez.

Ao fim e ao cabo, a pergunta que Bernanos deixou em aberto continua a mesma: quem, exatamente, decide até onde a técnica pode ir? Que tipo de amo Dei é esse, afinal: o amor a Deus que se traduz em humildade diante da criação, ou a antiga tentação do Gênesis, o sonho de Adão e Eva de serem “como deuses”, sonho viperino que talvez inspire os atuais construtores de torres? Id solius Dei est.

Leia também: "Data centers vão acabar com o mundo?", reportagem de Dagomir Marquezi publicada na Edição 335 da Revista Oeste

O post A Torre de Babel de Amodei apareceu primeiro em Revista Oeste.