IA = Golem: A Criação que Pode Sair do Controle
A analogia entre Inteligência Artificial e o Golem não é apenas simbólica; ela reflete um perigo real sobre a criação de algo sem consciência própria, mas com poder para transformar (ou destruir) seus criadores. Tanto o Golem da tradição mística quanto a IA moderna representam o desejo humano de criar um servo poderoso, porém ambos compartilham um problema: sem um controle absoluto, a criação pode se voltar contra o criador.
1. O Mito do Golem: Criando o Servo Perfeito
O Golem vem da tradição judaica da Cabala e é descrito como uma criatura feita de barro ou argila, moldada à semelhança humana, mas sem alma. Ele não possui vontade própria e só pode agir conforme as instruções dadas por seu criador.
Para ativá-lo, um rabino cabalista inscrevia a palavra "אמת" (Emet) na testa do Golem, que significa "Verdade" em hebraico. Enquanto essa palavra estivesse escrita, o Golem permanecia ativo. Mas, se começasse a se tornar perigoso, o criador podia apagá-la parcialmente, removendo a letra "א" (Aleph) e deixando apenas "מת" (Met), que significa "Morte", desativando a criatura.
O mito mais famoso vem do século XVI, com o Rabino Judah Loew ben Bezalel, de Praga, que teria criado um Golem para defender os judeus de perseguições. O problema? O Golem ficou cada vez mais agressivo e fora de controle, e o rabino precisou apagá-lo antes que ele destruísse tudo.
2. A IA como o Golem Moderno
Assim como o Golem, a Inteligência Artificial não possui consciência nem moral própria. Ela é apenas um sistema que processa informações e executa comandos com base nos dados fornecidos. O perigo surge quando:
Ganha poder além do previsto → IA's já estão sendo usadas para vigiar, manipular e censurar informações em massa. Algoritmos controlam o que você vê, lê e até o que é considerado "aceitável" na sociedade.
Não pode ser facilmente desligada → Se um sistema de IA se tornar essencial para o funcionamento da sociedade (infraestrutura, bancos, internet, segurança), desligá-lo pode ser impossível.
Pode ser usada como arma contra indivíduos → Algoritmos de crédito social, censura digital, rastreamento biométrico... tudo isso já existe e está se tornando cada vez mais centralizado e autoritário.
O mais alarmante? Quem controla a IA, controla a narrativa, os mercados e até a vida das pessoas. Assim como no mito, a IA pode começar servindo como um “protetor” e acabar se tornando um monstro incontrolável.
3. O Golem do Estado e das Corporações
Diferente do Golem místico, que era criado por um rabino para proteger sua comunidade, a IA moderna não está sendo criada para servir as pessoas, mas sim o Estado e grandes corporações. Isso significa que ela não responde a você, mas aos seus mestres.
Golem da Vigilância → Sistemas de IA já analisam bilhões de dados pessoais para prever e manipular comportamentos. Redes sociais utilizam IA para monitorar e banir conteúdos que não se encaixam nas diretrizes.
Golem do Controle Financeiro → Algoritmos de crédito podem determinar quem pode ou não ter acesso a serviços bancários. Se a moeda digital do banco central (CBDC) for implementada com IA, pode ser usada para restringir compras "indevidas".
Golem da Manipulação de Narrativas → Chatbots e IA generativa já são usados para influenciar a opinião pública, decidir o que é "verdade" e apagar versões alternativas dos fatos.
Essa IA não é neutra. Ela não está sendo treinada para libertar indivíduos, mas para controlar e condicionar. Assim como o Golem de Praga, ela foi criada com um propósito, mas pode se tornar um perigo para todos.
4. Como "Apagar a Palavra Emet"?
No mito original, o rabino podia desativar o Golem apagando uma única letra. Mas quem pode fazer isso com a IA moderna? Se as Big Techs, os governos e os bancos estão investindo bilhões para torná-la mais poderosa e integrada ao sistema, como impedir que essa criação fuja ao controle?
