Technê sob Vigilância

Technê e Poder Formativo: A Preocupação Clássica

Para os gregos, technê designava conhecimento aplicado — desde medicina, passando por técnicas de navegação, metalurgia, até retórica. Mas nem toda technê era vista com bons olhos. Platão desconfiava profundamente da retórica sofista, não porque fosse tecnicamente ineficaz, mas porque era eficaz demais: persuadia sem ter comprometimento com a verdade, moldava opiniões sem cultivar a virtude. Na sua obra Górgias, ele compara a retórica sofista à culinária — ambas produzem prazer, mas não necessariamente saúde. A crítica era moral e política: técnicas persuasivas sem limites corrompem a alma individual e desestabilizam a comunidade.

Aristóteles compartilhava a preocupação, mas com ressalvas. Para ele, a técnica não é boa nem má em si; seu valor depende do télos, da finalidade a que serve. Uma faca pode curar nas mãos de um cirurgião ou matar nas mãos de um assassino. O mesmo vale para technai mais complexas. No livro Política, Aristóteles deixa claro que toda arte deve ser subordinada ao bem da pólis. Quando uma técnica ameaça o equilíbrio comunitário ou desvia os cidadãos da vida boa (eudaimonia), cabe à comunidade regulá-la.

Essa tradição reconhecia algo que tendemos a esquecer: tecnologias não são neutras. Algumas — especialmente as que operam sobre linguagem, percepção e crença — têm poder formativo. Elas não apenas fazem coisas; fazem pessoas. E quando esse poder se concentra ou se descontrola, a pólis está em risco.

A Próxima Onda e a Contenção Necessária

Em A Próxima Onda, Suleyman argumenta que modelos de IA de grande escala, sobretudo modelos de linguagem, não podem ser tratados como softwares comuns. Sua capacidade de gerar texto persuasivo, imitar vozes, produzir desinformação sofisticada ou automatizar manipulação social exige uma abordagem de "contained AI" — uma IA contida, regulada, vigiada. Não se trata de parar o progresso, mas de estabelecer guardrails: limites de acesso, transparência sobre capacidades, responsabilização de desenvolvedores e usuários, auditorias independentes.

A proposta é controversa. Alguns pesquisadores defendem abertura total: código aberto acelera a inovação, democratiza o acesso, impede monopólios. Outros alertam que a contenção é impraticável: jurisdições permissivas atrairão desenvolvedores, criando um "race to the bottom". Suleyman reconhece esses riscos, mas insiste que a alternativa — deixar a IA se proliferar sem estruturas de governança — é pior.

Aqui, a filosofia antiga oferece clareza. Suleyman está propondo algo que Platão e Aristóteles reconheceriam imediatamente: a subordinação de uma technê poderosa ao interesse coletivo. Não é paternalismo arbitrário; é prudência política diante de forças formativas.

Platão: Guardiões da Technê

Se Platão estivesse vivo hoje, provavelmente defenderia restrições ainda mais rígidas que Suleyman. Na República, ele estrutura a pólis ideal com controles rigorosos sobre quem pode acessar certas formas de conhecimento e influência. Os guardiões — elite treinada desde a infância — são expostos a narrativas cuidadosamente selecionadas. Poetas que glorificam vícios ou deuses caprichosos são banidos. Não porque Platão odeie arte, mas porque acredita que histórias moldam caráter, e caráter determina a saúde da cidade.

Para Platão, a exposição irrestrita a forças persuasivas é um risco existencial. Se qualquer um pode manipular discursos, criar narrativas convincentes ou imitar autoridade, a distinção entre verdade e aparência colapsa. A pólis se fragmenta em facções movidas por opiniões (doxa) em vez de conhecimento (episteme). Nesse cenário, tiranos e sofistas prosperam.

Aplicando essa lógica à IA, Platão provavelmente exigiria:

• Controle centralizado: Apenas entidades auditadas e comprometidas com o bem comum poderiam desenvolver modelos avançados.

• Restrições de acesso: Usuários sem formação ética ou técnica não deveriam ter acesso irrestrito a ferramentas persuasivas de escala.

• Transparência obrigatória: Conteúdo gerado por IA deveria ser marcado, evitando que a aparência de autoridade mascare a origem artificial.

Essas medidas soam autoritárias para ouvidos modernos, mas a preocupação de Platão é legítima: quando a capacidade de persuadir se descola da responsabilidade de dizer a verdade, a democracia se torna impossível. LLMs que alucinam com confiança, deepfakes que imitam líderes, bots que fabricam consensos artificiais — tudo isso são versões digitais do sofista que Platão temia.

Aristóteles: Regulação pela Phronesis

Aristóteles, sempre mais moderado, rejeitaria tanto a abertura irrestrita quanto o controle platônico total. Para ele, a solução está na phronesis — prudência prática, capacidade de julgar o que é apropriado em cada contexto. Não se trata de regras fixas, mas de deliberação orientada por fins éticos.

Aplicada à governança de IA, a phronesis aristotélica sugere:

• Regulação contextual: Nem todos os modelos exigem o mesmo nível de controle. Ferramentas de tradução automática têm riscos diferentes de sistemas que geram propaganda política.

• Responsabilização proporcional: Desenvolvedores, distribuidores e usuários devem ser responsabilizados conforme seu nível de agência e impacto.

• Finalidade comunitária: A pergunta central não é "o que essa IA pode fazer?", mas "para que estamos usando essa IA?". Se a resposta não contribui para o florescimento coletivo, a técnica deve ser limitada.

Aristóteles também insistiria em formação, não apenas regulação. No Ética a Nicômaco, ele argumenta que virtudes intelectuais (episteme, techne, phronesis) exigem cultivo. Ninguém nasce sabendo usar bem uma técnica poderosa. Aplicando isso à IA: não basta distribuir ferramentas e esperar que as pessoas as usem bem. É preciso educar para o uso crítico, cultivar hábitos de verificação, formar cidadãos capazes de resistir à persuasão algorítmica.

Tensões e Limites da Contenção

A filosofia antiga não resolve todos os problemas práticos. Críticos da contenção têm pontos válidos:

Argumento da democracia tecnológica: Restringir acesso a modelos avançados cria uma elite de "guardiões digitais", reproduzindo estruturas de poder. Quem decide quem pode desenvolver ou usar IA? Quem audita os auditores?

Argumento da ineficácia prática: Contenção funciona apenas se for global. Jurisdições permissivas ou atores clandestinos continuarão desenvolvendo modelos sem supervisão. O resultado pode ser pior: modelos poderosos nas mãos de quem ignora limites éticos, enquanto pesquisadores responsáveis ficam atados.

Essas objeções são sérias. Mas Platão e Aristóteles responderiam que a dificuldade de implementar uma solução não invalida sua necessidade. Platão diria que a alternativa — deixar forças persuasivas descontroladas — leva inevitavelmente à tirania ou ao caos. Aristóteles insistiria que a prudência exige tentativa, ajuste e deliberação contínua, não paralisia diante da complexidade.

Conclusão: Entre Atenas e o Vale do Silício

A proposta de Suleyman é uma tentativa de pensar na governança de IA além do mercado e da tecnocracia. Ao defender a contenção, ele reconhece o que os gregos sabiam: certas technai exigem vigilância porque moldam não apenas o que fazemos, mas quem somos.

Platão nos lembra que a persuasão sem verdade corrói a pólis. Aristóteles nos ensina que a técnica só serve à humanidade quando subordinada a fins éticos. Juntos, eles oferecem um arcabouço para pensar limites sem cair em autoritarismo ou ingenuidade.

A questão não é se devemos conter a IA, mas como fazê-lo de forma que preserve autonomia, promova florescimento e evite concentrações de poder. Isso exige instituições robustas, deliberação pública, formação cidadã e — acima de tudo — a coragem de admitir que nem toda inovação é progresso.

Talvez a lição mais importante de Atenas seja esta: tecnologias poderosas exigem sabedoria política. Sem ela, a technê se volta contra a pólis. Com ela, pode ser domesticada e direcionada ao bem comum. Entre a abertura irresponsável e o controle autoritário, há um espaço para a prudência. É nesse espaço que Suleyman, Platão e Aristóteles se encontram — não para impedir o futuro, mas para garantir que ele seja habitável.