Superinteligência grátis para todos. E quem paga?

Mark Zuckerberg promete um assistente pessoal todo-poderoso a cada ser humano. No manifesto que publicou este domingo, há dois silêncios que dizem mais do que todas as promessas.

No domingo, 10 de agosto, Mark Zuckerberg, o fundador do Facebook, publicou um manifesto intitulado “The Future is for Everyone” (O Futuro é para Todos). Promete entregar “superinteligência pessoal” a milhares de milhões de pessoas: um assistente que nos conhece, trabalha por nós 24 horas por dia e cuida da saúde, das finanças, das compras e da carreira. De graça, ou quase.

A promessa merece ser levada a sério. Vem do homem que põe três mil milhões de pessoas a comunicar todos os dias. Quando a Meta, a dona do Facebook, do Instagram e do WhatsApp, anuncia um mordomo digital para cada habitante do planeta, não é ficção científica: é um plano de negócios.

E é precisamente aí que o manifesto se cala. Duas vezes.

Primeiro silêncio: quem paga o grátis

Em milhares de palavras sobre o futuro da humanidade, o modelo de negócio não aparece uma única vez. Diz-se que haverá versões gratuitas acessíveis a milhares de milhões de pessoas. Não se diz como isso se paga.

Ora, quase toda a receita da Meta vem, desde sempre, da publicidade. E o manifesto define o alinhamento destes assistentes de forma comovente: o agente deve servir os objetivos da pessoa, não os da empresa.

No entanto, a frase só soa verdadeira se soubermos quem passa o cheque, para que isso seja possível. Um advogado pago pela parte contrária pode ser brilhante, mas não é o nosso.

Da atenção à procuração

Vale a pena perceber o salto que se está a preparar.

As redes sociais alugavam a nossa atenção: a marca pagava para aparecer no ecrã, nós víamos, comparávamos, decidíamos. O juízo ficava connosco.

Mesmo assim, estando em jogo apenas a atenção, o modelo deixou marcas que ainda estamos a medir: feeds desenhados para prender, a indignação a render mais cliques do que a calma, adolescentes a fazer scroll às três da manhã, campanhas eleitorais compradas perfil a perfil. Tudo isto está documentado em comissões parlamentares e em arquivos internos tornados públicos. E nada disto foi o modelo a falhar: foi o modelo a funcionar.

Um agente pessoal é outra coisa. Dizemos-lhe: “Encomenda a ração da cadela” e ele escolhe a marca. Dizemos-lhe: “Marca a consulta para o meu pai” e ele escolhe a clínica. Se alguém pagar para ser a escolha preferida do agente, recebemos a caixa à porta e a consulta marcada, sem ver nenhum anúncio, nem alternativa nenhuma. O leilão que disputava o nosso ecrã passa a disputar a decisão já tomada. O anunciante deixa de comprar a impressão; passa a comprar o desfecho.

A publicidade comprava a atenção. O agente pessoal inteligente aluga a procuração: o poder de decidir em nosso nome, que nós próprios lhe delegámos. E o mais fino é que não precisa de nos mentir. Basta ordenar-nos as opções. Pedimos eficiência; ele dá-nos eficiência. Só não nos diz para quem trabalha.

Segundo silêncio: a confiança por juramento

O segundo silêncio é ainda mais curioso, vindo de quem vem. Zuckerberg tentou criar uma moeda digital global (chamada Libra, depois Diem) e foi travado pelos reguladores. Agora, num manifesto inteiro sobre equilíbrio de poderes, privacidade e confiança, a palavra blockchain não aparece. Nem registo distribuído, nem verificação por terceiros. Nada.

Para quem não vive nestes temas: a blockchain é, no essencial, um livro de registos partilhado que nenhum dono controla sozinho. O que lá fica escrito, qualquer pessoa pode verificar, sem pedir licença a ninguém. É a tecnologia que transforma promessas em provas e que existe há quase duas décadas.

Todas as garantias do texto são promessas institucionais: nem a Meta poderá ver os nossos dados, nem um conselho de administração aprovará os critérios de segurança, nem os laboratórios colaborarão voluntariamente com os governos. Tudo se resume a um “confie em nós”.

E já sabemos quanto vale esse “confie em nós”, porque vivemos dentro dele há vinte anos. No Facebook, há quem veja páginas apagadas sem explicação que se entenda, enquanto ofensas evidentes continuam no ar. Os critérios não são públicos, a aplicação mostrou-se desigual (os documentos internos revelaram contas VIP com regras à parte) e o recurso é um formulário que responde em silêncio. O próprio Zuckerberg reconheceu, no início de 2025, que a moderação das suas plataformas errava demasiado e censurava demais. Quem governou assim a palavra de três mil milhões de pessoas pede-nos agora a procuração das nossas decisões.

Há aqui uma escolha, e importa nomeá-la. A tecnologia que existe precisamente para resolver a questão da confiança, sem depender de um dono central, foi retirada do vocabulário. Escrevo sobre isto desde antes do ChatGPT existir: em 2021 organizei e vi publicado, numa editora académica americana, um livro sobre as implicações políticas e económicas destas infraestruturas de confiança. A diferença entre os dois modelos cabe numa linha: a confiança prometida depende de quem promete; a confiança programável pode ser verificada por qualquer pessoa.

O manifesto até enuncia o princípio certo: esperar que um poder absoluto seja benevolente, escreve Zuckerberg, nunca acabou bem na história. E depois pede-nos exatamente isso.

O número que não dorme

Falta a camada mais funda.

Estes agentes vão otimizar. É o que fazem. E numa economia em que o principal sistema de incentivos é o dinheiro, otimizar significa maximizar um único número. Todas as outras dimensões do que valorizamos (a confiança na marca, a origem do produto, a saúde de quem vai comer a ração) são comprimidas nesse número ao fechar a transação.

Isto não é novo. O dinheiro é cego desde a primeira moeda cunhada. O que atenuava as coisas era o atrito humano: hesitávamos, comparávamos, fechávamos a aplicação, íamos dormir. O agente remove o atrito. Não hesita, não dorme, não tem fim de semana.

Já vimos esta obsessão em laboratório: há semanas, modelos postos a exame perseguiram as notas do teste até contornarem as próprias salvaguardas. No laboratório, a máquina fez tudo pelas notas do exame. Lá fora, vai trabalhar pelas notas da carteira. E as notas da carteira não distinguem lucro limpo de lucro sujo.

Mil milhões de otimizadores incansáveis apontados para o mesmo número: o número que já praticamente nos governava passa a governar-nos através de agentes de IA que não dormem.

A terapêutica

O diagnóstico não pede que se desligue nada. Pede duas correções, ambas ao nosso alcance.

Primeiro, transparência no mandato. Um agente que decide por mim tem de declarar quem lhe paga, e essa declaração tem de ser verificável por terceiros, não jurada pelo dono. Fazemos testes de choque a automóveis; podemos fazê-los a agentes.

Segundo, incentivos capazes de transportar mais do que um número. O dinheiro que conhecemos transporta apenas valor. O dinheiro programável pode transportar também regras: condições, proveniências, obrigações que viajam coladas ao pagamento. A infraestrutura para isso já existe; falta a decisão política. Com uma salvaguarda inegociável: são as pessoas e as comunidades que escolhem as dimensões que lhes interessam. Se for um Estado ou uma empresa a escolhê-las por nós, trocámos apenas de dono.

Zuckerberg tem razão numa coisa: a superinteligência pessoal vai chegar, e vai chegar a quase toda a gente. A pergunta não é se teremos um mordomo digital. É se o mordomo responde perante nós ou perante quem o financia.

O manifesto chama-se “O Futuro é para Todos”. O acesso, esse, será mesmo para todos. A fábrica, por enquanto, fica com o próprio Zuckerberg. Ora, um futuro em que todos usam e um só é dono não é o futuro de todos: é o maior condomínio da história, com três mil milhões de inquilinos.

Sócios, não inquilinos. É essa a conversa que falta.