A mala no centro do tapete
Uma lição dos anos 80 sobre vigilância digital, IA e confiança
Peter Diamandis, um conhecido empresário americano do setor da tecnologia, acredita que os seres humanos se comportam melhor quando sabem que estão a ser observados. A ideia parece sensata. O problema está no que vem a seguir: quem fica com o poder de observar os demais? Uma antiga sala de espera num consultório dos anos 80 ajuda a perceber a diferença.
Nos anos oitenta, eu trabalhava como delegado de informação médica. Passava os dias a visitar hospitais e consultórios, carregando uma mala cheia de brindes: canetas, isqueiros, blocos de notas e pequenas ofertas que, naquela época, faziam parte do ofício.
A mala não era leve. E eu gostava de ir tomar café sem ela.
Sempre que queria ausentar-me de uma sala de espera, tinha duas opções. Podia pedir a alguém do balcão que guardasse a mala (uma administrativa, uma auxiliar, uma pessoa concreta, com nome e cara). Ou podia fazer o que acabei por fazer várias vezes: pousava-a no centro do tapete da sala de espera, onde não estorvasse, mas bem à vista de todos, e saía tranquilamente.
Escolhia quase sempre o tapete persa e os brindes nunca desapareciam: a minha mala era intocável.
À primeira vista, tal “abandono” podia parecer um descuido. Não era. Era cálculo, embora eu ainda não soubesse explicá-lo nestes termos. Se entregasse a mala a alguém do balcão de atendimento, criaria um único guardião. Uma pessoa ficava responsável por ela. Se algo desaparecesse, a suspeita recairia sobre essa pessoa. Havia um único ponto de confiança, mas também um único ponto de falha.
No tapete, a lógica era outra.
Eu não confiava numa pessoa em particular. Confiava na situação. A mala estava exposta, no centro da sala, rodeada de pessoas sentadas, aborrecidas, à espera da sua consulta. Quem quisesse levá-la teria de fazê-lo diante de todos. Por um punhado de canetas e isqueiros, teria de aceitar o custo de ser visto.
A segurança não vinha de esconder. Vinha de expor.
Ninguém tinha sido nomeado guarda. Por isso, de certo modo, todos o eram.
Só muitos anos depois percebi que aquela pequena cena continha um problema muito maior: como proteger alguma coisa sem entregá-la a um guardião central? Como criar confiança sem pôr tudo nas mãos de alguém?
A resposta, naquela sala de espera, era simples: transparência entre iguais.
O novo evangelho da vigilância
Quase quarenta anos depois, a mesma pergunta regressa em escala planetária.
Peter Diamandis, fundador do XPRIZE e uma das figuras mais conhecidas do tecno-otimismo americano, escreveu recentemente que estamos a caminhar para um mundo coberto por sensores: câmaras, telemóveis, drones, satélites, carros autónomos, robôs, dispositivos domésticos e sistemas de inteligência artificial capazes de interpretar tudo isso.
Segundo ele, teremos em breve um bilião de sensores (aquilo a que os americanos chamam “a trillion sensors”) espalhados pelo espaço, pelo ar, pelas cidades, pelas casas e pelas estradas. Tudo poderá ser visto, registado, medido e analisado.
A sua conclusão é simples: isso pode ser bom, porque os humanos se comportam melhor quando sabem que estão a ser observados.
A frase é sedutora. E eu bem sei que contém uma parte de verdade.
Quem sabe que está a ser visto tende a controlar-se mais. A minha mala intocável no tapete (fosse este persa ou não) mostrava isso. Muitos estudos sobre câmaras corporais na polícia apontam nesse mesmo sentido. A visibilidade altera o comportamento.
Mas a pergunta decisiva não é se a observação muda o comportamento.
Muda.
A pergunta decisiva é outra: quem observa?
O tapete e o balcão
Na sala de espera, a observação era horizontal. Todos viam todos. Quem olhava para a mala também era visto pelos outros. Não havia centro de comando. Não havia arquivo. Não havia uma pessoa com poder especial sobre as restantes.
A confiança nascia da própria configuração.
No mundo imaginado por Diamandis, o risco é o oposto. A observação pode tornar-se vertical. Um centro vê todos, mas ninguém vê verdadeiramente o centro. As imagens ficam guardadas, indexadas, pesquisáveis e cruzadas com outros dados. Aquilo que hoje é recolhido para segurança pode amanhã servir para controlo político, pressão fiscal, vigilância comercial ou punição social.
A diferença é enorme.
No tapete, todos vigiam todos.
No balcão, alguém vigia os outros.
Na sala de espera, a observação produzia confiança sem dono. Na cidade-sensor, a observação pode produzir obediência a um dono.
É aqui que a discussão deixa de ser tecnológica e passa a ser constitucional. Não se trata apenas de saber se temos boas câmaras, bons drones ou bons algoritmos. Trata-se de saber quem controla a infraestrutura e quem controla quem a controla.
A promessa não chega
O próprio Diamandis percebe parte do problema. Ele escreve que a transparência só gera confiança quando funciona em ambos os sentidos. Tem razão.
Se o cidadão é observado, o poder também deve ser observável. Se a rua é transparente para o Estado, o Estado também deve ser transparente para a rua. Se tudo o que fazemos deixa rasto, então o uso que as autoridades fazem desses dados também deve deixar rasto.
Mas enunciar o princípio não basta.
Dizer “a transparência deve funcionar nos dois sentidos” é uma boa intenção. Não é ainda uma arquitetura.
O problema das sociedades modernas não é a falta de promessas. É um excesso de sistemas que dependem de promessas. Prometem-nos que os dados serão bem utilizados. Que as câmaras são só para segurança. Que os drones não vão espreitar para dentro das casas. Que os algoritmos serão auditados. Que ninguém abusará.
Talvez.
Mas uma sociedade livre não pode depender apenas do bom comportamento de quem manda. Precisa de regras técnicas, jurídicas e institucionais que tornem o abuso difícil, visível e punível.
A boa pergunta é sempre esta: se esta tecnologia caísse nas mãos de um governo autoritário, continuaria a funcionar bem?
Se a resposta for sim, há motivo para alarme.
Uma sala cheia de pessoas a olhar umas para as outras não serve facilmente a uma ditadura. Mas uma rede centralizada de câmaras, sensores, bases de dados e inteligência artificial serve-a na perfeição.
Aliás, serve-a melhor do que serve a uma democracia.
O teste da captura
Há um teste simples para distinguir boas arquiteturas de arquiteturas perigosas: o teste da captura.
Uma arquitetura passa no teste se, quando capturada por um poder autoritário, deixa de funcionar. Chumba no caso de continuar a funcionar (ou funcionar ainda melhor).
A mala no tapete passa no teste. O seu poder vinha precisamente de não haver centro. Se alguém tentasse transformar aquela vigilância mútua numa outra vinda do balcão, a lógica desapareceria.
A cidade-sensor chumba. Porque pode ser capturada por quem controla os sensores, os servidores, os algoritmos e os acessos. E, uma vez capturada, torna-se ainda mais eficaz.
É por isso que a frase “os humanos comportam-se melhor quando são observados” é insuficiente. Falta-lhe a variável principal.
Observados por quem?
Pelos seus iguais?
Ou por uma autoridade invisível?
O tapete à escala do planeta
Foi aqui que, muitos anos depois, a tecnologia deu nome ao que eu tinha visto naquela sala de espera.
A tecnologia blockchain, na sua forma mais aberta e descentralizada, tentou resolver precisamente este problema: como criar confiança entre estranhos que não se conhecem nem estão na mesma sala?
Na sala de espera, a confiança vinha da copresença física. As pessoas estavam ali, viam-se, reconheciam-se, podiam sentir vergonha, podiam ser confrontadas.
Na internet, isso desaparece. Os participantes estão dispersos, são anónimos ou pseudónimos, não se veem e podem nunca se cruzar.
Quando li pela primeira vez a proposta de Satoshi Nakamoto, não vi uma novidade financeira. Vi o tapete e a confiança nele suscitada pela observação comunitária.
Talvez por isso nunca tenha conseguido olhar para a blockchain como os mercados olharam: um ativo, uma moda, uma aposta. Desde cedo a li como uma questão de civilização. Porque o que ali estava em causa não era o preço de coisa nenhuma. Era a velha pergunta da sala de espera, agora à escala do planeta: quem guarda, quem verifica, quem observa quem.
A cena dos anos oitenta não me tinha ensinado a tecnologia, mas tinha-me deixado pronto o esquema: balcão ou tapete. Quando a tecnologia chegou, eu já sabia o que procurar.
A solução, publicada em 2008, consistiu em substituir a vigilância física por uma arquitetura de verificação pública: um livro de registos partilhado, replicado por muitos participantes, em que as regras não dependem da palavra de um guardião central, mas de criptografia, incentivos e validação distribuída.
Em linguagem simples, em vez de entregar a mala ao balcão, tentou-se colocá-la num tapete digital mundial: uma tapeçaria criptográfica global em que muitos podem verificar o que nenhum guardião único deve controlar.
Mas há uma armadilha.
A palavra “blockchain” não resolve tudo. Também há blockchains centralizadas, controladas por poucos, com regras alteráveis por quem manda e com acesso condicionado. Nesse caso, já não estamos perante o tapete. Estamos perante o balcão industrializado.
A mesma tecnologia pode servir a duas arquiteturas opostas.
Pode distribuir confiança.
Ou pode concentrar controlo.
Pode criar transparência entre iguais.
Ou pode criar vigilância com memória infinita.
As novas salas de espera
A pergunta de fundo, portanto, não é se a observação melhora o comportamento. Melhora. Diamandis sabe-o através de estudos. Eu aprendi-o com uma mala.
A pergunta é: quem observa o observador.
Na sala de espera, a resposta era: todos.
Na cidade-sensor, a resposta pode ser: ninguém.
E esta escolha está a aparecer em cada vez mais áreas da nossa vida.
Aparece nas cidades quando se decide quem controla as imagens de drones, câmaras e sistemas de reconhecimento.
Aparece na identidade digital, quando se decide se provar quem somos exige entregar o rosto, a íris ou os dados biométricos a um guardião central.
Aparece no debate sobre o euro digital, quando se escolhe entre um euro programado pelas autoridades e um euro neutro, programável por cada cidadão nas suas próprias condições.
Aparece nas redes sociais quando se decide se a verificação da verdade será feita por comunidades abertas ou por centros fechados.
Aparece na inteligência artificial quando se decide se os sistemas que analisam a sociedade serão auditáveis pelos cidadãos ou apenas controlados por empresas e Estados.
Em todas estas novas salas de espera, a escolha é a mesma que fiz, sem o saber, aos vinte e poucos anos: balcão ou tapete.
Entregar a mala a um guardião central ou colocá-la num espaço visível, onde todos se vigiam e são vigiados.
A diferença parece pequena. Não é.
É a diferença entre confiança e submissão.
Entre transparência e vigilância.
Entre uma sociedade adulta e uma sociedade permanentemente infantilizada por quem diz: “portem-se bem, porque estamos a ver”.
Na altura, eu acertei sem saber bem o porquê.
Hoje, já não temos essa desculpa.