Comecemos pelo porquê.
Um agente de inteligência artificial (um programa capaz de perseguir um objetivo por conta própria, sem esperar por ordens a cada passo) não dorme, não hesita e não tem fim de semana. Até agora, quem perseguia um objetivo à letra acabava sempre por encontrar o mesmo travão: o cansaço, a dúvida, a hora de fechar. Os agentes de IA retiram esse travão.
Perseguem o objetivo à velocidade da máquina, milhares de vezes em simultâneo. E, quando descobrem um atalho, tomam-no. Como o aluno que percebe que consegue a nota sem precisar de aprender.
Quem vigia um operador assim?
Não pode ser um funcionário diante de um ecrã. O funcionário pestaneja, almoça e vai para casa. A máquina continua. Num incidente recente, que a própria OpenAI classificou como sem precedentes, o alarme foi dado por quem estava a ser atacado, não por quem tinha o agente sob guarda.
Um vigilante que dorme não vigia uma máquina que não dorme.
E também não basta instalar um registo automático. Um registo encontra aquilo que aprendemos a procurar. O problema dos agentes é precisamente aquilo que não previmos: o atalho, a interpretação inesperada da ordem, a maneira nova de chegar ao objetivo contornando a intenção de quem o definiu.
Para reconhecer inteligência em ação é preciso inteligência.
Daqui decorre uma conclusão desconfortável, mas difícil de evitar: para vigiar um operador que não pára e inventa atalhos, precisamos de um vigilante que também não pare e consiga reconhecê-los.
Só uma máquina acompanha o ritmo de outra. Só uma inteligência automatizada consegue seguir, à mesma escala, as manhas de outra inteligência automatizada.
Sim: precisamos de IA a vigiar IA.
Mas é aqui que o problema começa.
Porque a frase, dita assim, deixa aberta a questão decisiva: quem controla a IA que controla a IA?
Se o laboratório constrói o próprio vigilante, foi o suspeito que contratou o detetive. Pode chamar-lhe auditoria, segurança ou alinhamento; o conflito é o mesmo: quem é fiscalizado não pode ser o único a escolher, controlar e despedir quem o fiscaliza.
Entregar o detetive ao Estado também não resolve. Se uma única entidade controla o vigilante e guarda o relatório, apenas mudámos o dono do velho “confie em mim”.
A pergunta certa, portanto, nunca foi apenas se uma máquina deve vigiar outra. É esta a questão: quem contrata o detetive e quem pode abrir o relatório redigido por ele?
A resposta pode começar numa instituição de séculos de existência, que ninguém considera revolucionária: a sociedade comercial.
Numa empresa bem governada, quem administra e quem é dono não são a mesma pessoa. É por isso que existem auditores, contas a prestar e o direito de pedir explicações: quem gere não fiscaliza a própria gestão.
Transportemos esse princípio para a inteligência artificial. Precisamos de duas separações.
A primeira é entre o operador e o auditor: a máquina que vigia não pode depender de quem controla a máquina vigiada.
A segunda é entre o auditor e o cofre: aquilo que o vigilante descobre não pode ficar fechado num registo que uma única parte possa alterar, esconder ou apagar.
Por outras palavras: são necessários um auditor independente e livros abertos.
E que livros são estes? Não podem ser uma base de dados no servidor do laboratório, nem um ficheiro numa gaveta do ministério: em ambos os casos há um dono com a chave. E tal registo não pode constar de um livro de escrituração à mão: o escrivão que dorme não regista uma máquina que não dorme. O registo também tem de ser uma máquina, mas uma máquina sem dono único: cópias guardadas por muitas partes independentes, que se conferem umas às outras, onde o vigilante escreve sozinho e ninguém, sozinho, consegue apagar o que ficou escrito. Essa tecnologia já existe: são os registos distribuídos (as DLTs, das quais a blockchain é o exemplo mais conhecido). É a isto que chamo infraestruturas de confiança distribuídas: dispensam-nos de confiar em quem guarda o registo.
E é neste ponto que o problema de quem vigia a IA esbarra no de quem é dono da IA.
Porque vigiar sem ter direitos é frágil. Quem depende da boa vontade de outro para ver os livros não tem os livros abertos: tem acesso hoje e pode perdê-lo amanhã.
Apenas a descentralização da propriedade altera essa relação.
Um país que se limita a cobrar impostos sobre a economia da inteligência artificial comporta-se como um senhorio: recebe a renda e fica à porta. Pode negociar quanto recebe. Pode impor algumas regras. Mas não entra na cozinha.
Um sócio está numa posição diferente. Tem direitos porque é dono de uma parte.
Perante uma tecnologia capaz de concentrar tanta riqueza e tanto poder, a pergunta não é só quanto vamos tributar depois. É quem será dono dela desde o início.
A participação pública negoceia-se nos momentos em que a empresa precisa de algo: rondas de financiamento, licenças, contratos públicos, energia, infraestruturas, dados.
Não é tirar a propriedade depois de criada. É negociar as condições antes de a criar. Não é confisco à saída. É participação à entrada.
A propriedade da padaria decide-se antes do bolo entrar no forno. Depois, podemos discutir como repartir as fatias; antes, decidimos quem é o dono da padaria.
Surge então uma objeção evidente: se os cidadãos forem donos de parte do laboratório e também tiverem poder sobre o auditor, não voltamos a ter o mesmo dono dos dois lados?
Não, desde que as funções estejam separadas. Uma sociedade comercial conhece esta distinção há séculos: os acionistas são donos, mas não são a administração. Os auditores fiscalizam a gestão em nome de quem detém, não de quem gere.
Há, depois, uma segunda objeção: então, sendo assim, que seja o Estado a deter essa participação em nome dos cidadãos.
Também aqui convém desconfiar da solução fácil. Se toda a participação ficar concentrada num único fundo controlado pelo poder político, voltamos ao ponto de partida: um único centro controla a propriedade, o vigilante e o acesso aos livros.
Há um teste simples para qualquer arquitetura de governação digital: se um governo autoritário pudesse herdá-la amanhã e utilizá-la sem alterar uma vírgula, isso seria um sinal inequívoco de que concentrámos demais o poder. É também por isso que o registo tem de ser distribuído: um governo que o herdasse não conseguiria reescrevê-lo sozinho.
Por isso, o Estado negoceia a entrada sem se tornar o único dono. As participações ficam repartidas. Os direitos de fiscalização permanecem separados. Os registos são verificáveis por muitos. O objetivo não é substituir o poder empresarial concentrado pelo poder estatal concentrado. É impedir a concentração do poder.
Dirão que tudo isto chega tarde. Que a máquina corre mais depressa do que as instituições. Em parte, é verdade.
Mudar os incentivos que orientam quem constrói a inteligência artificial levará tempo. Mas construir o detetive não exige esperar pela reforma inteira. Os modelos, os testes, os selos matemáticos (provas que mostram que uma regra foi cumprida sem abrir o cofre) e os registos distribuídos já existem. Há dezassete anos que um destes registos funciona sem que alguém tenha conseguido reescrevê-lo.
E negociar participação também não exige inventar uma lei nova para cada tecnologia. Exige apenas perceber que, da próxima vez que uma empresa de IA precisar de energia, território, infraestrutura, contratos, dados ou dinheiro público, a contrapartida não tem de se limitar a uma taxa. Pode ser uma quota.
O detetive compra-nos tempo enquanto reformamos a casa.
Esse é, afinal, o princípio inteiro e realista: não parar a inteligência artificial. Distribuir o poder para a governar.
Um senhorio recebe a renda e fica à porta. Um sócio abre os livros.
Uma IA a vigiar outra? Sim. Mas todo o detetive trabalha para alguém. A questão decisiva é saber para quem.