É possível reconhecer um “direito fundamental à realidade” como instrumental ao sufrágio?

Por Jamil Nascimento Júnior

A IA tornou o real disputável, corroendo a confiança com deepfakes e sequestrando o debate público. Neste contexto, emerge o “direito à realidade” como condição precedente ao sufrágio.

O presidente Lula com a dorsal definida, trabalhada em musculação intensa1. O governador Romeu Zema como vocalista, juntamente com seu vice como baterista, cantando sobre a cultura e costumes de Minas Gerais2. Maria Rita ladeada por sua falecida sua mãe Elis Regina em uma Kombi, juntas interpretando o clássico de Belchior3.

O que esses eventos têm em comum e em que medida nos levam a refletir sobre as Eleições?

O presidente Lula, apesar da aparente vitalidade, não está musculoso quanto parecia na imagem. O governador Zema não é o cantor de uma banda mineira. O encontro de Elis com Maria Rita, por mais desejoso que seja aos amantes da música brasileira, não é possível neste plano.

O que liga todos esses casos é a distorção da realidade por meio de conteúdo de mídia audiovisual sintética produzida por inteligência artificial avançada que fabrica vídeos irreais com elevado grau de semelhança com a realidade, ao ponto de gerar – a depender do contexto – confusão no interlocutor impactado pelo arquivo digital.

Este tipo de tecnologia nos seduz. Afinal, é da nossa natureza fugir da realidade.

Esquecer os problemas afundando em uma boa literatura, não pensar nas obrigações diárias ao penetrar durante algumas horas em um filme, ou até se alienar dentro de um enredo intrigante de uma típica novela brasileira. Há pouco tempo, não nos esqueçamos, o Brasil parou novamente em torno de uma questão que outrora já havia sido respondida: “quem matou Odete Roitman?”. Vale tudo para se desligar do mundo real. Até mesmo porque, parafraseando Ferreira Gullar – que por sua vez deu nova face a dizeres de Fernando Pessoa – “a arte existe porque a vida não basta”. E não basta mesmo. Fugir é preciso, viver não é preciso.

Não há nada de errado neste espírito.

O problema nasce quando esta fuga não é intencional, levando grupos a viver em uma distopia em que acreditam ser a ficção uma realidade. Nestes casos, não se está diante de uma fuga poética consciente, mas de uma alucinação produzida a partir do uso de ferramentas tecnológicas de inteligência artificial, o que cria uma verdadeira esquizofrenia coletiva como ciberpsicopatologia.

Claro que algumas brincadeiras com uso de IA parecem inofensivas, até pelo tom jocoso da mídia criada. Mas – retornando à pergunta do segundo parágrafo – pensando em um contexto de Eleição, tudo é perigoso.

Muito embora na comunicação política a desinformação seja utilizada por alguns como estratégia de combate, o que preocupa na atualidade é o grau de distorção da realidade que um conteúdo audiovisual sintético pode causar em grandes massas, possibilitando a criação de mundos paralelos ancorados em vídeos e imagens verossímeis.

É o que ocorre com as cheapfakes (shallowfakes). Nos dizeres de Alvim, Núñez e Monteiro, são compreendidas como falsificações baratas que “derivam de ajustes pouco sofisticados, realizados sob a base de ferramentas simples e não profissionais, materializando-se v.g., por meio da adulteração de vozes, imagens ou gestor a partir de montagens, trucagens e adulteração de legendas, entre outros”4. Por mais que possa parecer perigo de menor potencial, este tipo de conteúdo é comum e não envolve uso de tecnologias sofisticadas, variando desde vídeos grosseiramente adulterados até a manipulação de aceleração ou desaceleração de falas para enganar espectadores.

No entanto – ainda com base em Alvim, Alvim, Núñez e Monteiro5 – a evolução das inteligências artificiais generativas tornou acessível economicamente a criação de narrativas falsas com histórias convincentes, teorias coerentes e argumentos complexos, tudo comprovado com áudio, imagem e vídeos sofisticados. São as deepfakes, entendida, de forma geral, como arquivo de vídeo, imagem ou áudio manipulados por ferramentas de inteligência artificial que permite alteração de rostos, modificação de vozes, criando conteúdo audiovisual falso recebido com extrema aparência de real.

O pior, institucionalmente, é que não necessariamente uma desinformação deste tipo será desmascarada, já que, a depender da técnica empregada, até mesmo perícia de alto nível poderá ser inconclusiva.

É o que ocorreu em caso recente – atualmente em julgamento no TRE/MA -, em que o candidato derrotado arguiu falsidade de um áudio que, segundo ele, foi fabricado por inteligência artificial, tendo a Polícia Federal ao final manifestado pela impossibilidade de afirmar se o conteúdo era falso6.

É evidente, portanto, que no contexto eleitoral essas tecnologias são perversas, pois, criam realidades paralelas que modulam a opinião de grandes massas a partir de conteúdos sintéticos fabricados dolosamente para lobotomizar o receptor da mensagem.

Se estivéssemos no contexto de direito contratual em que uma das partes assinou um contrato induzida por deepfake apresentada pela contraparte, poder-se-ia alegar anulabilidade com base em vício de consentimento, na modalidade de dolo. Se a lógica vale para o direito privado, o que dizer para o direito que dita a estabilidade da ordem democrática?

Assim sendo, também no direito eleitoral e político este tipo de situação macula a formação de vontade, mas, ao invés de a parte fazer um mal negócio que não desejava, escolhe mal um mal candidato, induzida por um conteúdo sintético que distorce a realidade, caracterizando hipótese de abuso de poder que poderá gerar, dentre outras medidas, a anulação dos votos recebidos.

Assim sendo, o candidato que se vale deste tipo de estrategema viola o sufrágio, já que vicia a manifestação de vontade de um conjunto de pessoas na escolha de representantes.

Perceba, então, que tão importante quanto o voto é a preservação da percepção do que é real pelo eleitor, para que a escolha coletiva não seja contaminada. Não basta formalmente atribuir ao povo o poder-dever de eleger representante, o Estado deve criar ferramentas que blindem o ambiente democrático de distorções de realidade, sendo esta uma condição precedente ao exercício livre e legítimo da cidadania. Dito de outra forma, o sufrágio demanda proteção contra o falseamento doloso da realidade.

Feita esta ponderação, surge o questionamento: dado o estado da arte das tecnologias de inteligência artificial generativa na criação de conteúdos audiovisuais irreais dotados de extrema verossimilhança, é possível afirmar que se chegou ao momento histórico de declarar a existência autônoma de um “direito fundamental à realidade”, com escopo instrumental que visa garantir o exercício fidedigno do sufrágio e, em última instância, à concretização da própria democracia material?

Esta inquietação, faz-se a ressalva, mais se manifesta como devaneio de um ensaio, ainda distante do rigor que uma pesquisa científica exige na definição de hipóteses e de perguntas.

De toda forma, algumas premissas iniciais sustentam a curiosidade. De um lado, o catálogo de direitos fundamentais, por mais extenso que seja no texto constitucional, é materialmente aberto, na medida em que a própria Constituição abre espaço para reconhecimento de direitos não explícitos. De outro, a historicidade dos direitos fundamentais exige atenção redobrada enquanto se vive momentos de transformações, para captar nas entranhas da sociedade o florescer de situações que demandam pelo reconhecimento de garantias especiais.

É possível admitir, portanto, que em determinado momento histórico um direito fundamental específico, até então em estado de latência que se manifestava somente implicitamente como acessório de outros, destaque-se e passe a se manifestar autonomamente para atendimento de demandas específicas da sociedade decorrentes do estado da tecnologia. Desde que estruturalmente seja possível compreendê-lo como um direito fundamental, o fato de não ter sido declarado anteriormente não inviabiliza que a partir de então assim seja feito. Exemplo dessa possibilidade são as reflexões que começam a surgir de um “direito fundamental à jurisdição humana” como um contraponto à robotização da atividade judicante, no intuito de impedir que a inteligência artificial fagocite também a função decisória.

O “direito fundamental à realidade”, que se acentua em contexto eleitoral, está dentro desta categoria de direitos que tendem a ser reconhecidos em razão das demandas criadas pelo atual estágio do desenvolvimento tecnológico das inteligências artificiais generativas. A possibilidade de produção e distribuição em massa de arquivos digitais que colocam em dúvida o que é ou não ficção, realça a fundamentalidade de se preservar a realidade como um instrumento de proteção do próprio exercício legítimo do sufrágio.

Não é possível admitir como legítima a manifestação de vontade de grupos que formaram a visão política de mundo a partir de um irreal sinteticamente criado por conteúdo audiovisual dolosamente falseado. Neste caso, ignora-se por completo não somente a realidade, absolutamente desconhecida, como também a própria possiblidade de o arquivo digital ser fraudulento. Longe de qualquer desconfiança, a vontade política do grupo é cooptada pela mentira, criando a manada messiânica convicta.

Mas, não somente. Ainda que o grupo impactado por uma ficção extremamente verossimilhante ao real tenha a perspicácia de não se deixar levar pela comunicação fraudulenta, ainda assim haverá prejuízo.

Isso porque, o grau de ceticismo daqueles que conhecem a potência da era da inteligência artificial leva à “erosão da confiança”7 – emprestando neste momento expressão utilizada por Frederico Alvim, Rafael Núñez e Vitor de Andrade Monteiro -, ao ponto que impossibilitar que mídias digitais reais alcancem êxito na comunicação com o eleitor. Como esclarecem ao concluir sobre o uso de Inteligência Artificial em Eleições de Alto Risco, “na era da inteligência artificial, o consenso fiduciário é minado pelas falácias de alta performance, e o tecido social se esgarça em um entorno de suspeita permanente”8. Se a suspeita é permanente, a comunicação político-eleitoral enfrenta bloqueios de entrada e conexão com o eleitorado.

Fato é que um arquivo digital fictício pode degenerar a democracia e, por isso, situações como essa tendem a desaguar na Justiça Eleitoral e Polícia Federal. No entanto, a possibilidade de as investigações conduzidas por autoridades judiciárias e policiais serem inconclusivas também cria um risco judiciário-processual relacionado à prova digital.

A erosão da confiança, neste nível, sai do campo de formação da vontade de grupos determinados para avançar sobre as Instituições. Isso porque, o cidadão transfere ao Estado o monopólio da força para que, a partir de uma Constituição estabelecida, possa se valer de mecanismos de comando e controle que garantam a pacificação social, valendo-se do Poder Judiciário como estrutura e do processo como instrumento.

Quando o Estado, atuando no controle da legitimidade das Eleições, não é capaz de aferir a autenticidade de uma prova digital, o resultado tenderá a ser a improcedência, por exemplo, de uma ação de investigação judicial eleitoral por insuficiência probatória, mantendo o mandato com base no in dubio pro suffragio. Neste caso, o resultado da demanda judicial representará um autorreconhecimento da obsolescência em preservar a democracia quando desafiada por novas tecnologias. Com isso, a erosão da confiança pode avançar sobre as próprias Instituições, o que é perigoso em um país constantemente assombrado pelo fantasma do autoritarismo.

Existe, portanto, o risco de deformação da vontade do eleitor, repercutindo em último grau na qualidade da democracia: (i) seja por desconhecer que sua vontade foi produzida com base em conteúdo audiovisual fictício dolosamente fabricado em prol do interesse de pessoas determinadas, (ii) seja em razão do ceticismo criar um bloqueio cognitivo no eleitor que conhece a potência da inteligência artificial e desconfia até mesmo dos arquivos digitais legítimos, impedindo que a comunicação eleitoral logre êxito.

Fora isso, quando as crises convocam o Estado para identificar, corrigir e – se o caso – punir o comportamento ilegítimo inerente à fabricação de mídia audiovisual irreal, e este atesta não ser capaz de verificar se o conteúdo foi ou não manipulado, o que se evidencia são sintomas de incapacidade institucional para lidar com o estado da arte da inteligência artificial.

Neste ponto, é importante refletir em que medida o uso de inteligência artificial no contexto eleitoral é compatível com um Estado Constitucional e Democrático. Dito outra forma, por qual razão a sociedade brasileira seria obrigada a aceitar os riscos de contaminação do sufrágio, admitindo o uso de inteligência artificial na fabricação de conteúdo audiovisual com fins político-eleitorais.

Aqui, não existe uso inofensivo, pois, sempre que se está diante de um ator político, qualquer veiculação de mídia – por mais ingênua e inocente que seja – tem o condão de gerar emoções e sensações no cidadão que, em contexto eleitoral, irá balizar sua escolha com base na somatória de influências que teve até então, para muito além dos 45 dias de campanha.

Por isso, é uma decisão política e coletiva deliberar sobre a pertinência do uso de tecnologias de geração de imagens e vídeos sintéticos em contexto político-eleitoral. Não existe um curso inevitável que deva a sociedade sucumbir quando o assunto é adoção de novas tecnologias. É importante que se reflita em que medida o uso dessas novidades agregará valor à democracia, ou, se em uma análise de custo-benefício, poderá causar mais problemas que, ao revés, podem deteriorar o ambiente democrático.

Daron Acemoglu e Simon Johnson9 relembram que o caminhar da tecnologia na humanidade está condicionado a uma visão que pretende resolver problemas imaginando ferramentas. Das diversas ferramentas, abrem-se também caminhos diversos, sendo que nem todos prevalecerão. O que determina qual visão de tecnologia irá prevalecer não é somente o critério técnico, mas também – e principalmente – o poder, de forma que quanto maior a fatia de poder, maior a probabilidade de convencer os demais sobre sua perspectiva. Assim, dizem Acemoglu e Johnson, “se todo mundo se convence de que as tecnologias de inteligência artificial são necessárias, as empresas investirão em IA, mesmo havendo alternativas mais benéfica para organizar a produção”10.

Existe um movimento pressiona no sentido de tratar a inteligência artificial – e todo o pacote que com ela vem acoplado – como um destino inevitável que se impõe à também à política. No entanto, a direção da tecnologia não é neutra, sendo resultado de disputas de poder. Eventual normalização pela sociedade do uso por campanhas de vídeos sintéticos indistinguíveis do real não é resultado simplesmente de uma evolução da técnica, mas a vitória do convencimento da tecitura social pelos titulares do poder, grupos beneficiários.

Quem ganha ao dizer que o caminho é unidirecional e inevitável, devendo as Instituições se conformarem ao uso benigno e maligno da fabricação de mídias por IA? Certamente não é a sociedade e nem a democracia.

Inclusive, não há nada de antidemocrático em uma comunidade política decidir que determinadas técnicas não entram, ou entram sob condições estritas, no espaço público eleitoral, justamente porque degradam a autonomia do eleitor. A democracia não se reduz ao rito do voto; ela pressupõe condições mínimas para que a formação da vontade não seja sequestrada por simulações verossímeis que embaralham percepção e realidade.

Por isso, a hipótese de um “direito fundamental à realidade” aparece menos como um capricho teórico e mais como uma exigência instrumental do sufrágio, no intuito de proteger o processo coletivo contra o falseamento doloso do real e contra a transformação do debate público em um laboratório de alucinações. Reconhecer e declarar sua existência confere ainda mais legitimidade à escolha normativa constante no art. 9º-C, § 1º, da resolução 23.610 TSE, introduzido pela resolução 23.732/24 que vedam o uso de deepfake, para bem ou para mal, oferecendo força e status de direito fundamental suficientes para fazer frente aos grupos de pressão que tensionam para levar a crer que a proibição é temporária, pois a evolução é inevitável.

Leia no Migalhas