Candidatos às eleições de outubro poderão pedir que suas vozes sejam banidas para criação de áudios com inteligência artificial. A restrição foi fixada por meio de um acordo assinado entre o presidente do TSE (Tribunal Superior Eleitoral), Kassio Nunes Marques, e a empresa de inteligência artificial ElevenLabs.
O documento, chamado de memorando de entendimentos, foi assinado na última segunda-feira (3) e tem validade até 31 de dezembro deste ano. O texto detalha as obrigações técnicas, fixa o compromisso com a proteção de dados e a vigência da cooperação.
Ele também estabelece que a ElevenLabs auxilie na investigação de conteúdos fraudulentos. A plataforma é especializada em áudio e síntese de fala. Este é o primeiro acordo com uma plataforma originalmente de IA firmado pelo TSE. A corte tem ainda termos assinados com a Meta ou o Gemini, por exemplo.
À frente das primeiras eleições presidenciais com uso massivo de inteligência artificial, Kassio vinha afirmando a interlocutores que priorizaria ações educativas, reduzindo as punições e a remoção de conteúdo. Ele já propôs a criação de uma comissão de IA para elaborar soluções.
De acordo com o texto, a empresa vai manter uma lista de vozes protegidas (No-go Voices) para restringir a reprodução sintética das vozes de figuras públicas, incluindo candidatos e servidores eleitorais considerados relevantes.
Por meio do compromisso, a empresa se compromete a bloquear a criação de conteúdos que usem vozes de candidatos e servidores eleitorais relevantes mediante uma solicitação escrita e fundamentada do TSE.
No entanto, o memorando ressalta que essa proteção tem limites técnicos. Os compromissos de investigação e de remoção de conteúdo limitam-se ao material gerado em sua própria plataforma, não abrangendo áudios ou vídeos criados por ferramentas de IA de terceiros.
O acordo faz parte do Programa Permanente de Enfrentamento à Desinformação da Justiça Eleitoral, criado para combater os efeitos negativos do uso malicioso de tecnologias digitais.
Além da restrição preventiva, a ElevenLabs atuará na investigação de conteúdos suspeitos. Caso haja indícios de que um áudio fraudulento tenha sido gerado em sua plataforma, a empresa deverá colaborar com o TSE para verificar a origem e adotar as medidas cabíveis, conforme seus termos de serviço e a legislação brasileira.
A expectativa é a de que a ElevenLabs forneça, ainda, tecnologias de inteligência artificial de áudio sem custos para tornar os serviços digitais da Justiça Eleitoral mais acessíveis a cidadãos com deficiências ou baixa alfabetização digital.
A parceria prevê uma modernização dos serviços ao cidadão. O TSE terá acesso gratuito às APIs de conversão de texto em fala (TTS) e fala em texto (STT) da empresa. O objetivo inicial é integrar esses recursos de áudio ao Assistente Eleitoral, permitindo que eleitores interajam com o serviço por meio da voz.
Segundo o documento, a iniciativa pretende reduzir barreiras para cidadãos com deficiência visual ou baixo letramento digital, além de facilitar o alcance de populações em regiões remotas do país.
Segundo João Paulo Rio Branco, Head de Parcerias com Setor Público para América Latina da ElevenLabs, a inteligência artificial traz oportunidades para ampliar o acesso à informação, mas também exige a criação de mecanismos para prevenir seu uso indevido.
“Nossa responsabilidade é desenvolver tecnologias que ajudem a reduzir o risco de fraudes antes mesmo que aconteçam. Com essa parceria, queremos contribuir para um ambiente digital mais íntegro durante as eleições, oferecendo uma camada adicional de proteção contra o uso não autorizado de vozes de figuras públicas”, afirma.
No fim de julho, o TSE obrigou, de forma inédita, as empresas de tecnologia a explicarem como garantirão o cumprimento da legislação sobre propaganda ao longo das eleições deste ano. Apesar de as empresas já serem obrigadas a impedir a difusão de informações falsas ou gravemente descontextualizadas desde 2024, não havia definição sobre como elas comprovariam o respeito à regra.
Estarão sujeitas às normas as companhias com mais de 5 milhões de usuários ativos mensalmente, o que inclui Meta, Google, X (ex-Twitter, de Elon Musk), TikTok e Kwai, além de empresas de inteligência artificial, como a OpenAI e a Anthropic, entre outras.
A portaria obriga as empresas sujeitas às regras a enviarem ao menos dois relatórios. O primeiro é o plano de conformidade, que precisa ser entregue até 16 de agosto e deverá incluir informações sobre como a empresa planeja agir para garantir o cumprimento da legislação eleitoral.
Além das obrigações impostas pela legislação, algumas plataformas também assinaram, voluntariamente, memorandos de entendimento com o TSE.
Esse tipo de compromisso já foi adotado pelas empresas em eleições anteriores e não obriga ou define punições em relação ao cumprimento das medidas. Os acordos foram firmados com a Meta (que controla Facebook, Instagram, WhatsApp e Threads), X, TikTok, Kwai, Telegram, LinkedIn e Google.
Neles, algumas big techs, como a Meta e o X, afirmam que, se o TSE identificar alguma irregularidade em publicações feitas nas redes, elas analisarão o conteúdo e tomarão as medidas cabíveis, sem detalhar quais, em até 24 horas.
No caso do memorando com a ElevenLabs, ao final do ciclo eleitoral de 2026, a empresa deverá entregar ao tribunal um relatório de transparência. O material deve detalhar o número de tentativas de clonagem detectadas e o uso indevido de vozes protegidas, servindo como base para investigar possíveis operações de influência eleitoral durante as campanhas.
O acordo foi assinado por Kassio Nunes Marques e pelo diretor-executivo da ElevenLabs, Mateusz Staniszewski. A parceria não envolve transferência de recursos financeiros entre as partes.
Como a Folha mostrou, havia receios entre ministros do TSE e do STF (Supremo Tribunal Federal), assessores e pessoas que atuam no tema de que a corte eleitoral chegasse às eleições de 2026 com um programa de combate à desinformação esvaziado.
Os relatos eram feitos desde a gestão anterior, da ministra Cármen Lúcia. Kassio assumiu a corte em 12 de maio.
Uma medida tomada por Kassio depois da posse foi a abertura de um edital para a contratação de empresa de inteligência cibernética. A corte conta com o serviço desde 2021, mas o contrato venceu, e o ministro está renovando a licitação.
O presidente pretendia tornar o programa de combate à desinformação menos investigativo e reduzir o poder de polícia do tribunal, marca da gestão Alexandre de Moraes. Também defende o direito de resposta como medida mais efetiva do que as remoções.
Kassio justifica a auxiliares que as derrubadas de publicações não tiram o material de circulação de aplicativos de mensagens, por exemplo, o que as tornariam ineficientes.
