Inteligência Artificial e manipulações digitais despertam preocupações nas eleições em São Sebastião

As eleições municipais de 2024 em São Sebastião, litoral norte de São Paulo, trouxeram à tona uma nova preocupação para o cenário político: o uso de inteligência artificial (IA) para manipulação de áudios e vídeos com o objetivo de difamar candidatos e influenciar a opinião pública. Nesta segunda-feira (9), o prefeito da cidade, Felipe Augusto (PSDB), expressou sua apreensão sobre os caminhos que a campanha política local tem tomado, após a divulgação de um áudio manipulado por IA envolvendo seu nome e o do candidato a prefeito Reinaldinho Moreira (Republicanos), seu vice.

O incidente ocorreu no início desta semana, quando um link começou a circular nas redes sociais de forma suspeita. Inicialmente confundido com um vírus, o link levava a um site hospedado no exterior, contendo um áudio que insinuava irregularidades em licitações e obras públicas, supostamente envolvendo Felipe Augusto e Reinaldinho Moreira.

O áudio, com frases desconexas e claramente manipuladas, foi rapidamente desmentido pelo prefeito, que usou suas redes sociais para alertar a população sobre a manipulação feita por IA. Segundo Felipe, "providências estão sendo tomadas para identificar os responsáveis pela produção e disseminação desse conteúdo criminoso".

Manipulações Eleitorais e o Uso da IA

O uso da inteligência artificial para manipular conteúdos digitais não é novidade, mas sua utilização em eleições levanta questões sérias sobre o impacto na integridade do processo democrático. Para o prefeito Felipe Augusto, "o processo eleitoral está tomando rumos controversos", à medida que a oposição utiliza "armas inescrupulosas" para atacar tanto sua gestão quanto a campanha de Reinaldinho Moreira, que concorre à sucessão. “A facilidade com que áudios e vídeos podem ser alterados por IA torna o cenário político perigoso, colocando em risco a verdade e a confiança do eleitor”, afirmou o prefeito em nota.

A manipulação de áudios utilizando IA – conhecida como deepfake – não é uma técnica nova, mas sua sofisticação e fácil acesso a ferramentas tornam o problema mais alarmante. Recentemente, o mundo tomou conhecimento de um golpe envolvendo deepfakes na China, onde criminosos recriaram digitalmente membros de uma empresa, causando prejuízos de milhões de dólares. Esse tipo de tecnologia, quando usada de maneira maliciosa, pode comprometer a imagem de indivíduos e gerar danos irreparáveis.

Oposição Responde com Acusações

A reação da oposição em São Sebastião não tardou. No fim da tarde desta segunda-feira, advogados da coligação do candidato a prefeito pelo Progressista, Gleivison Gaspar, gravaram um vídeo em frente à sede da Polícia Federal, afirmando que entraram com uma liminar solicitando a investigação de um suposto esquema de caixa dois. Jean Costa, assessor de Gleivison, publicou em suas redes sociais: “O conteúdo revela indícios de superfaturamento de obras e desvios. Estamos aqui para defender o que pertence ao nosso povo. A corrupção precisa ter fim em São Sebastião.”

Contudo, os advogados da defesa de Felipe Augusto e Reinaldinho Moreira, liderados pelo Dr. Arthur Rollo, já haviam acionado as autoridades para investigar a manipulação do áudio antes mesmo da denúncia feita pela oposição. Em vídeo divulgado à imprensa, Dr. Rollo declarou: "Circula um vídeo com advogados alegando ter registrado um boletim de ocorrência na Polícia Federal para investigar uma suposta gravação do prefeito Felipe Augusto com o candidato Reinaldo.

O que esses advogados desconhecem é que já havíamos solicitado a investigação desse áudio, que é mentiroso, alterado e produzido por inteligência artificial, hospedado no site Mandrake, no exterior. O problema desta eleição são essas gravações falsas, criadas por IA para simular conversas reais. É lamentável que advogados deem crédito a um áudio hospedado em um site ilegal no exterior. A falsa comunicação de crime também é crime, e os responsáveis serão punidos. Esse áudio é criminoso e fantasioso, e isso será provado."

É preciso lembrar que provocar a ação de autoridade comunicando a ocorrência de um crime ou contravenção falsos configura crime, conforme o Art. 340 do Código Penal: "Provocar a ação de autoridade, comunicando-lhe a ocorrência de crime ou de contravenção que sabe não se ter verificado: Pena - detenção de um a seis meses, ou multa."

A situação revela um cenário político tenso em São Sebastião, com ataques e o uso crescente de tecnologias para desinformação. As eleições, que deveriam ser marcadas pelo debate de propostas, estão sendo afetadas por uma onda de manipulações digitais, colocando em xeque a veracidade das informações circulantes.

O Risco da Desinformação no Processo Democrático

Especialistas alertam que a disseminação de deepfakes e outras manipulações digitais com o uso de IA pode ter um impacto devastador em eleições, como foi observado em outros países. Em 2022, por exemplo, um vídeo falso da apresentadora Renata Vasconcellos, do Jornal Nacional, foi compartilhado amplamente nas redes sociais, utilizando sua voz para divulgar uma pesquisa eleitoral falsa.

A utilização de deepfakes na política é uma tática perigosa, uma vez que muitas pessoas não possuem as ferramentas ou o conhecimento necessário para identificar a falsificação. A propagação de notícias falsas e desinformação pode influenciar eleitores indecisos e distorcer o processo eleitoral de maneira significativa.

Felipe Augusto e a Preocupação com o Futuro da Política Local

Para Felipe Augusto, o uso de inteligência artificial para manipular a campanha eleitoral é um sinal de que a política de São Sebastião está entrando em um terreno perigoso. "Precisamos garantir que o processo eleitoral seja justo e transparente", afirmou o prefeito, que ressaltou a importância de os eleitores estarem atentos às informações que recebem, especialmente em tempos de rápida evolução tecnológica.

As eleições de 2024 em São Sebastião serão um teste importante para a resiliência das instituições democráticas da cidade, e o uso indevido de IA para manipular a verdade destaca a necessidade urgente de regulamentações mais rigorosas e conscientização pública sobre as ameaças digitais.

O Desafio de Identificar Deepfakes

De acordo com especialistas, identificar deepfakes é um desafio crescente, pois muitas vezes são criados com tamanha precisão que escapam à percepção da maioria dos usuários. Para detectar uma fraude, é necessário atentar-se a detalhes sutis, como falhas na sincronia dos lábios, irregularidades na textura da pele ou um piscar de olhos artificial. No caso de áudios manipulados, como os que circulam em São Sebastião, é possível perceber frases desconexas, unidas sem coerência, carecendo de um começo, meio e fim. Além disso, consultar fontes confiáveis e comparar diferentes versões de um conteúdo são passos cruciais para evitar a disseminação de fake news.

Com a disseminação de áudios falsos e a crescente utilização de IA para manipular informações, o eleitor precisa estar mais atento do que nunca para garantir que sua escolha seja baseada em fatos e não em ficções digitais.