O Tribunal Superior Eleitoral (TSE) reafirmou sua posição contrária ao uso de deepfakes nas campanhas eleitorais, mas ressaltou que a identificação de conteúdos falsificados gerados por inteligência artificial (IA) se torna cada vez mais desafiadora. Durante uma reunião em Boston, especialistas da OpenAI e da Meta compartilharam suas preocupações sobre a sofisticação crescente das tecnologias que produzem esses conteúdos, tornando a distinção entre o verdadeiro e o falso uma tarefa complexa.
Shira Anderson, consultora de políticas da OpenAI, foi clara ao afirmar que a qualidade das imagens geradas por IA está avançando a passos largos, e prever um futuro em que haja uma forma científica confiável de detectá-las parece improvável. A discussão sobre como verificar a autenticidade de materiais que possam ser deepfakes começou em 2023 e, mesmo com a crescente preocupação, ainda há uma escassez de casos concretos nos tribunais americanos.
O juiz federal Jesse Furman, que lidera o comitê que discute o tema, enfatizou que, apesar de muitos especialistas preverem um aumento de litígios envolvendo deepfakes, a realidade atual mostra que poucos juízes encontraram desafios desse tipo. De acordo com uma pesquisa do Centro Federal do Judiciário, apenas 15 dos 931 juízes consultados lidaram com questões relacionadas a provas potencialmente manipuladas por IA.
Entretanto, a indústria e especialistas acadêmicos alertam que o risco de deepfakes não deve ser subestimado. Devin Norder, da Meta, destacou que a produção de conteúdos falsificados se tornou rápida e acessível, complicando ainda mais a capacidade dos tribunais de discernir a autenticidade das provas apresentadas. Para mitigar esses riscos, tanto a Califórnia quanto a União Europeia implementaram legislações exigindo o uso de marcas-d’água em conteúdos gerados por IA, uma tentativa de promover maior transparência e rastreabilidade.
Ainda assim, a eficácia dessas marcas é questionável. Anderson lembrou que, devido à diversidade de sistemas criados por diferentes empresas, a verificação da autenticidade continua sendo um desafio e que, mesmo com avanços, não existe uma solução universal capaz de garantir a identificação infalível de conteúdos manipulados.
Crédito da imagem: Foto: Pixabay — Michelle-Maria (pixabay)
