Microsoft trabalhando em ferramenta de detecção de deepfake antes das eleições nos EUA

Com as preocupações crescentes sobre a ameaça do deepfake e seu potencial para espalhar desinformação antes das eleições nos EUA, a Microsoft anunciou uma nova ferramenta destinada a ajudar os políticos. A Microsoft disse que planeja oferecer a ferramenta aos candidatos políticos dos EUA antes das eleições presidenciais de 2024.

A ferramenta, que o presidente da Microsoft, Brad Smith, revelou esta semana, permitirá que as partes coloquem marcas d’água em imagens e vídeos com credenciais criptográficas. Isto criará um registro permanente mostrando se o conteúdo foi alterado digitalmente ao longo do tempo.

O objetivo é dar aos usuários e ao público uma forma de verificar se os materiais da campanha, como anúncios e discursos, não foram manipulados por meio de tecnologias deepfake.

Começamos hoje endossando nos Estados Unidos o projeto de lei bipartidário “Lei para proteger as eleições contra IA enganosa”, apresentado pelos senadores Klobuchar, Collins, Hawley e Coons. Esta importante peça legislativa proíbe o uso de inteligência artificial para gerar conteúdo materialmente enganoso que represente falsamente candidatos federais em anúncios políticos para influenciar eleições federais, com exceções importantes para paródias, sátiras e o uso de conteúdo gerado por IA pelas redações.

A aceitação inicial da ferramenta permanece incerta, uma vez que uma oferta semelhante da Microsoft em 2020 teve uma adoção limitada. No entanto, os deepfakes representam uma séria ameaça, como pode ser visto em vários vídeos manipulados que espalham desinformação nos últimos períodos de campanha .

A Microsoft também alertou que tanto os métodos tradicionais como os de alta tecnologia, incluindo a IA, poderiam ser utilizados por estados autoritários para minar os processos eleitorais em 2024. Em resposta, a Microsoft tomará cinco medidas para reforçar a segurança dos votos-chave nos EUA e noutros lugares. “Nenhuma pessoa, instituição ou empresa pode garantir que as eleições serão livres e justas”, diz o blog. “Mas ao intensificarmos e trabalharmos em conjunto, podemos fazer progressos significativos na proteção do direito de todos a eleições livres e justas.”

Por outro lado, alguns observam a ironia de que a Microsoft também investe pesadamente em IA generativa através de sua participação de US$ 10 bilhões na OpenAI, cujo Dall-E habilitou o gerador de imagens realistas . Ainda assim, a empresa considera o combate aos deepfakes fundamental para salvaguardar eleições livres e justas.