Microsoft, Google, OpenAI, Meta, Amazon, X e outros prometem combater deepfakes eleitorais de IA
Tem havido cada vez mais atenção dada ao uso de aplicativos e serviços generativos de IA para criar imagens e informações falsas. Isso certamente veio à tona há algumas semanas, com imagens criadas por IA da cantora pop Taylor Swift inundando a rede social X. Alguns relatórios afirmam que as imagens foram feitas pelo designer de gerador de imagens de IA da Microsoft .
Como 2024 também é um ano de eleições para o cargo de Presidente dos EUA, há ainda mais preocupação de que imagens falsas de IA possam ser usadas para influenciar negativamente os votos naquela eleição, bem como em outras. Hoje, um grande número de empresas tecnológicas anunciaram que irão cumprir um novo acordo que estabelece que utilizarão os seus recursos para combater a utilização da IA em esforços eleitorais enganosos.
O acordo, que foi anunciado na Conferência de Segurança de Munique, é denominado Acordo Eleitoral da IA . As empresas que estão aderidas a este acordo, neste momento, são:
- Adobe
- Amazonas
- Antrópico
- Braço
- OnzeLabs
- IBM
- IA de inflexão
- McAfee
- meta
- Microsoft
- Usar
- OpenAI
- Snap Inc.
- IA de estabilidade
- TikTok
- Tendência Micro
- Verdadeiro
- X
O comunicado de imprensa (em formato PDF) anunciando o acordo afirma que as empresas acima mencionadas concordaram em seguir estes compromissos para combater os esforços eleitorais deepfake:
- Desenvolver e implementar tecnologia para mitigar riscos relacionados ao conteúdo eleitoral enganoso de IA, incluindo ferramentas de código aberto, quando apropriado
- Avaliação de modelos no escopo deste acordo para compreender os riscos que eles podem apresentar em relação ao conteúdo eleitoral enganoso de IA
- Buscando detectar a distribuição deste conteúdo em suas plataformas
- Buscando abordar adequadamente esse conteúdo detectado em suas plataformas
- Promover a resiliência intersetorial a conteúdo eleitoral enganoso de IA
- Fornecer transparência ao público sobre como a empresa aborda isso
- Continuando a colaborar com um conjunto diversificado de organizações globais da sociedade civil, académicos
- Apoiar esforços para promover a consciência pública, a literacia mediática e a resiliência de toda a sociedade
O presidente da Microsoft, Brad Smith, estava entre os executivos da empresa citados no comunicado à imprensa. Ele afirmou:
À medida que a sociedade abraça os benefícios da IA, temos a responsabilidade de ajudar a garantir que estas ferramentas não se tornem armas nas eleições. A IA não criou o engano eleitoral, mas devemos garantir que não ajude o engano a florescer.
Um exemplo de deepfakes eleitorais aconteceu há algumas semanas, quando chamadas automáticas com a voz do presidente dos EUA, Joe Biden, gerada por IA, instou os chamadores a não votarem nas primárias de New Hampshire. Posteriormente, descobriu-se que as ligações foram criadas por uma empresa com sede no Texas .
Deixe um comentário