Inteligência Artificial e Transumanismo
 |
 |
 |
 |
 |
 |
 |
Deepfakes gerados por IA que
influenciam a opinião pública
Deepfakes gerados por inteligência artificial estão começando a influenciar a opinião pública em todo o mundo.
A criação de fotos, vídeos ou clipes de áudio falsos costumava exigir recursos consideráveis em termos de tempo, conhecimento técnico e finanças. Mas o advento da IA reduziu drasticamente essas barreiras, proporcionando a qualquer pessoa com intenções maliciosas e a um smartphone o poder de manipular a opinião pública.
A sofisticação do conteúdo gerado pela IA torna mais difícil distinguir os fatos da ficção, dificultando o combate à desinformação.
As implicações dos deepfakes de IA nas eleições são multifacetadas. Por exemplo, a presidente pró-europeia Maia Sandu, da Moldávia, viu-se no centro de uma tempestade de desinformação, à medida que deepfakes de IA retratam falsamente o seu apoio a um partido político alinhado com a Rússia.
Rumeen Farhana, legisladora da oposição e crítica veemente do partido no poder no Bangladesh, também enfrentou um caso semelhante no ano passado, quando um vídeo deepfake gerado por IA a mostrou usando um biquíni. A nação muçulmana profundamente conservadora do Bangladesh enlouqueceu de fúria, desacreditando a imagem de Farhana.
Entretanto, na Eslováquia, poucos dias antes das eleições nacionais, gravações de áudio geradas por IA representavam um candidato liberal a discutir planos para aumentar os preços da cerveja e fraudar as eleições. Os verificadores de fatos se esforçaram para identificá-los como falsos, mas as pessoas ainda os compartilhavam nas redes sociais como se fossem reais.
Em outras palavras, os deepfakes gerados pela IA podem ser usados para manchar ou reforçar a imagem de um candidato, manipular o sentimento dos eleitores e minar a confiança nas instituições democráticas.
Henry Ajder, especialista em IA generativa baseado em Inglaterra, afirmou que, à medida que as campanhas de desinformação geradas pela IA se tornam cada vez mais sofisticadas e difundidas, a questão agora não é se os deepfakes de IA poderão influenciar as eleições, mas sim quão influentes se tornarão.
“Não é preciso ir muito longe para ver algumas pessoas claramente confusas sobre se algo é real ou não,” disse Ajder.
Especialista espera um 'tsunami de desinformação' à medida que as eleições nos EUA se aproximam
Com as eleições presidenciais dos EUA chegando em novembro, os especialistas alertam que é provável que surjam mais deepfakes gerados por IA.
“Espero um tsunami de desinformação,” disse Oren Etzioni, especialista em inteligência artificial e professor emérito da Universidade de Washington. “Não posso provar isso. Espero que se prove que estou errado. Mas os ingredientes estão aí e estou completamente apavorado.”
Deepfakes começaram a aparecer em anúncios experimentais de campanha presidencial. Etzioni disse que o espaço para a desinformação é vasto, desde a fabricação de declarações políticas até à simulação de crises como emergências médicas ou atos de violência.
“Você poderia ver um candidato político como o presidente [Joe] Biden sendo levado às pressas para um hospital,” disse ele. “Você poderia ver um candidato dizendo coisas que ele ou ela nunca disse. Você poderia ver uma corrida aos bancos. Podia-se ver bombardeios e violência que nunca ocorreram.”
Estas ferramentas falsas podem ter como alvo grupos específicos e espalhar mensagens falsas sobre votação. Por exemplo, podem enviar mensagens de texto convincentes, espalhar informações erradas sobre processos de votação no WhatsApp em diferentes idiomas ou criar sites falsos que se pareçam com o site oficial de uma organização governamental.
“Tudo o que fomos programados para fazer através da evolução entrará em ação para nos fazer acreditar na fabricação e não na realidade real,” disse a especialista em desinformação Kathleen Hall Jamieson, diretora do Centro de Políticas Públicas Annenberg da Universidade de Pensilvânia.
Este artigo foi publicado pela primeira vez no Cyborg News em 19 de março de 2024 sob o título “Deepfakes gerados por IA estão começando a influenciar a opinião pública em todo o mundo”
Leia mais artigos de Laura Harris aqui
A criação de fotos, vídeos ou clipes de áudio falsos costumava exigir recursos consideráveis em termos de tempo, conhecimento técnico e finanças. Mas o advento da IA reduziu drasticamente essas barreiras, proporcionando a qualquer pessoa com intenções maliciosas e a um smartphone o poder de manipular a opinião pública.
A sofisticação do conteúdo gerado pela IA torna mais difícil distinguir os fatos da ficção, dificultando o combate à desinformação.
As implicações dos deepfakes de IA nas eleições são multifacetadas. Por exemplo, a presidente pró-europeia Maia Sandu, da Moldávia, viu-se no centro de uma tempestade de desinformação, à medida que deepfakes de IA retratam falsamente o seu apoio a um partido político alinhado com a Rússia.
Uma imagem deepfake de Trump
sendo violentamente preso pela polícia
Entretanto, na Eslováquia, poucos dias antes das eleições nacionais, gravações de áudio geradas por IA representavam um candidato liberal a discutir planos para aumentar os preços da cerveja e fraudar as eleições. Os verificadores de fatos se esforçaram para identificá-los como falsos, mas as pessoas ainda os compartilhavam nas redes sociais como se fossem reais.
Em outras palavras, os deepfakes gerados pela IA podem ser usados para manchar ou reforçar a imagem de um candidato, manipular o sentimento dos eleitores e minar a confiança nas instituições democráticas.
Henry Ajder, especialista em IA generativa baseado em Inglaterra, afirmou que, à medida que as campanhas de desinformação geradas pela IA se tornam cada vez mais sofisticadas e difundidas, a questão agora não é se os deepfakes de IA poderão influenciar as eleições, mas sim quão influentes se tornarão.
“Não é preciso ir muito longe para ver algumas pessoas claramente confusas sobre se algo é real ou não,” disse Ajder.
Especialista espera um 'tsunami de desinformação' à medida que as eleições nos EUA se aproximam
Com as eleições presidenciais dos EUA chegando em novembro, os especialistas alertam que é provável que surjam mais deepfakes gerados por IA.
Uma imagem deepfake do Papa Francisco
o mostra em uma jaqueta bufante
Deepfakes começaram a aparecer em anúncios experimentais de campanha presidencial. Etzioni disse que o espaço para a desinformação é vasto, desde a fabricação de declarações políticas até à simulação de crises como emergências médicas ou atos de violência.
“Você poderia ver um candidato político como o presidente [Joe] Biden sendo levado às pressas para um hospital,” disse ele. “Você poderia ver um candidato dizendo coisas que ele ou ela nunca disse. Você poderia ver uma corrida aos bancos. Podia-se ver bombardeios e violência que nunca ocorreram.”
Estas ferramentas falsas podem ter como alvo grupos específicos e espalhar mensagens falsas sobre votação. Por exemplo, podem enviar mensagens de texto convincentes, espalhar informações erradas sobre processos de votação no WhatsApp em diferentes idiomas ou criar sites falsos que se pareçam com o site oficial de uma organização governamental.
“Tudo o que fomos programados para fazer através da evolução entrará em ação para nos fazer acreditar na fabricação e não na realidade real,” disse a especialista em desinformação Kathleen Hall Jamieson, diretora do Centro de Políticas Públicas Annenberg da Universidade de Pensilvânia.
Leia mais artigos de Laura Harris aqui
Postado em 25 de outubro de 2024
______________________
______________________
 Volume I |
 Volume II |
 Volume III |
 Volume IV |
 Volume V |
 Volume VI |
 Volume VII |
 Volume VIII |
 Volume IX |
 Volume X |
 Volume XI |
 Edição Especial |