Há alguns dias, a princesa de Gales, Kate Middleton, informou pessoalmente através de um vídeo que estava passando por tratamento de quimioterapia devido ao câncer que sofre. A notícia causou comoção em todo o mundo, mas houve um detalhe que chamou a atenção. Os usuários das redes sociais apontaram que a gravação tinha sido feita com Inteligência Artificial (IA), pois algum tempo atrás a royal havia gravado um vídeo no mesmo local e com o mesmo suéter listrado que estava usando na plataforma atual.
ANÚNCIO
Diante disso, surgiu a dúvida sobre a veracidade do arquivo, pois poderia se tratar de deepfake, uma tecnologia de inteligência artificial que funde, combina, substitui e sobrepõe imagens e videoclipes para criar vídeos falsos que parecem autênticos.
Como funciona o deepfake?
Criado pelo pesquisador Ian Goodfellow em 2014, este modelo utiliza dois algoritmos que são treinados juntos: o primeiro busca tornar as tentativas de falsificação o mais confiáveis possível. Enquanto o segundo algoritmo tenta detectar as alterações geradas. "Ambos se potencializam juntos, com o objetivo de melhorar os resultados de seus respectivos treinamentos para gerar, por exemplo, vídeos hiper-realistas. Portanto, quanto mais amostras estiverem disponíveis para essa tecnologia, maior será a melhoria dos resultados," afirma Pedro Vargas, chefe de Engenharia em Realidade Virtual e Design de Jogos Digitais da Universidade Bernardo O'Higgins (UBO).
Recomendado:
Esta é a melhor estratégia para criar filhos, de acordo com o cofundador da Apple
A nova aposta de Zuckerberg pela IA: fones de ouvido da Meta que traduzem em tempo real
A App Store suporta um emulador de PS1 baseado no da Nintendo
É uma tendência mais desenvolvida em países como México, Estados Unidos, Coreia do Sul, Japão e em grande parte da Europa. As cifras, de fato, corroboram o aumento desse fenômeno digital na moda: segundo o site DeepMedia, uma plataforma especializada em IA dos Estados Unidos, cerca de 500.000 vídeos e áudios com deepfakes teriam sido compartilhados globalmente durante 2023.
Ameaças e desafios
Um dos pontos que surgiram no debate é se esses aplicativos podem representar uma ameaça atualmente. Para o acadêmico da UBO, o problema surge quando os deepfakes se tornam cada vez mais realistas à medida que avançam os desenvolvimentos tecnológicos.
"É importante regular ainda mais o seu uso com a chegada das Fake News (notícias falsas), considerando seu impacto negativo nas redes sociais", afirma Vargas, assegurando que hoje existem maneiras muito simples de detectar os deepfakes, como prestar atenção às incoerências visuais no rosto da pessoa que aparece no vídeo (linhas de expressão) ou na quantidade de piscadas por segundo.
O CEO da WISE Innovation Studios, Igal Weitzman, concorda que esse tipo de conteúdo pode ser prejudicial quando se suplanta a identidade de figuras públicas reconhecidas para divulgar discursos falsos sobre diferentes temas, o que pode gerar confusão e até mesmo impactar nos direitos digitais das pessoas. No entanto, o executivo da WISE Innovation Studios também destaca que foram desenvolvidas ações positivas, como "reviver" atletas que incentivam seleções de futebol ou cientistas que promovem estudos em diversas áreas científicas.
Onde está a diferença com os FOOH?
A tecnologia do deepfake avançou tanto que é legítimo questionar se é o mesmo que um Fake Out Of Home (FOOH). Na opinião do CEO da WISE, tecnicamente falando são semelhantes, mas são substancialmente diferentes.
"Os FOOH têm um uso ligado ao marketing e são vídeos que se concentram em mostrar situações impactantes que poderiam ser reais e conseguir comunicar um call to action, um claim de marca e uma situação sonhada ao público que pode ver essas ativações em seus smartphones via redes sociais, gerando alto alcance, impacto e interação", explica Igal Weitzman.
A esse respeito, o executivo destaca que a WISE IS. tem sido pioneira em misturar a técnica de AI. + FOOH, cuja concepção da ideia até seu desenvolvimento permite trabalhar com AI. e suas diferentes camadas. Posteriormente, entra-se no processo de vídeo, CGI e 3D, os quais também têm desenvolvimentos cada vez mais importantes. "Hoje, esse investimento liderado pela WISE IS. em toda a América Latina tem mostrado resultados bem-sucedidos graças às estratégias de inovação e comunicação", comenta o especialista.
No que diz respeito às projeções que estão sendo feitas, foi apontado que os deepfakes estão sendo usados de forma experimental sem um contexto de alto sucesso de engajamento. “No entanto, acreditamos que em breve farão parte das campanhas de FOOH, já que o único obstáculo hoje é o cenário criativo para a sua integração em uma campanha”, conclui Weitzman.