Embora possa ter diversos usos positivos, a tecnologia que produz deepfakes também pode ser perigosa, já que vem sendo usada para manipulação política, por exemplo. Se é assim, será que é possível descobrir quando um vídeo é falso?

O problema fica mais sério quando levamos em conta que há vários tipos de deepfakes. Os mais conhecidos usam a imagem de uma pessoa de modo a criar um vídeo em que ela dá uma declaração que, na verdade, nunca existiu. Mas outros criam perfis falsos nas redes sociais ou simulam vozes (deepvoices), por exemplo.

Independentemente do tipo, o risco de propagação de conteúdo falso por meio da técnica é grande. Descubra, nas próximas linhas, o que você pode fazer para se prevenir dessas ciladas.

O que é deepfake?

Deepfake é uma técnica que usa aprendizagem profunda (conceito ligado à inteligência artificial) para manipular expressões faciais ou declarações de uma pessoa em fotos e vídeos.

Em boa parte dos casos, essa manipulação é tão bem feita que fica difícil identificar. Isso é perigoso. Se por um lado é divertido imaginar a Mona Lisa (da pintura de Leonardo da Vinci) falando em um vídeo por meio da técnica, por outro, deepfakes podem ser usados para espalhar fake news nas redes sociais, entre outros problemas.

Há uma boa razão para isso: mecanismos que geram deepfakes têm evoluído rapidamente. Para você ter ideia, redes neurais do tipo GAN (você vai descobrir o que é isso neste texto) têm se mostrado muito eficazes nesse tipo de atividade.

Aliadas a técnicas de clonagem de voz, manipulações de vídeo baseadas em deepfakes têm sido cada vez mais frequentes em redes sociais ou serviços como WhatsApp ou Telegram. Muitos desses vídeos falsos visam constranger pessoas ou atribuir falas falsas a personalidades da política.

Dicas para identificar deepfakes sem ser especialista

Fernando Rodrigues de Oliveira, mais conhecido como Fernando 3D, criou a FaceFactory ao lado de Bruno Sartori. A empresa aplica inteligência artificial em projetos de “deepfakes do bem”, para uso em filmes dublados, por exemplo. Tanto é assim que eles preferem chamar a técnica de “mídia sintética”.

Independentemente do termo técnico, o fato é que Fernando entende do assunto. Em nossa conversa, ele explicou que deepfakes “aprendem” com o passar do tempo, afinal, são baseados em inteligência artificial. Está aí a razão para ser cada vez mais difícil identificar um vídeo manipulado por meio da técnica.

• Repare nos olhos e na boca

Apesar disso, há alguns macetes que você pode usar para descobrir um deepfake, afirma Fernando. Um deles é observar o olhar da pessoa que aparece no vídeo. “O olho pode ficar meio perdido”, explica. É como se o indivíduo não estivesse focando em um objeto ou na câmera.

Ainda de acordo com Fernando, reparar nos movimentos da boca ou do próprio rosto também ajuda. Nesse processo, você pode identificar movimentos que não são naturais, como uma abertura dos lábios exagerada para a pronúncia de uma determinada palavra.

Falando assim, parece fácil. Não é. Fernando alerta para o fato de que os deepfakes de hoje são muito mais precisos do que os que foram criados há três ou quatro anos por causa da natureza evolutiva da inteligência artificial. É por isso que a nossa melhor defesa, hoje, está em prestar atenção no detalhes.

• Atenção aos detalhes para identificar deepfake

Para resumir, eis uma lista de características que a Kaspersky coloca como sugestivas para vídeos falsos (note que algumas delas condizem com as dicas de Fernando):

• movimentos bruscos;
• iluminação da cena que muda de um quadro para o outro;
• mudança no tom da pele;
• piscada estranha de olhos ou nenhum piscar;
• lábios mal sincronizados com a fala;
• elementos digitais (artefatos) na imagem.

Uma das razões para tamanha dificuldade está nas chamadas GANs (Generative Adversarial Networks — Redes Adversárias Generativas, em tradução livre). Nessa abordagem, um sistema entra em “duelo” com outro para gerar o deepfake mais convincente possível.

Explicando rapidamente, uma GAN funciona assim: uma ferramenta baseada em redes neurais gera milhares ou até milhões de modificações da imagem de um rosto e as submete a um segundo mecanismo que tenta descobrir se as sequências são falsas. Se este último não chegar a uma conclusão verdadeira, o deepfake é gerado.

Como a interação entre as GANs é rápida e envolve muitas tentativas, identificar um “clone digital” é uma tarefa cada vez mais complicada. Mas não impossível. Se você seguir as orientações anteriores, terá boas chances de sucesso.

Enquanto isso, pesquisas tentam encontrar formas não só de identificar vídeos falsos, mas também de prevenir a criação deles por meio de técnicas de validação. Um estudo considera até o uso de blockchain para esse fim, pois a tecnologia funciona de modo descentralizado e é bastante eficaz contra adulterações.

Para nós, meros humanos, Fernando 3D dá uma dica extra para identificar deepfakes: deixe o desconfiômetro sempre ligado. Se o vídeo mostra uma pessoa dando uma declaração muito estranha, que foge de suas atribuições ou é espalhafatosa, é melhor buscar mais informações a respeito antes de tirar conclusões.

Fonte: IG TECNOLOGIA

O post Como identificar deepfake para fugir de informações falsas apareceu primeiro em FATO MT.

Já pensou ver o seu rosto em um vídeo totalmente aleatório? Ou ouvir sua própria voz dizendo coisas que jamais diria? Bom, isso é possível com uma tecnologia chama deepfake, que permite essa manipulação, principalmente em vídeos, de uma forma bastante convincente. Veja abaixo mais detalhes do que é um deepfake e por que é preciso se preocupar com essa técnica.

Deepfake usa Inteligência Artificial para trocar o rosto de pessoas em vídeos, sincronizar movimentos labiais, expressões e demais detalhes, em alguns casos com resultados impressionantes e bem convincentes.

Essa onda de trocar rostos de pessoas em vídeos não é nova. Mas, em dezembro de 2017, um usuário do Reddit, chamado deepfakes, deu um passo além. Com ferramentas de Inteligência Artificial e Aprendizado de Máquina de código aberto, como Keras e TensorFlow (este último, do Google), ele criou um algoritmo para treinar uma Rede Neural a mapear o rosto de uma pessoa no corpo de outra, frame por frame.

Ao invés de depender de edição manual como antigamente, o usuário, através da ferramenta (que recebeu o nome de Deepfake), precisa apenas de uma fonte para reconhecer o modelo do rosto da “vítima”, mapear a estrutura da cabeça destino e fazer a sobreposição. O software consegue ajustar a movimentação do vídeo original ao novo rosto e isso inclui expressões faciais e movimentos labiais.

No início, o Deepfake exigia conhecimentos avançados por parte do usuário, mas quando outros criaram aplicativos e sistemas capazes de automatizar todo o processo, a ferramenta foi massivamente usada para o mal: logo começaram a surgir dezenas de vídeos adultos editados com o software, com o rosto de atrizes e artistas.

A “brincadeira” do Deepfake não se limitou a vídeos adultos, no entanto: há uma série de criações que colocam rostos de celebridades em filmes nos quais não estiveram presentes. Entretanto, as possibilidades de uso do software são inúmeras e necessário dizer, nocivas. Até Mark Zuckerberg foi alvo de um vídeo falso.

Alguns exemplos de ferramentas de deepfake com fácil acesso são: o aplicativo Reface; os sites DeepSwap e DeepFakes Web; e os programas FaceApp e DeepFaceLab.

Importante destacar que deepfake é diferente de shallowfake. Na verdade, a premissa é a mesma, mas a diferença está na qualidade. No shallowfake a qualidade da manipulação é inferior, facilitando a identificação.

Por mais que o foco do deepfake seja a troca de rosto em vídeos, engana-se quem pensa que a prática se restringe a isso. A técnica também é utilizada para a manipulação de áudios, onde podem ser criadas gravações que simulam a voz de determinada pessoa, tipo de deepfake facilmente compartilhável em mensageiros como o WahtsApp.

Além disso, já podemos nos deparar com os deepfakes textuais, com máquinas de escrita gerada por inteligência artificial; deepfakes nas redes sociais, para a criação de perfis falsos na internet; e os deepfakes em tempo real, em que é possível mudar o rosto em transmissões ao vivo, técnica permitida pelo software DeepFaceLive, por exemplo.

Potenciais riscos dos deepfakes

Ainda que o alvo principal da comunidade em torno da ferramenta sejam pessoas públicas, nada impede que alguém realmente mal-intencionado pegue um vídeo de uma pessoa comum e o coloque em uma situação constrangedora.

Não pense apenas em vídeos de porn revenge editados: é possível, por exemplo, forjar um momento de descontração entre amigos para criar um álibi, um depoimento para convencer outros de que você defende um determinado ponto de vista ou mesmo uma situação de crime, de modo a incriminá-lo. Tudo depende da criatividade do editor e de quantos vídeos seus estão disponíveis facilmente na internet.

Como a qualidade média dos vídeos não é muito alta, dadas as exigências de hardware (é preciso no mínimo uma GeForce GTX 1050 para resultados aceitáveis), tais criações chegam a ser bem convincentes a um desavisado, que pensará se tratar de um vídeo real, ainda que eles possuam uma falha.

Deepfake e eleições

A técnica também é utilizada na política. Nas Eleições 2022, inclusive, já foi identificada a primeira deepfake com a apresentadora do Jornal Nacional Renata Vasconcellos. O vídeo, que apresenta uma edição bem feita, utiliza a voz da jornalista para mostrar dados de uma falsa pesquisa de intenção de votos.

Como já citado acima, esses conteúdos acabam chegando a pessoas que não conseguem identificar, imediatamente, essas montagens, aumentando o compartilhamento de fake news e a desinformação.

Dicas para identificar um deepfake

Ao receber um vídeo duvidoso, pare e assista-o diversas vezes, em todas as velocidades, para ficar mais fácil identificar falhas.

Outro passo importante é se atentar ao rosto da pessoa no vídeo. Verifique a pele, os olhos, as sobrancelhas e a boca, por exemplo. Nessas observações, é possível identificar alguma falha, seja um piscar de olhos mais lento ou uma pele muito lisa, ou enrugada.

Por último, pesquise informações sobre o conteúdo recebido (seja ele vídeo, áudio, ou texto), é possível que você se depare com alguma notícia sobre o assunto na internet. Além disso, tente encontrar outra versão da publicação para conseguir comparar as falas e gestos.

Resumindo, atenção máxima a todos os detalhes.

Quais atitudes tomar?

Para que os seus conteúdos não sejam usados em um deepfake, o mais sensato a fazer é evitar o compartilhamento de vídeos pessoais com quem você não conhece ou não hospedá-los em redes sociais de forma pública para dificultar o trabalho do editor.

No geral, a sociedade ainda está se ajustando ao deepfake por se tratar de uma tecnologia nova e, se mal utilizada, extremamente prejudicial. É esperado que novos mecanismos jurídicos sejam aprovados de modo a combater a prática e proteger as pessoas. Portanto, caso você tenha sido vítima, colete todas as informações necessárias e procure um advogado ou a Defensoria Pública assim que possível.

No caso de vídeos e áudios recebidos, evite o compartilhamento sem antes seguir as dicas para identificar um deepfake. É extremamente importante essa atitude para evitar a propagação de informação falsa e conteúdo impróprio.

*Com informações: SpiceWorks e Mit Media Lab.

Fonte: IG TECNOLOGIA

O post O que é deepfake e por que você deveria se preocupar apareceu primeiro em FATO MT.

O FBI escreveu ao seu Centro de Reclamações sobre Crimes na Internet nesta terça-feira (28) que vem recebendo múltiplas reclamações de pessoas que utilizavam informações roubadas, vídeos e vozes falsificados para se candidatarem a empregos remotos na área de tecnologia, segundo informações do site Gizmodo.

De acordo com o anúncio do FBI, mais empresas têm relatado pessoas se candidatando a empregos usando vídeos, imagens ou gravações que são manipuladas para parecer e soar como outra pessoa. Esses falsificadores também estão usando informações de identificação pessoal – identidades roubadas – para se candidatar a empregos em TI, programação, banco de dados e software.

O relatório observou que muitas dessas pessoas tinham acesso a dados confidenciais de clientes ou funcionários, bem como informações financeiras e de propriedade das empresas, o que poderia indicar que os impostores teriam a intenção de roubar informações sensíveis, bem como embolsar um salário.

O que não está claro, segundo o Gizmodo, é quantas dessas tentativas falsas de conseguir um emprego foram bem-sucedidas versus quantas foram apanhadas e denunciadas. Ou, em uma hipótese mais nefasta, se alguém garantiu uma oferta, recebeu o salário e foi denunciado.

Esses candidatos aparentemente estavam usando técnicas de falsificação de voz durante entrevistas on-line, nas quais o movimento dos lábios não correspondia ao que estava sendo dito durante as videochamadas, de acordo com o anúncio. Aparentemente, a farsa foi descoberta em alguns desses casos, quando o entrevistado tossiu ou espirrou, o que não foi detectado pelo software de falsificação de vídeo.

O FBI esteve entre várias agências federais a avisar recentemente as empresas de indivíduos que trabalham para o governo norte-coreano a candidatarem-se a posições remotas nas TI ou outros empregos tecnológicos em maio. Nesses casos, os trabalhadores falsos concorrem frequentemente a vagas de trabalhos por contrato à distância através de sites como Upwork ou Fiverr, utilizando documentação e referências falsas.

Em casos como os descritos no relatório de maio das agências federais, alguns operadores falsos trabalharam em várias camadas de empresas de fachada, tornando muito mais difícil discernir sua identidade.

Embora a tecnologia tenha percorrido um longo caminho, algumas das tentativas mais amadoras de deepfakes geralmente resultam em vozes falsas que mal combinam com a boca dos falantes. Outros vídeos produzidos profissionalmente podem fazer uma tentativa muito melhor de gerar um humano que pareça real.

Fonte: IG TECNOLOGIA

O post Golpistas usam deepfake em entrevistas de emprego, diz FBI apareceu primeiro em FATO MT.