ūüĎ• Facebook lan√ßa desafio de dete√ß√£o de Deepfake



Com vários grupos politicamente afiliados já a usarem plataformas digitais para manipular e influenciar os eleitores, a ascensão dos deepfakes é uma preocupação séria e pode representar uma grande ameaça à democracia como a conhecemos.


O que é deepfake?

Deepfake √© uma tecnologia que utiliza intelig√™ncia artificial (IA) para criar v√≠deos falsos, mas muito realistas, colocando pessoas a fazer ou a dizer coisas que nunca fizeram na vida real. A t√©cnica que permite fazer as montagens de v√≠deo j√° gerou desde conte√ļdos pornogr√°ficos com celebridades at√© discursos fict√≠cios de pol√≠ticos influentes.


√Č por isso que todas as principais plataformas est√£o a trabalhar para desenvolver sistemas para detectar v√≠deos digitalmente alterados, de forma a captur√°-los antes que eles possam espalhar-se. O Twitter lan√ßou a sua pol√≠tica de 'Manipulated Media' em fevereiro para esse efeito, enquanto o Facebook estava √† procura de formas de avan√ßar nos seus pr√≥prios modelos de detec√ß√£o. Em conson√Ęncia com isso, em setembro, a The Social Network desafiou as equipas a criarem melhores modelos de detec√ß√£o de deepfake que pudessem ser usados ‚Äč‚Äčpara eliminar esses v√≠deos.


E na semana passada, o Facebook partilhou os resultados do seu primeiro Desafio de detecção do Deepfake.


Como explicado pelo Facebook:

"O DFDC foi lançado em dezembro passado e 2.114 participantes enviaram mais de 35.000 modelos para a competição. Agora que o desafio foi concluído, estamos a partilhar detalhes sobre os resultados e a trabalhar com os vencedores para ajudá-los a publicar o código dos modelos de detecção com melhor desempenho. "

Este √© um ponto-chave - o Facebook, ao trabalhar com as equipas vencedoras, procura partilhar a base de c√≥digo de cada um dos modelos vencedores, enquanto tamb√©m planeia abrir os conjuntos de dados usados ‚Äč‚Äčem c√≥digo-fonte, de forma a ajudar a avan√ßar mais amplamente as pesquisas sobre deepfakes.


Ent√£o, qu√£o bons foram os modelos vencedores?

Os modelos de detecção com melhor desempenho, entre os milhares enviados, tiveram taxas de detecção acima de 82%. O que é impressionante - mas foi baseado num treino fornecido, que os pesquisadores poderiam estudar e refinar especificamente, focado nesses exemplos.


Para determinar a verdadeira precisão destes sistemas, o Facebook também testou os modelos num conjunto de dados de 10.000 clips que os participantes não tinham visto anteriormente e que não tinham acedido antes de enviar o seu código. Isto alterou os resultados finais significativamente.


"O participante com melhor desempenho foi um modelo inserido por Selim Seferbekov. Ele alcan√ßou uma precis√£o m√©dia de 65,18% em rela√ß√£o ao conjunto de dados. Usando o conjunto de dados p√ļblico, esse modelo foi classificado em quarto lugar. Da mesma forma, os outros modelos vencedores, que ficaram em segundo e quinto lugar quando testados, tamb√©m classificados abaixo na tabela de classifica√ß√£o p√ļblica (eram 37, 6, 10 e 17, respectivamente.) "


Como podes ver, os resultados mudaram muito quando foram aplicados a v√≠deos para os quais os pesquisadores n√£o puderam treinar especificamente. Isto provavelmente mostra que ainda h√° um longo caminho a percorrer no estabelecimento de um sistema de detec√ß√£o de falhas profundas verdadeiramente preciso - embora uma taxa de detec√ß√£o de 65% ainda que seja significativa e provavelmente ajuda a sinalizar muitas preocupa√ß√Ķes em potencial no processo de publica√ß√Ķes.


Idealmente, no entanto, o Facebook pode aumentar esse n√ļmero e desenvolver um sistema melhor para determinar v√≠deos digitalmente alterados antes de serem partilhados. Porque, como vimos, uma vez que um v√≠deo √© carregado on-line, o facto de ser determinado que ele √© falso ou editado posteriormente √© muitas vezes tarde demais para impedir que os danos sejam causados.


√Ä medida que a corrida √†s elei√ß√Ķes nos EUA para 2020 aquece, parece cada vez prov√°vel que, em algum momento, algum v√≠deo de grande impacto entre em cena.


Como isso mudar√° a corrida? Como isso altera o comportamento do eleitor? As plataformas digitais podem detectar e eliminar essas informa√ß√Ķes antes que elas ocorram?


S√£o quest√Ķes muito relevantes para as quais ainda n√£o temos dados concretos mas que ser√£o ainda mais explorados nestas elei√ß√Ķes


#DMParticles #MarketingDigital #Facebook #DeepFakes #Video #RedesSociais

Artigos Recentes

Artboard 3.png

Subscrever Newsletter