Fonte: Wired
ERAM 6:28 quando acordei com uma mensagem de texto de um amigo em Xangai, China.
— Ei, Amanda, é você? ele escreveu via WeChat.
Eu nem tinha tomado meu café da manhã ainda. Aproximei meu telefone para ver melhor.
“Sim, sou eu”, digitei de volta. "Mas como?"
Enquanto navegava pelo Taobao, um mercado chinês de propriedade da Alibaba , meu amigo se deparou com um anúncio de um fogão de acampamento. Era como olhar em um espelho - vi os cílios longos e o queixo distinto de minha mãe porto-riquenha, o nariz austríaco proeminente de meu pai e as mãos compridas de minha abuela.
“É Photoshop?” “Fui hackeado?” “Ou talvez um dos meus aplicativos de fotos seja o culpado?”
Todas as perguntas plausíveis. Tendo morado na China por alguns anos, eu estava acostumado com espectadores tirando uma ou duas fotos, já que isso é normal ao ver estrangeiros, especialmente ruivos. Mas eu nunca dei meu consentimento, muito menos posei para esta foto. Pensando bem, eu nem tinha uma jaqueta branca de inverno.
Então comecei a investigar.
A investigação
PRIMEIRO, EU USEI uma série de ferramentas - TinEye, Google, Bing, Yandex e outras - para pesquisar a foto em sites internacionais, salvando cada cópia em uma única pasta na área de trabalho. No total, encontrei a foto republicada 74 vezes em marketplaces da Alemanha ao Japão. Os produtos e detalhes mudaram nas fotos - alguns anunciavam um fogão de acampamento, enquanto outros apresentavam um fogão a gás portátil. E embora estivesse claro que as imagens derivavam da mesma imagem de origem, uma foto de um mercado em Belize me interrompeu. Esta versão era completamente diferente. Claro, ela parecia ser minha parente, mas eu sabia que ela não era eu devido ao seu rosto um pouco mais redondo e uma pequena lacuna nos dentes, que eu não tenho. Ao contrário de mim ou de qualquer uma das versões que apareceram em sites chineses, ela também tinha olhos fundos.
Eventualmente, depois de recortar a foto e conectá-la novamente em ferramentas de pesquisa reversa e até mesmo em alguns sites de pesca-gato, encontrei a imagem de origem: um anúncio da Amazon para uma barraca de acampamento ao ar livre. O modelo original de mercado da Amazon se parecia um pouco comigo, mas mais como se ela fosse uma prima. (“Nós investigamos isso e confirmamos que a foto em nosso site foi tirada em 2018, e a modelo em questão é uma funcionária da Amazon”, disse Betsy Harden, porta-voz da Amazon.) Quanto mais a imagem era republicada, de site para site em todo o mundo, no entanto, mais ele mudou e se transformou para incluir elementos de mim e minha imagem.
O modelo da Amazon lembrava a versão de Belize, mas a boca não era tão larga e a foto original em geral tinha um pouco mais de suavidade. Na versão que acabou em Taobao e JD - aquela que se parecia totalmente comigo - o queixo era mais definido, os lábios mais carnudos, o rosto menor, o queixo mais alongado, as bochechas mais rosadas e as sobrancelhas mais definidas como as minhas.
Rijul Gupta, um engenheiro de mídia sintética cuja empresa DeepMedia AI recentemente fez parceria com o Departamento de Defesa dos EUA para sinalizar deepfakes, disse que as fotos do mercado chinês podem ter sido criadas usando uma foto minha real. Nesse caso, as imagens provavelmente não foram manipuladas com o Photoshop, mas com ferramentas de sintetização deepfake, que é um processo complexo, mas significativamente mais rápido que o anterior. Essas ferramentas sofisticadas permitem que você pegue qualquer rosto que encontrar online e manipule-o de acordo com suas necessidades.
"Há evidências claras de que as imagens em questão foram manipuladas sinteticamente", disse-me Gupta. "Isso é evidenciado por artefatos claros na foto ao redor do rosto de Amanda, iluminação inadequada e realces nas roupas." Na versão de Belize, “esses artefatos quadriculados ao redor do queixo são uma revelação inequívoca” e também são diferentes de qualquer tipo de compressão de imagem que você normalmente veria.
Não está claro se os vendedores do mercado manipularam e sintetizaram meu rosto intencionalmente – o que pode ser visto no Douyin (TikTok chinês), Weibo e outros sites de mídia social – ou se eles retiraram fotos “aleatórias” online para criar a síntese. “Em ambos os casos, isso mostra a clara ameaça que essa tecnologia representa para aqueles que podem sofrer fraudes de identidade”, disse Gupta.
Para saber mais, entrei em contato com uma equipe de engenharia de IA em Hong Kong. Wendy Zhang, engenheira sênior da Cutout.pro , realizou testes nos anúncios dos mercados chineses. Para deepfakes, o sistema daria um valor de 1, enquanto fotos genuínas receberiam um 0.
Nenhuma surpresa - havia 1s em todos os lugares, com exceção de uma foto. A equipe testou várias versões das fotos, incluindo imagens em close do rosto e das mãos alterados, bem como fotos minhas genuínas que forneci para comparação.
“O algoritmo continua aprendendo sozinho”, disse Zhang. “Portanto, as imagens deepfake evoluem com o tempo e mudam ou melhoram de várias maneiras.”
Sequestrando o Sistema
GERALMENTE EXISTEMHá dois motivos pelos quais as pessoas produzem imagens como essa: uma é porque estão tentando vender produtos e não querem pagar por uma imagem original, e a outra é porque querem outro rosto na foto.
“Faria sentido para algumas empresas ‘sequestrar’ imagens relacionadas à Amazon, inserir seus produtos nelas e usar a imagem modificada para seu próprio marketing”, disse Neil Sahota, consultor de inteligência artificial das Nações Unidas. “É um grande atalho e provavelmente também explicaria por que eles não substituem os modelos originais por pessoas locais.”
“Para o anúncio do fogão, é possível que tenham incorporado alguma semelhança com Amanda”, acrescentou. “Eles precisariam alterar a foto apenas um pouco para enganar a Amazon de qualquer duplicação de direitos autorais de imagem.”
Não é como se houvesse escassez de novos rostos ou talentos, então por que as pessoas fazem isso?
“Eles acham que seu rosto vende melhor do que o modelo original”, disse Gupta. “O que vai acontecer é que eles pegam uma imagem e vão de pessoa para pessoa, modificando o rosto o tempo todo.”
Dependendo da qualidade da rede deepfake, você pode conseguir o que ele chama de “troca de face perfeita”, que corresponde à identidade de uma pessoa. Outras vezes, será 50/50. “Vai continuar nesse ciclo com diferentes identidades e rostos diferentes o tempo todo”, disse ele.
A troca de rosto e a tecnologia deepfake não são novas. Aplicativos como o Face Juggler e o Face Swap Live circularam em 2012 e 2015, mas, desde então, essas ferramentas se tornaram mais sofisticadas, permitindo que alguém mude facilmente a posição do corpo e as roupas de uma modelo.
Entre os exemplos mais famosos está o vídeo do presidente ucraniano Volodymyr Zelensky , que os hackers criaram para fazer parecer que Zelenskyy estava se rendendo à Rússia. Quando a imagem do medalhista de ouro olímpico Liu Xiang foi usada para fins comerciais , o tribunal decidiu a favor de Liu, concedendo-lhe 6.000 RMB (US$ 872). Ah, e há o super famoso e controverso comercial deepfake de Bruce Willis feito para uma conhecida operadora de telefonia na Rússia. No comercial, o falso Willis e outro ator estão amarrados a uma bomba que está prestes a explodir se eles não a detonarem a tempo. A façanha abriu conversas sobre o direito de uma pessoa ao seu rosto, nome e aparência.
Quanto ao meu caso, os vendedores do mercado não revelaram como os anúncios foram construídos, mas os vendedores do Taobao, AliExpress e JD removeram as imagens em questão. As outras imagens ainda vivem em alguns blogs chineses e no site de Beliz.
Copiar, colar, repetir
A CULTURA DE COPIAR E COLAR TEMatormentou a economia durante anos. Imitações e produtos falsificados custam à economia global mais de US$ 500 bilhões todos os anos, de acordo com a Câmara de Comércio dos EUA.
“As pessoas dizem: 'Bons artistas copiam, grandes artistas roubam'. O comportamento imitador é essencialmente impulsionado pelo aprendizado”, disse Howard Yu, professor da escola de negócios IMD em Lausanne, na Suíça. “Eles tentam ganhar a vida copiando o que os outros fazem; no entanto, isso muitas vezes não leva ao sucesso.”
Durante minha investigação, modelos e influenciadores me enviaram mensagens para compartilhar histórias semelhantes de violação de identidade e semelhança, principalmente por empresas na China que reutilizam fotos para campanhas futuras sem dar aos modelos pagamento ou crédito adicional.
“Um amigo me enviou uma foto minha em um enorme outdoor na beira da estrada para uma marca muito grande, e eu não fiz uma sessão para essa marca”, disse o modelo sul-africano Jay d'Engle, 32, que vive em Xangai, disse. “Então me ocorreu: 'Ah, aquele elenco.'”
Na maioria dos casos, as chamadas de elenco são realizadas para que as agências possam selecionar modelos para uma sessão e testar alguns looks, mas algumas transformam esses eventos de prospecção em sessões de fotos completas que posteriormente são reutilizadas ilegalmente. “Vendo esse tipo de coisa acontecendo de novo e de novo – me sinto sem esperança e não sei mais o que fazer”, Lynn, uma influenciadora com 1,5 milhão de seguidores online cumulativos, me disse via WeChat. “Sinto que meu país não está realmente me ajudando com isso.”
Os fãs de Lynn descobriram que suas fotos foram usadas várias vezes para fins de marketing, mas seu rosto foi trocado por outro. A jovem de 27 anos de Wenzhou, Zhejiang, publica com frequência no Weibo e 小红书(RED) e diz que esse tipo de violação aconteceu pelo menos 15 vezes desde que ela começou sua carreira como blogueira em tempo integral, sete anos atrás.
Mesmo que você envolva um advogado, como alguns fizeram no passado, esses casos, em abundância, podem levar tempo para serem resolvidos e muitas vezes envolvem altos honorários advocatícios porque “o limite tecnológico para cometer essas infrações é baixo e as consequências legais são geralmente não é grave”, disse Horace Lam, que co-lidera uma equipe de advogados de propriedade intelectual e tecnologia nos escritórios da DLA Piper na Ásia. “Alguns infratores optam voluntariamente por infringir em troca de benefícios econômicos.”
Lynn, que continua ativa nas redes sociais, acha que a falta de educação é um grande problema. “Algumas pessoas nem sabem que não é legal usar as fotos de outras pessoas”, disse ela. “A maioria das pessoas diz: 'OK, só vou usar esta foto — não é grande coisa.' E se cada caso fosse levado a sério, levaria muito tempo.”
Um caso legal
MUITAS VEZES, QUANDO AS PESSOASpense em deepfakes e mídia sintética, eles imediatamente saltam para a indústria ou política de filmes adultos, mas essas sintetizações vão muito além dessas indústrias. “Não está mais apenas no domínio dos líderes mundiais e da segurança nacional”, disse Gupta. “É entrar no reino da identidade pessoal e da segurança pessoal.”
A partir de 2019, os usuários na China também são obrigados por lei a serem francos sobre o uso de mídia gerada por deepfake, IA ou relacionada a VR - caso contrário, eles podem ser acusados de um crime. Lembra do chinês Elon Musk, que chamou a atenção do próprio CEO da Tesla? O chinês Musk, conhecido como “马一龙”, ou Yilong Ma, foi suspenso indefinidamente no Douyin, a versão original e separada do TikTok, em maio passado por não divulgar a seus fãs que seus vídeos foram criados com tecnologia deepfake.
Em 2020, a China aprovou o Código Civil da República Popular da China, que protege os direitos de personalidade e os direitos de retrato de uma pessoa. Os direitos de personalidade, definidos pelo artigo 990, incluem o direito de uma pessoa ao seu nome, retrato, reputação, honra e privacidade, entre outros direitos. Os direitos de retrato protegem a aparência, a imagem pessoal e a aparência de uma pessoa.
“Isso inclui pessoas que usam a tecnologia para falsificar sua aparência, você sabe, qualquer tipo de desenho de sua semelhança”, disse Jeremy Daum, pesquisador sênior da Yale Law School Paul Tsai China Center. “Você pode ter uma ação civil para processar por danos. Normalmente, porém, o que acontece é - com ou sem lei - são pequenas batatas em termos de danos.
No meu caso, com minha imagem ou semelhança circulando no Taobao, JD e outros mercados, eu estaria protegido por essas leis chinesas. Além disso, a Administração do Ciberespaço da China anunciou recentemente que todas as plataformas na China que criam ou fornecem esses tipos de serviços agora precisam obter o consentimento de uma pessoa para usar sua voz ou imagem em um deepfake.
Portanto, a China, como um todo, possui leis rigorosas em vigor. Nos EUA, por outro lado, Califórnia, Texas, Nova Jersey, Nova York, Havaí e Illinois também têm certas restrições de deepfake, mas não são abrangentes, e essas leis ainda deixam espaço para atores de má-fé contornar os regulamentos. É hora de estabelecer proteções mais fortes que cubram as águas internacionais. Quando falamos sobre a mídia que circula nos Estados Unidos ou na China, na verdade estamos falando sobre a mídia que é geralmente acessível em todo o mundo graças à internet.
As vítimas das tecnologias deepfake não têm escolha a não ser recorrer a leis domésticas específicas, disse Lam. Ele e sua equipe esperam que esses problemas aumentem nos próximos anos, muito além da China e dos EUA. “Estamos vendo mais áreas cinzentas onde as leis precisam acompanhar a tecnologia”, disse ele.
Por fim, aprendi que qualquer pessoa pode usar a sintetização de imagens e ferramentas digitais para copiar, colar e repetir. Bruce Willis e eu aparentemente não somos exceção.
“Acho que esta é a próxima versão do roubo de identidade”, disse Gupta. “E está apenas começando.”
Comments