top of page

Inteligência artificial e os 'deuses por trás das máscaras'

Em um trecho de AI 2041: Dez Visões para Nosso Futuro , Kai-Fu Lee e Chen Qiufan exploram o que acontece quando os falsos profundos atacam os falsos fundos.


Fonte: Wired Magazine

Sinal: Forte

Tendência: Sociedade 5.0

No AI 2041: Dez Visões para o Nosso Futuro , o especialista em IA Kai-Fu Lee e o co-autor Chen Qiufan respondem à pergunta

"Como a inteligência artificial mudará o mundo nos próximos 20 anos?"

As explicações técnicas de Lee acompanham os contos fictícios de Chen para produzir uma exploração dos perigos e possibilidades da IA. Esta história, traduzida por Emily Jin, gira em torno de um produtor de vídeo nigeriano que é recrutado para fazer um deepfake indetectável. Tocando em avanços iminentes em visão computacional, biometria e segurança de IA, ele imagina um mundo futuro marcado por jogos de gato e rato entre deepfakers e detectores, e entre defensores e perpetradores.


Avançando lentamente para a estação de Yaba, Amaka apertou um botão ao lado da porta de sua carruagem. Mesmo antes de o trem parar completamente, as portas se abriram com um assobio e Amaka saltou. Ele não podia tolerar os trens lentos - ou seu odor rançoso - por mais um segundo. Seguindo de perto um homem idoso, Amaka deslizou agilmente pela catraca na saída da estação. As câmeras de reconhecimento facial foram feitas para deduzir a tarifa de cada pessoa que passava. Graças à máscara que velou o rosto de Amaka, no entanto, ele escapuliu sem cobrar.

Essas máscaras tornaram-se comuns entre os jovens de Lagos. Para a geração de seus pais, as máscaras eram objetos rituais, mas para os jovens, cujo número havia aumentado nas últimas décadas, elas se tornaram acessórios de moda - e dispositivos de prevenção de vigilância. Lagos, a maior cidade da África Ocidental, abrigava algo entre 27 e 33 milhões de pessoas - o número oficial dependia do método que as autoridades usavam para medi-lo. Cinco anos atrás, o estado impôs um limite estrito ao número de migrantes que entravam na cidade - mesmo aqueles, como Amaka, que nasceram em outras partes da Nigéria. Desde então, sonhadores itinerantes como Amaka foram forçados a buscar abrigo improvisado em apartamentos ilegais, albergues, mercados, estações de ônibus ou até mesmo sob viadutos. Ele conheceu muitos sem-teto, pessoas que foram empurradas para as ruas por todos os tipos de razões: pessoas cujas casas foram demolidas para dar lugar a novos centros comerciais, pessoas recém-chegadas à Nigéria de países em situação pior e aqueles que eram simplesmente pobres. A juventude da Nigéria - a idade média do país era de apenas 21 anos - deveu-se à alta taxa de fertilidade do país. Ainda assim, o rápido desenvolvimento da terceira nação mais populosa do mundo não beneficiou seus cidadãos igualmente.


Enquanto outras partes de Lagos sofriam com a pressão de sua população jovem, o distrito de Yaba estava florescendo. Apelidado de “Vale do Silício da África Ocidental”, o bairro se destacou por sua ordem, ar puro e vida cotidiana repleta de alta tecnologia. Os pedestres podem ativar os animais dos desenhos animados nos outdoors e interagir com eles por meio de gestos manuais. Os robôs de limpeza percorriam as ruas, recolhendo e separando o lixo e, em seguida, enviando-o para centros de reciclagem, onde era transformado em materiais renováveis ​​e biocombustíveis. A fibra de bambu sustentável recentemente deu o salto de material de construção para tendência da moda, pelo menos para os habitantes de Yaba.

Parado do lado de fora da estação e segurando sua smartstream ao nível dos olhos, Amaka sobrepôs um mapa de rota virtual ao vivo na paisagem urbana circundante. Seguindo a rota projetada, ele começou a andar, finalmente parando diante de um prédio cinza com o número 237 e escondido em uma rua secundária tranquila. A empresa que ele procurava, Ljele, aparentemente ficava no terceiro andar. Dois dias atrás, ele recebeu um e-mail misterioso de uma conta anônima de Ljele sobre um trabalho que estava "na cara dele". A posição era sua, com a condição de que comparecesse pessoalmente a uma entrevista.

Quando Amaka entrou em uma pequena área de recepção no terceiro andar, a recepcionista sorriu e apontou para a máscara de Amaka, indicando que ele deveria removê-la para uma verificação de identidade. O jovem hesitou, depois tirou a máscara. Refletido na lente da câmera estava um rosto jovem e liso. Sua máscara impressa em 3D não conseguia corresponder à qualidade delicada das caras versões feitas à mão vendidas a preços absurdos para turistas no Mercado Lekki, mas a reprodução grosseira, com seu padrão em forma de borboleta, foi o suficiente para enganar o algoritmo de reconhecimento facial da maioria câmeras de vigilância comuns. Aos olhos da IA, Amaka era uma "pessoa sem rosto". A máscara não apenas economizou dinheiro, mas, mais importante, o protegeu das autoridades. Afinal, Amaka ainda não tinha obtido uma autorização de residência de migrante.


Quando a varredura facial foi concluída, a recepcionista levou Amaka a uma sala de conferências e disse-lhe que esperasse. Ele sentou-se tenso enquanto ponderava como responderia a perguntas sobre sua experiência anterior de trabalho. Eu tenho que mentir, ele percebeu. Não tenho muitas outras opções.


Dez minutos se passaram. O entrevistador prometido não apareceu. Abruptamente, a parede de projeção em frente a ele se iluminou e o vídeo da câmera de vigilância começou a ser reproduzido.


Para Amaka, o vídeo era tão familiar quanto as costas de sua própria mão. Meia-noite. Luzes fracas e amarelas da rua. Vários sem-teto estavam espalhados sob um viaduto, deitados em colchões improvisados. A silhueta de um menino emergiu das sombras. O menino se aproximou de um grupo de pessoas adormecidas e olhou para baixo. A câmera deu um zoom. O menino era branco, não tinha mais de 5 ou 6 anos, vestia um pijama listrado, o rosto pálido e inexpressivo. Uma das pessoas acordou assustada e encontrou os olhos do menino. O morador de rua perguntou ao menino como se chamava e onde morava. O corpo do garoto tremia enquanto ele murmurava incoerentemente. De repente, seu rosto se contorceu, os cantos de seus lábios se abriram e revelaram duas fileiras de dentes afiados. Ele mordeu com força o pescoço do sem-teto. O homem gritou de dor, acordando os outros. O menino fugiu de cena,


O vídeo, postado originalmente na internet sob o título “Garoto Vampiro Branco Ataca Pessoas Sem-Teto em Lagos,” recebeu milhões de visualizações em 24 horas de sua primeira aparição na plataforma de compartilhamento de vídeo GarriV. Em poucos dias, no entanto, a plataforma identificou o vídeo como falso e o removeu em conformidade com a lei. A conta do uploader, “Enitan0231”, foi consequentemente encerrada, com todas as receitas de publicidade associadas congeladas.

De repente, uma voz estrondosa encheu a sala de conferências onde Amaka ainda estava sentado, sozinho. “Muito bem, Amaka! Que fusão perfeita de cenários realistas, atores amadores e gravação de vídeo ao vivo. Não acredito que você fez isso em um cyber café underground em Ikeja ”, disse uma voz masculina com forte sotaque ibo.

Instintivamente, Amaka se levantou de um salto. "Quem é Você?" Seus olhos examinaram a sala vazia e pousaram nos alto-falantes.

“Ei, relaxe. Você pode me chamar de Chi. Você quer um emprego ou não? ”

Suspirando, Amaka voltou a se sentar e se recostou na cadeira. O homem chamado Chi estava certo. Sem uma autorização de residência, ele nunca poderia encontrar um emprego de verdade em Lagos. A misteriosa companhia Ljele era sua única esperança. "Por que eu?" ele perguntou.


“Vimos o seu trabalho. Você é talentoso. Você é ambicioso - você não teria vindo para Lagos em primeiro lugar se não estivesse determinado a fazer um nome para si mesmo. Mais importante ainda, precisamos de alguém em quem possamos confiar. Um de nossa própria espécie . ”

Amaka soube imediatamente ao que Chi estava se referindo. A Nigéria tem mais de 250 grupos étnicos, com suas próprias línguas e costumes, muitos dos quais estiveram em conflito por centenas de anos. Os iorubás e os igbo, respectivamente o segundo e o terceiro maiores grupos étnicos do país, viram confrontos violentos nos últimos anos, à medida que ambos os grupos se esforçavam para obter ganhos políticos. Com os iorubás sendo a população dominante em Lagos, Amaka, um igbo do sudeste, geralmente escondia sua etnia para evitar problemas. "O que você quer que eu faça?"

“Eu quero que você faça o que você faz de melhor. Falsifique um vídeo. ”

" Ilegalmente , presumo?"


"Nós forneceremos tudo que você precisa."

Amaka estreitou os olhos, suas narinas dilatadas. “E se eu recusar sua oferta? Você vai me matar? "

"Matar você? Não não. Pior que isso. ”

Outro vídeo começou a ser reproduzido na parede de projeção. Uma pista de dança em uma boate privada. A câmera deu um zoom na sala de um canto do teto. Vários meninos estavam dançando uns contra os outros sob as luzes de laser piscando, sem camisa. A câmera deu mais zoom para revelar o rosto inconfundível de Amaka. Enquanto a câmera observava, Amaka se virou e beijou apaixonadamente outro garoto cujas bochechas tinham um tom rosa fluorescente. Amaka então torceu a parte superior do corpo para beijar um menino de pele mais escura atrás dele. O vídeo congelou neste quadro. Os três rostos jovens eram como folhas de manga que se sobrepunham, se entrelaçavam e se fundiam.


Amaka olhou para o vídeo, sua expressão em branco. Depois de alguns momentos, ele sorriu. A varredura facial a que ele havia feito na recepção forneceu os dados para tornar essa falsificação instantânea.

“O rosto pode ser meu, mas não o pescoço,” disse Amaka enquanto abaixava o capuz, expondo uma longa cicatriz rosa que cortava diagonalmente de abaixo de sua orelha direita até a clavícula esquerda. Uma lembrança de uma briga de rua. “Além disso, não se esqueça que estamos em Lagos. As coisas que as pessoas fazem aqui são muito mais loucas do que isso. ”

“Claro, mas este vídeo ainda pode mandar você para a prisão. Pense em sua família, ”disse Chi, sua voz ficando suave.

Amaka ficou em silêncio. Três décadas após a aprovação da Lei do Casamento entre Pessoas do Mesmo Sexo (Proibição) de 2013, a sociedade nigeriana permaneceu tão hostil às minorias sexuais e de gênero como sempre foi. Se alguém o denunciasse, Amaka sabia que seria difícil evitar lidar com a polícia corrupta, que provavelmente tentaria extorquir ele, mesmo que ele pudesse evitar acusações criminais.


E então havia sua família. Embora eles não tivessem tido um relacionamento fácil nos últimos anos, Amaka odiava imaginar a pressão que poderia cair sobre os ombros de seus familiares, especialmente seu pai, que esperava o mundo dele. Mesmo que o vídeo seja falso.

O menino mordeu o lábio inferior e puxou o capuz de volta. Ocultar partes de sua pele novamente deu a ele um pouco mais de sensação de segurança. “Eu preciso de um pagamento adiantado. Criptomoeda. Além disso, forneça o máximo de detalhes possível sobre o alvo. Não quero perder meu tempo com pesquisas ”.

“Você decide, meu amigo. Quanto ao alvo ... não há absolutamente nenhuma maneira de você errar. ” O tiro na cabeça borrado de um homem brilhou na parede de projeção. Quando os contornos do rosto se solidificaram em uma imagem nítida, os olhos de Amaka se arregalaram.

O YORUBA CHAMOUa cidade de Lagos "Eko", que significa "fazenda". No clima equatorial de monções, junho foi o mês mais frio, com as chuvas mais abundantes. Com as batidas monótonas da chuva no telhado de metal como trilha sonora de fundo, Amaka estava deitado na pequena cama de seu quarto ilegal de albergue. Ele colocou seus óculos XR e mexeu em seu novo gadget - um Illumiware Mark-V verde-escuro.


Comparado com as pegadinhas que ele havia feito no passado, esse novo trabalho estava em um nível completamente diferente.

Não é que ele não tivesse experiência em decepção de vídeo - muito pelo contrário. Sozinho em seu quarto, Amaka havia passado muitas noites no ano anterior disfarçando-se de garotas da cidade alta em aplicativos de namoro. Para construir uma imitação perfeita, o primeiro passo foi reunir o máximo possível de dados de vídeo com um rastreador da web. Seus alvos ideais eram as garotas iorubás da moda, com suas bubas e iro Vneck de cores vivas que se enrolavam na cintura e os cabelos enrolados em gele. De preferência, seus vídeos foram feitos em seus quartos com iluminação forte e estável, suas expressões vívidas e exageradas, de modo que a IA pudesse extrair o máximo possível de imagens estáticas. O conjunto de dados do objeto foi emparelhado com outro conjunto do próprio rosto de Amaka sob iluminação diferente, de vários ângulos e com expressões alternativas, geradas automaticamente por seu smartstream. Em seguida, ele carregou os dois conjuntos de dados na nuvem e começou a trabalhar com uma rede antagônica hipergerativa. Algumas horas ou dias depois, o resultado foi um modelo DeepMask. Ao aplicar essa “máscara” tecida a partir de algoritmos a vídeos, ele poderia se tornar a garota que havia criado a partir de bits e, a olho nu, sua falsificação era indistinguível da coisa real.

Se a velocidade da Internet permitisse, ele também poderia trocar de rosto em tempo real para incrementar a diversão. Claro, mais diversão significa mais trabalho. Para que o engano em tempo real funcionasse, ele teve que traduzir simultaneamente inglês ou igbo para iorubá, usar transVoice para imitar a voz de uma garota iorubá e usar um kit de ferramentas de código aberto com sincronização labial para gerar o movimento labial correspondente. No entanto, se a pessoa do outro lado do chat pagou por um detector anti-falsificação de alta qualidade, o aplicativo pode detectar automaticamente anomalias no vídeo, marcando-as com avisos de quadrados vermelhos translúcidos.

Nos primórdios da tecnologia deepfake, fatores como velocidade da Internet e expressões exageradas podiam facilmente causar falhas, resultando em imagens desfocadas ou movimentos labiais fora de sincronia. Mesmo que a falha durasse apenas 0,05 segundo, o cérebro humano, após milhões de anos de evolução, poderia sentir que algo estava errado. Em 2041, no entanto, DeepMask - o sucessor do deepfake - havia alcançado um grau de verossimilhança e sincronização de imagem que poderia enganar o olho humano.


Os detectores anti-falsos tornaram-se parte da configuração padrão da segurança cibernética. A Europa, a América e a Ásia até os tornaram obrigatórios por lei, mas na Nigéria apenas as principais plataformas de conteúdo e sites governamentais exigiam tal verificação. O motivo era simples: os detectores exigiam um nível extremamente alto de capacidade e habilidade de computação e diminuíam a velocidade dos vídeos. Se as pessoas tivessem que esperar, elas sintonizariam em outro lugar. As mídias sociais e as plataformas de compartilhamento de vídeo atualizariam seus detectores seletivamente de acordo com os algoritmos de geração de falsificações mais populares a qualquer momento; quanto mais um pedaço de conteúdo era compartilhado, mais escrutínio ele recebia.

DEPOIS DE CADA VIDEO“Encontro” Amaka se sentava em silêncio na escuridão. Seu ambiente humilde nunca deixou de injetar nele uma dose de realidade. Ainda assim, ele permitiria que sua mente se demorasse nos sorrisos e palavras doces dos garotos com quem ele "namorou". O afeto deles não é meu , lembrou a si mesmo, mas de uma jovem ioruba com rosto igual ao meu.

Quando Amaka nasceu, um adivinho local declarou ao pai de Amaka que seu novo filho era na verdade a reencarnação de uma alma feminina presa no corpo de um menino. A “incongruência alma-corpo” seria uma sombra lançada sobre toda a infância de Amaka - e uma vergonha para sua família.

À medida que crescia, Amaka lentamente começou a entender que não era como os outros meninos. Sair da sua aldeia para vir para Lagos tinha feito parte desta viagem. Ainda assim, havia limites. Quando ele passou por homens atraentes no metrô ou na calçada, ele podia sentir algo em seu corpo - em sua alma - palpitar. Mesmo o contato visual pode evocar os sentimentos de vez em quando. Mas Amaka sabia que não tinha coragem de enfrentar os meninos com quem conversava online na vida real. Quanto mais poder da DeepMask ele escavava, mais seu vício pela máscara crescia. Escondeu seu rosto real, de modo que ele foi capaz de deixar seus sentimentos fluirem livremente, sem se expor ao perigo ou à vergonha.


Amaka estava se forçando a se concentrar no vídeo falso quando seus pensamentos foram interrompidos por uma batida na porta de seu quarto. Ozioma, seu senhorio, entrou com uma tigela de sementes de noz de cola fatiadas. Ozioma, um igbo que se mudara para Lagos há 20 anos, havia se assimilado perfeitamente à sociedade iorubá. No entanto, ela foi capaz de descobrir o sotaque igbo velado de Amaka imediatamente após conhecê-lo.

“Você sabe, de onde eu venho, apenas os homens têm permissão para quebrar uma noz de cola,” disse Amaka, com a boca cheia, saboreando o amargor familiar da fruta.

“É exatamente por isso que me mudei!” Ozioma deu uma risadinha. “A noz de cola, os iorubás a chamam de obi e os igbo a chamam de oji . Por que o nome importa? Obi ou oji , vai resolver seus problemas assim que estiver na boca. ”

“Ah, sabedoria dos mais velhos. Obrigado por este tratamento, ”disse Amaka. No entanto, antes que pudesse fechar a porta, Ozioma agarrou seu braço. Ela apontou para a foto exibida em seu monitor, uma carranca preocupada cruzando seu rosto. “Você não tem nada a ver com ele, tem? Quer dizer, ele é um cara bom, eu só ... não quero me meter em encrencas, se é que você me entende. ”

"Nah, eu estava lendo as notícias." Amaka forçou um sorriso alegre. "Eu ainda quero minha autorização de residência."

“Boa criança. Que Deus o abençoe - não importa de que lado ele esteja. ” Ozioma desapareceu.

Amaka suspirou de alívio e pulou de volta em sua cama, voltando sua atenção para o rosto exibido em seu monitor.


O rosto irradiava poder. Sua testa e bochechas eram pintadas de branco, um símbolo do espírito tribal. Seus olhos brilhavam como se fossem globos de fogo. Seus lábios estavam ligeiramente separados, com os cantos se curvando para formar um meio sorriso, como se fosse falar a linguagem divina de uma nova era e conquistar o mundo.


O rosto pertencia a Fela Kuti - lendário músico nigeriano, pai de Afrobeat, lutador pela democracia - morto há 45 anos.

O PROBLEMA DE AMAKA ERA como tornar algo falso ainda mais falso.

Um avatar virtual - com o rosto de Fela Kuti - surgiu online, postando vídeos no GarriV. A figura, disfarçada do falecido Fela Kuti, havia se tornado uma sensação na internet. O avatar se autodenominava “FAKA”, a abreviatura de “Fela Anikulapo Kuti Avatar,” e seus vídeos envolviam principalmente comentários amargos sobre assuntos sociais atuais - mesmo que sua lealdade política exata fosse difícil de definir. A maioria das pessoas tratou isso como uma piada. Todos sabiam que o verdadeiro Fela Kuti morrera em 1997. A tecnologia de troca de rosto usada nos vídeos era tão crua que chegava a ser risível. Em vez de se preocupar em banir ou censurar os vídeos da FAKA como conteúdo falso, as plataformas de compartilhamento simplesmente os rotularam como uma paródia.

Ainda assim, a influência de FAKA havia se transformado em bola de neve sem motivo de riso. Milhões de nigerianos faziam login em grupos de bate-papo criptografados para discutir os vídeos do FAKA, analisando cada quadro e sílaba. Eles até foram traduzidos para diferentes dialetos, totalmente dublados e dublados, disseminando a mensagem de FAKA muito mais amplamente. A Fundação Fela Kuti oficial emitiu um comunicado, alegando estar tão intrigado quanto qualquer um sobre as origens do avatar popular, mas evitando emitir um pedido para que a misteriosa figura por trás da conta pare de usar a imagem de Fela Kuti.

Ninguém havia conseguido rastrear a pessoa por trás do FAKA. As informações dos vídeos foram criptografadas; a conta que carregou os vídeos era descartável e passou por vários servidores proxy. Consequentemente, surgiram teorias da conspiração. FAKA foi o trabalho de ativistas antigovernamentais ou de um governo estrangeiro, com a intenção de minar a ordem atual?

Descobriu-se que Ljele, o novo empregador de Amaka, não era uma empresa de verdade. Ljele era a operação de frente de um grupo clandestino chamado Igbo Glory, e Chi era apenas o representante - o agente encarregado de recrutar e lidar com Amaka. O grupo analisou o conteúdo dos vídeos da FAKA e chegou a uma conclusão diferente: os ultranacionalistas iorubás estavam por trás do avatar e esperavam explorar sua popularidade para manipular as mentes das pessoas - para tornar cada vez mais os vídeos da FAKA mais pró-iorubá e estimular o público opinião a seu favor. E quanto mais poder se aglutinava nas mãos dos iorubás dominantes, Amaka sabia, mais outros grupos étnicos seriam espremidos - especialmente os igbo.

Em um vídeo recente, a FAKA pediu aos estados dominados por Igbo que desistissem de reivindicar um depósito de elemento de terras raras recém-descoberto e, em vez disso, torná-lo "uma propriedade comum para todos os nigerianos". Esta foi a última tentativa de privar os igbo de recursos em suas terras. O igbo parecia a cauda do lagarto da Nigéria - cortado, crescido e cortado novamente, em um ciclo sem fim. Ninguém se importava se a cauda doía ou sangrava.

Agora, os igbo estavam cansados. A missão de Amaka era a chave para o objetivo de revolução de Igbo Glory. Na esperança de interromper o controle da FAKA sobre a opinião pública, Chi encarregou Amaka de produzir vídeos falsos da FAKA que minariam a credibilidade e a influência do avatar.


Em termos de tecnologia, não foi tão difícil. Com a ajuda do H-GAN, Amaka duplicou facilmente um modelo gerado por máquina do retrato facial de FAKA. Da frequência de piscar e do movimento dos lábios à crua incongruência entre a área da boca e a pele ao redor, o modelo de Amaka era um reflexo de espelho pixel a pixel de FAKA. Contanto que soubesse como definir os parâmetros e comparar cada valor matemático entre o falso e o original, ele poderia enganar todos os detectores antifalsificação e todos os olhos humanos.


O verdadeiro desafio era reproduzir um discurso no estilo FAKA. Os tópicos dos vídeos da FAKA variavam de notícias sociais e políticas a reclamações populistas complicadas de “todo homem”. Nos monólogos, FAKA citava seletivamente palavras famosas do verdadeiro Fela Kuti, bem como ditos folclóricos. Amaka frequentemente se esforçava para interpretar os discursos característicos da FAKA - quanto mais imitá-los.

A FAKA declarou que a Nigéria precisava urgentemente de uma nova língua que transcendesse as fronteiras étnicas, "para purificar nossa mente e língua do veneno colonial". Lamentou que as mães da Nigéria fossem as pessoas que “mais sofreram e merecem a maior reverência”; com as próprias mãos, eles “acolheram a descida e enterraram os cadáveres” de inúmeras crianças. A FAKA se gabou de que "a música é uma arma do futuro" e que somente quando a educação e a riqueza foram "distribuídas igualmente como batidas de tambor permeando o ar, as batidas do coração das pessoas se aglutinaram em um ritmo constante."

Como uma tempestade caindo sobre uma terra há muito ressecada, as palavras de FAKA começaram a matar a sede no coração de Amaka também. Por mais que odiasse admitir, ele se sentiu revigorado por uma sensação de esperança. Chi estava certo sobre FAKA? Amaka tentou afastar esses sentimentos. Eu não preciso de algum sentimento cafona de pertencer , ele disse a si mesmo.

Amaka precisava apenas de uma falsificação perfeita de um discurso no estilo FAKA, em que as pessoas acreditassem.

UM DESFILE TEVEinundou as ruas do centro de Lagos. Escondido na sacada de seu quarto, Amaka observou uma trupe de jovens nus da cintura para cima balançar e girar, tão graciosos e ágeis quanto partículas de poeira dançando nos raios de sol. Seus rostos foram decorados com tinta branca no estilo de Fela Kuti. Os músculos de suas costas brilhavam sob o sol quente. Seguindo o ritmo, eles ergueram os braços em uníssono, sacudindo as palmas das mãos, como se estivessem lançando um feitiço.

O som de instrumentos de várias etnias combinados em harmonia. O grito estridente do tambor Batá e os gemidos baixos do tambor dùndún , dos iorubás; o tilintar metálico do sino do ogene e a melodia prateada da flauta opi , do igbo. O ar vibrava com a música, como a corda esticada de um arco aberto centímetro a centímetro. Os bailarinos, como os jovens rebentos de mandioca durante as monções, moldavam o seu movimento ao ritmo do ritmo. Movendo-se em uníssono completo, sem ninguém deixado para trás, os dançarinos, aos olhos de Amaka, pareciam menos indivíduos do que seres conectados - não muito diferente do mantra que vinham cantando, “Uma Nigéria”, o slogan da campanha de vídeo da FAKA.

Amaka se sentiu dilacerada. Por um lado, ele invejava os dançarinos. Ele instintivamente queria se juntar a eles, mas sua paixão foi sufocada por um medo intenso de ser exposto como um traidor. Será que aqueles dançarinos - seguidores do FAKA - realmente desejaram o mal para o povo igbo, um povo que Amaka ainda amava, mesmo tendo se distanciado deles?


Mais urgente do que esses pensamentos, entretanto, era o prazo final de Chi, que se aproximava rapidamente e, com o passar dos dias, Amaka ficava cada vez mais certo de que recebera uma tarefa impossível.

Após um exame mais detalhado de Amaka, parecia que não existia uma personalidade única e uniforme da FAKA. A equipe por trás do avatar, contando com o sistema de marcação inteligente da plataforma de compartilhamento de vídeo, criou vídeos adaptados para apelar a uma variedade de perfis de usuário, ajustando os principais tópicos, slogans, tom e movimento corporal para cada público, como um agência de publicidade que atende a determinados grupos demográficos.

Criar uma farsa era uma coisa - criar uma farsa com múltiplas personalidades estava além das capacidades de Amaka. De alguma forma, essa constatação deu-lhe uma sensação de alívio. Mas agora ele tinha que enfrentar as consequências de falhar na missão de Chi.


"Por que você não vai se juntar a eles?" perguntou Ozioma. Aparecendo atrás de Amaka na varanda, a senhoria acendeu um cigarro de marca inglesa, encostou-se na grade e olhou para baixo.

“Eu costumava ser a rainha da dança da nossa aldeia”, Ozioma continuou, os olhos nublados de nostalgia. “Não estou tentando me gabar aqui, mas nenhum garoto conseguia tirar os olhos de mim. Meu pai odiava quando eu dançava, no entanto. Ele ameaçou me bater cada vez que me pegava dançando. ”

"Você o ouviu?"

Ozioma riu com vontade. “Por que diabos uma criança desistiria do que ama porque seus pais disseram não? Eventualmente, encontrei uma maneira que poderia me permitir pelo menos terminar a dança. ”

"O que foi isso?" perguntou Amaka.


“Eu usava um Agbogho Mmuo toda vez que dançava.”

O quê? Os olhos de Amaka se arregalaram. O Agbogho Mmuo era a máscara sagrada do igbo do norte, representando os espíritos das donzelas e também a mãe de toda a criação viva.

“Veja, meu pai tinha sua expressão exata quando me viu com a máscara. Ele não teve escolha a não ser se curvar, para mostrar seu respeito à máscara e à deusa que ela personifica. É claro que depois de terminar a dança, sem a máscara, eu receberia minha cota de repreensão ”, disse Ozioma, com um sorriso de orgulho, como se a lembrança a tivesse trazido temporariamente de volta aos tempos de criança. garota.

Ao ouvir a história de Ozioma, Amaka sentiu uma ideia, embaçada e sem forma, disparar em sua mente como um peixe. Ele franziu o rosto, pensando. "A mascára …"

“Sim, criança. A máscara é de onde meu poder veio. ”

“Tirar a máscara? Tire a máscara , ”murmurou Amaka.

De repente, ele se levantou e beijou Ozioma na bochecha. "Obrigado, oh, obrigado, minha rainha da dança!" Ele correu de volta para seu quarto, deixando para trás a agitação do desfile e um Ozioma muito confuso.

“Talvez contar uma mentira e colocá-la na boca de FAKA não faça com que seus seguidores abandonem seu ídolo”, disse Amaka a Chi via chat de vídeo naquela tarde, animado com sua nova descoberta. "Mas tirar sua máscara e revelar o mestre de marionetes escondido pode."


“Ninguém sabe quem é o mestre de marionetes, no entanto,” Chi respondeu.

"Exatamente!" Amaka sorriu. “Você não pode ver? Isso significa que o mestre de marionetes pode ser qualquer um . ”

"Então, você está sugerindo que ..."

“Posso tirar a máscara de FAKA e torná-lo qualquer pessoa que você quiser que ele seja.”

Chi ficou em silêncio no chat de vídeo.

“Você é um gênio do caralho,” Chi finalmente murmurou.

Ndewo ,” Amaka disse, preparando-se para terminar.

“Espere,” Chi olhou para cima. “Isso significa que você precisa criar um rosto que exista na realidade.”


"Sim."

“Um rosto que pode enganar todos os detectores anti-falsos”, acrescentou Chi, meditando. “Pense sobre a distorção de cor, o padrão de ruído, a variação da taxa de compressão, a frequência de intermitência, o biossinal ... é possível?”

“Eu preciso de tempo,” disse Amaka. “E poder de computação de IA em nuvem ilimitado.”

"Eu voltarei para você." Chi desconectou.

Amaka olhou para seu próprio reflexo na tela escurecida do monitor. A descarga de adrenalina que inicialmente tomou conta dele havia desaparecido. Ele viu em seu rosto não excitação, mas cansaço e uma sensação de inquietação, como se tivesse traído um espírito guardião olhando de cima.


EM TEORIA, QUALQUER UM poderia falsificar uma imagem ou vídeo perfeito, pelo menos bem o suficiente para enganar os detectores anti-falsificação existentes. O problema era o custo - capacidade de computação.

Fakes e seus detectores estavam envolvidos em uma batalha eterna, como Eros e Thanatos. Amaka tinha um trabalho difícil para ele, mas estava determinado a ter sucesso em alcançar seu objetivo singular: a criação de um rosto humano real.


No novo esquema que Chi inventou, a FAKA perderia sua máscara digital Fela Kuti para revelar o rosto de Repo, um notório político iorubá conhecido por seus ataques ad hominem a outros grupos étnicos. Repo era o principal inimigo do movimento “One Nigeria”. Assim que Chi e sua equipe revelaram ao público que Repo estava puxando os cordões por trás do inspirador e carismático FAKA, a fé dos crentes do avatar se despedaçaria. Primeiro, porém, o vídeo fabricado de Amaka teria que passar pelo escrutínio de milhões de olhos - humanos e IA, incluindo “o detector VIP”.


O detector VIP, como foi apelidado, foi projetado para proteger a reputação de figuras públicas: políticos, funcionários do governo, celebridades, atletas e acadêmicos. Essas pessoas proeminentes tinham grandes trilhas na Internet - o que as tornava particularmente maduras para serem alvos de deepfakes. O detector VIP tinha o objetivo de evitar que esses “supernós” no ciberespaço se tornassem vítimas de fraude e os danos devastadores consequentes para a ordem social que poderiam advir. Os sites que publicam fotos ou vídeos de indivíduos importantes foram solicitados a aplicar esse algoritmo de detecção especial ao conteúdo antes de postar. O detector VIP incorporou tecnologia que varia de reconhecimento facial de ultra-alta resolução, sensores de reconhecimento de linguagem corporal, reconhecimento de geometria de mão / dedo, avaliação de fala e até reconhecimento de veia.

Todos esses dados alimentados na IA de aprendizagem profunda do detector VIP. O detector VIP até incorporaria o histórico médico em seu banco de dados, desde que a pessoa protegida fosse importante o suficiente. Sem dúvida, dado o status social e a posição controversa de Repo, ele era um desses VIPs.

Amaka, no entanto, acreditava que havia uma falha no detector. Se ele pudesse decifrar como a rede de detectores anti-falsos foi feita, ele poderia identificar as lacunas nas cadeias entrecruzadas de entradas de dados e explorá-las. Por mais estreitos que sejam os buracos em uma rede, um determinado peixe pode eventualmente encontrar uma saída.

Usando um vídeo real do Repo como base, Amaka, como um Dr. Frankenstein do século 21, costurou cuidadosamente o rosto: lábios, olhos e nariz, camada por camada, auxiliado por IA. Cada contração e gesto no vídeo falso viriam do próprio Repo, reduzindo muito a chance de ser detectado pelo detector antifalsificação.

Usando a visão XR, Amaka criou um espaço de trabalho tridimensional. Ele acenou com as mãos no ar, selecionando, arrastando, aumentando e diminuindo o zoom, os ícones e fragmentos de imagens pairando no ar com gestos alternativos. Ele teria preferido se ver como um mago fazendo magia, mas na realidade parecia mais um chef famoso preparando um banquete extravagante.

Para cada parte do corpo de Repo, Amaka selecionou cuidadosamente o software de código aberto mais eficaz, como colocar ingredientes crus em um recipiente adequado para cozinhar. Então, como se estivesse temperando a comida, ele ajustou parâmetros, modelos e o algoritmo de treinamento. Finalmente, ele os trouxe para ferver em uma plataforma de IA em nuvem com o máximo de poder computacional. Cada conjunto de recursos de vídeo, processado pelo GAN, gerava uma série de miniaturas que se estendiam ao infinito no espaço de trabalho virtual, como uma galeria sem fim inundada de pôsteres das várias partes do corpo de Repo.

Atrás da parede do pôster, uma batalha feroz estava acontecendo na nuvem, em silêncio absoluto. Os dois lados eram os pólos positivo e negativo do GAN, a rede de detetives e a rede de falsificadores. O objetivo da rede de falsificadores era se retreinar e se atualizar para gerar imagens mais realistas que pudessem enganar os detectores antifalsificação, com base no feedback da rede de detetives, para minimizar o valor da função de perda da imagem gerada. Por outro lado, a rede de detetives se esforçou para maximizar o valor da função de perda. Esta competição, com as apostas aumentando a cada milissegundo, se repetiria milhões de vezes até que ambos os lados alcançassem um certo equilíbrio.


Ajustando parâmetros, iterando o modelo ... com cada ajuste Amaka podia ver o vídeo se tornando mais realista. Seus olhos, quase cegos por pontos de pixel coloridos, focaram intensamente em quadros em seu campo de visão XR - quadros que diferiam um do outro apenas por uma margem mais fina. O suor se acumulou em sua testa, escorreu pelo rosto e pingou da ponta do nariz, mas os dedos ágeis e dançantes de Amaka não foram afetados em nada.


No entanto, uma voz soava em seu ouvido de vez em quando, distraindo-o, como um ogbanje preso para sempre no limbo da vida e da morte.

“Você está matando um deus com suas próprias mãos,” a voz sussurrou.

Ele não é meu deus. Ele é ioruba, Amaka repetia em seu coração, enquanto se obrigava a voltar a atenção para o trabalho.

Finalmente, ele soltou um suspiro de alívio. Seu vídeo falso enganou com sucesso o detector VIP. Exausto, ele desabou na cama e caiu em um sono profundo.


Do livro AI 2041: Dez Visões para Nosso Futuro, de Kai-Fu Lee e Chen Qiufan, a ser publicado em 14 de setembro de 2021. Copyright © 2021 de Kai-Fu Lee e Chen Qiufan. Publicado pela Currency, um selo da Random House, uma divisão da Penguin Random House LLC. Todos os direitos reservados.


3 visualizações0 comentário

Opmerkingen

Beoordeeld met 0 uit 5 sterren.
Nog geen beoordelingen

Voeg een beoordeling toe
bottom of page