top of page

O que realmente aconteceu quando o Google abandonou Timnit Gebru

Ela era uma engenheira famosa que alertou que a IA confusa pode espalhar o racismo. O Google a trouxe. Então a forçou a sair. A Big Tech pode receber críticas de dentro?


Fonte Wired





UMA TARDE no final de novembro do ano passado, Timnit Gebru estava sentada no sofá de sua casa na área da baía de São Francisco, chorando.

Gebru, uma pesquisadora do Google, acabara de sair de uma videochamada de última hora com uma executiva chamada Megan Kacholia, que emitiu um comando chocante. Gebru era co-líder de um grupo da empresa que estuda as ramificações sociais e éticas da inteligência artificial , e Kacholia ordenou que Gebru retirasse seu último artigo de pesquisa - ou então removesse seu nome de sua lista de autores, junto com os de vários outros membros de sua equipe.


O artigo em questão era, na opinião de Gebru, bastante inquestionável. Ele pesquisou as armadilhas conhecidas dos chamados modelos de grande linguagem, um tipo de software de IA - mais famoso exemplificado por um sistema chamado GPT-3 - que estava estimulando a indústria de tecnologia. A própria versão da tecnologia do Google agora ajudava a impulsionar o mecanismo de busca da empresa.


Jeff Dean , reverenciado pelo Googlechefe de pesquisa, encorajou Gebru a pensar sobre as possíveis desvantagens da abordagem. O artigo passou pelo processo de revisão interna da empresa e foi submetido a uma conferência de destaque. Mas Kacholia disse agora que um grupo de líderes de produto e outros dentro da empresa consideraram o trabalho inaceitável, lembra Gebru. Kacholia foi vago sobre suas objeções, mas deu a Gebru uma semana para agir. Seu prazo firme era um dia após o Dia de Ação de Graças.


A angústia de Gebru transformou-se em raiva à medida que a data se aproximava e a situação ficava mais estranha. Kacholia deu ao empresário de Gebru, Samy Bengio, um documento listando as supostas falhas do papel, mas disse a ele para não enviá-lo para Gebru, apenas para lê-lo para ela. No Dia de Ação de Graças, Gebru faltou algumas festividades com sua família para ouvir o recital de Bengio. De acordo com a lembrança de Gebru e notas contemporâneas, o documento não oferecia edições específicas, mas reclamava que o jornal tratava dos tópicos “casualmente” e pintava um quadro muito sombrio da nova tecnologia. Ele também afirmou que todos os usos do Google de grandes modelos de linguagem foram "projetados para evitar" as armadilhas que o jornal descreveu.


Gebru passou o Dia de Ação de Graças escrevendo uma resposta de seis páginas, explicando sua perspectiva no papel e pedindo orientação sobre como ele poderia ser revisado em vez de anulado. Ela intitulou sua resposta “Endereçando Feedback do Éter no Google,” porque ela ainda não sabia quem havia colocado sua provação kafkiana em movimento e a enviou para Kacholia no dia seguinte.


No sábado, Gebru partiu em uma viagem pré-planejada pelo país. Ela havia chegado ao Novo México na segunda-feira, quando Kacholia mandou um e-mail pedindo a confirmação de que o jornal seria retirado ou eliminado de suas afiliações ao Google. Gebru tuitou uma crítica enigmática de “censura e intimidação” contra pesquisadores de ética em IA. Então, na terça-feira, ela disparou dois e-mails: um que buscava encerrar a disputa e outro que a escalou além de sua imaginação.


O primeiro foi dirigido a Kacholia e ofereceu-lhe um acordo: Gebru se retiraria do jornal se o Google fornecesse um relato de quem revisou o trabalho e como, e estabelecesse um processo de revisão mais transparente para pesquisas futuras. Se essas condições não fossem atendidas, escreveu Gebru, ela deixaria o Google assim que tivesse tempo para se certificar de que sua equipe não ficaria muito desestabilizada. O segundo e-mail mostrou menos diplomacia corporativa. Dirigido a uma lista de mulheres que trabalhavam no Google Brain, o laboratório de IA mais proeminente da empresa e lar da equipe de IA de ética da Gebru, acusou a empresa de “silenciar vozes marginalizadas” e descartou os programas de diversidade internos do Google como uma perda de tempo.


Relaxando em um Airbnb em Austin, Texas, na noite seguinte, Gebru recebeu uma mensagem com 😮 de um de seus subordinados diretos: “Você pediu demissão ??” Em sua caixa de entrada pessoal, ela encontrou um e-mail de Kacholia, rejeitando a oferta de Gebru e expulsando-a do Google. “Não podemos concordar com o que você está solicitando”, escreveu Kacholia. “O fim do seu emprego deve acontecer mais rápido do que o seu e-mail reflete.” Partes do e-mail de Gebru para a lista, ela continuou, mostraram “comportamento inconsistente com as expectativas de um gerente do Google”. Gebru tweetou que ela havia sido demitida. O Google afirmou - e ainda faz - que ela renunciou.


O tweet de Gebru acendeu o estopim em uma polêmica que rapidamente inflamou o Google. A empresa tem sido perseguida nos últimos anos por acusações de funcionários de que trata mal as mulheres e pessoas de cor, e de legisladores de que exerce um poder tecnológico e econômico prejudicial à saúde. Agora, o Google expulsou uma mulher negra que era uma defensora proeminente por mais diversidade em tecnologia e que era vista como uma importante voz interna para maior controle na corrida desordenada para desenvolver e implantar IA. Um pesquisador de aprendizado de máquina do Google que acompanhou os escritos de Gebru e o trabalho sobre diversidade sentiu a notícia de sua saída como um soco no estômago. “Foi tipo, ah, talvez as coisas não vão mudar tão facilmente”, disse o funcionário, que pediu para permanecer anônimo porque não estava autorizado a falar pela gerência do Google.


Dean enviou uma mensagem instando os Googlers a ignorar o apelo de Gebru para se desligar dos exercícios de diversidade corporativa; O artigo de Gebru estava abaixo da média, disse ele, e ela e seus colaboradores não seguiram o processo de aprovação adequado. Por sua vez, Gebru afirmou em tweets e entrevistas que havia sido derrubada por um coquetel tóxico de racismo, sexismo e censura. A simpatia pelo relato de Gebru cresceu à medida que o controverso artigo circulou como samizdat entre os pesquisadores de IA, muitos dos quais não o acharam nem polêmico nem particularmente notável. Milhares de Googlers e especialistas externos em IA assinaram uma carta pública criticando a empresa.

Mas o Google pareceu dobrar para baixo. Margaret Mitchell, a outra co-líder da equipe Ethical AI e uma pesquisadora proeminente por seu próprio mérito, foi uma das mais atingidas pela demissão de Gebru. Os dois tinham sido uma tag team profissional e emocional, construindo seu grupo - que foi um dos vários que trabalharam no que o Google chamou de "IA responsável" - enquanto evitava as tendências sexistas e racistas que viam em geral na cultura da empresa. Confiante de que essas mesmas forças tiveram um papel na queda de Gebru, Mitchell escreveu um script automatizado para recuperar notas que ela manteve em sua conta corporativa do Gmail que documentava incidentes supostamente discriminatórios, de acordo com fontes do Google. Em 20 de janeiro, o Google disse que Mitchell acionou um sistema de segurança interno e foi suspenso. Em 19 de fevereiro, ela foi demitida,

O Google já havia decapitado totalmente seu próprio grupo de pesquisa de IA ética. A longa e espetacular precipitação daquele ultimato de Ação de Graças a Gebru deixou incontáveis ​​espectadores se perguntando: Será que um jornal realmente precipitou todos esses eventos?


A história do que realmente aconteceu no período que antecedeu a saída de Gebru do Google revela um pano de fundo mais torturado e complexo. É a história de uma engenheira talentosa que foi varrida pela revolução da IA antes de se tornar uma de suas maiores críticas, uma refugiada que trabalhou seu caminho para o centro da indústria de tecnologia e se tornou determinada a reformá-la. É também sobre uma empresa - a quinta maior do mundo - tentando recuperar o equilíbrio após quatro anos de escândalos, controvérsias e motins, mas fazendo isso de maneiras que desequilibraram ainda mais o navio.


Além do Google, o destino de Timnit Gebru revela algo ainda maior: as tensões inerentes aos esforços de uma indústria para pesquisar as desvantagens de sua tecnologia favorita. Em setores tradicionais, como produtos químicos ou mineração, os pesquisadores que estudam a toxicidade ou a poluição com base no dinheiro da empresa são vistos com ceticismo por especialistas independentes. Mas no reino jovem de pessoas que estudam os danos potenciais da IA, os pesquisadores corporativos são fundamentais.


A carreira de Gebru refletiu o rápido crescimento da pesquisa de justiça da IA ​​e também alguns de seus paradoxos. Quase assim que o campo surgiu, ele rapidamente atraiu o apoio de gigantes como o Google, que patrocinava conferências, distribuía bolsas e contratava os especialistas mais proeminentes do domínio. Agora, a súbita ejeção de Gebru fez com que ela e outros se perguntassem se essa pesquisa, em sua forma domesticada, sempre estivera condenada a uma rédea curta. Para os pesquisadores, isso enviou uma mensagem perigosa: a IA é amplamente desregulamentada e está apenas se tornando mais poderosa e onipresente, e pessoas de dentro que são francas em estudar seus danos sociais o fazem correndo o risco de exílio.


EM ABRIL DE 1998, dois alunos de graduação de Stanford chamados Larry Page e Sergey Brin apresentaram um algoritmo chamado PageRank em uma conferência na Austrália. Um mês depois, estourou a guerra entre a Etiópia e a Eritreia, dando início a um conflito de fronteira de dois anos que deixou dezenas de milhares de mortos. O primeiro evento estabeleceu o domínio do Google na internet. O segundo colocou Timnit Gebru, de 15 anos, no caminho para trabalhar para a futura megacorp.

Na época, Gebru morava com a mãe, uma economista, na capital etíope de Addis Abeba. Seu pai, um engenheiro elétrico com doutorado, morreu quando ela era pequena. Gebru gostava da escola e de sair em cafés quando ela e suas amigas conseguiam juntar dinheiro suficiente no bolso. Mas a guerra mudou tudo isso. A família de Gebru era eritreia, e alguns de seus parentes estavam sendo deportados para a Eritreia e recrutados para lutar contra o país que eles haviam feito seu lar.

A mãe de Gebru tinha um visto para os Estados Unidos, onde as irmãs mais velhas de Gebru, engenheiras como o pai, moraram durante anos. Mas quando Gebru solicitou um visto, ela foi negada. Em vez disso, ela foi para a Irlanda, juntando-se a uma de suas irmãs, que estava lá temporariamente para trabalhar, enquanto sua mãe foi para a América sozinha.


Alguns de seus professores, Gebru descobriu, pareciam incapazes ou relutantes em aceitar que um refugiado africano pudesse ser um dos melhores alunos de matemática e ciências.

Alcançar a Irlanda pode ter salvado a vida de Gebru, mas também a destruiu. Ela ligou para a mãe e implorou para ser enviada de volta para a Etiópia. “Eu não me importo se é seguro ou não. Não posso morar aqui ”, disse ela. Sua nova escola, a cultura e até o clima eram alienantes. A estação chuvosa de Adis Abeba é staccato, com fortes chuvas intercaladas pelo sol. Na Irlanda, a chuva caiu continuamente por uma semana. Enquanto ela enfrentava os desafios adolescentes de novas aulas e bullying, preocupações maiores pressionavam. “Eu vou me reunir com minha família? O que acontece se a papelada não funcionar? ” ela se lembra de ter pensado. "Eu me senti indesejado."

No ano seguinte, Gebru foi aprovado para vir para os Estados Unidos como refugiado. Ela se reuniu com a mãe em Somerville, Massachusetts, um subúrbio predominantemente branco de Boston, onde se matriculou na escola pública local - e em um curso intensivo sobre racismo americano.

Alguns de seus professores, Gebru descobriu, pareciam incapazes ou relutantes em aceitar que um refugiado africano pudesse ser um dos melhores alunos de matemática e ciências. Outros americanos brancos acharam por bem confiar a ela sua crença de que os imigrantes africanos trabalhavam mais arduamente do que os afro-americanos, que consideravam preguiçosos. A aula de história contou uma história edificante sobre o Movimento dos Direitos Civis resolvendo as divisões raciais da América, mas essa história soou vazia. “Achei que não pudesse ser verdade, porque estou vendo isso na escola”, diz Gebru.


As aulas de piano ajudaram a criar um espaço onde ela pudesse respirar. Gebru também lidou com a matemática, física e sua família. Ela gostava do trabalho técnico, não apenas por sua beleza, mas porque era um reino desconectado da política pessoal ou das preocupações com a guerra em casa. Essa compartimentação passou a fazer parte da forma de navegar pelo mundo da Gebru. “O que eu tinha sob meu controle era poder ir para a aula e me concentrar no trabalho”, diz ela.

O foco de Gebru valeu a pena. Em setembro de 2001 ela se matriculou em Stanford. Naturalmente, ela escolheu o curso de família, engenharia elétrica, e em pouco tempo sua trajetória começou a incorporar o arquétipo do Vale do Silício do pioneiro imigrante. Para um curso durante seu primeiro ano, Gebru construiu uma tecla experimental de piano eletrônico, ajudando-a a ganhar um estágio na Apple fazendo circuitos de áudio para computadores Mac e outros produtos. No ano seguinte, ela foi trabalhar para a empresa em tempo integral, enquanto continuava seus estudos em Stanford.

Na Apple, a Gebru prosperou. Quando Niel Warren, seu empresário, precisava de alguém para cavar os moduladores delta-sigma, uma classe de conversores analógico-digital, Gebru se ofereceu, investigando se a tecnologia funcionaria no iPhone. “Como engenheira elétrica, ela era destemida”, diz Warren. Ele descobriu que seu novo hardware era muito querido, sempre pronto para um abraço e determinado fora do trabalho também. Em 2008, Gebru retirou-se de uma de suas aulas porque estava se dedicando muito ao trabalho de campanha para Barack Obama em Nevada e Colorado, onde muitas portas foram fechadas em sua cara.




5 visualizações0 comentário

Σχόλια

Βαθμολογήθηκε με 0 από 5 αστέρια.
Δεν υπάρχουν ακόμη βαθμολογίες

Προσθέστε μια βαθμολογία
bottom of page