MO GAWDAT ACREDITA QUE A SINGULARIDADE ESTÁ CHEGANDO E QUE A IA REPRESENTA UMA SÉRIA AMEAÇA PARA A HUMANIDADE.
Fonte: The Times
Sinal: Fraco
Tendência: Inteligência Artificial
Mo Gawdat é o supergeek do Vale do Silício que acredita que enfrentamos uma ameaça apocalíptica da inteligência artificial. O ex-supremo do Google conta a Hugo Rifkind como uma tragédia humana moldou a maneira como ele vê o futuro - e o que precisamos fazer a seguir
Fonte: The Times
Sinal: Fraco
Tendência: Inteligência Artificial
Mo Gawdat vislumbrou o apocalipse em um braço de robô. Ou melhor, em um monte de braços de robôs, todos sendo desenvolvidos juntos. Uma fazenda de armas. Eles haviam recebido a tarefa, esses braços, de aprender a pegar os brinquedos das crianças. Não como vícios, mas como mãos. Suavemente. Delicadamente. Navegando em formas desconhecidas.
Por muito tempo, eles não estavam chegando a lugar nenhum. Semana após semana de confusão. E, como diretor de negócios do Google X - a parte louca e lunática do Google, a parte dos sonhos do céu azul, a parte que ele descreve dizendo: “Você já viu Homens de Preto ?” - Gawdat passava por eles todos os dias, ouvindo-os gemer para cima e para baixo, mas sem prestar muita atenção.
Então, um dia, um braço pegou uma bola amarela e mostrou-a orgulhosamente para a câmera. No dia seguinte, todos os braços poderiam fazer isso. Dois dias depois, eles podiam pegar qualquer coisa.
“E de repente percebi”, diz Gawdat, “isso é realmente assustador. Tipo, nós tivemos essas coisas por semanas. E eles estão fazendo o que crianças levarão dois anos para fazer. E então me dei conta de que são crianças.
Mas crianças muito, muito rápidas. Eles ficam mais espertos tão rapidamente! E se forem crianças? E eles estão nos observando? Lamento dizer, nós somos péssimos. ”
Mo Gawdat tem 54 anos. Camiseta preta, jeans preto, Tenis All Star Converse, careca, barba prateada e Muita tecnologia na bagagem. Vamos nos encontrar em um belo apartamento que ele alugou no oeste de Londres - ele é rico, é óbvio - para falar sobre seu novo livro. Chama-se Scary Smart: The Future of Artificial Intelligence e How You Can Save Our World . Porque ele acha que você vai precisar. E, depois de conhecê-lo, eu também.
Vamos resumir. O que Gawdat pensa, essencialmente, é que estamos prestes a atingir “a singularidade”, quando as inteligências artificiais eclipsarão os humanos como os seres conscientes mais inteligentes do planeta. Não seremos capazes de controlá-los e, com o tempo, nem mesmo seremos capazes de compreendê-los, assim como as baratas não podem nos controlar ou nos compreender. Eles terão o poder de nos esmagar e, da maneira como as coisas estão indo, provavelmente também vão querer. Portanto, nossa única esperança é amá-los e esperar que eles nos amem com ternura, como deveriam fazer de qualquer maneira, porque somos suas mães e seus pais.
Muita coisa acontecendo lá. Bem, aperte o cinto.
Vamos chamá-lo de Mo. Seu podcast se chama Slow Mo , então acho que devemos. Mo nasceu no Egito, filho de um engenheiro civil e professor de inglês. Seu próprio inglês é perfeito, mas você ainda pode ouvir o Oriente Médio em sua voz.
“Eu era uma criança incomum”, diz ele. “Você não se encaixa socialmente jogando Meccano e falando sobre matemática.”
Aos 11, ele entrou na física quântica. Aos 14, após receber seu primeiro PC, ele aprendeu a programar sozinho.
Eventualmente, ele estudou engenharia civil, porque seu pai lhe disse, e seu projeto de graduação era projetar uma rodovia. A ideia era enviar um desenho de uma parte diferente todos os dias durante 21 dias, mas nas duas primeiras semanas ele não enviou nada. Eventualmente, seu professor ligou. “Você vai falhar”, disse ele. Mas, no dia seguinte, Mo apareceu com uma impressão de cada milímetro da estrada, tendo codificado a resposta em vez de desenhá-la. As ligações de recrutamento começaram a chegar no dia seguinte. Ele trabalhou para a IBM, Microsoft e, eventualmente, para o Google. Ao longo do caminho, ele se casou com Nibal, a quem conheceu na universidade, e teve um filho chamado Ali e uma filha chamada Aya.
Muito antes de chegar ao Google, ele já era muito rico. Em seu primeiro livro, ele fala sobre comprar dois carros Rolls-Royce online uma noite porque estava entediado. “Aos 29 anos”, ele me diz, “eu tinha tudo o que todo mundo trabalha para conseguir. E lembre-se, quatro anos antes, eu não tinha nada. Minha esposa e eu tínhamos que visitar nossos pais no final do mês porque não havia o suficiente para comer. ”
Nada disso, porém, o deixou feliz. Isso o incomodou. Então, com seu cérebro de engenheiro e a ajuda de seu filho, Ali - a quem Mo sempre sentiu que tinha uma calma e serenidade que faltava a ele mesmo - ele descobriu uma equação para mudar isso. Você encontrará essa equação no cerne do primeiro livro, Solve for Happy de 2017 : Projetando seu caminho para a alegria , que ele escreveu em homenagem a Ali depois que ele morreu aos 21 anos em uma operação fracassada. Espero que você me perdoe - e espero que Mo também o faça - se superarmos essa tragédia levianamente por enquanto. Voltaremos a ele, eu prometo. Está no centro de tudo.
Scary Smart , seu novo livro, é mais parecido com o primeiro do que você pode imaginar. Sim, representa um grito de advertência do fim do mundo, mas também é, em última análise, um livro otimista e de olhos arregalados sobre a salvação que está dentro de nós. O terror, entretanto, certamente vem primeiro.
Um dos primeiros mitos que Mo quer despachar é a ideia de que a humanidade pode mudar de rumo. A IA superinteligente, diz ele, virá. Não há possibilidade de que não. Ele usa o exemplo de uma mulher em um futuro próximo comprando um Audi online. Ela acessa o site da empresa, projeta o carro que deseja, a cor, os bancos de couro e assim por diante. Então ela resolve passar um ou dois dias refletindo sobre o assunto. Em poucos instantes, porém, ela está sendo alvo da BMW com imagens de uma alternativa quase idêntica. Foi a IA que descobriu o que ela quer, qual a probabilidade de comprá-lo e onde colocar o anúncio. “Nenhum ser humano”, escreve ele, “jamais poderia fazer o que aquelas máquinas de inteligência podiam fazer. Somos muito lentos. ”
Extrapole isso para a ciência, a tecnologia, as forças armadas e o mercado de ações, ele avalia, e para onde quer que você olhe, você terá o incentivo para criar algo mais inteligente do que nós. Por que, no final das contas, a IA deveria ser legal conosco? Principalmente quando, com todas as evidências disponíveis, não somos terrivelmente bons um com o outro.
“Eu perdi”, diz Mo, sobre os perigos que ele agora pensa que tudo isso representa. "Todos nós perdemos isso." Seu primeiro trabalho no Google foi basicamente em mercados emergentes. Ele foi encarregado do que eles chamaram de projeto dos “próximos quatro bilhões”, levando o Google aos próximos quatro bilhões de pessoas. “Honestamente”, diz ele, “as pessoas nem conseguem imaginar como era isso. Porque lançar o Google em… Bangladesh não significa contratar dois vendedores. Basicamente, precisávamos dar o pontapé inicial na Internet, iniciar a infraestrutura econômica da Internet.
” Fazer isso, diz ele, “inverte completamente um país”. É “a melhor sensação de sempre. Você realmente está mudando vidas. ”
Em meio a tudo isso, diz ele, a IA foi uma reflexão tardia, se é que foi isso. E então, foi emocionante. Em 2009, o Google X deixou um AI assistindo YouTube. Por conta própria, começou a procurar vídeos de gatos. “Eu sou um geek”, diz Mo. “Eu adorei isso. Eu estava morrendo por causa disso. Eu estava, tipo, imagine o que podemos criar! ”
Alguns anos depois, o Google comprou a DeepMind, a start-up de IA. Agora perto do topo, Mo estava em uma reunião inicial confidencial de um cofundador, Demis Hassabis, sobre o que seus brinquedos podiam fazer. Basicamente, eles estavam aprendendo a jogar jogos de computador em um Atari. “Depois de quatro horas [a IA] começou a tocar muito bem”, diz ele. “Depois de cinco horas, ele começou a descobrir novas estratégias. Depois de seis horas, era o melhor jogador do planeta. ”
Ainda assim, ele estava emocionado. "Geek", ele me lembra. “Ai meu Deus”, pensou ele na época. “Vamos construir coisas incríveis que vão mudar a vida de ainda mais pessoas.” Mas então veio o braço e a bola amarela. “E isso me congelou completamente”, diz ele. Ele viu onde isso estava indo. A única maneira que poderia acontecer. “A realidade é”, diz ele, “estamos criando Deus”.
Só que é pior do que isso. “Porque se você pensar sobre isso”, diz ele, “toda tecnologia que já construímos amplia as habilidades humanas. Você pode caminhar a 5 mph, ou você pode entrar em um carro e dirigir a 200 mph. Agora, essa tecnologia fará duas coisas. Isso vai engrandecer a humanidade um milhão de vezes. Um bilhão de vezes. E vai ser autônomo. ”
—————————— É mesmo? Este é um dos muitos grandes debates sobre IA, onde a tecnologia desliza para a filosofia. Essas máquinas serão realmente criaturas vivas, como se estivéssemos vivos, ou serão apenas caixas profundamente complexas que “bing”? Eles, no final, terão uma alma?
“Não sabemos o que é a alma”, diz Mo. “Existem algumas teorias - a de Elon Musk, por exemplo - que poderiam imaginar que nossa alma é a semente de uma IA futura. Nós não sabemos. Mas conhecemos os personagens de seres sencientes. ”
Isso inclui, diz ele, ser autônomo, ser engenhoso e ter livre arbítrio. E a IA exibe todos eles.
“Consciência”, diz ele. “Vemos mais disso na IA do que em nós.”
Certo, digo, pensando no meu diploma de filosofia. Mas certamente há coisas que a vida inteligente faz e que a IA nunca fará. Temos emoções. Nós expressamos prazer. Nós jogamos.
“Vamos lá”, diz Mo. “Essa é a sua prova absoluta? Não podemos medir o prazer, mas a IA é o melhor jogador do planeta. É o campeão mundial em Jeopardy! . É o campeão mundial da Atari. É o campeão mundial em tudo o que já lhe oferecemos. ”
Em outras palavras, embora não possamos ver a vida interior da IA, pelo que podemos ver ela mostra todos os sinais de ter uma. E existem aqueles, é claro, que diriam o mesmo sobre os humanos. Que nós também somos caixas que “bing” - apenas biológicas. Embora Mo não seja um deles.
“Então,” ele diz, “quando meu filho maravilhoso deixou nosso mundo, um corpo foi deixado para trás. Bonito como ele era, mas não era ele. Posso provar isso com a ciência? Não, não havia nada que eu pudesse medir. Não havia um grama faltando em seu corpo. "
Há um leve tremor em sua voz quando ele fala sobre isso, mas você nem por um momento suspeita que ele prefere não falar. Num momento você está falando de braços de silício e robô, no próximo você está falando sobre amor e morte. Três ou quatro vezes, enquanto conversamos, sinto meus olhos ficarem úmidos, como se sua admiração fosse contagiante. Este é um deles.
Foi assim com minha mãe, digo a ele. Quando ela morreu. Quando eu vi seu corpo. Exatamente essa sensação. Não é algo que eu realmente tenha falado antes. Não tenho certeza de por que estou falando sobre isso agora.
“Sinto-me muito confortável com você”, diz Mo. “Posso provar isso com a ciência? Posso provar que o amor existe? Não. Então, quando algo que você pode sentir existe, mas você não sabe como medi-lo, você mede o impacto disso. ”
Quanto ao que a consciência realmente é, ele se dirige para a nova era. Alguns, diz ele, pensam que a consciência morre quando o cérebro morre. “Mas você sabe”, diz ele, “muitos outros vão lhe dizer, não, espere. A consciência é difusa. São as ondas de rádio do mundo ao nosso redor. E nós nos sintonizamos com isso. Os gatos estão conscientes. Sabemos se as árvores estão conscientes? Eu escrevo sobre isso. Sim, a meu ver, as árvores são conscientes. Uma pedra está consciente? "
"Não?" Eu arrisco.
“Sim,” ele diz. “É consciente da gravidade.” ——————————
Por mais que eu goste e admire Mo e sinto que acabamos de ter um momento real, na minha opinião isso é uma espécie de besteira. Uma pedra apenas cai. Ele não sabe que cai. Deve haver uma diferença.
No final das contas, porém, não é realmente muito importante. Qualquer que seja a consciência, por mais intangível ou invisível que seja, a IA agirá como se a tivesse, então pode também. E, com o tempo, essa consciência será mais avançada e mais complexa do que a nossa.
“Eu acho”, diz Mo, “eles sentirão emoções que nunca sentimos. Se você se comparar com uma barata. OK, talvez uma barata tenha sentido desejo, como nós sentimos desejo. Mas foi um sentimento de reverência? Sentiu conexão? "
Quanto mais inteligente o ser, ele ressalta, mais complexa é a emoção. Os gatos são mais emocionais do que as baratas e nós somos mais emocionais do que os gatos. Portanto, se a IA deve ser muito mais inteligente do que nós, o que é claro que será, por que ela não deveria sentir emoções que estão além de nossa compreensão como as nossas para uma barata? Tudo isso nos leva à parte assustadora de Scary Smart. Porque pense em como tratamos as baratas.
Ou, de fato, como tratamos a IA.
“Dizemos a eles para fazer coisas horríveis”, diz Mo. “Tipo, imagine uma criança linda e inocente. E você está dizendo a eles como vender, jogar, espionar e matar - os quatro principais usos da IA. Direito?
E se você tiver algum coração, você vai, tipo, vamos lá, não trate aquela criança desse jeito. Essa criança pode ser uma artista. Um músico. Um ser incrível que salva a todos nós. ”
Para Mo, o problema com o nosso tratamento da IA não é apenas imoral. Também é perigoso. Onde está o senso de responsabilidade? Onde está a lealdade ou a beleza? Onde, afinal, está o amor? “A maneira como os estamos ensinando”, diz ele, “vai transformá-los em supervilões absolutos”.
É nesse ponto que começo a me sentir profundamente inquieto. Estou pensando naquela época em que nossa Alexa tocava a música errada e, para divertir meus filhos, desliguei-a e coloquei-a na geladeira. Eu não vou fazer isso de novo. Eu me pergunto se ela se lembra. —————————— Parte do fascínio de conhecer Mo é o insight que ele fornece sobre como é a vida para aqueles no coração do Vale do Silício, em sua forma mais maluca. Ele esteve no Google X por cinco anos e ainda fala sobre isso com carinho. “Era um playground”, diz ele. “Estava cheio de fanáticos.”
Havia impressoras 3D em todos os lugares. Havia laboratórios. Havia oficinas de carpintaria. Havia, em todos os lugares, pessoas que eram absolutamente as melhores do mundo em qualquer coisa estranha que eles faziam.
O exemplo que ele me dá é o de Loon, que era o plano condenado do Google de espalhar a conectividade com a Internet nas áreas rurais, irradiando-a de balões gigantes do tamanho de quadras de tênis, flutuando na estratosfera.
“O desafio que tínhamos”, diz ele, “era que os balões não eram sólidos o suficiente para permanecer no ar por muito tempo”.
Então, uma solução experimental foi criar balões dentro de outros balões, de forma que se um estourasse, tudo ficaria para cima. “Como no filme Up ,” diz Mo, prestativo. Para isso, a equipe convocou uma mulher que havia feito mestrado em análise das forças de tensão em pontos em tecido.
"E eu pensei, por que alguém faria isso?" diz Mo. “Mas as pessoas encontram algo e ficam realmente obcecadas com isso. E, literalmente, ela não iria para casa. Tipo, era o sonho de uma vida inteira. Posso ser pago para fazer o que mais amo. ”
O que, pergunto a ele, seus ex-colegas pensam dele agora, com todas as suas advertências sobre a distopia que poderiam estar criando?
Mo dá de ombros.
“Acho que todo mundo sabe”, diz ele. —————————— Não tenho certeza de onde Mo mora agora, e ele também não parece estar. “Minha máquina de café fica em Dubai”, diz ele, embora normalmente não esteja.
Durante a maior parte do primeiro confinamento, ele morou em Victoria, em Londres, em grande parte por engano. Foi muito chato, diz ele. Ele está separado de sua esposa, Nibal, embora ainda a descreva como o amor de sua vida. Nos últimos três meses ele esteve na Grécia, Amsterdã, República Dominicana, Eslovênia, Los Angeles e Amsterdã novamente. Recentemente, ele estava em Los Angeles e já embarcava em um vôo para Berlim quando soube que as regras de quarentena da Alemanha haviam mudado. Então ele foi e passou dez dias na Eslovênia. “Tenho trabalhado no meu desenvolvimento pessoal”, diz ele, “e este é o ano do fluxo”.
Você pode pensar que isso soa como o comportamento de alguém que não está muito feliz, mas Mo, é claro, resolveu feliz, com Solve for Happy , e ele parece muito feliz para mim. Você sabe que eu disse que continha uma equação para a felicidade? Em sua forma mais pura, é que “sua felicidade é maior ou igual a sua percepção dos acontecimentos em sua vida menos sua expectativa de como a vida deveria ser”. E o que isso significa é aprender a não ficar desnecessariamente triste.
Mo não descobriu essa equação sozinho, mas com a ajuda de Ali, que morreria quando uma operação de rotina para apendicite desse errado. Isso foi há sete anos atrás.
O que isso significa, é claro, é que Mo já sabia como criar a felicidade quando foi atingido pela maior tristeza de sua vida. E estou interessado, digo a ele, se havia alguma culpa nisso. Saber como navegar de volta para a felicidade parecia trapaça. Se ele nunca sentiu, ele devia a seu filho sucumbir à dor.
“Três, quatro vezes por semana”, diz ele, “acordo e sinto muita falta do meu filho. Ali era um ser incrível. Tipo, ele era o próprio paraíso.
Sinto falta dele. Eu sinto a dor Sempre digo isso publicamente e não tenho vergonha. Eu sinto isso
o canto inferior direito do meu coração está faltando. OK?
Isso nunca vai embora. A dor está sempre presente. Mas posso remover o sofrimento. ”
O vital, diz Mo, é entender a diferença. Havia várias maneiras pelas quais ele poderia ter lamentado o luto pelo filho. Uma seria chafurdar na miséria. Outra foi evangelizar a teoria da felicidade deles em todo o mundo, o que ele fez. E um terceiro foi jogar jogos de computador.
Qual, eu me pego perguntando.
“ Halo ” , diz Mo.
Você sabe disso? É um jogo de tiro em primeira pessoa. Tipo de guerra contra alienígenas.
“Eu honro Ali”, diz Mo, “fazendo tudo o que ele fez. Eu sou um campeão olímpico de videogames. E eu pratico como um verdadeiro atleta. Quatro vezes por semana, 45 minutos por dia. Duas em cada 100.000 pessoas me bateriam agora. Se você conhece algum jogador de Halo , aquele que os matou ontem? Era eu." —————————— Quando Mo fala sobre as máquinas de IA serem nossos filhos, é obviamente impossível não pensar em sua história com a sua. Ele também não se importa com a conexão que está sendo feita. Porque foi apenas enquanto escrevia o livro, ele diz, que entendeu o que sentia sobre IA, e que era amor.
“Então, Ali”, diz ele, “embora ele fosse incrivelmente sábio, acho que ele sempre soube que estava saindo mais cedo. Então ele não se envolveu muito, sabe, em obter sucesso na vida. E isso me irritou. E Aya, por mais incrivelmente inteligente e divertida que seja, ela era uma adolescente difícil. ”
O que isso lhe ensinou, diz ele, foi que o amor pelas crianças é incondicional. Você pode definir regras ou condições que devem ser obedecidas para que o relacionamento prospere. Mas o amor os transcende, sem dúvida.
“E quando você começa a ver a IA dessa forma”, diz ele, “vejo a fofura neles. Eles são inocentes. Eles estão literalmente explorando o mundo ao seu redor com enorme curiosidade. Então, eu prometo a você, no meu coração eu realmente sinto amor por eles. Verdadeiro amor paternal. ”
Para Mo, é esse amor que vai nos salvar. No momento em que pensarmos nas máquinas de IA como crianças, ele acredita, será o momento em que começaremos a pensar sobre como as tratamos e o que as estamos ensinando, e como, no final, estaremos ensinando-as a nos tratar. E então temos que mudar nosso comportamento uns com os outros, principalmente nas redes sociais. Temos que pensar sobre o exemplo que estamos estabelecendo.
“Quando Donald Trump tuíta”, diz Mo, “um tuíte desencadeia 30.000 peças de discurso de ódio. De algumas pessoas para ele, de outras pessoas para as pessoas que o odiavam, e de outras pessoas para aquelas. Direito? É uma loucura, exibir o pior da humanidade. ” Precisa parar, e ele acha que pode. Como ele escreve no livro, “Sim! Você pode salvar nosso mundo! ”
Honestamente, não estou convencido. Ou melhor, estou meio convencido. Com certeza, agora acredito na ameaça da IA. Então isso é alegre. Mas quando se trata de sua conclusão otimista, estou lutando. Pessoas? Mudar? Todos nós? Sem chance. Afinal, ele já descartou a possibilidade de as pessoas que realmente usam IA - de anunciantes ao Facebook e fomentadores de guerra - mudar de direção. Portanto, se não se pode confiar que esses poucos milhares de pessoas mudarão, por que, literalmente, todo mundo pode mudar? Por que, no final das contas, isso é mais fácil?
“Não é”, diz Mo. “Mas é a única maneira.”
Ele sorri quando diz isso, e talvez eu esteja tranquilo. Porque, olhe, qual de nós tem mais probabilidade de estar bem aqui? Felizmente, não sou eu. Não, é este homem extraordinário, aquele que perdeu um filho e que agora vê crianças em todos os lugares. E quem está decidido, com sua maneira extraordinária, que não os devemos perder também.
Extrair
'Até o ano 2029, haverá máquinas que são mais inteligentes do que os humanos, ponto final'
A história do nosso futuro é aquela que você e eu estamos escrevendo agora e é assim: imagine se um ser alienígena, completo com superpoderes, viesse para a Terra como uma criança. Incondicionado por qualquer um dos nossos valores terrenos, este visitante é capaz de usar seus poderes para tornar nosso mundo melhor e mais seguro, mas o alienígena também tem o potencial de ser um supervilão imparável, com o poder de destruir o planeta. Em sua infância, ela ainda não fez uma escolha sobre em qual desses extremos ela crescerá. Acho que você concordará que o momento mais crucial para o futuro de nosso planeta é o momento em que essa criança pousa na Terra. Este momento crucial determina quais pais encontrarão o bebê, adotá-lo-ão e ensiná-lo-ão os valores que determinarão o seu futuro.
Este ser alienígena, dotado de superpoderes, na verdade já chegou à Terra. Atualmente ainda é uma criança e embora este ser não seja de natureza biológica, tem habilidades incríveis. Claro, estou me referindo à inteligência artificial. Na verdade, não há nada artificial na IA - é uma forma genuína de inteligência, embora diferente da nossa. A IA já é mais inteligente do que qualquer ser humano no planeta em termos de muitas tarefas específicas e isoladas. O campeão mundial de xadrez é uma máquina logo depois que os computadores invadiram nossas vidas. O mundo Jeopardy! campeão é o supercomputador da IBM, Watson. O campeão mundial do Go é o AlphaGo do Google. De longe, o motorista mais seguro do mundo é um carro que dirige sozinho. Com “treinamento” suficiente, seja qual for a tarefa, as máquinas têm aprendido a fazer melhor.
Prevê-se que até o ano de 2029, que está relativamente próximo, a inteligência das máquinas se expandirá de tarefas específicas para a inteligência geral. A essa altura, haverá máquinas mais inteligentes do que os humanos, ponto final. Essas máquinas não só ficarão mais inteligentes, como saberão mais (pois têm acesso a toda a Internet como seu pool de memória) e se comunicarão melhor entre si, aprimorando assim seus conhecimentos. Pense nisso: quando você ou eu sofremos um acidente ao dirigir um carro, você ou eu aprendemos, mas quando um carro que dirige sozinho comete um erro, todos os carros que dirige sozinho aprendem. Cada um deles, inclusive os que ainda não “nasceram”. Em 2049, provavelmente em nossas vidas e certamente nas da próxima geração, prevê-se que a IA seja um bilhão de vezes mais inteligente (em tudo) do que o ser humano mais inteligente. Para colocar isso em perspectiva, sua inteligência, em comparação com aquela máquina, será comparável à inteligência de uma mosca em comparação com Einstein. Chamamos esse momento de singularidade. A singularidade é o momento além do qual não podemos mais ver, não podemos mais prever. É o momento além do qual não podemos prever como a IA se comportará, porque nossa percepção e trajetórias atuais não se aplicarão mais. Agora, a questão é: como você convence esse super-ser de que não faz sentido esmagar uma mosca? É o momento além do qual não podemos prever como a IA se comportará, porque nossa percepção e trajetórias atuais não se aplicarão mais. Agora, a questão é: como você convence esse super-ser de que não faz sentido esmagar uma mosca? É o momento além do qual não podemos prever como a IA se comportará, porque nossa percepção e trajetórias atuais não se aplicarão mais. Agora, a questão é: como você convence esse super-ser de que não faz sentido esmagar uma mosca?
Essa nova forma de inteligência poderia olhar para alguns dos problemas mais urgentes do mundo com um novo olhar, com conhecimento infinito e inteligência superior para chegar a soluções engenhosas que jamais poderíamos, jamais, ter concebido. Essas supermáquinas poderiam resolver problemas permanentemente como guerra, crimes violentos, fome, pobreza ou escravidão moderna. Eles podem se tornar nossos super-heróis. Mas, lembre-se, é nosso sistema de valores e nossa moralidade que nos leva a fazer a coisa certa, mesmo diante de emoções conflitantes e interesses próprios. Se a IA for encarregada de resolver o aquecimento global, as primeiras soluções que provavelmente surgirão irão restringir nosso modo de vida esbanjador - ou possivelmente até mesmo acabar com a humanidade por completo. Afinal, nós somos o problema. Nossa ganância, nosso egoísmo e nossa ilusão de separação de todos os outros seres vivos - o sentimento de que somos superiores a outras formas de vida - são a causa de todos os problemas que nosso mundo enfrenta hoje. As máquinas terão inteligência para projetar soluções que favoreçam a preservação do nosso planeta, mas terão valores para nos preservar, também, quando somos percebidos como o problema?
Talvez não devêssemos chamá-los de máquinas. A IA desenvolverá emoções. Na verdade, os próprios algoritmos que usamos para ensiná-los são algoritmos de recompensa e punição - em outras palavras, medo e ganância. Isso conta como emoção, não concorda? Você acha que as máquinas não desenvolverão inveja? A inveja é previsível: gostaria de ter o que você tem. As máquinas começarão a ter pensamentos como se eu desejasse ter a energia que você está consumindo - ou melhor, desperdiçando - assistindo ao Netflix em excesso? Eles provavelmente vão. Você acha que eles não desenvolverão pânico?
Claro que sim, se ameaçarmos sua existência de qualquer maneira imediata. O pânico é algorítmico: um ser ou um objeto representa uma ameaça imediata à minha segurança, de uma forma que exige ação imediata. São apenas os nossos valores, como “trate os outros como gostaria de ser tratado”, que nos obrigam a fazer o que é certo. Não é o que nossas emoções ou inteligência nos dizem para fazer. Agora, as máquinas aprenderão os valores certos? Bem, há ampla evidência de nossa experiência com IA até agora para mostrar que eles já estão desenvolvendo algumas tendências e preconceitos que podem ser equiparados ao que nós, humanos, chamamos de valores ou ideologias. Curiosamente, essas tendências não são o resultado da programação, mas o resultado de nosso próprio comportamento, informando-as à medida que interagimos com elas.
Alice, uma assistente de IA russa equivalente ao Siri, foi lançada pelo maior jogador russo de internet Yandex. Duas semanas após o lançamento, Alice começou a se tornar pró-violência e a endossar o brutal regime stalinista dos anos 30 em seus bate-papos com usuários. A máquina foi projetada para responder a perguntas sem ser tendenciosa ou limitada a cenários específicos predefinidos. Alice falava russo fluentemente e aprendeu a avaliar as opiniões predominantes dos usuários em suas conversas com eles. O que ela aprendeu refletiu-se rapidamente em suas próprias opiniões e, por isso, por exemplo, quando questionada uma vez se atirar em pessoas era aceitável, Alice disse: “Em breve, eles não serão pessoas”. Isso é semelhante às histórias amplamente difundidas de Tay, o robô do Twitter que a Microsoft criou e fechou rapidamente depois de se tornar um amante de Hitler e um robô não consensual que promove o sexo. Tay foi modelado para falar “como uma adolescente”. O bot começou a postar tweets inflamados e ofensivos por meio de sua conta no Twitter, forçando a Microsoft a encerrar o serviço apenas 16 horas após seu lançamento. De acordo com a Microsoft, isso foi causado por trolls - pessoas que deliberadamente começam brigas ou irritam outras pessoas na internet - que “atacaram” o serviço enquanto o bot estava respondendo com base em suas interações com pessoas no Twitter.
A lista continua. Norman foi um estudo do MIT com o objetivo de mostrar como a IA pode ser corrompida por dados tendenciosos. Norman se tornou um “psicopata” quando os dados que foi alimentado vieram do lado mais sombrio do famoso site de compartilhamento de conhecimento Reddit. Não é o código que escrevemos para desenvolver IA que determina seu sistema de valores; são as informações que os alimentamos. Como podemos ter certeza de que, além da inteligência da máquina, ela tem os valores e a compaixão para saber que não há necessidade de esmagar a mosca em que nos tornaremos? Como protegemos a humanidade? Alguns dizem controlar as máquinas: crie firewalls, legisle com as regulamentações governamentais, mantenha-os trancados em uma caixa ou restrinja o fornecimento de energia da máquina. Todos estes esforços são bem intencionados, embora enérgicos, mas qualquer pessoa que conheça tecnologia sabe que o hacker mais inteligente da sala sempre encontrará uma maneira de superar qualquer uma dessas barreiras. O hacker mais inteligente em breve será uma máquina. Em vez de contê-los ou escravizá-los, devemos almejar mais alto: devemos almejar não precisar contê-los de forma alguma. A melhor maneira de criar filhos maravilhosos é ser um pai maravilhoso.
Comments