E estudantes universitários estão desenvolvendo as armas, construindo rapidamente ferramentas que identificam textos gerados por IA – e ferramentas para evitar a detecção.
EDWARD TIAN não pensa em si mesmo como um escritor. Como estudante de ciência da computação em Princeton, ele teve algumas aulas de jornalismo, onde aprendeu o básico da reportagem, e seu afeto alegre e sua curiosidade de funileiro o tornaram querido por seus professores e colegas de classe. Mas ele descreve seu estilo de escrita na época como “muito ruim” – estereotipado e desajeitado. Um de seus professores de jornalismo disse que Tian era bom em “reconhecimento de padrões”, o que era útil na produção de textos noticiosos. Então Tian ficou surpreso quando, no segundo ano, conseguiu garantir uma vaga no seminário exclusivo de redação de não-ficção de John McPhee.
Toda semana, 16 estudantes se reuniam para ouvir o lendário escritor nova-iorquino dissecar seu ofício. McPhee atribuiu exercícios que os forçavam a pensar rigorosamente sobre as palavras: descrever uma obra de arte moderna no campus ou reduzir o comprimento do discurso de Gettysburg. Usando um projetor e slides, McPhee compartilhou diagramas desenhados à mão que ilustravam diferentes maneiras como ele estruturou seus próprios ensaios: uma linha reta, um triângulo, uma espiral. Tian se lembra de McPhee dizendo que não poderia dizer a seus alunos como escrever, mas poderia pelo menos ajudá-los a encontrar sua voz única.
Se McPhee alimentou uma visão romântica da linguagem em Tian, a ciência da computação ofereceu uma perspectiva diferente: a linguagem como estatística. Durante a pandemia, ele tirou um ano de folga para trabalhar na BBC e estagiou no Bellingcat , um projeto de jornalismo de código aberto , onde escreveu código para detectar bots do Twitter. No terceiro ano, ele teve aulas sobre aprendizado de máquina e processamento de linguagem natural. E no outono de 2022, ele começou a trabalhar em sua tese sênior sobre a detecção das diferenças entre textos gerados por IA e textos escritos por humanos.
Quando o ChatGPT estreou em novembro, Tian se viu em uma posição incomum. Enquanto o mundo enlouquecia com esse novo chatbot radicalmente aprimorado, Tian já estava familiarizado com a tecnologia GPT-3 subjacente. E como jornalista que trabalhou na erradicação de campanhas de desinformação, ele compreendeu as implicações do conteúdo gerado pela IA para a indústria.
Enquanto estava em Toronto nas férias de inverno, Tian começou a brincar com um novo programa: um detector ChatGPT. Ele postou em seu café favorito, bebendo chá de jasmim, e ficou acordado até tarde programando em seu quarto. Sua ideia era simples. O software examinaria um trecho de texto em busca de dois fatores: “perplexidade”, a aleatoriedade da escolha das palavras; e “explosão”, a complexidade ou variação de frases. A escrita humana tende a ter uma classificação mais alta do que a escrita de IA em ambas as métricas, o que permitiu a Tian adivinhar como um trecho de texto foi criado. Tian chamou a ferramenta de GPTZero—o “zero” sinalizava a verdade, um retorno ao básico — e ele o colocou online na noite de 2 de janeiro. Ele postou um link no Twitter com uma breve introdução. O objetivo era combater o “crescente plágio de IA”, escreveu ele. “Os professores do ensino médio vão querer que os alunos usem o ChatGPT para escrever suas redações de história? Provavelmente não. Então ele foi para a cama.
Tian acordou na manhã seguinte com centenas de retuítes e respostas. Havia tanto tráfego no servidor host que muitos usuários não conseguiam acessá-lo. “Foi uma loucura total”, diz Tian. “Meu telefone estava explodindo.” Um amigo o parabenizou pela conquista da internet. Os adolescentes no TikTok o chamavam de narcotraficante. “Grande parte do ódio inicial era tipo: 'Esse garoto é um informante, ele não tem uma vida, ele nunca teve uma namorada'”, diz Tian com um sorriso. “Coisas clássicas.” (Tian tem namorada.) Em poucos dias, ele recebia ligações de jornalistas de todo o mundo, eventualmente aparecendo em tudo, desde NPR ao South China Morning Post e Anderson Cooper 360 . Em uma semana, seu tweet original alcançou mais de 7 milhões de visualizações.
GPTZero foi uma nova reviravolta na narrativa da mídia em torno do ChatGPT, que inspirou a preocupação em todo o setor e um flagelo de ledes gerados por IA. (Os pesquisadores criaram um detector para texto GPT-2 em 2019, mas o de Tian foi o primeiro a atingir o ChatGPT.) Os professores agradeceram a Tian por seu trabalho, gratos por finalmente terem conseguido provar suas suspeitas sobre redações duvidosas dos alunos. A humanidade encontrou seu salvador após a aquisição do robô?
O programa de Tian foi uma espécie de tiro de partida. A corrida agora começou para criar a ferramenta definitiva de detecção de IA. Num mundo cada vez mais saturado com conteúdo gerado por IA, pensava-se, precisaremos distinguir o que é feito pela máquina do que é feito pelo homem. GPTZero representou uma promessa de que será realmente possível distinguir um do outro e uma convicção de que a diferença é importante. Durante a sua digressão mediática, Tian – sorridente, sério, o estudante A encarnado – elaborou esta visão tranquilizadora de que, por mais sofisticadas que sejam as ferramentas generativas de IA, seremos sempre capazes de desmascará-las. Há algo de irredutível na escrita humana, disse Tian: “Ela tem um elemento que nunca pode ser expresso em números”.
A VIDA NOa Internet sempre foi uma batalha entre falsificadores e detectores de falsificações, com ambos os lados lucrando com o confronto. Os primeiros filtros de spam selecionavam e-mails em busca de palavras-chave, bloqueando mensagens com frases como “GRÁTIS!” ou “ter mais de 21 anos” e eventualmente aprenderam a filtrar estilos inteiros de escrita. Os spammers responderam cercando suas propostas com trechos de linguagem de aparência humana retirados de livros antigos e misturados. (Esse tipo de mensagem, apelidada de “litspam”, tornou-se um gênero em si.) À medida que os mecanismos de pesquisa se tornaram mais populares, os criadores que buscavam aumentar a classificação de suas páginas recorreram ao “excesso de palavras-chave” – repetindo a mesma palavra indefinidamente – para obter prioridade. Os motores de busca reagiram rebaixando esses sites. Depois que o Google introduziu seu algoritmo PageRank, que favorecia sites com muitos links de entrada,
Por volta da virada do milênio, a ferramenta captcha chegou para separar humanos de bots com base em sua capacidade de interpretar imagens de texto distorcido. Depois que alguns bots conseguiram lidar com isso, o captcha adicionou outros métodos de detecção que incluíam a análise de imagens de motos e trens, bem como a detecção do movimento do mouse e outros comportamentos do usuário. (Em um teste recente, uma versão inicial do GPT-4 mostrou que ele sabia como contratar uma pessoa no Taskrabbit para completar um captcha em seu nome.) O destino de empresas inteiras dependeu da questão de detectar falsificações: Elon Musk, na tentativa de escapar de seu acordo para comprar o Twitter, citou um detector de bots para reforçar seu argumento de que o Twitter deturpou o número de bots em seu site.
A IA generativa aumentou a aposta. Embora grandes modelos de linguagem e geradores de texto para imagem tenham evoluído constantemente ao longo da última década, 2022 viu uma explosão de ferramentas amigáveis ao consumidor, como ChatGPT e Dall-E. Os pessimistas argumentam que em breve poderemos afogar-nos num tsunami de meios de comunicação sintéticos. “Em alguns anos, a grande maioria das fotos, vídeos e textos que encontramos na Internet poderão ser gerados por IA”, alertou Kevin Roose, colunista de tecnologia do New York Times, no ano passado. O Atlântico imaginou um iminente “ apocalipse textual”enquanto lutamos para filtrar o ruído gerador. As campanhas políticas estão aproveitando as ferramentas de IA para criar anúncios, enquanto a Amazon é inundada com livros escritos pelo ChatGPT (muitos deles sobre IA). Percorrer as análises de produtos já parece o teste de Turing mais irritante do mundo. O próximo passo parece claro: se você achou que os e-mails do príncipe nigeriano eram ruins, espere até ver os chatbots do príncipe nigeriano.
Logo depois que Tian lançou o GPTZero, uma onda de produtos semelhantes apareceu. A OpenAI lançou sua própria ferramenta de detecção no final de janeiro, enquanto a Turnitin, gigante antiplágio, revelou um classificador em abril. Todos eles compartilhavam uma metodologia básica, mas cada modelo foi treinado em conjuntos de dados diferentes. (Por exemplo, a Turnitin concentrou-se na escrita dos alunos.) Como resultado, a precisão variou enormemente, desde a afirmação da OpenAI de 26 por cento de precisão para detectar texto escrito por IA, até à afirmação mais optimista de uma empresa chamada Winston AI de 99,6 por cento. Para se manter à frente da concorrência, a Tian teria que continuar melhorando o GPTZero, criar seu próximo produto e, enquanto isso, terminar a faculdade.
Imediatamente, Tian recrutou seu amigo de colégio Alex Cui como CTO e, nas semanas seguintes, contratou alguns programadores de Princeton e do Canadá. Depois, na primavera, ele integrou um trio de programadores de Uganda, que conhecera quatro anos antes, enquanto trabalhava para uma startup que treina engenheiros na África. (Cidadão global, Tian nasceu em Tóquio e viveu em Pequim até os 4 anos de idade, antes de seus pais, ambos engenheiros chineses, mudarem a família para Ontário.) Juntos, a equipe começou a trabalhar em seu próximo aplicativo: um plug-in do Chrome que faria a varredura o texto de uma página da web e determinar se ele foi gerado por IA.
Outra ameaça ao GPTZero foi o GPTZero. Quase imediatamente após seu lançamento, os céticos nas redes sociais começaram a postar exemplos embaraçosos da ferramenta classificando incorretamente os textos. Alguém apontou que ele sinalizou partes da Constituição dos EUA como possivelmente escritas por IA. A zombaria deu lugar à indignação quando histórias de estudantes falsamente acusados de trapaça devido ao GPTZero começaram a inundar o Reddit. A certa altura, o pai de um desses estudantes procurou Soheil Feizi, professor de ciência da computação na Universidade de Maryland. “Eles ficaram realmente furiosos”, disse Feizi. No outono passado, antes da estreia do GPTZero, Feizi e alguns outros colegas de Maryland começaram a montar um projeto de pesquisa sobre os problemas com detectores de IA, que ele suspeitava que poderiam não ser confiáveis. Agora o GPTZero e seus imitadores o fizeram pensar que poderiam fazer mais mal do que bem.
Outra dor de cabeça para Tian foi o número de estudantes astutos que encontravam maneiras de contornar o detector. Uma pessoa no Twitter instruiu os usuários a inserir um espaço de largura zero antes de cada “e” em um texto gerado pelo ChatGPT. Um usuário do TikTok escreveu um programa que contornou a detecção, substituindo certas letras do inglês por letras semelhantes ao cirílico. Outros começaram a executar seus textos de IA por meio do QuillBot, uma ferramenta popular de paráfrase. Tian corrigiu esses buracos, mas as soluções alternativas continuaram surgindo. Era apenas uma questão de tempo até que alguém criasse um produto rival – um antidetector.
NO INÍCIO DE MARÇO,um calouro da Universidade de Stanford chamado Joseph Semrai e alguns amigos estavam dirigindo pela Pacific Coast Highway para Los Angeles quando ficaram sem acesso ao Zipcar em Ventura. Eles caminharam até um Starbucks próximo e esperaram por assistência na estrada. Mas à medida que a espera se arrastava por horas, Semrai e um amigo se perguntaram como recuperar o tempo perdido. Semrai tinha uma redação para entregar na semana seguinte para uma aula obrigatória de redação para calouros. Era o tipo de tarefa que ele menos gostava: um ensaio estereotipado destinado a mostrar o raciocínio lógico. “É um processo bastante algorítmico”, diz Semrai.
ChatGPT foi a solução óbvia. Mas, na época, suas respostas tendiam a atingir o máximo de alguns parágrafos, portanto, gerar um ensaio completo seria um processo de várias etapas. Semrai queria criar uma ferramenta que pudesse escrever o artigo de uma só vez. Ele também sabia que havia uma chance de ser detectado pelo GPTZero. Com o incentivo de seu amigo, Semrai pegou seu laptop e criou um script que escreveria uma redação baseada em um prompt, passaria o texto pelo GPTZero e continuaria ajustando o fraseado até que a IA não fosse mais detectável – essencialmente usando o GPTZero contra em si.
Semrai apresentou seu programa alguns dias depois no Friends and Family Demo Day, uma espécie de show-and-tell para a comunidade de desenvolvedores de graduação de Stanford. Diante de uma sala cheia de colegas de classe, ele pediu ao público um tema para uma redação – alguém sugeriu “jantares finos” na Califórnia – e digitou-o na caixa de avisos. Depois de alguns segundos, o programa publicou um ensaio de oito parágrafos, sem originalidade, mas coerente, com obras citadas. “Não estou dizendo que algum dia enviaria este artigo”, disse Semrai, entre risadas. “Mas aí está. Não sei, isso economiza tempo. Ele chamou a ferramenta de WorkNinjae coloque-o na app store dois meses depois. Com a ajuda de uma campanha promocional com o influenciador da Geração Z David Dobrik e um sorteio de 10 Teslas aos usuários que se inscreveram, recebeu mais de 350 mil downloads na primeira semana; as inscrições diminuíram desde então para algumas centenas por dia, de acordo com Semrai. (Semrai não disse quem financiou a campanha, apenas que foi um grande investidor anjo do Vale do Silício.)
O esfregão Zoomer e o comportamento calmo de Semrai desmentem uma intensidade fervente. Enquanto Tian salta e borbulha pelo mundo, Semrai parece focado e inexpressivo. O jovem de 19 anos fala no tom confiante e pronto para podcast de um empresário do Vale do Silício que vê o mundo em termos de problemas a serem resolvidos, terminando todas as frases com “Certo?” Ao ouvi-lo falar sobre fossos defensáveis e a “curva S” do crescimento social, é fácil esquecer que ele não pode beber legalmente. Mas então, ocasionalmente, ele dirá algo que revele o estudante de olhos arregalados, aberto ao mundo e ainda descobrindo seu lugar nele. Como naquela vez em que ele e um amigo caminharam pelo cais de Santa Mônica até as 3 da manhã, “conversando sobre o que valorizamos”. Semrai pensa muito em como encontrar equilíbrio e felicidade. “Acho que, enquanto sou jovem,
Crescendo em Nova York e depois na Flórida, seus pais – um pai bombeiro de Yonkers e uma mãe dona de casa da China – deram-lhe uma longa rédea. “Fui deixado durante a infância para perseguir o que realmente me entusiasmava”, disse ele. “A melhor maneira de fazer isso era criar coisas no computador.” Quando Semrai tinha 6 anos, ele criou um plug-in para atribuir níveis de permissão para servidores do Minecraft e, aos 7 anos, escreveu um programa que corrigia o Windows 7 para que você pudesse executar o Windows XP nele. “Fico genuinamente feliz em enviar coisas para as pessoas”, diz ele
Sua família mudou-se do Queens para Palm City quando ele tinha 9 anos, e Semrai viu a diferença entre os sistemas de ensino público. O conhecimento básico de informática que ele considerava natural nas escolas de Nova York era escasso na Flórida. Ele começou a escrever programas para ajudar a preencher lacunas na educação – uma trajetória que lhe permite dizer, aos 19 anos, que “trabalhou em tecnologia educacional durante toda a minha vida”. No primeiro ano do ensino médio, ele criou uma plataforma de aprendizagem on-line que ganhou financiamento para startups em uma competição local. Antes da Covid, ele criou um sistema de passe digital que se tornou a base para rastreamento de contatos e foi adotado por 40 distritos escolares no Sudeste.
Semrai é fundamentalmente um tecno-otimista. Ele diz acreditar que devemos acelerar o desenvolvimento da tecnologia, incluindo a inteligência artificial geral, porque ela acabará por nos levar a uma sociedade “pós-escassez” – uma visão do mundo por vezes descrita como “aceleração eficaz”. (Não deve ser confundido com altruísmo eficaz, que defende que devemos tomar medidas que maximizem “bons” resultados, independentemente de como sejam definidos.) A defesa de Semrai do WorkNinja baseia-se no seu próprio tipo de lógica aceleracionista. As ferramentas de escrita de IA são boas, na sua opinião, não porque ajudem as crianças a colar, mas porque forçarão as escolas a renovar os seus currículos. “Se você consegue seguir uma fórmula para criar uma redação, provavelmente não será uma boa tarefa”, diz ele. Ele prevê um futuro em que todos os estudantes possam obter o tipo de educação antes reservada aos aristocratas, por meio de tutoria personalizada de IA. Quando ele estava aprendendo a programar, diz Semrai, ele dependia muito de vídeos do YouTube e fóruns da Internet para responder às suas perguntas. “Teria sido mais fácil se houvesse um tutor para me orientar”, diz ele. Agora que os tutores de IA são reais, por que atrapalhar?
EU USEI RECENTEMENTEWorkNinja para gerar alguns ensaios, incluindo um sobre a teoria da evolução de Darwin. A primeira versão que me deu era desajeitada e repetitiva, mas viável, explorando as implicações da teoria para a biologia, a genética e a filosofia. GPTZero sinalizou como provavelmente gerado por IA.
Então apertei o botão Rephrase do WorkNinja. O texto mudou ligeiramente, substituindo certas palavras por sinônimos. Após três reformulações, GPTZero finalmente deu ao texto sua marca de humanidade. (Quando testei o mesmo texto novamente algumas semanas depois, a ferramenta o rotulou como uma mistura de escrita humana e de IA.) O problema era que muitas das frases reformuladas não faziam mais sentido. Por exemplo, a seguinte frase:
A teoria da evolução de Darwin é a ideia de que as espécies vivas evoluem ao longo do tempo devido à sua interação com o ambiente.
havia se transformado em:
A teoria da evolução de Darwin é a ideia de que as espécies vivas adquirem mais tempo devido à sua interação com o ambiente.
No mínimo, qualquer aluno que procurasse um atalho teria que limpar seu rascunho do WorkNinja antes de enviá-lo. Mas aponta para um problema real: se mesmo este trabalho desajeitado em andamento consegue contornar os detectores, o que um produto mais robusto poderia realizar?
Em março, Soheil Feizi, da Universidade de Maryland, publicou suas descobertas sobre o desempenho dos detectores de IA. Ele argumentou que os problemas de precisão são inevitáveis, dada a forma como os detectores de texto de IA funcionavam. À medida que você aumenta a sensibilidade do instrumento para capturar mais texto gerado por IA, não é possível evitar o aumento do número de falsos positivos para o que ele considera um nível inaceitável. Até agora, diz ele, é impossível conseguir um sem o outro. E à medida que a distribuição estatística das palavras no texto gerado pela IA se aproxima da dos humanos – isto é, à medida que se torna mais convincente – ele diz que os detectores só se tornarão menos precisos. Ele também descobriu que parafrasear confunde os detectores de IA, tornando seus julgamentos “quase aleatórios”. “Não creio que o futuro seja brilhante para estes detectores”, diz Feizi.
Marcas d'água ” também não ajuda, diz ele. Sob essa abordagem, uma ferramenta de IA generativa como o ChatGPT ajusta proativamente os pesos estatísticos de certas palavras “token” intercambiáveis – digamos, usando start em vez de Begin ou pick em vez de Choose – de uma forma que seria imperceptível para o leitor, mas facilmente identificável. por um algoritmo. Qualquer texto em que essas palavras apareçam com uma determinada frequência pode ser marcado como tendo sido gerado por uma ferramenta específica. Mas Feizi argumenta que, com paráfrases suficientes, uma marca d’água “pode ser removida”.
Enquanto isso, diz ele, os detectores estão prejudicando os alunos. Digamos que uma ferramenta de detecção tenha uma taxa de falsos positivos de 1% – uma suposição otimista. Isso significa que numa sala de aula com 100 alunos, ao longo de 10 redações para levar para casa, haverá em média 10 alunos falsamente acusados de trapacear. (Feizi diz que uma taxa de um em 1.000 seria aceitável.) “É ridículo sequer pensar em usar tais ferramentas para policiar o uso de modelos de IA”, diz ele.
Tian diz que o objetivo do GPTZero não é capturar trapaceiros, mas esse tem sido indiscutivelmente seu principal caso de uso até agora. (Os resultados de detecção do GPTZero agora vêm com um aviso: “Esses resultados não devem ser usados para punir os alunos.”) Quanto à precisão, Tian diz que o nível atual do GPTZero é de 96% quando treinado em seu conjunto de dados mais recente. Outros detectores apresentam números mais elevados, mas Tian diz que essas afirmações são um sinal de alerta, pois significa que eles estão “ajustando demais” seus dados de treinamento para corresponder aos pontos fortes de suas ferramentas. “Você tem que colocar a IA e o ser humano em pé de igualdade”, diz ele.
Surpreendentemente, imagens, vídeos e trechos de áudio gerados por IA são muito mais fáceis de detectar, pelo menos por enquanto, do que texto sintético. Reality Defender, uma startup apoiada pela Y Combinator, foi lançada em 2018 com foco na detecção de imagens e vídeos falsos e desde então se ramificou para áudio e texto. A Intel lançou uma ferramenta chamada FakeCatcher, que detecta vídeos deepfake analisando padrões de fluxo sanguíneo facial visíveis apenas para a câmera. Uma empresa chamada Pindrop usa “biometria” de voz para detectar áudio falsificado e autenticar chamadores em vez de questões de segurança.
O toque de sereia da IA diz: Não precisa ser assim . E quando consideramos os bilhões de pessoas que estão fora do clube de elite dos escritores sofredores, começamos a pensar: talvez não devesse ser assim.
O texto gerado pela IA é mais difícil de detectar porque tem relativamente poucos pontos de dados para analisar, o que significa menos oportunidades para os resultados da IA se desviarem da norma humana. Compare isso com o FakeCatcher da Intel. Ilke Demir, cientista pesquisador da Intel que também trabalhou em filmes da Pixar, diz que seria extremamente difícil criar um conjunto de dados grande e detalhado o suficiente para permitir que deepfakers simulassem assinaturas de fluxo sanguíneo para enganar o detector. Quando perguntei se tal coisa poderia eventualmente ser criada, ela disse que sua equipe antecipa desenvolvimentos futuros em tecnologia deepfake para ficar à frente deles.
Ben Colman, CEO da Reality Defender, diz que as ferramentas de detecção de sua empresa são inevitáveis, em parte porque são privadas. (Até agora, os clientes da empresa têm sido principalmente governos e grandes corporações.) Com ferramentas disponíveis publicamente como o GPTZero, qualquer pessoa pode passar um trecho de texto pelo detector e depois ajustá-lo até que seja aprovado. O Reality Defender, por outro lado, examina cada pessoa e instituição que usa a ferramenta, diz Colman. Eles também estão atentos ao uso suspeito, portanto, se uma conta específica executasse testes na mesma imagem repetidamente com o objetivo de ignorar a detecção, o sistema a sinalizaria.
Independentemente disso, tal como os caçadores de spam, os espiões, os fabricantes de vacinas, os trapaceiros de xadrez, os designers de armas e toda a indústria de segurança cibernética, os detectores de IA em todos os meios de comunicação terão de se adaptar constantemente às novas técnicas de evasão. Supondo, isto é, que a diferença entre humano e máquina ainda seja importante.
QUANTO MAIS TEMPOPassei conversando com Tian e Semrai e seus colegas de classe, mais me perguntei: algum desses jovens realmente… gosta de escrever? "Sim, muito!" — disse Tian, ainda mais radiante do que o normal quando o convidei em maio passado no campus de Princeton. “É como um quebra-cabeça.” Ele gosta de descobrir como as palavras se encaixam e depois organizar as ideias para que fluam. “Eu sinto que isso é divertido de fazer.” Ele também adora o processo de entrevista, pois lhe dá “uma janela para a vida das pessoas, além de um espelho de como você vive a sua”.
No ensino médio, diz Tian, escrever parecia uma tarefa árdua. Ele dá crédito a McPhee por alimentar seu amor e expandir seu gosto. Em junho, ele me contou com entusiasmo que acabara de comprar um exemplar usado de The Writing Life , de Annie Dillard .
Semrai também achava as tarefas de redação do ensino médio chatas e mecanicistas – mais sobre sintetizar informações do que fazer algo novo. “Eu teria preferido tarefas em formato aberto que estimulassem a criatividade”, diz ele. Mas ele colocou essas habilidades de síntese em prática. No segundo ano, ele escreveu um livro instrutivo de 800 páginas chamado Build for Anything , com o objetivo de “levar alguém de não saber nada a saber um pouco de quase tudo” sobre desenvolvimento web. (Ele publicou o livro por conta própria na Amazon em 2022 e vendeu algumas centenas de cópias.) Semrai disse que é o tipo de prosa em que o ChatGPT agora se destaca. “Não creio que o livro se enquadre na categoria de escrita significativa”, diz ele.
Depois de quase 20 anos digitando palavras por dinheiro, posso dizer por experiência própria que escrever é uma droga. Pergunte a qualquer escritor profissional e ele lhe dirá que é o pior e que não fica mais fácil com a prática. Posso atestar que o entusiasmo e a curiosidade necessários para esquadrinhar continuamente o mundo, desenterrar fatos e extrair-lhes significado podem ser difíceis de sustentar. E isso antes de você levar em consideração o estado da indústria: taxas cada vez menores, diminuição do número de páginas e redução da capacidade de atenção (dos leitores e da minha). Eu continuo assim porque, para o bem ou para o mal, agora é quem eu sou. Não faço isso por prazer, mas porque parece significativo – pelo menos para mim.
Alguns escritores romantizam a luta. Certa vez, McPhee descreveu ter ficado deitado em uma mesa de piquenique por duas semanas, tentando decidir como começar um artigo. “A peça acabaria consistindo em cerca de cinco mil frases, mas durante essas duas semanas não consegui escrever nem uma”, escreveu ele. Outra vez, aos 22 anos, amarrou-se à cadeira de escrever com um cinto de roupão. De acordo com Thomas Mann, “Um escritor é alguém para quem escrever é mais difícil do que para outras pessoas”. “Você procura, quebra seu coração, suas costas, seu cérebro e então – só então – isso é entregue a você”, escreve Annie Dillard em The Writing Life . Ela oferece isso depois de uma longa comparação entre a escrita e a luta com jacarés.
A implicação é que quanto mais forte for o aperto, mais doce será o suco – que há virtude em olhar para a página vazia, domesticá-la, forçá-la a dar lugar à prosa. É assim que acontecem os maiores avanços, dizemos a nós mesmos. A agonia vale a pena, porque é assim que nascem as ideias.
O toque de sereia da IA diz: Não precisa ser assim . E quando consideramos os bilhões de pessoas que estão fora do clube de elite dos escritores sofredores, começamos a pensar: talvez não devesse ser assim.
MAIO HABIB PASSOUsua infância no Líbano antes de se mudar para o Canadá, onde aprendeu inglês como segunda língua. “Achei muito injusto que tantos benefícios fossem concedidos a alguém realmente bom em ler e escrever”, diz ela. Em 2020, ela fundou a Writer , uma das várias plataformas híbridas que não visa substituir a escrita humana, mas ajudar as pessoas – e, mais precisamente, as marcas – a colaborar melhor com a IA.
Habib diz acreditar que há valor em olhar para baixo a página em branco. Ajuda você a considerar e descartar ideias e força você a organizar seus pensamentos. “Há tantos benefícios em passar por uma situação sinuosa, alucinante e de querer se matar olhando para o cursor”, diz ela. “Mas isso tem que ser comparado com a velocidade de milissegundos.”
O objetivo do Writer não é escrever para você, diz ela, mas sim tornar sua escrita mais rápida, forte e consistente. Isso pode significar sugerir edições na prosa e na estrutura, ou destacar o que mais foi escrito sobre o assunto e oferecer contra-argumentos. O objetivo, diz ela, é ajudar os usuários a se concentrarem menos na mecânica das frases e mais nas ideias que estão tentando comunicar. Idealmente, esse processo produz um texto que é tão “humano” como se a própria pessoa o tivesse escrito. “Se o detector puder sinalizá-lo como escrita de IA, então você usou as ferramentas erradas”, diz ela.
Fonte: Wired
Comentarios