Grandes escritórios de advocacia estão usando uma ferramenta feita pela OpenAI para pesquisar e escrever documentos legais. O que poderia dar errado?
Fonte: Revista Wired
DAVID WAKELING, HEAD do grupo de inovação de mercados do escritório de advocacia Allen & Overy, com sede em Londres, encontrou pela primeira vez a ferramenta de IA generativa com foco na lei Harvey em setembro de 2022. Ele abordou a OpenAI, desenvolvedora do sistema, para realizar um pequeno experimento. Um punhado de advogados de seu escritório usaria o sistema para responder a perguntas simples sobre a lei, redigir documentos e dar os primeiros passos nas mensagens aos clientes.
O julgamento começou pequeno, diz Wakeling, mas logo aumentou. Cerca de 3.500 funcionários nos 43 escritórios da empresa acabaram usando a ferramenta, fazendo cerca de 40.000 consultas no total. O escritório de advocacia agora firmou uma parceria para usar a ferramenta de IA de forma mais ampla em toda a empresa, embora Wakeling tenha se recusado a dizer quanto vale o acordo. De acordo com Harvey, um em cada quatro da equipe de advogados da Allen & Overy agora usa a plataforma de IA todos os dias, com 80% usando-a uma vez por mês ou mais. Outros grandes escritórios de advocacia também estão começando a adotar a plataforma, diz a empresa.
A ascensão da IA e seu potencial para perturbar o setor jurídico já foram previstos várias vezes antes . Mas o surgimento da última onda de ferramentas de IA generativas, com o ChatGPT em sua vanguarda, deixou os profissionais do setor mais convencidos do que nunca.
“Acho que é o início de uma mudança de paradigma”, diz Wakeling. “Acho que essa tecnologia é muito adequada para o setor jurídico.”
A IA generativa está tendo um momento cultural e comercial , sendo apontada como o futuro da pesquisa , provocando disputas legais sobre direitos autorais e causando pânico em escolas e universidades .
A tecnologia, que usa grandes conjuntos de dados para aprender a gerar imagens ou textos que pareçam naturais, pode ser uma boa opção para o setor jurídico, que depende fortemente de documentos e precedentes padronizados.
“Aplicações legais como contrato, transferência ou geração de licença são, na verdade, uma área relativamente segura para empregar o ChatGPT e seus primos”, diz Lilian Edwards, professora de direito, inovação e sociedade da Universidade de Newcastle. “A geração automatizada de documentos jurídicos tem sido uma área de crescimento há décadas, mesmo em dias de tecnologia baseada em regras, porque os escritórios de advocacia podem recorrer a grandes quantidades de modelos altamente padronizados e bancos de precedentes para estruturar a geração de documentos, tornando os resultados muito mais previsíveis do que com a maioria saídas de texto livre.”
Mas os problemas com as gerações atuais de IA generativa já começaram a aparecer. Mais significativamente, sua tendência de inventar coisas com confiança - ou "alucinar". Isso é bastante problemático na pesquisa, mas na lei, a diferença entre sucesso e fracasso pode ser séria e cara.
Por e-mail, Gabriel Pereyra, fundador e CEO da Harvey, diz que a IA possui vários sistemas para prevenir e detectar alucinações. “Nossos sistemas são ajustados para casos de uso legal em grandes conjuntos de dados legais, o que reduz bastante as alucinações em comparação com os sistemas existentes”, diz ele.
Mesmo assim, Harvey entendeu tudo errado, diz Wakeling – e é por isso que a Allen & Overy tem um programa de gerenciamento de risco cuidadoso em torno da tecnologia.
“Precisamos fornecer o mais alto nível de serviços profissionais”, diz Wakeling. “Não podemos ter alucinações contaminando o aconselhamento jurídico.” Os usuários que fazem login no portal Harvey da Allen & Overy são confrontados com uma lista de regras para usar a ferramenta. O mais importante, na opinião de Wakeling? “Você deve validar tudo que sai do sistema. Você tem que verificar tudo.”
Wakeling ficou particularmente impressionado com a proeza de tradução de Harvey. É forte na lei convencional, mas luta em nichos específicos, onde é mais propenso a alucinações. “Conhecemos os limites e as pessoas foram extremamente bem informadas sobre o risco de alucinação”, diz ele. “Dentro da empresa, fizemos um grande esforço com um grande programa de treinamento.”
Outros advogados que falaram com a WIRED estavam cautelosamente otimistas sobre o uso da IA em sua prática.
“É certamente muito interessante e definitivamente indicativo de algumas das inovações fantásticas que estão ocorrendo no setor jurídico”, diz Sian Ashton, parceira de transformação de clientes do escritório de advocacia TLT. “No entanto, esta é definitivamente uma ferramenta em sua infância e me pergunto se ela realmente está fazendo muito mais do que fornecer documentos precedentes que já estão disponíveis no negócio ou em serviços de assinatura.”
É provável que a IA continue sendo usada para trabalhos iniciantes, diz Daniel Sereduick, advogado de proteção de dados com sede em Paris, França. “A elaboração de documentos jurídicos pode ser uma tarefa muito trabalhosa que a IA parece ser capaz de compreender muito bem. Contratos, políticas e outros documentos legais tendem a ser normativos, então as capacidades da IA em coletar e sintetizar informações podem fazer muito trabalho pesado.”
Mas, como descobriu a Allen & Overy, a saída de uma plataforma de IA precisará de uma análise cuidadosa, diz ele. “Parte da prática do direito é entender as circunstâncias particulares de seu cliente, portanto, o resultado raramente será o ideal.”
Sereduick diz que, embora as saídas da IA legal precisem de monitoramento cuidadoso, as entradas podem ser igualmente difíceis de gerenciar. “Os dados enviados para uma IA podem se tornar parte do modelo de dados e/ou dados de treinamento, e isso provavelmente violaria as obrigações de confidencialidade para com os clientes e proteção de dados e direitos de privacidade dos indivíduos”, diz ele.
Isso é particularmente um problema na Europa, onde o uso desse tipo de IA pode violar os princípios do Regulamento Geral de Proteção de Dados da União Europeia (GDPR), que rege quantos dados sobre indivíduos podem ser coletados e processados por empresas.
“Você pode usar legalmente um software construído sobre essa base [da extração de dados em massa]? Na minha opinião, essa é uma questão em aberto”, diz o especialista em proteção de dados Robert Bateman.
Os escritórios de advocacia provavelmente precisariam de uma base legal firme sob o GDPR para alimentar quaisquer dados pessoais sobre clientes que eles controlam em uma ferramenta de IA generativa como Harvey, e contratos em vigor cobrindo o processamento desses dados por terceiros que operam as ferramentas de IA, diz Bateman.
Wakeling diz que a Allen & Overy não está usando dados pessoais para a implantação do Harvey, e não o faria a menos que pudesse ser convencido de que quaisquer dados seriam protegidos de qualquer outro uso. Decidir quando esse requisito foi atendido seria um caso para o departamento de segurança da informação da empresa. “Estamos sendo extremamente cuidadosos com os dados do cliente”, diz Wakeling. “No momento, estamos usando-o como um sistema de dados não pessoais e não do cliente para economizar tempo em pesquisa ou rascunho ou na preparação de um plano para slides – esse tipo de coisa.”
A lei internacional já está endurecendo quando se trata de alimentar ferramentas generativas de IA com dados pessoais. Em toda a Europa, a Lei de IA da UE procura regulamentar com mais rigor o uso de inteligência artificial. No início de fevereiro, a Agência de Proteção de Dados da Itália interveio para impedir que o chatbot de IA generativo Replika usasse os dados pessoais de seus usuários.
Mas Wakeling acredita que a Allen & Overy pode fazer uso da IA enquanto mantém os dados do cliente seguros e protegidos - ao mesmo tempo em que melhora a maneira como a empresa trabalha. “Isso fará uma diferença material real na produtividade e na eficiência”, diz ele. Pequenas tarefas que, de outra forma, levariam minutos valiosos do dia de um advogado agora podem ser terceirizadas para a IA. “Se você somar isso aos 3.500 advogados que têm acesso a isso agora, é muito”, diz ele. “Mesmo que não seja uma interrupção completa, é impressionante.”
Comentarii