No post anterior, foi-se explicitado como a utilização da Inteligência Artificial auxilia e inova o emprego do Direito. Porém, é de suma importância ter um olhar crítico quanto à esta tecnologia, se afastando da visão ultrarromântica.
A modernização de uma máquina, que aprende novas soluções a partir de sua própria execução, traz autonomia e até uma certa imprevisibilidade das ações geradas por algumas I.A’s. Ademais, o seu advento possibilitou os meios necessários para afastar condutas da identidade individual do seu usuário ou desenvolvedor.
Por exemplo, ilustra-se o fenômeno dos V-Tubers (youtubersque se utilizam de avatares digitais gerados por computação gráfica, que podem alterar feições e a voz) e um caso em 2018 no Japão, em que fãs da V-Tuber Nora Cat descobriram que “ela” seria, na verdade, um homem através de um erro no seu software.
Neste post, iremos destrinchar brevemente o outro lado da Inteligência Artificial, quando esta é utilizada para auxiliar na prática de atos ilícitos.
DEEPFAKES
Celebridade na época de eleições, pandemia COVID-19 e conversas familiares nas reuniões de domingo, a Fake News é um elemento intrínseco à cultura digital. As notícias inverossímeis sempre ocorreram, porém é inegável que o interesse de “fabricá-las” em massa, para se atingir alguma meta, se tornou popular por conta da facilidade algorítmica e a liberdade de divulgação de quaisquer conteúdo on-line, em especial nas redes sociais.
Tenha-se em mente (Pode ser feita a seguinte analogia, a Fake News em si seria um roteiro e a Deepfake a produção cinematográfica do filme, baseado neste roteiro.) a Fake News como um roteiro e a Deepfake como a produção cinematográfica deste. Através da manipulação de imagem, som e vídeo de maneira absurda, as deepfakes conseguem tornar uma notícia falsa, de forma que é quase impossível de se perceber em uma leitura artificial.
O intuito, na verdade, é refinar e sofisticar a adulteração de notícias verdadeiras, visto que a disseminação Fake News, mesmo que das mais precárias, tem um enorme poderde decidir eleições governamentais, por exemplo, como pôde ser observado ao redor do mundo nas últimas eleições presidenciais.
O avanço da tecnologia de Inteligência Artificial foi o responsável porproporcionar estes meios sofisticados de manipulação de vídeo, áudio e imagem. E este desenvolvimento, como enxergamos ao redor, é desenfreado. Por exemplo, atualmente, consegue-se até clonar a voz de uma pessoa em apenas 5 segundos de conversa. O que será que poderemos fazer daqui a 2 anos?Logo, um dos maiores riscos ilícitos com auxílio de I.A. é a circulação volumosa de deepfakes visto que a tendência é tornar esta tecnologia cada vez mais acessível e barata.
OUTRAS FORMAS DE CIBERATAQUES
A adulteração de voz não serve apenas para a divulgação em massa de deepfakes. Como visto na notícia acima, criminosos usufruem deste conhecimento para inovar golpes antigos como a fraude, extorsão, falso sequestro e roubos.
A Inteligência Artificial além de prover os meios, também, acoberta e torna o crime lucrativo, de certa forma. Afinal, esta inovação possui uma estrutura complexa de detecção e por se tratar de um crime virtual com alto índice de compartilhamentos, certos golpes são até vendidos como se fossem um tipo de serviço.
RECONHECIMENTO FACIAL
A Inteligência Artificial, na gama de suas diversas ferramentas, apresenta o reconhecimento facial. É dessa forma que é possível o Facebook sugerir que você marque seu colega exatamente no rosto dele apresentado na foto em grupo que irá postar. E constantemente nós atualizamos o nosso reconhecimento facial, ao se utilizar de testes (O famoso “Qual seria a sua aparência se você fosse do gênero oposto?”) ou fotos do Facebook, confirmações de contas no banco e por câmeras públicas que permitem o monitoramento policial.
(notícia escrita por Aliny Gama, colaboração para o site UOL em 26/02/2020 às 13h31)
O perigo mora na técnica de policiamento preditivo, o qual é um sistema gerado por Inteligência Artificial que pretende prever onde um crime pode ocorrer e até quem poderá estar envolvido nele. Para chegar neste resultado, é necessário que se alimente o sistema com dados baseados nos lugares – se utiliza aqueles que possuem um maior índice de ocorrência de delitos – e em perfis pessoais – dados pessoais dos agentes que foram presos anteriormente. Simples, rápido e feito de forma neutra, não?
De fato, hoje em dia atribuir certos dados em um sistema é um processo simples e as previsões geradas por estes seriam feitas de maneira célere. Porém, seria um equívoco afirmar que este processo é realizado de uma visão neutra, que não carrega aspectos morais e preconceitos. Afinal, os dados seriam atribuídos pelos próprios policiais que em seu inquérito, experiência de ofício veio a deter seu próprio método pessoal para solucionar o crime, embasado em seus valores e crenças.
Neste momento, é importante frisar a utilização de criminalização secundária nestes sistemas. Conceito elaborado pelos doutrinadores de Direito Penal: Nilo Batista e Eugenio Zaffaroni, sendo esta a atribuição da execução de certos crimes à um grupo a partir de estereotipação social do criminoso, recorte negativo respaldado por divulgação midiática. Este fenômeno ocorreu devido a capacidade escassa de apreensão de criminosos por parte das delegacias, por isso se faz esta pré-seleção.
Dessa forma, o policiamento preditivo pode vir a reforçar estereótipos na sociedade, mesmo não sendo feita de forma intencional e, consequentemente, vir a auxiliar naexecução apreensões injustas.
ÉTICA
Para definir o embate ético que decorre ao uso de inteligência artificial, irei responder dois questionamentos pertinentes realizados pela professora Bianca Kremer:
O que se considera como um problema? Quais são os valores embutidos para solucionar este problema?
Entende-se que as inovações tecnológicas derivam de demandas da sociedade, pela busca de soluções de problemas. No entanto, a definição de “problema” pode variar muito de acordo comdiferentes culturas, idades, interesses pessoais e até mesmo gestão de países. Por exemplo, o terrorismo é um problema contemporâneo e a utilização de reconhecimento facial auxiliaria a solução deste problema. Mas como se define o perfil de um terrorista? Para o Governo Chinês, a religião é um critério essencial e a partir deste pretexto, utiliza de reconhecimento facial para perseguir minorias muçulmanas, da etnia uigure, em sua região ocidental. Dessa forma, pode-se concluir que para o Governo Chinês, ser muçulmano faz parte do problema o que desencadeia a violação de uma série de direitos fundamentais. Dessa maneira, como solução do problema é preciso tomar cuidado com a falsa pretensão de que a tecnologia é desenvolvida e realizada para a universalidade, supostamente embrenhada de responsabilidade social.
Como explicitado no tópico de reconhecimento facial, a criação ou o uso de uma Inteligência Artificial parte por esses algorítmicos, que de forma não intencional reforçam valores individuais. Ainda nesta esteira, temos como exemplo a polêmica recente envolvendo o Twitter,quanto à priorização de seu algoritmo em fotos que apresentam pessoas brancas em detrimento de negras. Em outras palavras, caso fosse postada uma foto com duas pessoas, uma branca e uma preta, nas extremidades do quadro, somente seria mostrado na timeline o rosto da pessoa branca, dentro do espaço disponível para mídias dentro do tweet.
Contudo, não podemos descartar a possibilidade de que estes valores sejam atribuídos aos algoritmosde forma intencional, tendo por finalidade uma manutenção da hierarquia sociale reprodução de valores preconceituosos e nocivos da sociedade, em detrimento das minorias ou grupos mais vulneráveis.
ANTICONCORRENCIAL
Monitorar a concorrência, acumular dados de consumidores e fornecedores em apenas um clique. Atribuir decisões estratégicas dentro de uma empresa nunca foi tão fácil devido ao emprego de inteligência artificial. Aliás, também nunca se teve tanta facilidade para cometer práticas anticompetitivas de mercado.
Os usos ilícitos comuns de Inteligência Artificial no ambiente concorrencial são mais frequentesna elaboração refinada de discriminação de preços e a possibilidade de se acordar à praticar um ato anticompetitivo fora do “radar” do Conselho Administrativo de Defesa Econômica (CADE).
Quanto aos preços, primeiramente, expõe-se que a otimização gerada pela Inteligência Artificial com a possibilidade de monitoramento da concorrência, possui resultados parecidos com cartéis tradicionais de preços supracompetitivo, entre outras elaborações refinadas de discriminação de preços.
Ainda se referindo ao valor monetário de um produto, através de big data, as empresas conseguem estipular um perfil comportamental do consumidor. Dessa forma, emprega-se uma propaganda específica quanto aos perfis individuais que venham a mostrar preços diferentes sobre um mesmo produto.
Atualmente, a obtenção massiva de dados se tornou uma nova dimensão de lucro e nota-se que grandes plataformas como Google, Amazon e Facebook se encontram em posições deslealmente privilegiadas em relação com as outras empresas. Cabe salientar, também, que as empresas podem manipular seus algoritmos para que a Inteligência Artificial aja de maneira anticoncorrencial de formas diversas. Como por exemplo, o caso de 2017 o qual a Google foi acusada de favorecer vídeos do seu conglomerado, como Youtube e outros serviços seus em detrimento de outros sites.
RESPONSABILIDADE JURÍDICA
Não há como pontuar todas as novas demandas ocasionadas pela imersão das atividades realizadas por Inteligência Artificial, este leque varia entre temas de Direito Autoral, Direito Concorrencial, Direito Internacional, Direito Penal e entre estes, a necessária discussão sobre Responsabilidade Jurídica da Inteligência Artificial.
Existe a possibilidade de uma Inteligência Artificial possuir responsabilidade jurídica por conta de suas ações ilícitas? Ou seria o desenvolvedor da IA o responsável?O elevado grau de independência destes sistemas resultam em ações proporcionalmente imprevisíveis, logo, poderia o usuário ou o programador alegar a imprevisibilidade para se isentar de eventual responsabilidade?
A questão é que há uma lacuna no ordenamento brasileiro, colocando em xeque os elementos tradicionais de responsabilidade jurídica, que não se atém a estas complexidades. Como qualificar culpa em uma Inteligência Artificial? A Inteligência Artificial precisaria possuir algum tipo de personalidade jurídica para responder por suas ações? Como diferenciar uma conduta imprevisível de um erro técnico de programação ou manutenção do sistema?Como identificar que aquela conduta errante da máquina seria efetivamente criminosa? Seria justo, também, o fabricante da I.A. responder por todas as suas ações?
Todas estas questões permanecem sem resposta, cabendo ao legislador brasileiro observar a necessidade de criação de legislação a fim de sanar todos estes questionamentos, trazendo maior segurança, inclusive, jurídica para o universo das IAs no Brasil.
A Inteligência Artificial está presente no nosso dia a dia, de modo cada vez mais frequente, em vários contextos, desde as sugestões de filme que aparecem no Netflix, os assistentes virtuais de sites que acessamos, até as propagandas que assistimos que parecem adivinhar nossas necessidades.
Sendo assim, não seria pouco razoável pensar que a I.A. poderia auxiliar nas mais diversas áreas profissionais, captando e organizando dados relevantes, sugerindo soluções e próximos passos a partir do machine learning, entre muitas outras de suas funcionalidades. E no direito não poderia ser diferente!
O uso da IA no mundo jurídico já é uma realidade, tanto para os órgãos Poder Judiciário, quanto para os escritórios de advocacia, que se utilizam de suas múltiplas aplicações para facilitar e agilizar consultas processuais e jurisprudenciais, indicar e sugerir possíveis teses de argumentação a serem adotadas de acordo com os dados daquela corte etc.
O QUE FAZ UMA IA APLICADA AO DIREITO?
A IA aplicada ao direito, nada mais é, que a aplicação de tecnologias de inteligência artificial (big data, machine learning, etc) na prática forense, ou seja, sistemas, aplicativos ou máquinas podem “simular”, de certa maneira, o raciocínio de um advogado.
No contexto jurídico a IA utiliza os dados para tomar ou sugerir decisões, apontar eventuais riscos, indicar correlações e incongruências, reduzir erros e pode, ainda, melhorar a qualidade do serviço oferecido pelo escritório ao seu cliente.
Todas estas funcionalidades visam a otimização do tempo do profissional, tornando seu trabalho mais célere e eficiente e, sobretudo, permitindo que este dedique mais tempo às questões complexas e estratégicas, porque a realiza todo o trabalho mecânico de pesquisa e organização que exige dedicação e muito tempo.
Vale lembrar que a IA não é exclusiva da iniciativa privada, Tribunais Superiores e Estaduais, além de outros entes como a AGU por exemplo, fazem uso da inteligência artificial para promover maior celeridade ao trâmite processual, para combater um dos principais problemas que acometem o judiciário brasileiro: a morosidade.
LAWTECHS
Os sistemas e programas de IA, em sua maioria, são desenvolvidos e comercializados pelas chamadas Lawtechs, startups de matriz tecnológica que desenvolvem soluções tecnológicas (produtos) ou prestam serviços na área jurídica.
Seus produtos têm como protagonistas algoritmos, que buscam aplicar soluções de IA a fim de facilitar a prática jurídica e estão presentes na área de gestão de documentos, compliance, mediação, gestão jurídica entre muitos outros.
No Brasil as Lawtechs não são uma novidade, isto porque em março de 2019 a Associação Brasileira de Lawtechs e Legaltechs realizou um estudo que indicou a existência de 106 startups ligadas ao direito, dentre estas apenas 02 são voltadas ao poder público, sendo as demais todas ligadas ao setor privado.
Alguns exemplos de Lawtechs nacionais:
– BipBop: trabalha com o chamado webcrawling que captura informações, de maneira rápida e eficiente, sobre processos nos sites dos Tribunais;
– Enlighten: desenvolveu um software que sugere a chance de sucesso de uma ação em uma determinada corte;
– Digesto: desenvolveu uma plataforma de consulta de dados jurídicos de todo o país, criando uma base de dados centralizada.
IA NOS TRIBUNAIS
A Inteligência Artificial não é uma grande novidade no setor público, em especial nos Tribunais de Justiça. Os Tribunais de Minas Gerais e Rio Grande do Norte, são dois casos de sucesso da implantação de IA no país, com o “Radar” (MG) e o “Poti, Clara e Jerimum” (RN).
O “Poti”, robô do TJRN, trabalha diretamente com execuções fiscais, realizando bloqueio e desbloqueio de valores em contas, emite certidões ao Bacenjud, atualiza o valor da execução fiscal, além de transferir o montante bloqueado para as contas indicadas no processo. Já a “Clara”, pode ler documentos, recomendar tarefas, sugerir decisões aos magistrados. O “Radar”, do Tribunal Mineiro, por outro lado, pode julgar processos idênticos, separar recursos com pedidos repetitivos.
O Supremo Tribunal Federal, também se utiliza de IA, através do “Victor”, ferramenta desenvolvida em parceria com a UnB, destinada a análise dos Recursos Extraordinários que sobem ao STF e identificar nestes quais deles se tratam de demandas repetitivas, a fim de dar maior celeridade ao trâmite. A ferramenta recebeu esse nome em homenagem ao ex ministro do tribunal, Victor Nunes Leal.
A implantação da Inteligência Artificial nos Tribunais, é incentivada pelo CNJ, sobretudo no tocante às execuções fiscais, que tomam um lugar de destaque na quantidade crescente de demandas interpostas desta natureza anualmente, tendo ultrapassado, em 2018, o assustador número de 30 milhões de execuções fiscais em trâmite no país.
Outros Tribunais, como o TJRS por exemplo também já implementaram ferramentas de IA, para auxiliar não só na tomada de decisões pelos juízes, mas também visando acelerar o trâmite e desafogar os magistrados do alarmante número de demandas semelhantes.
OS ADVOGADOS DEVEM SE PREOCUPAR COM O AVANÇO DA INTELIGÊNCIA ARTIFICAL NO MEIO JURÍDICO?
Não! Esta é uma percepção equivocada sobre a Inteligência Artificial.
Primeiro porque estas máquinas, sistemas ou programas visam, principalmente, o suporte e a otimização do tempo do profissional, não estando aptas a substituir por completo o advogado. Isto porque nenhuma tecnologia possui a capacidade de pensar, criar e interpretar que o ser humano possui, além de possuir empatia, aspecto muito necessário neste ramo.
Algumas funções, em específico, de fato se tornarão e até certo ponto já são obsoletas, como o assistente de pesquisa (paralegal – comuns nos países de common law), dado que a máquina pode realizar a consulta que o profissional levaria dias realizando, em segundos.
Mas ao passo que algumas funções, sobretudo nos Tribunais, poderão ser extintas, novas oportunidades e nichos surgirão, principalmente àquelas relacionadas à tecnologia, como o engenheiro legal, por exemplo.
Portanto, não há o que temer, o advogado não será substituído, mas deve sempre manter a mente aberta e se atualizar, para acompanhar todas as melhorias que ainda estão por vir.
A condessa Ada Lovelace, no século XIX já conceituava, matematicamente, a elaboração de uma máquina analítica e criou o primeiro algoritmo implementado por um computador.Esta conquista permitiu que Alan Turing, figura popularizada pelo filme de 2014 “O Jogo da Imitação”, criasse o primeiro computador moderno. É importante ressaltar que estas figuras visionárias, que contribuíram para o primórdio da ciência da computação, já refletiam sobre a possibilidade de suas máquinas sintetizarem características humanas. No caso de Turing, criou um teste para descobrir o nível de inteligência de um programa de inteligência artificial que é utilizado até os dias de hoje. Por base desses preceitos e pessoas como Lovelace e Turing, apaixonadas pela tecnologia que fez ser praticável o desenvolvimento de um sistema de Inteligência Artificial que conhecemos.
Mas o termo “inteligência artificial” foi usado pela primeira vez em 1956, pelo Prof. John McCarthy, em uma conferência de especialistas em DarmouthCollege, e nesta oportunidade a I.A. foi definida como “a ciência e a engenharia de produzir máquinas inteligentes”.
O QUE É UMA INTELIGÊNCIA ARTIFICIAL (I.A.)?
O conceito de Inteligência artificial tem passado por diversas mudanças ao decorrer de suas aplicações e desenvolvimento. Atualmente, pode-se afirmar que a I.A. é um avanço tecnológico que permite sistemas interpretarem dados externos, aprender a partir destes dados e usar o aprendizado gerado para solucionar tarefas específicas por meio de uma adaptação flexível. Ou seja, habilitam os sistemas de simularem uma inteligência “similar” à humana,podendo programar ordens específicas e até tomar decisões de forma independente.
Especialistas afirmam que a Inteligência Artificial é o resultado da seguinte fórmula: “big data”+ computação em nuvem + bons modelos de dados. Isso significa que a I.A. aprende analisando uma grande quantidade de dados (big data e modelos de dados) que está disponível “em nuvem”, isto é, nos bancos de dados virtuais disponíveis na internet, podendo a partir deles entender e identificar objetos, pessoas, reações e padrões de comportamento.
QUAIS SÃO OS SEUS USOS? (ONDE ESTÁ A INTELIGÊNCIA ARITIFICIAL?)
A partir de seu conceito, extrai-se que a Inteligência Artificial possui como principais funções o auxílio à tomada de decisões e a automação da decisão. Estas aplicações atingem diferentes esferas sociais e implicam diretamente no nosso cotidiano.
Por exemplo, no âmbito dos Estados, o agrupamento de dados dos cidadãos com base em sua localidade, com leitura célere e interpretação de um padrão pode vir a auxiliar na tomada de decisões cruciais referente à políticas públicas. Além disso, a Inteligência Artificial pode auxiliar no monitoramento de áreas de prevenção ambiental.
Outro uso da I.A. é pelo e-commerce, que através de estimativas de custos e prazos processadas, vem a ofertar fretes mais atrativos. No mercado financeiro, a Inteligência Artificial torna a relação de consumo automatizada, cria um único canal de consultoria e recebe recomendações personalizadas sobre produtos alinhados com o seu perfil de compra.
O perfil alinhado por uma Inteligência Artificial influencia na aba de recomendações de plataformas de streaming como Netflix e Spotify, recomendação de vídeos do Youtube e até nos resultados de busca do Google. São vários dados analisados do qual a I.A. estipula parâmetros relacionados ao gosto do usuário.
Existe a implementação de Inteligência Artificial nos famosos aplicativos de rota também, afinal, se escolhe a melhor rota – otimizando o tempo – a partir de cruzamento de dados das mais diversas localidades.
O cruzamento de dados influencia até nas relações amorosas, aplicativos populares como o Tinder podem se utilizar da automatização da Inteligência Artificial, ao analisar o padrão de curtidas de um certo usuário a fim de compreender o seu perfil de interesse e, dessa forma, realizar as curtidas em seu lugar.
Outras aplicações de Inteligência Artificial são em carros inteligentes (condução sem motorista), reconhecimento facial, prevenção de fraude, cibersegurança e etc.
DESAFIOS
O embate humanidade x máquina é um dos desafios discutidos tanto na cultura pop quanto na realidade. Afinal, o enredo perfeito de um sci-fi medonho é a dominação das máquinas sobre o ser humano. Por enquanto, este cenário permanece na ficção, mas o que já se pode debater como realidade é que devido a padronização da I.A. compreende que esta virá a substituir mão de obra que vem a ser repetitiva ou previsível.
Além disso, entende-se que a inteligência artificial possui como objetivo atingir a singularidade, realizar tarefas típicas da mente humana. Entretanto, atualmente, o ponto crucial da existência de uma I.A. está diretamente relacionado com os valores e crenças de seu programador. Logo, os usos citados acima podem auxiliar, também, na amplificação de preconceitos, de monopólios, desinformação, formas sofisticadas de fraude ou roubo de dados. Um exemplo notável é a utilização de reconhecimento facial para rastrear minorias, no caso de crença muçulmana pelo governo chinês. O que se evidencia, então, é uma questão de debate de ética e regulamentação desta tecnologia.
I.A. NO BRASIL
Foi inaugurado no Brasil, na última terça-feira, um Centro de Inteligência Artificial, em São Paulo, resultado do projeto “C4IA”, desenvolvido em parceria pelo IBM, USP (Universidade de São Paulo) e Fapesp (Fundação de Amparo à Pesquisa do Estado de São Paulo).
Neste espaço serão desenvolvidas pesquisas, com base em dados coletados no Brasil, sobre temas variados e em especial sobre o desenvolvimento de tecnologias que possibilitem a interação com máquinas usando o idioma português, tanto na fala quanto na escrita, pois a grande maioria das inovações tecnológicas está associada ao inglês.
Os resultados destas pesquisas será disponibilizado em um modelo de código aberto, sendo acessível à outras empresas, a fim de fomentar o desenvolvimento e as inovações tecnológicas no país.
DATA ILUSTRE:
Segunda terça-feira de outubro – Dia de Ada Lovelace, a “mãe da computação”
RECOMENDAÇÕES DA EQUIPE:
Podcast: Café da manhã – episódio “O melhor e o pior da inteligência artificial”; Fronteiras da Ciência – episódio “Robôs, Inteligência Artificial e Ética pt 1 e 2”
Filme:Her, de Spike Jonze
Documentário:AlphaGO, de Greg Kohs; Dilema das Redes, Netflix
Youtube: What is Artificial Intelligence (or Machine Learning)? – HubSpot; A história da InteligênciaArtigicial – TecMundo
Comentários