Inteligência artificial, novas subjetividades, cyberoralidade e fim do “logos”

Paola Cantarini

Advogada, mestre e doutora em Direito pela PUCSP, e pela Universidade de Salento Itália, doutoranda em Filosofia pela PUCSP. Pós doutora em Direito pela USP, em Ciências sociais pela Universidade de Coimbra e em Filosofia, arte e pensamento crítico pela EGS Suíça. Visiting researcher pela Universidade de Lisboa (2019), pela SNA Pisa desde 2016-2020. Pós doutoranda no TIDD PUC ( inteligência artificial e Direito) e em Ciências sociais. Membro da rede do constitucionalismo latino americano desde 2017. Autora de diversos livros publicados, artigos e capítulos de livros. Pesquisadora da Unicamp desde 2017, e  convidada de diversos grupos de estudos da PUCSP (Capitalismo humanista, Michel Foucault, Transobjeto), USP. Pesquisadora USP – INSTITUTO DE ESTUDOS AVANÇADOS – IEA, da UNICAMP. Membro do grupo de pesquisa lawgorithm. Advogada COGEAE-PUCSP. Opice Blum Academy, membro do Observatório do Racismo-PUCSP.

Na sociedade de dados ou sociedade da transparência a inteligência artificial permeia todos os setores de nossas vidas  e os dados são o novo petróleo (“data is the new oil”),  ocorrendo o aumento da intensidade de interconexões técnicas de todas as espécies, bem como a aceleração do tempo social, havendo quem afirme que chegamos com isso ao fim do humanismo (Achille Mbembe) e do humano. A inteligência artificial envolve diversos impactos e mudanças em todos os setores sociais, ocorrendo a virtualização de nosso eu, de nossas personas e corpos, a gestação de novas subjetividades em contínua mutação, com surgimento de novas concepções de tempos e espaços (Lucia Santaella).  Diante das alterações culturais e sociais, bem como na própria subjetividade humana, qual seria o conceito apropriado de ser humano atualmente, bem como de cultura, e de seu substrato, a linguagem?

Vivemos o inferno do igual, com a homogeneização constante de nossas personas, transformando todos em iguais, anulando-se a diferença, a singularidade, o que já havia sido vislumbrado por Michel Foucault ao trabalhar com as noções de sociedade da disciplina, da regulamentação e da normalização; o estranho, o diferente, é descartado, impondo-se a norma; o diverso é descartado como uma espécie de “homo sacer”, conceito do direito penal romano arcaico trabalhado de último, sobretudo, por Giorgio Agamben. Slavoj Žižek e Judith Butler ao analisarem a tragédia grega de Sófocles “Antígona” ressaltam que todos nós somos atualmente “homini sacri”.

Neste sentido Achille Mbembe, com fundamento em Foucault, afirma que vivemos atualmente sob o domínio da “necropolítica”, do necropoder, a junção do biopoder com o estado de exceção/estado de sítio (“Crítica da razão negra” e “Necropolítica”). Há um dispositivo fantasmático do poder colonizador, sendo o negro o espectro da modernidade. Há o devir negro do mundo com a violência fantasmal que se baseia na negação de qualquer singularidade essencial (Achille Mbembe, “Crítica da razão negra”, São Paulo: n-1, 2018, p. 229; p. 234; p. 250). Ocorre a universalização da condição negra no mundo e transformação do ser humano em dados numéricos e códigos (Achille Mbembe, “Necropolítica”).

Bem vindos ao deserto do próprio real (Baudrillard, “Simulacros e simulação”), ou nas palavras de Slavoj Žižek, ecoando as de personagem cinematográfico bem conhecido, bem vindos ao deserto do real.

Somos linguagem, a linguagem é nossa casa, a casa do ser, que pastoreamos (Heidegger). Então todos os conceitos são vagos, uma tautologia ou uma antítese, quando nunca deveriam ser vagos, por definição, já que com eles se busca uma precisão, que sempre escapa, na porosidade da linguagem.

Questiona-se: ainda vivemos na linearidade, no tempo linear, típicos da linguagem escrita ou com as imagens técnicas vivemos em uma nova temporalidade, já se falando em dromocracia cibercultural (Eugênio Trivinho), ante ao aumento da velocidade em todos os setores de nossas vidas, na esteira de Paul Virilio, que fala em dromologia, ocorrendo o aumento exponencial da velocidade pela aceleração do tempo, aliada ao triunfo da tecnologia, a tornar o homem um ser imóvel e sem reações, recebendo tudo de forma automática, passiva e sem questionamentos.

Seria o fim da era do humano? A humanidade se prepara para sobreviver à civilização, tal como anunciou Walter Benjamin? Em que condições? Com a utilização em larga escala e de forma progressiva da inteligência artificial, é o fim do homem e da história?

Apenas o ser humano é capaz de juízos morais e éticos, ou seja, tem a capacidade de pensar criticamente sobre os valores morais e dirigir nossas ações em termos de tais valores. A ética e a moral relacionam-se com a responsabilidade perante os demais, como então transmitir tais valores às máquinas? Que tipo de ética usar?

Outra preocupação correlacionada a tais temáticas é a da proposta de transhumanismo (Raymond Kurzweil), na busca da perfeição humana, juventude, eternidade, beleza, tentando promover a consumação do crime perfeito (Baudrillard), a morte da morte, relacionada também à denominada “singularidade tecnológica”, quando então em um determinado ponto temporal x as máquinas irão ultrapassar a inteligência humana. Com isso o ser humano chegaria a mais perfeição, e deixando de ser humano, pois não mais seria um ser para a morte, ou seja, somos um “ser para a morte” (“Sein zum Tode”) segundo Heidegger, cujo acabamento, no duplo sentido do termo, se dá com a morte: se não mais morremos, então apenas “terminaremos”, como todo e qualquer outro ser?

Vivemos sob vigilância contínua, nossos dados pessoais são captados para serem moldados e com estes diversos estímulos são personalizados por algoritmos operados por algumas das mais ricas corporações que ganham mais dinheiro do que quaisquer outras por meio da manipulação do nosso comportamento. Viramos espécies de animais de laboratório, pois estamos sendo rastreados e avaliados constantemente, e recebendo o tempo todo um feedback artificial, pequenas doses de dopamina, nos viciando. Neste sentido, Lucia Santaella adverte acerca do fenômeno ligado a tal vigilância constante denominado de “câmaras de eco” ou “salas espelhadas”, quando vemos somente aquilo que os algoritmos desejam, ou seja, aquilo que interpretam serem nossos interesses e desejos (“A pós-verdade é verdadeira ou falsa?”).

Tais questões complexas envolvem, portanto, uma análise interdisciplinar, pois não será possível verificar todas as suas implicações, com a profundidade e crítica necessárias apenas com base em conhecimentos técnicos ou de engenharia computacional, demandando conhecimentos das áreas das humanidades, em especial da Filosofia. Neste sentido, o diretor do Facebook (Jérôme Pesenti) afirma que esta tem sido uma preocupação recente da divisão de investigação da empresa (https://insider.dn.pt/featured/facebook-contrata-filosofos-para-ajudar-os-algoritmos-o-que-e-isso-significa/22266/).

O Direito também se transforma por meio das mídias digitais, mesmo porque Direito é comunicação, ocorrendo um aumento na utilização da inteligência artificial na construção e produção do Direito. O Direito, sendo expressão da “humanitas”, pode ser aplicado de forma legítima por meio da inteligência artificial, limitando-se a uma aplicação fria, inodora e seca da legislação? Segundo definição de Aristóteles, na Política (1253ª2f), o homem é mais que um “zoon politikon”, animal político, pois se distingue dos demais “animais políticos”, como a abelha, pela linguagem, o “logos”, pela capacidade de falar e reconhecer o útil e justo, ou seja, fazer julgamentos morais. Como se daria então tal capacidade ética transportada para decisões judiciais por meio de algoritmos?

Ainda há que se falar em neutralidade e objetividade diante das novas subjetividades em razão da internet das coisas, bem como na dicotomia sujeito e objeto? Em breve, todos os setores de nossas vidas, e todos os objetos de nossas casas estarão conectados à internet, penetrando ela assim em toda a estrutura de nossas vidas e subjetividades.

Constantemente sofremos alterações, à medida que alteramos os objetos com que “nos relacionamos”, os quais estão também em contínua renovação, em um processo, contudo, não infinito de constante mutação, dos objetos e sujeitos envolvidos em tal processo, mas que tende ao esgotamento, ao acabamento, quando então o próprio sujeito é tornado objeto, ocorrendo a sua objetivação/artificialização total, e com isso o fim da história. Um sintoma de tal processo seria a progressiva informatização e robotização.

A tecnologia e a informatização transformam dados e coisas em bits, em linguagem de cálculo, em uma escalada de abstração crescente, afastando-se do contato com a experiência concreta da vida, do mundo da vida, nas palavras de Husserl, denunciando pioneiramente o que chamou de “alienação técnica” promovida pelo processo de crescente abstração matemática, em suas reflexões finais sobre o tema da Crise da Humanidade Europeia, para evocar o título de célebre palestra dada em Viena. Por sua vez, a robotização corta os últimos vínculos dos atos humanos com a empiria, transformados em atos maquínicos.

Na sociedade da transparência digital surge um novo panóptico, digital e econômico, ligado à reprodução, visando a maximação de lucro, e à exploração máxima, com  a redução do tempo gasto na produção, e a absorção total do ser humano, quase já transformado em máquina, sem qualquer tempo hábil para o silêncio, o meditar, o pensar, inundado por informações.

Yuval Noah Harari entende que é possível o desaparecimento do “homo sapiens”, a ser substituído por um super-humano, um misto de orgânico/inorgânico, a partir da compreensão científica, da lógica computacional e dos algoritmos genéticos, mero “servomecanismo” em uma existência maquínica, como se verifica no conto futurista distópico do escritor britânico Edward M. Forster “A Máquina Parou”, onde a humanidade depende para o suprimento de todas as suas carências do controle absoluto de uma entidade artificial.

Vivemos a fase do homem pós-orgânico, com a homogeneização de nossa identidade. Para Paula Sibilia estão emergindo novos modos de subjetivação, ocorrendo a produção de novos corpos distintos dos corpos dóceis e úteis dos sujeitos na sociedade da disciplina descritos por Michel Foucault, relacionando-se o controle do corpo com o controle da construção do conhecimento. Para Sibilia, amplia-se o risco de homogeneização de nossa identidade, e com a enorme quantidade de dados pessoais capturados por algoritmos nos encontramos sob a ditadura do “taste profile”.

Surgem novas subjetividades digitalizadas, cada vez mais performáticas e superficiais, pois a linguagem escrita vai se transformando em oralidade cibernética, e se distanciam cada vez mais o signo e o significante. Ocorre um excesso de informação, e em sentido contrário menos comunicação e cognição, em uma relação inversamente proporcional. N. Luhmann já falava na improbabilidade da comunicação em sua teoria dos sistemas sociais, e Willis Santiago Guerra Filho fala em impossibilidade da comunicação, se é aos sistemas que delegamos o desempenho da comunicação. Seria o fim da nossa capacidade coletiva de lutar contra a entropia, e, portanto, o fim da história, até em sentido natural, já que com o excesso de informação ocorre a desagregação do sentido e da forma.

Acerca da relação da linguagem com a memória e, portanto, com a história de um povo, destaca-se a importância do solo cultural representado pela oralidade, incorporada antigamente nos mitos e ritos, falados e atuados, contudo, tal oralidade da antiguidade é bem diversa da atual ciberoralidade.

Como bem já apontou no século XIX o alemão Friedrich Carl von Savigny, da Escola Histórica do Direito, o direito não está contido em princípios universais, racionais e imutáveis, mas em particularidades e minúcias, históricas e locais, do terreno fértil de cada realidade cultural, no que denomina “Espírito do povo”. Um dos seus discípulos, Jacob Grimm (“Von der Poesie im Recht”), um dos célebres “irmãos Grimm”, demonstra como a tradição oral dos povos germânicos antigos acabava por determinar o conteúdo do direito, com uma função mnemônica das leis e costumes, e sua função persuasiva, relativa às suas figuras de linguagem.

A linguagem e o homem são, portanto correlatos, um implica o outro e se necessitam, o homem é um “zoon phonanta”, um animal com linguagem. Com a utilização do pensamento matemático, técnico, bem como com a crescente utilização da inteligência artificial na produção do Direito e do conhecimento, pode-se falar ainda em “logos”, em linguagem discursiva? Com a matematização da ciência ocorrerá não apenas a substituição de um discurso por outro, mas o fim da linguagem discursiva, do logos.

Não é mais, portanto, a linguagem o que distingue os homens dos animais e das máquinas, como bem demonstra o filme “Adeus à linguagem” de Jean-Luc Godard, afirmando que no futuro próximo as pessoas precisarão de um tradutor ou de um conversor para se entenderem, em qualquer circunstância. Será o que Roland Barthes afirmava ao mencionar que não é o homem que fala a língua, mas é a língua que fala o homem, ou seja, esta se utiliza do homem para afirmar-se a si mesma? Donde o seu fascismo, como dirá em sua célebre “Aula”, assumindo a cátedra no Collège de France.

Na era da cibercultura, ou cultura digital, da ciberoralidade, a palavra e a linguagem escrita, que já haviam dado lugar às imagens passam à soberania das imagens técnicas, com um deslocamento da relação ser e tempo, e profundas transformações na subjetividade humana.

Para Walter Benjamin a arte da conversação está morta, isto já após a I Guerra Mundial, ou a Grande Guerra como então se denominava, já que não houvera ainda a II para ela se tornar a I, cujo trauma tornou mais pobres de experiências transmissíveis os protagonista deste feito inaudito. Trata-se de um paradoxo, pois ao passo que se multiplicam os blogs, reduz-se o interesse por livros de ficções e a leitura de livros em geral pelos mais jovens, principalmente, morte da conversação, extinção da leitura ou ambos? Morte também do narrador de histórias segundo Benjamim, em razão do esgotamento da experiências. Excesso de transmissão de dados em velocidade alucinante, que não são retidos em nossa memória nem criam lembranças, daí não refletimos sobre o mundo, havendo um distanciamento quanto a nossas vivencias e impossibilidade de transformá-las em experiência.

Vivemos uma nova forma de linguagem, afastando-se do texto, da linguagem escrita, utilizando-se cada vez mais de imagens técnicas e de símbolos de símbolos, que muitas vezes não significam nada, simplificando o que é insimplificável, já que complexo e profundo, em uma superficialidade, trivialização, mecanização do pensamento, com prejuízo claro da memória e, pois, do passado.

Há uma ligação essencial da linguagem com a morte, tal como ressalta Giorgio Agamben, já que o homem é o único animal com consciência de sua mortalidade, que pode fazer a experiência da morte como morte, e o único animal falante (“A linguagem e a morte: um seminário sobre o lugar da negatividade”), na esteira de Heidegger em seu texto denominado “Essência da linguagem”, parte da coletânea denominada “A caminho da linguagem”.

Como se dará esta linguagem atualmente própria das mídias sociais e do mundo digital e virtual, sem correspondência com o significante, se afastando na verdade do mundo da vida, e sem relação com a morte?

Neste sentido pretendeu-se trazer algumas reflexões críticas acerca desta nova modalidade de linguagem ciberoral, no sentido de oposição a toda forma de linguagem que oculte o ser, ao invés de ser o meio, aí sim, de sua revelação.