Inteligência artificial: é preciso limitar(?)

Inteligência Artificial já está no cotidiano das sociedades - Imagem: Tara Winstead - Pexels

Alguns dos mais interessantes avanços tecnológicos são autopromotores. E fazem uma algazarra danada para se mostrar ao mercado, aos consumidores. Foi assim com os smartphones, com a TV, com o rádio. Outros simplesmente entram no cotidiano sem pedir licença. GPS, por exemplo, ou táxi por aplicativo. Ou inteligência artificial.

Ela já está ativa, já interfere em decisões pessoais ou coletivas, já orienta comportamento. Estão aí as redes sociais e os mecanismos de busca que comprovam essa assertiva. Aliás, boa parte das fake news é produto de inteligência artificial. E vejam como elas intermedeiam o comportamento social.

Hoje, a inteligência artificial provoca a mente humana de maneira quase superficial. Nesse sentido, não ultrapassa o limite da produção de efeitos simples, muitas vezes benéficos. É o caso, por exemplo, das análises laboratoriais, controle de trânsito, reconhecimento facial.

Mas a IA vai parar por aí? Vai se manter nesse limite? Afinal, seu princípio básico é “trabalhar e aprender com a própria experiência”. Para muitos analistas, “a sorte está lançada”.

Eu, Robô com alta inteligência artificial 

A literatura e, como consequência, o cinema são ricos em ficção em que a inteligência artificial  está presente. O grande problema é que tanto uma quanto outra arte vivem de tragédias na maioria das vezes. Assim, os conflitos entre máquinas e humanos são constantes.

Nesse cenário, isso seria conflito ou presságio? Conflito ou alerta? Teria Stephen Hawking alguma razão em temer que a inteligência artificial evolua mais que a humana? Afinal, a primeira evolui a voo a jato e a melhoria biológica da segunda precisa de séculos ou milênios para se manifestar.

Isaac Asimov escreveu Eu, Robô entre as décadas de 40 e 50. Alguns críticos de cinema brincalhões dizem que o receio de Hawking nasceu na leitura da obra. Piadas à parte, a verdade é que não há como prever o nível de poder da inteligência artificial na realidade.

As Três Leis da Robótica

O escritor gostava tanto de ficção que criou uma série chamada Robô. E uma personagem recorrente e interessante:  psicóloga de robôs, Susan Calvin. No enredo, ela é australiana radicada nos EUA não se sabe exatamente quando; formou-se em Psicologia na Universidade de Columbia. Apaixonou-se pela matéria sobre comportamento dos robôs e se dedicou a estudá-los e auxiliá-los no dia a dia.

Além da robopsicóloga, Asimov criou também as Três Leis dos Robôs:

1. Ele não pode causar dano a um ser humano nem se omitir ao presenciar sofrimento humano

2. Deve obedecer cegamente aos seres humanos, exceto se isso conflitar com a primeira lei

3. Obriga-se a proteger sua própria existência desde que isso não se choque com as duas leis anteriores

Isso tudo é ficção. Aliás, das mais belas. Entretanto, não se pode assegurar que a civilização futura prescinda de um robopsicólogo. Consequentemente, que as Três Leis acima sejam cumpridas à risca.

Eu, Robô no cotidiano atual

Dora Kaufman é pós-doutora pesquisadora na área de impactos da inteligência artificial na PUC-SP. Suas quase quatro décadas de experiência em tecnologia a levaram a estudar profundamente esta matéria, IA. Ela prevê profunda e persistente interferência na vida das sociedades a partir do que já se tem aplicado.

“A IA [...] permeia praticamente todos os setores da economia, da ciência e da sociedade. Está transformando a maneira como nos comunicamos, como trabalhamos, como consumimos, como cuidamos da saúde, como programamos férias, como pesquisamos; difícil encontrar uma atividade socioeconômica não mediada pelas tecnologias de IA”, diz ela em seu livro “A Inteligência Artificial irá suplantar a inteligência humana?”.

E acrescenta: “...estamos nos primórdios da IA, ainda um campo aberto”.

Já em seu artigo "Inteligência Artificial: questões éticas a serem enfrentadas”, D. Kaufman parece também fundamentar a aflição de Hawking: “os especialistas não são capazes de afirmar exatamente como as máquinas funcionam e como elas se comportarão no futuro. Decorre desse desconhecimento a origem dos riscos e do imponderável, afetando o futuro da humanidade”.

Inteligência artificial e inteligência humana

A obra de Asimov conduz a duas questões importantes: 

1. Posição ética de quem produz tecnologia e de quem a consome

2. De que maneira a mente humana será afetada pelo avanço indiscriminado da inteligência artificial 

Questões éticas

É possível prever situações em que a ética e a moral estejam no centro das relações futuras entre inteligência artificial e inteligência humana. Algumas delas já ocorrem no presente. É o caso, por exemplo, de predição no artigo “A ética da inteligência artificial”, escrito por Nick Bostrom e Eliezer Yudkowsky e traduzido por Pablo Araújo Batista da Universidade São Judas Tadeu - SP.

Os autores imaginaram, por exemplo, aplicação de IA por parte do sistema financeiro. O processo de avaliação de solicitações de empréstimos e financiamentos seria totalmente automatizado. Entretanto, por motivos desconhecidos, proponentes negros recebem menos aprovação que brancos.

Ou habitantes de determinada região analisada como campo de baixo poder aquisitivo são menos aprovados em relação aos de outras regiões. A lógica estrutural da IA, como se sabe, “aprende por si”.

Contudo, conforme percebem também a empreendedora negra Nina Silva na revista Forbes e Lucas Sena em seu TCC Mercado e Equidade: o empreendedorismo negro no Brasil, a tal lógica é construída, desenhada por seres humanos. E seres humanos são racistas - até mesmo sem perceber. Portanto, é possível que a IA “não perceba” essa condição.

Tanto que fatos muitos semelhantes já ocorrem atualmente, a saber pela publicação do Sebrae.

Efeitos no processo de cognição

Seguindo ainda o raciocínio dos autores Bostrom e Yudkowsky, a IA pode vir a ser alimentada por parâmetros hoje injustificáveis - talvez “numerologia”. Que nível de frustração acometeria uma pessoa barrada como sócia de um clube social porque seu primeiro nome se associa à “fraqueza”? Com toda certeza, altíssimo.

Por outro lado, imagina-se eventual erro em diagnósticos médicos; imagina-se agora que os gestores consigam demonstrar na prática que o erro se originou em parâmetros que a própria IA criou após “aprender por si” mesma. Ou seja, os dados para se chegar ao diagnóstico indevido não foram inseridos pela equipe de tecnologia.

A culpa recairia sobre a pessoa jurídica (clínica), pessoa física (técnicos em IA) ou a própria máquina que nem sequer pode ser considerada um ente, um ator, uma pessoa?

O processo cognitivo coletivo certamente entraria em colapso se circunstâncias semelhantes fossem recorrentes. Afinal, se em 2022 ainda existem negacionistas em relação às vacinas e isso acarreta uma série de conflitos sociais, é de se esperar que tal aconteça daqui a um século.

Impactos na prática: trabalho e economia

Os efeitos positivos produzidos pela IA em praticamente todos os âmbitos claros das sociedades são inegáveis. Da educação ao labor, passando pela saúde, a IA tem se acomodado com quase perfeição. Assim, resulta em melhorias consideráveis.

“O fato é que a IA é um produto, devidamente patenteada em nome de seus produtores. Assim, quaisquer eventos porventura negativos estão sujeitos às estratégias da publicidade, do marketing e das relações públicas.” Assim a neuropsicopedagoga Mel Hippchen, autora do livro “O Caçador sem arma”, indicou sua preocupação.

De certa maneira, a estudiosa se alia a Silas Bailão, gestor-mor do site Prensa: “Eu opino que ‘vai ser um tempo de descoberta e de loucura’”, disse ele referindo-se ao futuro não tão distante. A se considerar as controvérsias que a tecnologia atual provoca (microchips implantáveis em mente humana, vacinas com nanorrobôs, internet como instrumento de dominação pela NOM, coronavírus é 5G chinês dominante etc.), tanto M. Hippchen quanto Bailão têm razão.

Embaixadora de IA

O mundo já tem, inclusive, o cargo de Embaixador de Inteligência Artificial. E é uma mulher, irlandesa. Trata-se da dra. Patricia Scanlon, nomeada neste mês (05/22) para cuidar das tratativas que envolvem o tema. Uma das principais funções será coordenar discussão assertiva em âmbito nacional com vistas mundiais sobre ética em IA.

Ainda, P. Scanlon busca transformar a economia em um universo de IA de forma que a sociedade como um todo absorva todas as vantagens possíveis. A macroeconomia e o sistema escolar irlandeses já anteveem essas vantagens.

Marco Legal

Marcos Legais são instrumentos legislativos que orientam e acomodam regras sobre determinado assunto às condições da sociedade com limites estabelecidos pela Constituição. O tema IA é tão importante que já há um marco legal em discussão no Congresso  a partir do Projeto de Lei 21/2020.

Dessa maneira, discute-se aplicabilidade, fundamentação, princípios básicos e diretrizes para o uso da IA no Brasil. Com isso, talvez alguns limites e autorizações venham a coordenar a postura dos tecnólogos envolvidos para produção de aparelhos e serviços baseados nessa tecnologia.

O ML alcança todas as entidades, de indústria ao Poder Público. Ou seja, uma vez tornado Lei - já está no Senado -, há de impactar diretamente a vida de toda a sociedade.

O PL 21/2020 busca regular vários tópicos sobre o tema:

• Pesquisas e incentivos a ela

• Tratativas de profissionais envolvidos, em especial associadas às Leis Trabalhistas

• Classificação da atividade laboral

• Linhas limite em relação aos direitos humanos

• Questões relacionadas à privacidade cidadã e geral, especialmente associadas à manipulação de dados pessoais

Saiba mais no site da Câmara dos Deputados. 

Veja mais e conheça quase tudo

Você dispõe de muitos textos aqui na Prensa sobre inteligência artificial. Arthur Ankerkrone discorreu de forma descompromissada e bem-humorada em “Inteligência Artificial: não entendi a sua mensagem”. Rafael Willuveit de Oliveira foi mais prático e sério em “O Impacto da Inteligência Artificial na Segurança”. Já Leiriane Dias cuida especificamente dos diálogos entre humanos e máquinas em “Uso de IA Conversacional em conjunto com o Digital Banking”.

Há outros mais. Veja lá.

Este artigo foi escrito por Serg Smigg e publicado originalmente em Prensa.li.