O que a Ms. Pacman e o filósofo David Hume têm a ensinar sobre Inteligência Artificial?

Você sabia que muitos algoritmos usados por grandes corporações praticam racismo, sexismo e outras tantas formas de preconceito? O documentário Coded Bias, disponível no serviço de streaming mais perto de você, revela como os softwares supostamente neutros repetem práticas humanas condenáveis. 

No filme, a pesquisadora Joy Buolamwini prova que sistemas de reconhecimento facial falham ao reconhecer pessoas negras. No mesmo sentido, o matemático David Sumpter, em seu livro Dominados pelos números, demonstrou que algoritmos feitos para tomar decisões sobre quem fica com um emprego, por exemplo, constantemente privilegiam os homens. 

Mas o que está por trás desses códigos enviesados? Qual a lógica que faz com que os algoritmos tomem decisões pautadas em preconceito?   

Homem Vs. Máquina

Fonte: “Pexels”. Disponível em: <https://www.pexels.com/pt-br/foto/peca-de-xadrez-branca-no-topo-do-tabuleiro-de-xadrez-814133/> Acesso em out., 2021. #PraCegoVer: Fotografia das peças brancas do xadrez feita da perspectiva das peças pretas. 

Desde o início de sua história, a inteligência artificial costuma ser medida pelo seu desempenho em jogos. O primeiro grande desafio que mostrou ao mundo o poder de raciocínio das máquinas foi a partida de xadrez entre o campeão mundial, Kasparov e o robô, Deep Blue.  

A ocasião, documentada pelo filme The Man Vs. The Machine contou diversas partidas entre os anos de 1996 e 1997. No primeiro match (termo em xadrez para um conjunto de partidas), o homem venceu a máquina, mas na revanche, a máquina, aperfeiçoada depois do primeiro encontro, venceu o homem.  

O desafio, embora tenha sido um acontecimento midiático, não foi um marco significativo para o desenvolvimento da tecnologia de inteligências artificiais. O tipo de programação utilizado no Deep Blue era baseado em uma técnica que funcionava “de cima para baixo”; isso quer dizer que os programadores alimentavam a máquina com as informações sobre os movimentos, as jogadas, etc. Nesse caso específico o sistema foi munido com 700.000 partidas dos melhores jogadores de xadrez.   

A partir daí, a máquina faz cada jogada considerando todos os possíveis movimentos do seu adversário. Não é de espantar que nesse contexto uma máquina dificilmente seja surpreendida por um humano.  

Na verdade, é possível, inclusive, que a máquina calcule todas as probabilidades tornando-se uma jogadora invencível. Uma máquina suficientemente poderosa pode computar todas as possibilidades e tornar impossível sua superação.  

Porém, o problema desse modo de programação é que ele só funciona de maneira eficiente num universo onde todas as variáveis são conhecidas. Qualquer condição desconhecida pode fazer com que o software não saiba o que fazer. Por esse motivo, ainda que Deep Blue tenha vencido Kasparov, os estudos acerca da inteligência artificial não eram promissores entre o final do século passado e o começo deste.  

Foi preciso, então, reformular a concepção de Inteligência artificial e para isso, a estatística serviu como base para os algoritmos contemporâneos que executam programação “de baixo para cima”. No lugar de ensinar a máquina a jogar, as novas tecnologias permitem criar mecanismos para a máquina aprender a jogar sozinha.    

Com essas novas técnicas, o software, através do método tentativa e erro, aprende e aprimora suas formas de superar os desafios. Desse modo é possível que a Inteligência Artificial opere de forma satisfatória num ambiente novo, desconhecido.  

Essa nova configuração tornou possível, por exemplo, que as máquinas começassem a jogar videogame. Por irônico que possa ser, é muito mais complicado para um computador operar um jogo eletrônico do que um de tabuleiro.  

Isso acontece porque em jogos de tabuleiro, como xadrez, as variáveis, quantas sejam, são conhecidas de antemão, o que permite computar as probabilidades daquele universo fechado. Entretanto, nos jogos de computador, a máquina precisa aprender os padrões que os jogos possuem e depois de muitas horas de jogo, executar os movimentos que a permita vencer.  

Em jogos com padrões mais previsíveis, o desempenho das IAs é melhor, mas quando são confrontadas com uma maior variação nos padrões, podem não conseguir alcançar o mesmo nível de um humano.

Inteligências artificiais jogando Ms. Pacman

Fonte: “Unsplash”. Disponível em: https://unsplash.com/photos/By-tZImt0Ms> Acesso em out., 2021. #PraCegoVer: Imagem de uma tela apresentando a mensagem “GAME OVER” com fonte vermelha e acima dela fantasmas coloridos do jogo “Pacman”. 

O caso do jogo da Ms. Pacman nos ajuda a entender as debilidades das estruturas de aprendizagem de máquina. Ms. Pacman é uma versão do famoso Pacman, conhecido em alguns lugares do Brasil também pelo nome Come-Come. O interessante na história do nascimento dessa versão é que, originalmente, ela surge como um hack da versão original que tornava o jogo mais complexo.  

Essa prática de mexer nas configurações era comum nos anos oitenta porque muitos donos de fliperamas queriam que os jogadores gastassem mais fichas, e para gastar mais fichas, o jogo devia apresentar obstáculos mais difíceis. Essas versões hackeadas também faziam sucesso entre o público porque apresentavam novos desafios e novas possibilidades de jogo.  

 Essa variante de Pacman era tão promissora que a Midway, distribuidora estadunidense da Namco (empresa dona do jogo) resolveu incorporá-la ao cânone como uma espécie de continuação do Come-Come. Surge daí Ms. Pacman, um jogo com mais efeitos sonoros, músicas, labirintos e o mais importante: mais imprevisível.  

Nesse jogo, o padrão de comportamento dos fantasmas é muito mais difícil de ser previsto porque é pseudoaleatório e é essa a dificuldade que as inteligências artificiais lidam de forma precária.  

De acordo com o matemático David Sumpter,  o jogo Ms. Pac-Man é mais complicado do que outros como Breakout ou Space Invaders porque ele exige paciência. É preciso cautela ao comer as pastilhas e usar os powerups que dão poderes de comer os fantasmas. Se forem usados cedo, o jogador ganhará alguns pontos ao comer fantasmas, mas terá dificuldades mais tarde, quando os quatro fantasmas voltarem.  

Essa paciência necessária para planejar o futuro é algo que as mais avançadas inteligências artificiais não conseguem ter. Elas possuem certa facilidade em lidar com o que está diretamente em sua frente, mas não conseguem planejar o futuro, muito dificilmente conseguem traçar estratégias de longo prazo.  

Para um desempenho superior, o software precisa ser alimentado com as informações de cada conteúdo específico do jogo: os fantasmas, as pastilhas e os powerups. Ou seja, é como se a máquina tivesse trapaceando e pedindo pra um irmão mais velho passar da fase que ela não consegue

David Hume e o problema da inferência

Fonte: “Pexels”. Disponível em: < https://www.pexels.com/pt-br/foto/foto-em-tons-de-cinza-de-dois-cisnes-na-agua-1837167//> Acesso em out., 2021. #PraCegoVer: Fotografia em escala de cinza de dois cisnes brancos na água.

A dificuldade que as inteligências artificiais possuem em aprender os padrões em um ambiente desconhecido reside no fato que reconhecer padrões e supor que eles vão se repetir não possui fundamento lógico.  

David Hume, filósofo britânico do século XVIII, colocou uma pedra no sapato da filosofia ao revelar essa carência de fundamentação que constitui o que é chamado de indução. Um exemplo que demonstrou fragilidade desse método é o caso do cisne negro.  

Na Europa, até 1697, acreditava-se que todos os cisnes eram brancos, porque todos os cisnes conhecidos no velho mundo eram dessa cor. Contudo, naquele ano os europeus descobriram a existência de um cisne negro na Austrália, o que demandou que se repensasse o conceito de cisne.  

Isso acontece, segundo a perspectiva humeana, devido a ideia de inferência. Inferiu-se que todos os cisnes eram brancos porque todos os observados eram brancos. Porém, não há nada que garanta que as coisas vão se comportar como se comportaram antes. Assim como descobriu-se a existência de um cisne negro, pode ser que descubramos outros animais com outras características que nos façam repensar o que sabemos sobre eles.  

Da mesma forma, não há nenhuma justificativa racional que assegure que o que ocorreu de uma forma vá se repetir. Por isso, Hume afirma que a nossa forma de conhecimento é muito mais pautada no costume e na crença do que na razão. Nós acreditamos que os acontecimentos vão dar-se de certa forma pelo simples fato de que vimos isso acontecer muitas vezes, mas não é possível explicar e garantir que o esperado vá, de fato, acontecer. 

Assim, ao tentarmos ensinar uma máquina a pensar como nós, estamos ensinando algo que não possui fundamento lógico. É por esse motivo que os algoritmos usados por todas as empresas de ponta hoje são enviesados e constantemente preconceituosos.  

O que fazemos ao criar uma inteligência artificial é transpor para um software as características de quem está construindo. Por isso, os algoritmos são filhos dos seus programadores, da mesma forma que o Ultron é filho de Tony Stark.  

Toda lógica usada pelas inteligências artificiais nada mais é do que uma lógica artificial criada pelos programadores e repetida pelos softwares. A Ms. Pacman mostrou que sem dados externos que “apresentem o mundo”, a máquina possui muito pouca condição de entender um universo aberto e Hume nos ensinou que essa dificuldade é devida à nossa própria estrutura de conhecimento, que é baseada no hábito e não na razão.

REFERÊNCIAS

HUME, David. Investigação acerca do entendimento humano. São Paulo: Nova Cultural, 1989.

SUMPTER, David. Dominados pelos números. Rio de Janeiro: Bertrand Brasil, 2019.

Este artigo foi escrito por Cristian Arão e publicado originalmente em Prensa.li.