Série: Ética e IA - parte 1
Muitos dos problemas que eu trago aqui em forma de texto nascem, basicamente, de problemas éticos ou morais envolvendo IA.
Dessa forma, a partir dos debates trazidos pelo Professor Geber Ramalho na disciplina de Ética e IA da pós-graduação em Ciência da Computação do CIN, da UFPE, buscarei torná-las mais palpáveis e compreensíveis para os leitores.
Essa será uma série de textos, dado a isto, essa publicação será a primeira de várias (eu espero) sobre tal tema.
Espero que gostem do novo modelo, e que realmente internalizem essas perguntas ao longo das suas atividades diárias. Ah, e se você é desenvolvedor, seria muito interessante escutar sua visão nesse debate.
E computador precisa de ética?
Com certeza você já viu em algum lugar que algoritmos do Facebook estavam sendo racistas, ou que X IA estava criando uma linguagem sozinha que ninguém conseguia compreender, e talvez, você tenha lido meu texto que disserta sobre IAs terem consciência. Mas você talvez não tenha notado que tudo isso se baseia na ética e na moral da sociedade.
O professor Diego Salcedo comprime tal ideia em uma frase cirúrgica:
"Se quisermos compreender nossa condição humana e seus atos, é relevante distinguir duas dimensões: somos pessoas bio-culturais, isto é, somos seres vivos, programados pelas leis biológicas e, ao mesmo tempo, seres culturais criadores de nós mesmos (subjetividades) e de nosso mundo humano (identidades)."
Salcedo ainda faz uma minuciosa descrição de como somos não somente animais, como também, agentes culturais. Dado este fato, nos diferenciamos dos outros seres (animais e tecnologia) pois criamos cultura.
Homonização e Realidade
O professor Nortrhop Frye, em seu livro “A Imaginação Educada”, cita que a literatura é fundamental para que o indivíduo tenha uma boa capacidade imaginativa e compreenda os detalhes sutis por trás da fala dos outros; isso tudo nasce derivado das alegorias de linguagem e sua capacidade interpretativa.
A homonização, segundo Salcedo, é quando o homem cria formas que conseguem descrever a realidade, inclusive, a linguagem.
Para o Doutor canadense, quanto mais ampla a linguagem, maior será a capacidade cognoscitiva daquele povo, já que, quando estávamos no período paleolítico e só falávamos “uga uga”, nosso pensamento estava bem mais atrofiado do que hoje.
A primeira Constituição
Antes de que você pense em qualquer estado democrático de direito, ainda nos períodos antigos, existia uma constituição. Não a que conhecemos hoje, claro, mas sim, uma constituição familiar, do que era moralmente certo ou não para cada grupo.
Diogo Salcedo afirma isso com tamanha sutileza, ao dizer que o humano vive em um sistema pluricomplexo, o qual demanda um controle e gerenciamento maior sobre a ética. Para ele, a ética animal já vem designada biologicamente para um leão (o rei da selva já sabe que deve matar um inimigo se ele atacar seus filhotes), só que com o humano não é assim. Vão existir algumas pessoas que matariam o agressor do seu infanto e outras que deixariam para um terceiro decidir: a LEI.
Ben Shapiro e a formação Ocidental
Ben Shapiro tem uma frase que levo para a vida: “os tijolos do ocidente estão sobre Roma e Jerusalém”. Se você é um leitor contínuo dos meus posts, com certeza já leu tal frase. Ela resume basicamente que nossos aspectos morais e éticos foram moldados pela religião cristã (Jerusalém) e pela comunidade romana (isso é bem nítido quando pegamos nosso sistema judiciário). Portanto, ainda que você tenha outra religião não cristã, e que você more no Japão seguindo outro sistema de leis locais, no fundo, você terá algum viés puxado para o ocidente.
E isto é a ligação com a IA. Quando um programador desenvolve um código, ele nunca será neutro. A neutralidade não existe, e neste artigo da prof. Carla Rodrigues, de Filosofia, podemos ver isto.
No fundo, sempre haverá problemas, riscos, e vieses nesses programas. O que se tem que fazer é atenuar os mais esdrúxulos e contrastantes, talvez, com um sistema de monitoramento dessas IAs? (Só que isso é bem caro, e a maioria das empresas não olha para esse lado social.)
Ethos e Impulsos
O ethos (ética em latim e grego) vai de encontro aos nossos desejos e vontade. Com certeza você já quis bater em alguém que fez algo muito errado, só que não podia, era ilegal. O professor Diogo disserta que essa ética é adquirida ao longo do tempo, por meio da educação (formal e informal), e costuma se modificar ao longo do tempo, já que não é estável.
Ética, Moral, e Pensamento individual
Se você gosta de filosofia, deve saber que a Moral é individual e a ética, coletiva. Em resumo, cada um pode ter uma moral própria, e cada grupo tem uma ética própria. Dado isto, fica muito difícil um sistema desenvolvido por um americano se adequar à ética de um muçulmano, já que pertencem a grupos diferentes.
O dilema do Trolley resume bem essa ideia. Para quem não o conhece, é um dilema bem antigo na tecnologia: deve puxar um controle do trem e atingir 5 pessoas, ou continuar e atingir 1 e, talvez, lesionar quem está no trem? Obviamente, cada um terá sua resposta, e não há uma correta.
Vaz (1993, p. 36), "o ethos é coextensivo à cultura"
Thomas Sorwell, em Conflito de Visões, já dizia que as tradições só são passadas de gerações para gerações se forem uma verdade. Elas sofrem do que Darwin chama de Evolucionismo, já que, se algo não for verdade, não vai ser proliferado por anos a fio. Um exemplo disso é o famoso chá de boldo, bom para problemas intestinais e a famosa diarreia. Se não servisse, com certeza essa tradição já teria morrido. Contudo, ela permanece firme e forte, e eu mesma uso muito dessa técnica milenar.
Salcedo já infere que o ethos é transmitido a outros, que o receberão de forma heteronômica, havendo uma espécie de movimentação circular, entre tradição e alteração ao longo do tempo.
Sociedade robótica
Toda sociedade detém uma moral e ética própria, ainda que inconscientemente. Dessa forma, a inserção dessas Inteligências Artificiais na comunidade mundial necessita de bastante cuidado, haja vista que são aplicadas em diferentes culturas e núcleos sociais.
Como pode os desenvolvedores diminuir esses vieses? Esses erros? Será que eles querem? Será que eles estão conscientes disso?
Siga-me aqui na Prensa e entre no meu grupo do Telegram para receber a continuidade dessa coluna, e claro, dissertar sobre o tema.
Este artigo foi escrito por Maria Renata Gois e publicado originalmente em Prensa.li.