Por uma ética dos algoritmos
Você abre sua mídia social preferida e, entre as postagens dos seus amigos, aparecem sugestões de vídeos e imagens que você pode gostar. E, realmente, você gosta de muitos, e dos que você não gosta, apenas passa adiante. Possivelmente, você não verá algo desse tipo tão cedo.
Daí, cansado do celular, você liga a TV no seu streaming preferido. Hora de dar uma relaxada, assistir algo bacana. Em sua tela, diversas opções que, se não são totalmente do seu agrado, parecem ter sido escolhidas a dedo para você. O play vem, e se você não gostou muito daquela sugestão, dá um dislike. Pronto: aquele filme e diversos outros semelhantes poderão não mais aparecer em seu cardápio.
Eu poderia dar diversos exemplos, mas me limitarei a estes dois, que talvez são os mais familiares a você, ouvinte.
A magia por trás disso está nos algoritmos. A grosso modo, são fórmulas, cálculos e direcionamentos presentes em toda a internet e servem para aperfeiçoar e personalizar a experiência do usuário durante a navegação.
Como isso é possível? A partir do bem mais valioso em uma sociedade conectada: os dados. E, olha que ridículo, tão valioso que nós damos de mão beijada para o Google, Amazon, Facebook, Twitter…
O resultado disso é que essas empresas, que captam todas essas informações dos usuários, vendem os dados para outras empresas, que podem veicular anúncios por meio destes canais.
E é aí que aquela sua busca por um tênis, no Google, da marca X, vai aparecer pra você no anúncio não pulável de algum vídeo que você deu play no Youtube.
Bom, mas aí você pode me perguntar: “mas, se isso ajuda a deixar a navegação com minha cara, com minhas preferências, então tá legal, não?”
O problema é justamente esse.
Mundo virtual x mundo digital
O “David” de Michelangelo curtindo uma realidade aumentada (Imagem/reprodução: Freepik)
Quem armazena todos os dados que forneço? O que será feito com minhas informações? E quem garante que nenhum mal será direcionado a mim ou a qualquer outra pessoa?
São perguntas que dificilmente surgem na cabeça de alguém que quer, simples e puramente, navegar pela web.
Tal qual qualquer espaço físico e público, o mundo digital também é produzido, criado e mantido por seres humanos. E note que digo “mundo digital” e não “mundo virtual”, porque a palavra “virtual” significa, de acordo com o dicionário Michaelis, “sem efeito real”. Você, eu e todos os que se conectam sabemos muito bem que o que acontece na rede tem efeito real sim.
Também no mundo digital, as desigualdades se fazem presentes, e são tão danosas quanto no meio físico.
Por exemplo, um levantamento feito pela Infobase/Interativa, de 2021, ressalta uma característica da inteligência artificial que poucas pessoas conhecem: o racismo.
Vamos aos dados encontrados: em 2015, o algoritmo do Google marcou pessoas negras como resultados da busca pelo termo “gorila”. Em 2021, o algoritmo do Youtube desmonetizou vídeos que utilizassem a temática Black Lives Matter. No Twitter, o algoritmo privilegia usuários com fotos de perfil de pessoas brancas em comparação com pessoas negras.
No Brasil, os sistemas de reconhecimento facial contribuem para o racismo algorítmico: mais de 90% dos encarcerados reconhecidos pelos sistemas de segurança são negros.
Voltando ao mundo dos sites de compartilhamento, de acordo com a pesquisadora Cathy ONeil, autora do livro 'Algoritmos de destruição em massa', o algoritmo das redes sociais é moldado para dar audiência, apenas. Ela cita, por exemplo, que comentários e ‘emojis’ [reações] de raiva geram mais engajamento que os felizes. O motivo é óbvio: eles querem o usuário mais tempo utilizando o serviço, ampliando as possibilidades de venda (seja de produtos ou ideias).
A autora também diz que os algoritmos acabam reproduzindo preconceitos comuns da sociedade. E aí é preciso ressaltar o seguinte: os algoritmos não são exclusivos das mídias sociais ou de navegadores como o Google Chrome. Eles são utilizados por bancos, empresas e governos, só pra exemplificar.
O Neil cita o caso da Amazon que, para selecionar novos engenheiros, criou um algoritmo que excluía profissionais mulheres das etapas mais avançadas da seleção. O padrão colocado no algoritmo era o de homens, brancos, oriundos de faculdades renomadas e que tinham histórico de promoções em curto prazo.
A tecnologia é boa ou má?
O “Homem vitruviano” de Da Vinci numa versão Sci Fi (Imagem/reprodução: Wallup)
Pierre Lévy é um dos maiores pesquisadores da conectividade e suas inferências na sociedade. Seu livro Cibercultura é um ponto de partida fundamental para todos que querem compreender as dinâmicas sociais da cultura digital.
Um dos pontos mais interessantes do livro trata justamente sobre o impacto das tecnologias na sociedade. Lévy sabiamente levanta o tema como uma pergunta. Há, de fato, um impacto?
O primeiro ponto a se pensar é que nenhuma tecnologia é alienígena, não nasce fora do tempo, da história, da cultura e da sociedade. Ela é, antes de mais nada, fruto de um anseio, de uma necessidade inerente ao dia a dia das pessoas.
Tal qual um presente dos deuses, a roda não foi uma dádiva de extraterrestres, compadecidos dos humanos que arrastavam ou carregavam coisas com muita dificuldade. Pelo contrário: foi a necessidade de uma locomoção melhor que impulsionou a humanidade a criar uma estratégia, um mecanismo que pudesse suprir esse déficit.
Uma vez inventada, a roda proporcionou uma revolução. Uma maior velocidade, aliado ao menor esforço físico, deu uma nova dinâmica para a sociedade, que se transformou e se revolucionou.
E, juntamente com essa revolução, novas necessidades surgiram, impulsionando novamente a humanidade a criar uma nova tecnologia, que a seu tempo viria a revolucionar a sociedade, gerando nova transformação.
Essa explicação não quer dizer que a história é cíclica. Na verdade, é um exemplo de como há uma relação dialética entre sociedade e tecnologia. A sociedade cria a tecnologia, que transforma a humanidade e lhe dá novos desafios.
A explicação de Lévy também se encaixa perfeitamente sobre os algoritmos. Longe de serem uma ferramenta de controle e domínio de grandes potências sobre a humanidade, o algoritmo foi criado pela própria sociedade como uma ferramenta de melhoria e conforto diante de necessidades do dia a dia.
A questão está justamente nos usos que essa ferramenta recebe por parte dos humanos. Nenhuma tecnologia é boa ou má, mesmo aquela responsável pela criação da bomba nuclear. A tecnologia não tem uma moral ou uma ética, mas o ser humano que a manuseia, sim.
A ética dos algoritmos
Chegamos a um ponto fundamental, então: é necessária a formulação de uma ética do uso de dados que garanta a integridade das informações dos usuários contra o manuseio criminoso.
Diferente do que os usuários dos anos 1990 e 2000 pensavam, a internet não é terra sem lei (Imagem/reprodução: Kie.Tec)
Mas, quem garantiria isso? Há Estados que já se movimentaram nesse sentido. No Brasil, temos o Marco Civil da internet (Lei n° 12.965/2014) que regula e define direitos e deveres dos usuários na rede.
Mais recentemente, em 14 de agosto de 2018, o presidente Michel Temer sancionou a Lei Geral de Proteção de Dados do Brasil (LGPD), Lei 13.709/2018, que entrou em vigor em 18 de setembro de 2020, com as multas valendo a partir de agosto de 2021.
Um maior controle das pessoas sobre suas próprias informações é o principal objetivo da LGPD, que estabelece regras para empresas e organizações sobre coleta, uso, armazenamento e compartilhamento de dados pessoais, impondo multas e sanções no caso de descumprimento.
E o que seriam esses dados pessoais? Não necessariamente o nome, endereço, conta bancária de alguém, mas, principalmente, os cookies, informações de navegação que são vendidos para empresas de publicidade.
A lei elenca 11 princípios que as organizações devem obedecer quanto ao tratamento de dados. Os princípios são algo como “melhores práticas”, uma espécie de ética dos algoritmos.
A base da LGPD foi criada a partir do GDPR (General Data Protection Regulation), que entrou em vigor em 2020 e regulamenta a questão para os países europeus.
O governo quer seus dados?
Calma, João, dono da bodega da esquina, que vê vídeos quentes nas tardes de verão. Não é bem disso que estamos falando.
Dados valem ouro porque geram possibilidades de lucro para empresas que atuam na web.
Não se trata de uma invasão russa ou chinesa aos seus dados pessoais, aos moldes daquela teoria da conspiração da moda. Você já dá esses dados sem nem questionar para o Facebook e o Google, gigantes norte-americanas da internet.
Os desafios da sociedade civil, neste ponto da civilização humana pós-revolução digital, são dois:
Educar para a conectividade (e nisso incluir o João da bodega, permitindo-o conhecer as nuances de estar incluído digitalmente)
Tal qual Aristóteles um dia o fez, caminhando com seus alunos no exercício da peripatética, devemos nós hoje refletir sobre a ética, talvez uma nova ética, que dê conta das nossas relações no mundo digital.
Este artigo foi escrito por Pablo Michel Magalhães e publicado originalmente em Prensa.li.