Compartilhe esta publicação
Assistentes digitais: excesso de iniciativa
Estava eu feliz e sorridente na paz de meu home office (uma mesinha bem sem vergonha ao lado do sofá, já que a estação de trabalho foi cooptada pelo marido, e enfim, essa é a vida), burilando um texto sobre as benesses (ou não) que virão com o uso constante do Google Duplex por empresas; mal resumindo, liga para as pessoas para atualizar dados cadastrais e outras coisas, tão safadamente que não dá para diferenciar de um humano de verdade. Provavelmente faz o uso de gerúndios.
Mas joguei a pauta de lado ao ouvir no rádio uma notícia sui generis: uma Siri havia comprado, sozinha, uma passagem de avião para sua dona.
Para quem não ligou o nome à pessoa, Siri é a assistente pessoal da Apple, presente em uma certa quantidade de lares Brasil afora. E não está sozinha no segmento: além do Google Assistente, a versão doméstica do Duplex citado acima, temos também a toda-poderosa Alexa.
Apesar do nome de funkeira, a assistente da Amazon é a mais usada para procurar e tocar músicas, ler notícias, informar as condições do clima, jogar o Show do Milhão com a voz do Sílvio Santos e até encontrar uma receita de pesto de beterrabas. Eu já fiz isso, e o resultado foi incrível. Incluindo o pesto.
Em algumas casas mais conectadas, tanto Siri quanto Alexa são usadas para acender e apagar luzes, checar se ainda tem pudim na geladeira, ligar o microondas, esquentar sua janta e se bobear toma conta das crianças. Mas nada que se compare a comprar passagens aéreas por vontade própria.
Inteligências do outro mundo
O que teria ocorrido então aquelas intrincadas linhas de código recheadas com o mais puro creme da inteligência artificial? Fui atrás de mais informações. Não seria a primeira vez que inteligências artificiais manifestaram comportamentos “inadequados”.
Em 2018, um pequeno grupo de Alexas nos Estados Unidos começou a emitir risadas macabras, sem motivo aparente. Como hienas digitais cercando a presa numa caçada, assustaram muita gente. A Amazon, fabricante das bolinhas endemoniadas, apenas limitou-se a dizer que estava trabalhando para “conter isso”. Tem gente que não se convenceu até hoje.
Excesso de iniciativa
Já a explicação para a Siri consumista, compradora contumaz de passagens aéreas, é bem mais prosaica. Segundo a empresária (e vítima) Alana Villela, em entrevista ao jornal O Globo, “ela” deve ter “ouvido” algum comentário sobre o assunto e repetiu automaticamente o pedido feito há um mês, adquirindo a passagem num voo da Gol para o Rio de Janeiro. R$ 550. E não era a primeira vez.
Alana havia se mudado do Rio para a capital paulista, e feito diversas compras usando a assistente da Apple. Talvez querendo agradar a “dona”, a Siri repetiu a compra, de quase 900 reais, no mês seguinte. Alana conseguiu resolver esse perrengue, mas até o fechamento desta reportagem, continuava com problemas para explicar à companhia aérea que a Siri havia feito a compra “sem querer querendo”.
Um detalhe que pesa aqui, é preciso ressaltar: todo esse estrago com a empresária foi feito por uma Siri, que nem de longe é a melhor das assistentes no campo do reconhecimento de voz. Sou a prova viva que é quase impossível fazer uma pesquisa banal através dela. E olha, já melhorou muito. Há uma cena impagável na animação Hotel Transilvânia 3, onde o Conde Drácula tenta usar a Siri para acessar um aplicativo similar ao Tinder.
E o que aconteceria com a Alexa, considerada de longe a mais responsiva entre as assistentes pessoais? Bom, ainda não há relatos de compra de passagem aérea, mas compras aleatórias andaram pipocando por aí. Chegou aos jornais o caso do estrategista digital Luan Vieira, que depois de fazer uma pesquisa sobre operadoras de streaming, descobriu ter contratado um pacote de quase 300 reais mensais de televisão por assinatura, com fidelidade anual. Gentileza da Alexa.
Vergonha digital
Certamente são muitos outros. Não é comum que os usuários gostem de admitir que tomaram um desfalque por uma máquina, que via de regra deveria ser uma assistente infalível. Vou deixar os detalhes mais técnicos e jurídicos para o excelente texto da colega Renata Góis, publicado aqui na nossa Prensa. Dê uma lida lá e volte, não tenho ciúmes. Leia mesmo, porque você, feliz usuário de uma IA dessas, poderá ser o próximo.
Há meios de se evitar esses dissabores. Basta ir na configuração das assistentes e (mesmo que elas protestem ou façam biquinho) desativar as opções que lhes permitem tomar iniciativas de compra. Evitar o compartilhamento de dados bancários e outros com o sistema delas, dentro da mesma configuração, é mais que recomendável.
Faça isso. Enquanto elas permitem.
Eu volto.
Este artigo foi escrito por Clarissa Blümen Dias e publicado originalmente em Prensa.li.