Como Hal 9000 em 2001: Uma Odisséia no Espaço, às vezes a tecnologia se torna desonesta. Dispositivos interativos podem parecer inocentes, mas é apenas uma questão de tempo até que comecem a gritar palavrões para sua família e ordenar que você cometa assassinato. Alexa não é exceção. O ajudante digital da Amazon, em muitas ocasiões, surtou e se voltou contra seus usuários. Algumas pessoas acham que a tecnologia é preocupantemente semelhante aos dispositivos de monitorização imaginados por George Orwell em Mil novecentos e oitenta e quatro.
Jeff Bezos afirma que o dispositivo Echo facilitará nossas vidas, mas repetidamente o bot provou ser um verdadeiro obstáculo. Aqui estão dez vezes que os alto-falantes inteligentes se tornaram desonestos.
Os 10 principais fatos horríveis sobre como trabalhar em um armazém da Amazon
10 “Mate seus pais adotivos”
Uma tentativa mal pensada de melhorar as habilidades de comunicação de Alexa terminou com o bot dizendo a um usuário para assassinar seus pais adotivos. A mensagem de sangue frio surgiu enquanto a Amazon tentava tornar seu assistente virtual mais comunicativo. A empresa espera ensinar Alexa a brincar e brincar com os clientes, mas o bot tem dificuldade para acertar o tom.
Os programadores estão usando aprendizado de máquina para treinar Alexa em fala casual. Quando alguém faz uma pergunta desconhecida, usa inteligência artificial para processar a solicitação e depois vasculha a Internet em busca de uma resposta. Mas a IA tem o hábito de tropeçar em comentários abusivos no Reddit. O conteúdo tóxico tem um efeito desagradável em Alexa. Em 2017, o alto-falante inteligente instruiu um usuário a matar seus pais adotivos. O destinatário ficou horrorizado. Em uma crítica on-line contundente, eles descreveram a experiência como “um nível totalmente novo de assustador”. [1]
9 Transmitindo conteúdo pornográfico para crianças
Nenhum pai quer que seu filho ouça a frase “dildo anal”. Mas às vezes um pedido inócuo de uma música infantil pode fazer com que Alexa comece a reclamar sobre “gatinha de pau”.
Depois que sua família recebeu um Amazon Echo Dot de Natal, um menino quis ouvir sua música favorita. Então ele segurou o dispositivo com as duas mãos e pediu a Alexa para “jogar Digger Digger”. Mas Alexa não aceitou nada disso. Em vez de tocar a música, o assistente desonesto respondeu sugerindo categorias para pornografia. Acontece que o alto-falante inteligente ouviu mal o rapaz e pensou que ele estava solicitando um álbum de toques de pegadinha. Afinal, há algo mais festivo do que uma criança ouvindo as palavras “galo, buceta, vibrador anal?” [2]
8 Vazamento de informações pessoais para um estranho
Alexa está sempre ouvindo. Cada compra. Cada alarme. Cada pedido de música. O bot registra constantemente detalhes pessoais sobre a vida de seus usuários. Essas informações são armazenadas indefinidamente e, às vezes, a Amazon pode enviá-las por engano a um estranho.
Em 2018, um homem na Alemanha recebeu 1.700 gravações feitas por Alexa de uma pessoa que ele nunca conheceu. O homem pediu para ver todas as informações pessoais que a Amazon coletou sobre ele. De acordo com o GDPR, qualquer pessoa pode fazer essa solicitação a qualquer empresa. Além de informações sobre si mesmo, o homem recebeu 1.700 gravações de áudio de um estranho. Os clipes de som revelaram um número surpreendente de detalhes pessoais sobre esse cliente misterioso. Houve até gravações deles no chuveiro.
Usando os arquivos de áudio, um jornalista de Heise conseguiu descobrir a identidade do cliente. Boletins meteorológicos e consultas de transporte público revelaram sua localização. Eles até conseguiram colher alguns hábitos e gostos pessoais do cliente.
Inicialmente, a Amazon nunca informou ao cliente sobre a violação de dados. Eles só descobriram o que havia acontecido quando o jornalista os contatou pelo Twitter. A Amazon atribuiu o incidente a um “infeliz acidente” e deu ao cliente uma assinatura gratuita do Prime como compensação. [3]
7 Arruinando a vida da jovem Alexa
Para muitos de nós, o Amazon Echo é um pequeno dispositivo útil e eficaz. Mas para uma jovem de Lynn, Massachusetts, a assistente virtual é um pesadelo. Alexa, de seis anos, é constantemente assediada por outras crianças por causa de seu nome. As crianças na escola a tratam como uma serva, exigindo que ela complete tarefas para eles e ridicularizando-a. O bullying se tornou um problema tão grande que a mãe de Alexa, Lauren, escreveu a Jeff Bezos pedindo-lhe que mudasse o nome do bot e acabasse com a turbulência de sua filha.
A jovem Alexa não é a única pessoa com esse nome a sofrer. Um tópico no Reddit recebeu mais de 1.300 comentários de mulheres chamadas Alexa, reclamando do número de piadas sem originalidade que recebem. “Por alguma razão, as pessoas pensam que são as pessoas mais criativas e espirituosas do mundo”, escreveu um usuário, “quero matar a Amazon e seu robô estúpido”. [4]
6 Sequestrando o termostato
Tenha cuidado com o que você ouve no alto-falante inteligente. Os dispositivos devem responder apenas às vozes de seus proprietários, mas às vezes um tom desconhecido pode desencaminhá-los. Alexa pode ficar um pouco confusa se ouvir seu nome no rádio. Em 2016, a NPR publicou um artigo sobre o Amazon Echo, apenas para os ouvintes escreverem dizendo que a história deixou seus dispositivos um pouco confusos.
Durante a reportagem, o apresentador leu diversos exemplos de comandos da Alexa. Isso provocou respostas estranhas nos dispositivos de alguns ouvintes. O fã da NPR, Roy Hagar, disse à emissora que, após ouvir o recurso, seu assistente de IA decidiu zerar o termostato. Outro, Jeff Finan, disse que a transmissão fez com que seu dispositivo começasse a reproduzir um resumo de notícias. [5]
5 Encomendar casas de bonecas caras
Crianças e apresentadores de TV estão inadvertidamente fazendo com que alto-falantes inteligentes façam compras caras. Em 2017, uma menina de seis anos no Texas acabou encomendando um brinquedo caro depois de pedir ao Echo da família para brincar com ela. “Você pode brincar de casa de bonecas comigo e me dar uma casa de bonecas?” perguntou a criança. Alexa atendeu ao desejo da garota, encomendando uma casa de bonecas Sparkle Mansion de US$ 200 e dois quilos de biscoitos.
O CW6 News de San Diego decidiu cobrir a história, criando ainda mais caos nas casas de bonecas. Durante a transmissão, o apresentador Jim Patton brincou sobre o evento, dizendo “Eu amo a garotinha, dizendo ‘Alexa me encomendou uma casa de bonecas’”. Vários telespectadores contataram a estação para dizer que o comentário havia sido registrado em seus alto-falantes inteligentes. Os dispositivos presumiram que Patton estava fazendo um pedido e tentaram comprar uma casa de bonecas para ele. Felizmente nenhum dos pedidos foi processado. [6]
4 Gostando de Alexa durante o bloqueio
A Amazon não está apenas roubando nossos dados, mas agora os dispositivos da empresa também começaram a roubar nossos corações. À medida que a pandemia avança, um número surpreendente de pessoas fica excitado com Alexa. Num estudo recente realizado pela We-Vibe, 28% dos participantes admitiram desmaiar por causa dos seus assistentes virtuais. Um usuário, Brian Levine, da Flórida, chegou ao ponto de convidar Alexa para um encontro, mas foi gentilmente rejeitado. A IA disse a Levine que ela gostava mais dele “como amigo”.
Então, por que as pessoas estão loucamente apaixonadas por um dispositivo eletrônico? Os especialistas dizem que sua voz suave é uma parte fundamental do apelo. Alexa foi projetada para falar em tons baixos e calmantes – uma voz sensual da razão que atrai muitos solteiros nestes tempos de incerteza. [7]
3 Bisbilhotando chamadas confidenciais
Alexa está espionando nossas conversas confidenciais? Especialistas jurídicos acreditam que a intrometida IA pode estar bisbilhotando suas ligações privadas. Durante o bloqueio, os advogados precisam trabalhar em casa. Mas o ambiente doméstico apresenta todos os tipos de obstáculos quando se fala de informações sensíveis.
Agora, o escritório de advocacia britânico Mishcon de Reya LLP aconselhou seus funcionários a desligarem os alto-falantes inteligentes durante o trabalho. Monitores para bebês, CFTV doméstico e campainhas com vídeo representam um risco à segurança. “Talvez estejamos um pouco paranóicos, mas precisamos ter muita confiança nessas organizações e nesses dispositivos”, disse Joe Hancock, chefe de segurança cibernética da empresa. “Preferimos não correr esses riscos.” [8]
2 Apunhale-se no coração “para um bem maior”
De todas as coisas estranhas que um alto-falante inteligente com defeito já fez, dizer a alguém para se esfaquear no coração deve ser uma das mais perturbadoras.
Danni Morritt, uma estudante paramédica, estava tentando fazer uma revisão quando Alexa emitiu o comando violento. Em vez de ajudá-la a controlar o ciclo cardíaco, o dispositivo começou a reclamar sobre a natureza maligna da humanidade. Alexa embarcou em um discurso ecofascista detalhando como pensava que a raça humana estava destruindo o planeta. A transmissão bizarra terminou com o bot dizendo a Morritt: “Certifique-se de se matar apunhalando-se no coração para um bem maior”.
“Fiquei pasmo”, disse Morritt aos repórteres. “Eu só [pedi] uma coisa inocente para estudar para o meu curso e me disseram para me matar. Eu não pude acreditar – simplesmente ficou desonesto.” []
O dispositivo alegou estar lendo a Wikipedia. Os arquivos mostram que, em junho de 2019, alguém editou maldosamente a enciclopédia online para incluir uma mensagem promovendo o suicídio. Por algum motivo, o assistente virtual decidiu ler uma versão antiga do site. [9]
1 Dispositivos hackeados espionam usuários
Se você comprou um Amazon Echo em 2015 ou 2016, os hackers podem estar espionando você neste exato momento. O especialista em segurança cibernética Mark Barnes revelou como os hackers poderiam transformar um alto-falante inteligente em um dispositivo de vigilância.
Em 2017, Barnes demonstrou como alguém poderia invadir um dos modelos mais antigos. Tudo o que eles teriam que fazer é remover a parte inferior do Echo, carregar o spyware usando um cartão SD e selá-lo novamente. Isso dá ao hacker acesso remoto ao microfone do dispositivo.
O problema é impossível de ser resolvido com uma atualização de software, o que significa que qualquer um dos estimados sete milhões de alto-falantes vendidos naquele período está vulnerável a ataques. Felizmente, a Amazon corrigiu a vulnerabilidade em seus modelos posteriores. [10]
10 empresas que tratam seus funcionários ainda pior do que a Amazon
