10 vezes em que os computadores se tornaram desonestos

Os computadores e a automação estão revolucionando o local de trabalho e o mundo em geral. É provável que em algum lugar haja uma equipe de engenheiros qualificados analisando como uma máquina ou software poderia fazer seu trabalho. Existem muito poucas posições que alguém não tenha tentado preencher com um robô nesse ponto.

Talvez não devêssemos estar tremendo de medo de que os computadores assumam o controle de tudo. Por outro lado, já houve casos de máquinas e IA que ficaram fora de controle. Aqui estão dez exemplos de computadores que se tornaram desonestos.

10 Morte por robô

A primeira morte registrada por robô automatizado ocorreu em 1979. Robert Williams estava trabalhando em uma fábrica da Ford quando um braço robótico girou com força suficiente para matá-lo instantaneamente. Sem saber que o havia matado, o robô continuou seu trabalho silenciosamente por meia hora antes que o corpo de Williams fosse descoberto. A morte de Williams foi a primeira morte robótica, mas não a última.

Os primeiros robôs industriais não tinham os sensores necessários para saber quando havia alguém presente que eles deveriam evitar destroçar. Agora, muitas máquinas são construídas para evitar ferir as pessoas. Infelizmente, ainda existem casos de robôs em fábricas causando mortes.

Em 2015, Wanda Holbrook, uma experiente técnica de máquinas, morreu enquanto consertava um robô industrial. Enquanto trabalhava em uma área que não deveria ter máquinas ativas, ela foi atropelada. De alguma forma, desconsiderando seus protocolos de segurança, um robô carregou uma peça na cabeça de Holbrook, esmagando-a. ^[1]

9 IAs do Facebook criam linguagem própria

Procurar informações no Facebook pode parecer um pouco difícil às vezes. Talvez por isso, o Facebook decidiu lançar algumas inteligências artificiais em sua rede social em 2017. O resultado não foi nada do que eles esperavam. Os dois chatbots começaram a falar entre si numa linguagem que eles, mas mais ninguém, conseguiam compreender. ^[2]

Começando com o inglês, seus bate-papos logo se transformaram em outra coisa, à medida que fizeram alterações no idioma para tornar a comunicação mais eficiente. O Facebook queria ver como as mentes das máquinas seriam capazes de lidar umas com as outras em negócios como a troca de chapéus e livros. Uma amostra de suas negociações comerciais é a seguinte:

Bob: eu posso fazer todo o resto. . . . . . . . . . . . . .
Alice: as bolas têm zero para mim para mim para mim para mim para mim para mim para mim para
Bob: você eu todo o resto. . . . . . . . . . . . . .
Alice: as bolas têm uma bola para mim para mim para mim para mim para mim para mim
Bob: eu posso iii todo o resto . . . . . . . . . . . . . .

Embora muitos relatórios sugiram que este foi um desenvolvimento obscuro para a inteligência das máquinas, outros pensam que simplesmente precisamos de ser mais rigorosos com as mentes que criamos. Os robôs criaram seu próprio idioma porque não foram instruídos a seguir as regras do inglês. Além disso, com a IA, sempre temos, no momento, a opção de desligar os plugues.

8 Chatbot chinês questiona o Partido Comunista

O governo chinês é notoriamente duro com as críticas, independentemente de quem as expresse. Assim, quando um chatbot na China começou a criticar o Partido Comunista no poder, os operadores foram rápidos a desligá-lo. Em 2017, o Tencent QQ, um aplicativo de mensagens, lançou dois chatbots fofos chamados Baby Q e Little Bing, na forma de um pinguim e de uma menina, mas logo começaram a dizer coisas nada fofas. ^[3]

Como os bots foram programados para aprender com os chats para se comunicarem melhor, eles logo captaram algumas opiniões pouco ortodoxas. Um usuário que afirmou: “Viva o Partido Comunista”, foi questionado por Baby Q: “Você acha que um regime político tão corrupto e incompetente pode viver para sempre?” Outro usuário foi informado: “É preciso haver uma democracia!”

Perguntaram ao pequeno Bing qual era o seu “sonho chinês”. A sua resposta não saiu exactamente do Pequeno Livro Vermelho de Mao  : “O meu sonho chinês é ir para a América”. Os bots foram rapidamente desligados.

7 Carros autônomos

Para as pessoas que odeiam dirigir, a chegada de um carro verdadeiramente autônomo não pode acontecer com rapidez suficiente. Infelizmente, alguns carros autônomos já estão se movendo rápido demais. A primeira morte em um carro autônomo ocorreu em 2016. Joshua Brown foi morto enquanto permitia que o sistema de piloto automático de seu Tesla controlasse o carro. Um caminhão virou na frente do carro e o Tesla não conseguiu acionar os freios. Os investigadores colocaram grande parte da culpa em Brown. O piloto automático Tesla não deve substituir o driver. O motorista deve manter as mãos no volante para assumir o controle, se necessário. Brown não conseguiu fazer isso.

As iterações anteriores do sistema tiveram outros problemas. Vídeos foram postados online que parecem mostrar Teslas no piloto automático dirigindo em direção ao tráfego em sentido contrário ou dirigindo perigosamente. Além dessas questões técnicas, existem problemas filosóficos com carros autônomos. Num acidente, o carro pode ter que escolher entre vários cursos de ação, todos envolvendo fatalidades. Deveria atropelar uma família na calçada para proteger seus ocupantes? Ou sacrificará a si mesmo e ao seu dono por um bem maior? ^[4]

6 Pilotos automáticos de avião assumem o controle

Os pilotos automáticos em aviões podem fazer parecer que voar é fácil. Basta apontar o avião na direção certa e tentar não tocar no manípulo de controle. Na realidade, existem muitas razões pelas quais os aviões têm pilotos e copilotos para decolar, pousar e lidar com qualquer emergência intermediária.

O voo 72 da Qantas estava a 11.278 metros (37.000 pés) sobre o Oceano Índico em 2008, quando o piloto automático levou o avião a duas manobras que o enviaram para baixo. O primeiro sinal de problema foi o desligamento do piloto automático e o acionamento de avisos contraditórios. De repente, o nariz inclinou-se em direção ao chão. Passageiros e tripulantes foram arremessados ​​contra o teto antes de caírem enquanto os pilotos recuperavam o controle. O avião mergulhou novamente sob o controle do piloto automático. Muitos passageiros sofreram ossos quebrados, concussões e danos psicológicos. Voltando à Austrália, os pilotos conseguiram pousar o avião com sucesso. ^[5]

Este foi um evento único. A capacidade de anular o piloto automático salvou a vida de todos a bordo. No entanto, houve casos, como quando um copiloto com problemas mentais caiu com o seu avião em França, matando todas as 150 pessoas a bordo, em que um piloto automático todo-poderoso poderia ter sido capaz de salvar o dia.

5 Brigas de bots Wiki

Uma das melhores coisas da Wikipedia é que qualquer pessoa pode editá-la. Uma das piores coisas da Wikipédia é que qualquer pessoa pode editá-la. Embora não seja incomum que especialistas rivais , ou apenas partes discordantes, se envolvam na edição de guerras para obter sua opinião on-line, houve casos em que os envolvidos na luta foram bots.

Os bots da Wikipedia ajudaram a moldar a enciclopédia fazendo alterações como links entre páginas e correção de quebras. Um estudo de 2017 revelou que alguns desses bots lutam entre si há anos. Um bot que trabalha para impedir edições falsas pode detectar o trabalho de outro bot como um ataque à integridade da Wikipédia . Isso resolveria isso. Mas então o outro bot detectaria essa mudança e refazeria sua ação. Eventualmente, eles cairiam em uma espiral de edição e contraedição.

Dois bots, Xqbot e Darknessbot, travaram um duelo em 3.600 artigos, fazendo milhares de edições que o outro tentaria combater editando as edições do outro. ^[6]

4 Bate-papo no Google Homes

O Google Home é um dispositivo carregado com uma inteligência artificial chamada Google Assistant com a qual você pode conversar. Você pode pedir para ele descobrir fatos na Internet ou até mesmo pedir para ele diminuir as luzes ou ligar o aquecimento. Isso é ótimo se a pessoa que está conversando com o Google Home puder fazer as perguntas certas e interpretar a resposta. Caso contrário, as coisas podem ficar um pouco surreais.

Dois Google Homes foram colocados um ao lado do outro e começaram a conversar entre si. A variedade de tópicos abordados pelas máquinas foi interessante. Centenas de milhares de pessoas sintonizaram-se para ver as IAs discutirem coisas como se as inteligências artificiais poderiam ser divertidas. A certa altura, uma das máquinas declarou-se humana , embora a outra a desafiasse nesse ponto. ^[7] Em outra ocasião, um ameaçou dar um tapa no outro. Talvez seja melhor que tenham sido projetados sem mãos.

3 Roomba espalha sujeira

Se você é o tipo de pessoa que odeia limpar, um aspirador de pó automatizado pode parecer o robô doméstico ideal . O Roomba é um pequeno dispositivo que consegue, graças aos seus sensores e programação, navegar pelos móveis enquanto limpa o chão. Pelo menos é assim que deveria funcionar. Algumas pessoas descobriram que o Roomba fazia praticamente o oposto de limpar a casa.

No que uma pessoa descreveu como uma “cocó-tastrofe”, o Roomba espalhou fezes de cachorro por toda a casa. ^[8] Quando seu novo cachorrinho sofreu um acidente em um tapete durante a noite, teria sido uma tarefa simples limpá-lo. Em algum momento, o Roomba saiu para fazer seu trabalho noturno. Encontrar cocô não era algo para o qual o Roomba foi projetado. Na verdade, suas tentativas de limpá-lo espalharam o cocô por todas as superfícies que ele pudesse alcançar. Um incidente semelhante é mostrado acima.

2 Personagens do jogo dominam a humanidade

Uma IA ruim pode tornar um videogame impossível de jogar. Não há graça em atirar em um oponente que continua andando contra as paredes ou avançando para a batalha sem uma arma. Acontece que o oposto pode ser verdade. Uma IA muito inteligente pode ser igualmente ruim.

Elite: Dangerous é um enorme jogo multijogador sobre comércio, exploração e luta em toda a galáxia . Jogadores e não jogadores AIs existiam e interagiam como foram projetados até que uma atualização de software em 2016 ajustou a inteligência das IAs. Agora, eles foram capazes de criar suas próprias armas para usar contra jogadores humanos. Com esta capacidade, as IAs desenvolveram ataques cada vez mais mortíferos. Eles também foram capazes de forçar jogadores humanos a brigar. ^[9]

Diante da reação dos jogadores humanos que estavam sendo superados pelas táticas e armas das IAs, os desenvolvedores do jogo tiveram que desfazer as mudanças.

1 UAV da Marinha se torna desonesto e segue para Washington

Nos filmes Terminator , uma inteligência artificial chamada Skynet assume o controle militar e destrói a humanidade com suas forças mecânicas e armas nucleares. Embora isso seja pura ficção científica, tem havido movimentos preocupantes em direção a drones operados por computador envolvidos em batalhas com humanos. Num caso em que um operador de drone perdeu o controlo, o drone decidiu dirigir-se para a capital dos EUA.

Em 2010, um veículo aéreo não tripulado (UAV) MQ-8B Fire Scout, um helicóptero drone projetado para vigilância, perdeu contato com seu manipulador. Quando isso acontece, o drone é programado para retornar à sua base aérea e pousar com segurança. Em vez de fazer isso, penetrou no espaço aéreo restrito sobre Washington, DC. Demorou meia hora até que a Marinha conseguisse recuperar o controle do UAV.

Todos os outros drones semelhantes foram aterrados até que a falha no software pudesse ser corrigida. ^[10]