A IA generativa chegou e agora estamos totalmente imersos na sua era. Na vanguarda da inovação tecnológica e abrangendo uma gama de técnicas, incluindo aprendizagem profunda e redes neurais, a IA generativa continuou a ganhar força e a fazer avanços notáveis nos últimos anos. Os algoritmos de IA agora têm a capacidade de criar conteúdo original e atraente, incluindo imagens, música e até mesmo texto que pode ser indistinguível do conteúdo gerado por humanos. São esses recursos que estão ganhando tanta cobertura na mídia para aplicativos como o ChatGPT.
A notável capacidade do ChatGPT de se envolver em conversas humanas e fornecer respostas coerentes e contextualmente relevantes capturou a imaginação de usuários em todo o mundo. Com bases de conhecimento e capacidades de aprendizagem contínua em constante expansão, a IA generativa está a revolucionar a forma como interagimos com as máquinas e a abrir novas possibilidades em indústrias que vão desde o serviço ao cliente e entretenimento até à escrita criativa e à educação. Também está aumentando a preocupação mundial.
No momento, você não pode passar um dia sem ver ou ouvir sobre preocupações relacionadas à IA nas notícias. E embora os especialistas possam discordar sobre se é ou não justificado, há muitas boas razões pelas quais a IA generativa está recebendo tanta atenção.
Aqui estão dez razões pelas quais temos medo da IA agora mais do que nunca.
Relacionado: As 10 principais teorias distorcidas sobre o futuro da tecnologia
10 Medo do desconhecido
Nós, humanos, temos a tendência de deixar nossa imaginação nos levar. À medida que esta tecnologia de ponta continua a avançar, o público em geral vê-se confrontado com incertezas sobre as suas potenciais implicações. Lembra Tom Cruise falso profundo ? Bem, a capacidade da IA generativa de criar conteúdos altamente realistas e convincentes, como vídeos deepfake e textos fabricados, continua a criar motivos de preocupação e uma tempestade perfeita para a desconfiança do público.
A maioria de nós não compreende totalmente a extensão das capacidades da IA generativa, mas isso também ocorre porque há um fator desconhecido envolvido. O ritmo acelerado de desenvolvimento e o potencial da IA para ultrapassar a inteligência humana no futuro contribuem para este desconforto à medida que as pessoas ponderam sobre as implicações e considerações éticas associadas à criação de entidades que poderiam potencialmente superar ou substituir as capacidades humanas.
Mas a quantos avanços tecnológicos estamos realmente de que isso se torne uma realidade? Essa é a questão. E a verdade é que não temos certeza. Alguns especialistas prevêem que sistemas de IA altamente autónomos, capazes de superar os humanos, poderão ser implementados nas próximas décadas, enquanto outros acreditam que poderá demorar mais tempo. [1]
9 Livros e filmes predizem o futuro
Em conluio com a nossa imaginação desenfreada está a forma como a IA é frequentemente retratada em livros e filmes, embora não infundada. Livros e filmes que preveem o futuro não são inéditos. Em 1968, 2001: Uma Odisséia no Espaço previu tablets e inteligência artificial controlada por voz. Neuromancer , publicado em 1984, previu a ascensão de um mundo digital conectado e explorou temas de hacking, IA e a mistura de realidade e virtualidade.
Hoje em dia, a IA avançada, sejam sistemas ou robôs andróides, é muitas vezes enquadrada como inerentemente má ou em busca de sangue humano. Alguns diriam que isto também não é infundado, uma vez que a IA vê os humanos como uma ameaça não apenas ao seu próprio bem-estar, mas essencialmente ao bem-estar de tudo no planeta.
Tanto Hollywood como os livros desempenharam um papel significativo na contribuição para o medo em torno da IA ao longo dos anos, com numerosos filmes retratando cenários distópicos onde a tecnologia da IA, incluindo a IA generativa, corre descontroladamente. Estas representações cinematográficas destacam frequentemente os perigos potenciais e os dilemas éticos associados à IA, enfatizando temas de subjugação humana, perda de controlo e ameaças existenciais.
Filmes como Ex Machina , Blade Runner e Matrix enraizaram com sucesso a noção de uma IA malévola na cultura popular, amplificando a apreensão do público. A sua representação em filmes perpetua o medo da IA ao enquadrar os seres da IA como enganadores e manipuladores. Poucos retratam seres de IA como o de Homem Bicentenário , que explora relações positivas entre humanos e IA e o potencial da IA para contribuir para a melhoria das vidas humanas. Se os nossos medos são estimulados pelo nosso impulso biológico para sobreviver ou se é sensacionalismo, ainda não se sabe como a IA irá evoluir e a sua relação com os humanos. [2]
8 Deslocamento de Trabalho
A IA nos substituirá? O receio de que a IA generativa substitua os empregos humanos é uma preocupação válida. Os robôs não comem, não dormem nem precisam de pausas. Para os humanos, nossos empregos são nossa sobrevivência. À medida que a tecnologia avança, há uma preocupação crescente de que os sistemas alimentados por IA automatizem tarefas tradicionalmente executadas por seres humanos, levando ao desemprego generalizado e à perturbação económica.
A capacidade da IA generativa de imitar a criatividade humana e produzir conteúdos, como arte, música ou mesmo artigos escritos, suscita preocupações entre os profissionais dessas áreas. Além disso, a automação de vários setores, como manufatura, atendimento ao cliente ou transporte, alimenta ainda mais a ansiedade quanto ao deslocamento de empregos. Já é comum interagir com IA conversacional ou chatbots, por exemplo, antes mesmo de você finalmente ter a chance de falar com um ser humano real no atendimento ao cliente.
No entanto, embora a IA generativa tenha potencial para automatizar determinadas tarefas, é importante lembrar que também abre novas possibilidades e cria oportunidades de inovação. Em vez de simplesmente substituir empregos, o facto de a IA poder aumentar as capacidades humanas, permitindo que os indivíduos se concentrem em empreendimentos mais complexos e criativos, é menos considerado.
A história mostra que os avanços tecnológicos muitas vezes levam à criação de novas indústrias e oportunidades de emprego. Um dos meus professores universitários de antropologia disse uma vez que existem dois tipos de pessoas: aquelas que acreditam que o nosso modo de vida está a diminuir com o tempo e aquelas que acreditam que o nosso modo de vida está em constante mudança e evolução.
Talvez seja importante notar que a adaptação e a preparação para um cenário em mudança sempre foram a marca registrada daqueles que permanecem continuamente relevantes num mundo em mudança. Seja ágil como Madonna ou fique para trás. [3]
7 Regulamento
É muito difícil controlar a rapidez com que a IA aprende, conforme observado em “Ethics of Artificial Intelligence and Robotics” de Vincent C. Müller e muitas outras explorações publicadas sobre o tema. Os sistemas de IA podem exibir comportamentos de aprendizagem não intencionais ou detectar preconceitos nos dados de treinamento ou no ambiente com o qual interagem. Esses preconceitos e aprendizados não intencionais podem ocorrer mesmo quando as intenções ou objetivos iniciais dos desenvolvedores do sistema são diferentes.
Controlar e mitigar essa aprendizagem não intencional pode ser uma tarefa complexa. A atual falta de regulamentação robusta em torno da IA generativa é uma preocupação significativa por vários motivos. À medida que esta tecnologia evolui e se torna cada vez mais sofisticada, o seu impacto potencial na sociedade levanta considerações éticas, legais e de segurança. Sem regulamentações adequadas em vigor, há um risco maior de uso indevido e abuso de sistemas generativos de IA, e a responsabilidade não para nos vídeos deepfake.
Surgem preocupações em torno da privacidade e da segurança dos dados, uma vez que a IA generativa depende frequentemente de grandes quantidades de dados, levantando questões sobre propriedade, consentimento e proteção de informações pessoais. A falta de regulamentação coloca desafios para garantir a justiça, a transparência e a responsabilização no desenvolvimento e implantação de sistemas generativos de IA.
Sem orientações adequadas, há uma maior probabilidade de resultados tendenciosos ou discriminatórios, exacerbando as desigualdades sociais existentes. O estabelecimento de regulamentos abrangentes que abordem estas questões é crucial para aproveitar os benefícios da IA generativa, minimizando simultaneamente os seus riscos potenciais e salvaguardando os interesses dos indivíduos e da sociedade como um todo. [4]
6 Até Elon Musk está com medo
Muitos especialistas em tecnologia proeminentes, como Bill Gates e Geoffrey Hinton (também conhecido como o Padrinho da IA), expressaram preocupações e reservas sobre o desenvolvimento e as implicações da inteligência artificial (IA). Até Elon Musk, o homem que quer colocar civis em Marte, expressou abertamente as suas preocupações sobre a nossa capacidade de controlar a IA. A apreensão de muitos líderes tecnológicos decorre dos riscos potenciais associados ao facto de a IA ultrapassar a inteligência humana e das potenciais consequências do avanço descontrolado ou não controlado da IA.
Elon Musk alertou sobre a ameaça existencial que a IA representa, expressando preocupações sobre a falta de regulamentações adequadas e a necessidade de medidas de segurança proativas. Da mesma forma, Bill Gates destacou a necessidade de uma gestão cuidadosa do desenvolvimento da IA para evitar consequências indesejadas. Geoffrey Hinton, que recentemente deixou o cargo de vice-presidente do Google, disse que uma das razões para fazer isso foi para poder falar livremente sobre os perigos de uma tecnologia que ajudou a desenvolver.
Estes líderes da indústria temem que a IA possa potencialmente ultrapassar o controlo humano, levando a resultados não intencionais ou mesmo colocando riscos para o bem-estar da humanidade. As suas percepções e avisos enfatizam a importância do desenvolvimento responsável e ético da IA, incentivando uma abordagem ponderada que tenha em conta os riscos potenciais e garanta que os benefícios da tecnologia sejam aproveitados, minimizando potenciais impactos negativos. [5]
5 Invasão de privacidade
Outro dia eu estava conversando com uma amiga minha pelo telefone (sim, algumas pessoas ainda fazem isso), e ela ligou para a filha, Alexis, para levar o lixo para fora. Então ouvi ao fundo: “Sei que isso é uma droga, mas não posso te ajudar com isso”. Seu dispositivo habilitado para Alexa pensou que ela estava falando com ele. Todo mundo já mencionou algo em uma mera conversa passageira, apenas para vê-lo anunciado em massa em suas plataformas de mídia social instantaneamente.
Assistentes de voz alimentados por IA generativa, como Siri ou Alexa, têm a capacidade de ouvir nossas conversas. Isto desempenhou um papel importante nas preocupações com a privacidade, ao expor a monitorização generalizada das comunicações electrónicas, tanto dentro dos Estados Unidos como no estrangeiro, levantando preocupações significativas sobre a privacidade, as liberdades civis e as práticas de vigilância governamental.
Durante a pandemia da COVID-19, quando o mundo foi forçado a confiar na tecnologia mais do que nunca, as violações da segurança cibernética atingiram um ponto mais alto. Isto deve-se, em parte, à crescente sofisticação dos sistemas de IA e à sua capacidade de processar e analisar grandes quantidades de dados pessoais. Os cibercriminosos aproveitam os recursos de IA em atividades nefastas que vão desde golpes de phishing altamente sofisticados até a geração de identidades falsas altamente convincentes para fins de fraude ou espionagem.
Reduzindo ainda mais a confiança do público e comprometendo a privacidade, os sistemas de vigilância alimentados por IA, incluindo o reconhecimento facial e a análise comportamental, têm a capacidade de monitorizar e rastrear as atividades dos indivíduos, infringindo o seu direito à privacidade. A recolha e análise de dados pessoais por algoritmos de IA levantam ainda mais preocupações sobre violações de dados e acesso não autorizado, podendo levar ao roubo de identidade e a outros riscos relacionados com a privacidade. À medida que a IA continua a avançar, o estabelecimento de regulamentações e salvaguardas de privacidade robustas é crucial para garantir que as informações pessoais dos indivíduos sejam protegidas e que os seus direitos de privacidade sejam respeitados num mundo impulsionado pela IA. [6]
4 Uso Armado
Falando em ataques cibernéticos, a IA armada já provou ser uma arma muito poderosa. A capacidade da IA generativa para criar conteúdos altamente realistas e convincentes, juntamente com o seu potencial de manipulação, representa uma ameaça no domínio da desinformação e da propaganda, suscitando grandes preocupações éticas. Isto poderia levar à disseminação de narrativas falsas, à manipulação política e à agitação social.
A transformação da IA generativa em arma apenas mina a confiança e os processos democráticos. Também tem o potencial de causar danos significativos a nível individual, social e até internacional. Isto sublinha a necessidade urgente de regulamentos rigorosos, medidas robustas de cibersegurança e cooperação internacional para enfrentar os riscos potenciais e prevenir o uso indevido de IA generativa num contexto armado. [7]
3 Aquisição hostil
Não muito tempo atrás, em 2015, “Armas Autônomas: Uma Carta Aberta de Pesquisadores de IA e Robótica” foi publicada e assinada por numerosos pesquisadores na área de IA, destacando preocupações sobre o desenvolvimento de armas autônomas e os riscos potenciais que elas representam. Nessa carta, os investigadores enfatizam a capacidade da IA armada para seleccionar e atacar alvos sem intervenção humana, destacando os perigos potenciais e as implicações éticas associadas a tais armas.
Uma vez ativados, estes sistemas podem operar de forma independente, tomando decisões que podem ter consequências de vida ou morte sem supervisão humana direta. A carta esclarece a necessidade de cooperação internacional e legislação para garantir o uso responsável da IA e das tecnologias robóticas no contexto da guerra. Argumenta também que, sem orientações e restrições adequadas, as armas autónomas poderiam levar a uma corrida armamentista impulsionada pela IA, à proliferação de sistemas letais de IA e à erosão do controlo humano sobre a guerra.
Em maio de 2023, o Serviço de Pesquisa do Congresso observa: “Ao contrário de uma série de notícias, a política dos EUA não proíbe o desenvolvimento ou emprego de LAWS”. Na verdade, a única directiva do DOD é que todos os sistemas permitam que os operadores humanos exerçam o julgamento humano sobre o uso da força e que os operadores e comandantes do sistema sejam “adequadamente treinados” em sistemas de armas autónomas letais. Então, o que impede a IA armada de se voltar contra nós? A resposta não está muito em termos de regulamentação e legislação. Mas já chegamos lá tecnologicamente? [8]
2 Você não pode se esconder da IA
Como humanos, fazemos a curadoria do que permitimos que os outros vejam, seja nas redes sociais ou pessoalmente, e quando a realidade vai além do que aparenta. Nada faz os humanos se sentirem mais vulneráveis do que estar completamente expostos. As capacidades de reconhecimento facial e análise comportamental da IA têm o potencial de fazer mais do que apenas infringir o nosso direito à privacidade.
Os avanços contínuos na pesquisa e desenvolvimento de IA visam melhorar as capacidades dos sistemas de IA para compreender e interagir com os humanos. Os sistemas de IA podem aproveitar as grandes quantidades de dados que recolhem para reconhecer padrões e fazer previsões ou decisões sobre o comportamento humano. Se a IA entende como os humanos funcionam e tem a capacidade de monitorar e rastrear todos os nossos movimentos, isso lhe confere uma vantagem sobre os humanos, com a qual a maioria das pessoas se sente muito desconfortável.
Com uma regulamentação mínima sobre estas capacidades de IA, o que garantirá que esta tecnologia seja utilizada de uma forma que respeite os valores e direitos humanos? O medo do desconhecido é um hábito difícil de abandonar. [9]
1 Ameaça à existência humana
O potencial da IA para representar uma ameaça à existência humana é um tema de debate e especulação contínuos entre especialistas. É difícil prever o futuro com certeza, mas o impacto a longo prazo da IA avançada na humanidade é uma preocupação significativa neste momento. Em maio deste ano, uma declaração aberta instando os líderes mundiais a tratarem a IA com a mesma cautela que outras ameaças de extinção em massa foi assinada e divulgada por centenas de especialistas em tecnologia, pesquisadores, acadêmicos e executivos de tecnologia de corporações de IA, incluindo Microsoft, Google, OpenAI e Deepmind.
Diz: “Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos à escala social, como pandemias e guerra nuclear”.
Muitos pesquisadores e organizações estão trabalhando ativamente na segurança e na ética da IA. Um dos seus principais objetivos é garantir que os sistemas de IA sejam desenvolvidos para servir e aderir aos melhores interesses da humanidade.
No filme AI de 2001 , talvez nossos piores medos se tornem realidade. Os humanos serão extintos dois mil anos no futuro, e os robôs humanóides (IA autônoma) permanecerão, embora não sejam a IA assassina de que tanto tememos. Prever o futuro e os riscos potenciais associados aos sistemas avançados de IA é um desafio. A IA nos substituirá? A IA é a evolução natural e o futuro da humanidade? Quando partirmos, isso permanecerá? O tempo vai dizer. [10]
