Quais são as preocupações em torno da IA ​​e alguns dos avisos são “bobagens”?

Aug 21, 2023

Um especialista disse à Sky News que é importante “prestar atenção” às possibilidades de danos causados ​​pela IA e afirma que “não está claro” se os governos sabem como regular a tecnologia de forma segura.

Repórter de notícias @OliveLineham

Terça-feira, 30 de maio de 2023, 20h08, Reino Unido

A rápida ascensão da inteligência artificial (IA) não está apenas a suscitar preocupações entre as sociedades e os legisladores, mas também entre alguns líderes tecnológicos que estão no centro do seu desenvolvimento.

Alguns especialistas, incluindo o'padrinho da IA' Geoffrey Hinton, alertaram que a IA representa um problema semelhanterisco de extinção humana como pandemias e guerra nuclear.

Do chefe da empresa por trás do ChatGPT ao chefe do laboratório de IA do Google, mais de 350 pessoas disseram que mitigar o “risco de extinção da IA” deveria ser uma “prioridade global”.

Embora a IA possa realizar tarefas que salvam vidas, como algoritmos que analisam imagens médicas como raios X, tomografias e ultrassons, as suas capacidades em rápido crescimento e a sua utilização cada vez mais generalizada suscitaram preocupações.

Damos uma olhada em alguns dos principais – e por que os críticos dizem que alguns desses medos vão longe demais.

Desinformação e imagens alteradas pela IA

Os aplicativos de IA se tornaram virais em sites de mídia social, com usuários postando imagens falsas de celebridades e políticos, e estudantes usando ChatGPT e outros “modelos de aprendizagem de idiomas” para gerar redações de nível universitário.

Umem geralA preocupação em torno da IA ​​e do seu desenvolvimento é a desinformação gerada pela IA e como esta pode causar confusão online.

O cientista britânico Professor Stuart Russell disse que uma das maiores preocupações era a desinformação e os chamados deepfakes.

São vídeos ou fotos de uma pessoa em que seu rosto ou corpo foram alterados digitalmente para que pareçam ser outra pessoa – normalmente usados ​​de forma maliciosa ou para espalhar informações falsas.

Use o navegador Chrome para um player de vídeo mais acessível

O professor Russell disse que embora a desinformação já exista há muito tempo para fins de "propaganda", a diferença agora é que, usando Sophy Ridge como exemplo, ele poderia pedir ao chatbot online GPT-4, para tentar "manipulá-la" para que ela seja "menos favorável à Ucrânia".

Na semana passada, uma imagem falsa queparecia mostrar uma explosão perto do Pentágonoviralizou brevemente nas redes sociais e deixou os verificadores de fatos e os bombeiros locais lutando para rebater a afirmação.

Parecia que a imagem, que supostamente mostrava uma grande nuvem de fumaça preta próxima à sede do Departamento de Defesa dos EUA, foi criada usando tecnologia de IA.

Foi postado pela primeira vez no Twitter e rapidamente recirculado por contas de notícias verificadas, mas falsas. Mas os verificadores de factos rapidamente provaram que não houve explosão no Pentágono.

Mas algumas ações estão sendo tomadas. Em novembro, o governo confirmou que o compartilhamento de “deepfakes” pornográficos sem consentimento será considerado crime sob a nova legislação.

Excedendo a inteligência humana

Os sistemas de IA envolvem a simulação de processos de inteligência humana por máquinas – mas existe o risco de que possam desenvolver-se ao ponto de excederem o controlo humano?

O professor Andrew Briggs, da Universidade de Oxford, disse à Sky News que existe o temor de que, à medida que as máquinas se tornem mais poderosas, "poderá chegar" o dia em que sua capacidade exceda a dos humanos.

Use o navegador Chrome para um player de vídeo mais acessível

Ele disse: “No momento, seja o que for que a máquina esteja programada para otimizar, é escolhido pelos humanos e pode ser escolhido para o mal ou para o bem.

“O medo é que, à medida que as máquinas se tornam cada vez mais inteligentes e poderosas, possa chegar o dia em que a capacidade exceda largamente a dos humanos e os humanos percam a capacidade de manter o controlo daquilo que a máquina procura otimizar”.

Leia mais:O que é GPT-4 e como ele pode ser melhorado?