Pesquisadores afirmam que desafio imediato são as chamadas 'deepfakes', que misturam fatos e ficção na política.

A aceleração do desenvolvimento de tecnologias de inteligência artificial pode já estar perturbando processos democráticos como as eleições e pode até ameaçar a existência humana, alertaram especialistas em IA na conferência Reuters NEXT, em Nova York.

A explosão da IA generativa — que pode criar textos, fotos e vídeos em resposta a solicitações abertas — nos últimos meses despertou tanto entusiasmo sobre seu potencial quanto receios de que poderia tornar alguns empregos obsoletos, prejudicar eleições e até possivelmente dominar os seres humanos.

“O maior risco imediato é a ameaça à democracia… há muitas eleições em todo o mundo em 2024, e a probabilidade de nenhuma delas ser abalada por falsificações profundas e coisas assim é quase zero", afirmou Gary Marcus, professor na Universidade de Nova York, em um painel na conferência Reuters NEXT, em Nova York, na quarta-feira (8).

Uma grande preocupação é que a IA generativa turbinou os chamados "deepfakes" — vídeos realistas, mas fabricados, criados por algoritmos de IA treinados em copiosas imagens online — que surgem nas redes sociais, confundindo fatos e ficção na política.

Embora esse tipo de mídia sintética já exista há vários anos, o que costumava custar milhões agora pode custar cerca de US$ 300, disse Marcus.

Empresas utilizam cada vez mais a IA para tomar decisões, inclusive sobre preços, o que pode levar a resultados discriminatórios, alertaram especialistas na conferência.

Marta Tellado, CEO da organização sem fins lucrativos Consumer Reports, disse que uma investigação concluiu que os proprietários de automóveis que vivem em bairros com população majoritariamente negra ou parda, e nas proximidades de um bairro de residentes majoritariamente brancos, pagam valores de seguro automotivo até 30% maiores. 

“Não há transparência para o consumidor de forma alguma”, disse ela durante entrevista no painel.

Outra ameaça emergente contra a qual parlamentares e líderes de empresas de tecnologia devem se proteger é a possibilidade de a IA se tornar tão poderosa a ponto de virar uma ameaça para a humanidade, disse Anthony Aguirre, fundador e diretor-executivo do Future of Life Institute, em entrevista na conferência.

“Não devemos subestimar o quão poderosos estes modelos são agora e a rapidez com que se tornarão mais poderosos”, disse ele.

O Future of Life Institute, uma organização sem fins lucrativos que visa reduzir os riscos catastróficos da inteligência artificial avançada, ganhou as manchetes em março quando divulgou uma carta aberta pedindo uma pausa de seis meses no treinamento de sistemas de IA mais poderosos que o GPT-4 da OpenAI.

A organização alertou que os laboratórios de IA estão “presos a uma corrida descontrolada” para desenvolver “mentes digitais poderosas que ninguém -- nem mesmo seus criadores -- pode compreender, prever ou controlar de forma confiável”.

O desenvolvimento de uma IA cada vez mais poderosa também pode trazer o risco de eliminação de empregos, a tal ponto que poderá ser impossível para os humanos simplesmente aprenderem novas competências e entrarem em outros setores.