Grupo organizou manifesto para apresentar a Donald Trump. Nomes pioneiros no desenvolvimento de IA, como Geoffrey Hinton, ganhador do Nobel de Física, e Steve Wozniak, co-fundador da Apple, estão entre os signatários do manifesto organizado pelo grupo FLI (Future of Life Institute). A ideia é entregar ao presidente dos Estados Unidos e a outros governos um plano de ação para evitar que o desenvolvimento de IA saia do controle e prejudique os seres humanos.

Busca por avanço alerta ativistas. A preocupação com o avanço desenfreado da IA ganhou força em 2023, com o surgimento e popularização do ChatGPT. Desde então, as chamadas big techs têm investido bilhões de dólares no desenvolvimento de seus próprios sistemas. Mark Zuckerberg, CEO da Meta, chegou a dizer neste ano que tem, sim, em vista o desenvolvimento de uma superinteligência artificial.

O que é ASI

Sigla, em inglês, significa Sistema de Superinteligência Artificial. O ASI é um sistema hipotético baseado em software que teria uma capacidade intelectual superior à humana. Em tese, ela contaria com funções cognitivas complexas e habilidade de pensamento mais desenvolvidas e avançadas do que de qualquer ser humano.

ASI representa perigos para a sociedade, dizem ativistas. No site do FLI, os membros do movimento apontam as já desenvolvidas capacidades da IA que representam perigo à humanidade, como interferências na democracia, disseminação de preconceitos e contribuição para a corrida por armas autônomas. O instituto alerta para a busca ativa de corporações pelo que chamam de AGI (Inteligência Artificial Geral), que pode performar melhor do que humanos em uma vasta gama de tarefas.

As forças armadas podem perder o controle de um sistema de alto desempenho projetado para causar danos, com impacto devastador. Um sistema avançado de IA, encarregado de maximizar os lucros de uma empresa, pode empregar métodos drásticos e imprevisíveis. Mesmo uma IA programada para fazer algo altruísta pode adotar um método destrutivo para atingir esse objetivo. Atualmente, não temos uma maneira precisa de saber como os sistemas de IA agirão, porque ninguém, nem mesmo seus criadores, entende como eles funcionam.
Future of Life Institute