Thumbnail

A carta da “Future of Life Institute” pede uma pausa de seis meses no desenvolvimento de sistemas de Inteligência Artificial mais avançados do que o recém-lançado GPT-4.

Gui Rangel

IA

Inteligência Artificial versus humanidade: precisamos parar antes que seja tarde?

19/04/2023 16:14
A notícia que sacudiu o mundo recentemente foi a carta da “Future of Life Institute” assinada, entre outros, por Elon Musk, um dos fundadores da OpenAi, criadora do ChatGPT; o co-fundador da Apple, Steve Wozniak; o especialista em ética de tecnologia, Tristan Harris; o físico e pesquisador de machine learning do MIT, Max Tegmark; o historiador Yuval Noah Harari; além de cientistas, executivos e experts na área de desenvolvimento de Inteligência Artificial, e uma lista crescente que tinha, no começo do dia, mais de mil signatários.
Nesta carta foi pedida uma pausa de seis meses no desenvolvimento de sistemas de Inteligência Artificial mais avançados do que o recém-lançado GPT-4.
Segundo ela, uma IA avançada poderia representar uma mudança profunda na história da vida na Terra e, por conta disso, deveria ser planejada e gerenciada de forma cuidadosa. Infelizmente, isso não está acontecendo na medida necessária, e o que temos visto é uma corrida acelerada, disputada por big players da indústria da tecnologia, para desenvolver e lançar agentes digitais cada vez mais poderosos que ninguém – nem mesmo seus criadores – consegue entender, prever, ou controlar de forma eficiente.
Na carta também se menciona que essa pausa deveria ser utilizada para desenvolver e implementar protocolos de segurança compartilhados, que possam ser auditados por especialistas independentes e que garantam que as IAs avançadas sejam cada vez mais precisas, seguras, interpretáveis, robustas, confiáveis, leais e alinhadas com os valores relevantes para a sociedade.
Também se pede que haja um trabalho conjunto entre desenvolvedores, legisladores e órgãos governamentais responsáveis, para acelerar a criação de um corpo de governança responsável por analisar, monitorar e proteger a sociedade dos enormes impactos que esses sistemas cada vez mais avançados estão trazendo e podem – ou melhor, vão – trazer para a nossa realidade, pois são sistemas que podem um dia superar a capacidade cognitiva humana e oferecer um risco existencial para nossa espécie.
O objetivo do documento é criar iniciativas que possam ajudar a garantir que os agentes de IA que estão surgindo tenham um impacto positivo na nossa realidade e que possamos aproveitar um duradouro “verão” da Inteligência Artificial.
Mas por que chegamos a esse ponto?

O ChatGPT e a Inteligência Artificial para todos

Essa iniciativa surge como uma consequência da explosão da utilização e da popularização de sistemas de inteligência artificial generativos, acessíveis ao grande público, como o ChatGPT e o Bard, do Google. Esses modelos, chamados de LLMs ou “grandes modelos de linguagem”, passam por um processo de treinamento que envolve alimentar com grandes quantidades de dados de texto a rede neural e usar um processo chamado “aprendizado não supervisionado” para ensinar os modelos a prever a probabilidade de palavras ou sequências de palavras, dados seus respectivos contextos em uma frase ou parágrafo. O modelo é treinado para gerar um texto original semelhante ao texto que foi utilizado no seu treinamento, com o objetivo de ser capaz de gerar um conteúdo coerente e natural em resposta a um prompt (uma descrição da atividade desejada) ou consulta.
Apesar das imperfeições que surgem no processo, como respostas desconexas, erradas ou muitas vezes enviesadas, os resultados são tão extraordinários que até os próprios criadores dos sistemas se surpreendem.
De repente, sem a necessidade de qualquer treinamento técnico ou científico, centenas de milhões de pessoas começaram a explorar as possibilidades quase ilimitadas que esses agentes digitais oferecem. Elas usam esses agentes digitais para elaborar apresentações; fazer trabalhos de faculdade; explorar novas ideias de negócios; estruturar planos de marketing; criar ideias para livros e filmes; escrever códigos de software e encontrar bugs em softwares existentes; escrever conteúdo para blogs e mídias sociais; inspirar criatividade; gerar ideias e conceitos; como um advisor financeiro e de carreira; criar música; resolver problemas; criar vídeos e imagens ultrarrealistas, com qualidade fotográfica. A lista não para de crescer.
A inteligência Artificial deixou de ser um agente difuso, que atua nos bastidores da nossa economia ou uma ideia, distante ainda abstrata, que é apresentada nos filmes e livros de ficção científica e passou a ser algo tangível, que faz parte do repertório dos cidadãos comuns e começa a transformar o jeito com que aprendemos e trabalhamos.
Mas quais são os possíveis impactos que esses movimentos podem trazer?

As consequências do uso da IA

O impacto que essa utilização crescente de soluções de IA está trazendo é difícil de ser compreendido. Nossa eficiência, nossa produtividade e nossa criatividade serão aumentadas de forma exponencial. Tarefas previsíveis e repetitivas serão totalmente automatizadas. E a definição do que pode ser automatizado se torna cada vez menos clara à medida que a IA se desenvolve e é adotada. Por conta disso, muitas profissões correm o risco de desaparecer, outras vão se reinventar e muitas vão surgir.
A expressão “A Inteligência Artificial é a nova eletricidade”, uma tecnologia transformadora que vai tocar todas as áreas da nossa existência, começa a tomar forma.
Segundo um estudo recém-publicado pela Goldman Sachs Research, a automação baseada em Inteligência Artificial deve impactar 66% dos empregos nos próximos 10 anos, aumentando o PIB mundial em 7%. Tudo por conta de uma mistura de economia no custo da força de trabalho substituída por sistemas automatizados, criação de novos empregos alinhados com essas novas tecnologias e aumento de produtividade dos trabalhadores que continuam no mercado.
O estudo afirma que 18% da força de trabalho global poderia ser automatizada pelo uso de IAs. Neste processo, 46% dos trabalhos administrativos e 44% dos trabalhos no setor jurídico, por exemplo, podem ser substituídos.
Segundo a consultoria McKinsey, cerca de 50% das atividades atuais são tecnicamente automatizáveis ao adaptar tecnologias já existentes e 30% das horas trabalhadas podem ser automatizadas – projeção feita antes do ChatGPT ser disponibilizado para o público.
Um dos maiores problemas dessas projeções é que elas são tímidas, limitadas pela falta de capacidade de extrapolação e pela visão conservadora dos responsáveis pela sua elaboração. Elas são baseadas nos elementos existentes no momento presente, não levam em consideração o ritmo exponencial com que novas tecnologias surgem e a velocidade quase viral com que estão sendo adotadas. Também não levam em consideração o surgimento de “wildcards”, tecnologias disruptivas que não haviam sido previstas, que têm um enorme impacto na nossa realidade.
É preciso lembrar que, até alguns meses atrás, o ChatGPT era totalmente desconhecido. E ninguém foi capaz de imaginar que, em apenas 2 meses, mais de 100 milhões de pessoas estariam usando o sistema.
A Inteligência Artificial, alavancada pelo surgimento de agentes cada vez mais capazes e acessíveis, vai gerar riqueza através do enorme ganho de eficiência e produtividade que proporciona e, no processo, deve reinventar muitas carreiras e criar outras tantas, em que os empregados vão dedicar o seu tempo a atividades que geram mais valor. Mas uma boa parcela da população vai ficar à margem dessa transformação, não só pela ausência de políticas públicas e privadas que visam a sua capacitação para as mudanças profundas que vão ocorrer na forma como trabalhamos, mas porque elas serão desnecessárias nesse novo mundo onde a automação se torna prevalente.
A automação é um fator que gera desequilíbrio da relação entre o capital e o trabalho, porque nela o capital passa ter mais controle sobre o valor de troca oferecido pelo trabalho. A Inteligência Artificial como ápice da automação, dada a sua abrangência e profundidade de impacto, pode empoderar ainda mais o capital, tornando-se um agente decisivo no aumento da desigualdade e concentração de riqueza.
Depois de um período de otimização de processos, em que as organizações buscavam transferir atividades produtivas para países onde a mão-de-obra é mais barata – o offshoring –, vamos experimentar um novo momento, guiado pela desmaterialização e a digitalização do trabalho: o cloudshoring. E esses são apenas alguns dos desafios que vamos enfrentar.

Os desafios pela frente

Um dos maiores dilemas que enfrentamos nos tempos modernos é que, tradicionalmente, adotamos novas tecnologias mais rapidamente do que permite a nossa capacidade de compreender as suas implicações éticas, morais, sociais, econômicas, ambientais. Depois, temos que lidar com suas consequências.
Se usarmos as mudanças climáticas que estão afetando o nosso planeta como uma referência, veremos que elas são uma consequência do processo de industrialização, urbanização e crescimento populacional desenfreado que experimentamos na busca pela prosperidade. Suas causas foram mapeadas; seus impactos foram descritos e vão de preocupantes a assustadores no curto, médio e longo prazo; encontros globais foram realizados; ações e acordos foram exaustivamente discutidos, desenhados e aprovados; mas poucos resultados tangíveis foram alcançados.
E o tempo está passando e ficando cada vez mais escasso.
No caso da Inteligência Artificial, vivemos um momento em que existe uma janela de oportunidade para que possamos criar um framework que aborde os grandes desafios que vamos enfrentar. E muitos desses desafios soam abstratos, distantes, quase como narrativas de ficção científica para as nossas mentes construídas não para lidar com o futuro, mas para viver o presente.
E o presente que o ChatGPT, o GPT-4 e afins oferecem é mágico, cheio de promessas e possibilidades sedutoras.
Essas narrativas – e as principais iniciativas que estão dando forma aos agentes digitais – estão sendo controladas pelas grandes empresas de tecnologia e pelos governos de dois países que lutam pela supremacia em IA no cenário global: Estados Unidos e China, sendo que a China colocou como um dos objetivos fundamentais estratégicos da nação tornar-se a potência dominante no desenvolvimento de IA até 2030.
Essa corrida, quase análoga à corrida armamentista durante a Guerra Fria, pode levar não só a um aumento da eficiência, da produtividade e da criatividade das pessoas e organizações, mas também ao surgimento e desenvolvimento de ferramentas de desinformação e manipulação da sociedade exponencialmente poderosas.
Uma das grandes perguntas que teremos que responder é: algum desses jogadores pode se dar ao luxo de ficar fora dessa corrida para dominar essas tecnologias?
E o que fazer quando os sistemas que criamos de maneira ansiosa e irrefletida começam a superar as capacidades humanas e ultrapassar suas especificações originais, superando a capacidade cognitiva humana?

Que tipo de futuro será criado?

Essas questões – e muitas outras – têm que fazer parte da construção de um framework que irá guiar a construção de agentes sintéticos cada vez mais poderosos e a sua relação com a sociedade.
A carta do “Future of Life Institute” tem ótimas intenções, e as reflexões que ela propõe são fundamentais para o momento crítico em que vivemos. Mas, como iniciativa, terá pouco impacto prático. Seis meses de pausa é muito pouco para frear essa corrida desenfreada pela dominância na criação e implementação dos agentes de Inteligência Artificial. A esperança é de que ela seja a catalisadora de um movimento mais abrangente, inclusivo e profundo, que se espalhe pelo mundo.
Temos que ir além de especialistas em IA, cientistas da computação, engenheiros e desenvolvedores, e incluir outros setores da sociedade que, geralmente, ficam à margem dessas discussões. Onde estão os sociólogos, antropólogos, filósofos, historiadores, psicólogos, artistas, professores, advogados, economistas e estudantes?
Para que a Inteligência Artificial não saia do controle e possa contribuir para criar uma sociedade mais justa e equilibrada, ninguém pode ficar de fora. Porque, senão, uma máquina pode decidir por você.
Gui Rangel é futurista, pesquisador, autor, advisor e SciFi Experience Design, e SXSW Speaker.

Enquete

A inteligência artificial está transformando rapidamente aspectos da sociedade. Como você percebe o impacto da IA em nossas vidas?

Newsletter

Receba todas as melhores matérias em primeira mão