Big techs se comprometem a "desligar" a IA se riscos não puderem ser controlados

Big techs como Google, Meta, Microsoft, Amazon, OpenAI e xAI, de Elon Musk, bem como empresas da China, Coreia do Sul e Emirados Árabes Unidos, reuniram-se em um acordo voluntário internacional no qual se comprometem a desenvolver modelos de inteligência artificial mais avançados de forma segura. O anúncio foi feito na terça-feira (21) pelos governos do Reino Unido e da Coreia do Sul, antes do início do Seoul AI Safety Summit, que aconteceu na capital da Coreia do Sul nos dias 21 e 22 de maio.

As 16 empresas envolvidas concordam em publicar estruturas de segurança para medir riscos e evitar modelos em que esses riscos não possam ser suficientemente mitigados. Isso significa não desenvolver ou implementar qualquer forma de modelo em que os riscos não possam ser controlados. Caso contrário, as empresas concordaram em desligar imediatamente o desenvolvimento de seus modelos de IA.

O anúncio amplia a chamada Declaração de Bletchley, assinada por mais de 25 países na primeira cúpula internacional sobre a segurança da IA, realizada em novembro, no Reino Unido. O Brasil é um dos signatários do documento que aponta a necessidade urgente da compreensão e administração coletiva dos potenciais riscos da IA.

De acordo com o Financial Times, o primeiro-ministro britânico, Rishi Sunak, apontou que os compromissos estabelecidos garantem que as principais empresas de IA do mundo apresentarão de forma transparente e responsável seus planos de desenvolver uma tecnologia segura. "Isso estabelece um precedente para padrões globais sobre segurança de IA que desbloquearão os benefícios desta tecnologia transformadora", disse no comunicado.

As empresas também estabelecerão os "limites nos quais os riscos graves apresentados por um modelo ou sistema, a menos que adequadamente mitigados, seriam considerados intoleráveis" e como tais mitigadores serão implementados.

Ainda de acordo com o jornal britânico, o anúncio de terça-feira também ecoa os "compromissos voluntários" feitos na Casa Branca em julho do ano passado pelas empresas Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft e OpenAI "para ajudar a avançar em direção ao desenvolvimento seguro e transparente da tecnologia de IA".

O GazzSummit Agrotechs é uma iniciativa pioneira do GazzConecta para debater o cenário de inovação em um dos setores mais relevantes do país. O evento será realizado no dia 15 de agosto de 2024 com o propósito de conectar e promover conhecimento para geração de novos negócios, discussão de problemas e desafios, além de propor soluções para o setor.

O GazzSummit promove a disseminação de tecnologias e práticas de inovação que possam levar a cadeia produtiva ainda mais longe. Uma programação intensa de 12 horas de conteúdo, e mais de 25 palestrantes, espera os participantes que poderão interagir com players importantes do ecossistema como grandes empresas, cooperativas, produtores, entidades públicas, startups e inovadores. Garanta já a sua vaga.