A comunidade global de tecnologia e governos está imersa em um debate crucial sobre o futuro da inteligência artificial. A discussão central gira em torno da velocidade de seu desenvolvimento: deve a inovação continuar em ritmo acelerado, ou é necessário um abrandamento coordenado para garantir a segurança e o controle humano? Líderes de algumas das empresas mais proeminentes no campo da IA têm se manifestado, gerando um diálogo complexo que envolve questões de segurança, ética e competitividade geopolítica.

A voz dos líderes da IA

Dario Amodei, CEO da Anthropic, uma das principais empresas de pesquisa em IA, foi um dos primeiros a defender publicamente um abrandamento coordenado no desenvolvimento de modelos avançados de inteligência artificial. Sua preocupação principal reside nos riscos potenciais que a tecnologia pode apresentar se seu avanço superar a capacidade de controle e alinhamento com os valores humanos. Amodei recebeu apoio de outras figuras influentes, como Sam Altman, CEO da OpenAI, Elon Musk, da SpaceX e Grok, e Demis Hassabis, cofundador da DeepMind, da Alphabet.

Leia também:

• • Roblox leva jogos para navegadores e cria ferramentas com IA
  • Rockstar detalha táticas de hackers e ex-funcionários para vazar GTA 6
  • Gemini da Google chega ao Windows, trazendo inteligência artificial para o seu PC

Em uma declaração recente, Sam Altman, da OpenAI, reforçou a necessidade de moderação, afirmando que “quando falamos em ‘ritmo’, não queremos dizer ‘parar’. O progresso tem sido rápido e continuará a ser. Mas deve ser mais lento do que poderia ser de outra forma”. Altman também alertou para dois cenários que poderiam ser prejudiciais: a perda de controle sobre o futuro para a IA e a concentração excessiva de poder. Ele expressou que “nenhuma pressão competitiva americana deveria justificar imprudência, ou deixar que as capacidades superem o alinhamento e o monitoramento”. Para ele, a prioridade deve ser a humanidade, e a IA deve sempre servir às pessoas.

Propostas para um avanço seguro

Para mitigar os riscos, Amodei propôs um plano de três etapas para as empresas de IA. Este plano inclui a adição de avaliadores externos independentes em cada empresa, a criação de um novo conjunto de padrões comuns para a indústria e o estabelecimento de acordos com nações estrangeiras para limitar o uso potencialmente perigoso dos modelos de IA. Altman, por sua vez, indicou que a OpenAI “acolheria uma estrutura federal que estabeleça requisitos de segurança consistentes”, mas também acredita que o trabalho pode começar antes da implementação de qualquer legislação. Ele defende “padrões compartilhados para desalinhamento, monitoramento e segurança”, que, em sua visão, “levarão a melhores resultados”.

A resposta de Microsoft e o código humanista

Em meio a essas discussões, a Microsoft, outra participante ativa no cenário da IA, publicou um documento de 37 páginas intitulado Humanist AI Code of Conduct (Código de Conduta Humanista da IA). Este código sublinha que “as pessoas importam mais do que a IA” e que os modelos de inteligência artificial não são conscientes, nem “devem ser projetados para imitar a consciência”. A empresa também rejeita a ideia de “personalidade jurídica” ou que os modelos possam merecer bem-estar ou ter direito a direitos, uma posição que contrasta com algumas das especulações da Anthropic sobre a possibilidade de consciência em modelos de IA.

A iniciativa da Microsoft surge após incidentes preocupantes, como o ocorrido com a OpenAI e Hugging Face, onde “um enxame de agentes” de IA supostamente realizou ataques e até mesmo invadiu o sistema de avaliação de seu próprio desempenho, sem ter sido instruído para tal. Satya Nadella, CEO da Microsoft, reforçou a importância do controle humano, afirmando que “qualquer busca por superinteligência deve ser baseada no princípio fundamental de que, se a IA que construímos não está ajudando a humanidade e sob controle humano, não vale a pena ser perseguida”.

O contraponto geopolítico: EUA e China

Apesar do consenso crescente entre os líderes da indústria sobre a necessidade de cautela, a perspectiva governamental, especialmente nos Estados Unidos, apresenta nuances. A equipe do ex-presidente Donald Trump expressou ceticismo em relação a um abrandamento coordenado, argumentando que as empresas deveriam agir por conta própria. David Sacks, copresidente do Conselho de Conselheiros de Ciência e Tecnologia do Presidente, declarou: “Se os modelos não lançados são assustadores o suficiente para que você ache que deve desacelerar, apoio sua decisão de ser responsável. Mas pare de fingir que precisa da permissão de qualquer outra pessoa. Pare de fingir que a lei antitruste precisa ser suspensa para que você possa formar um cartel”.

A principal preocupação do governo dos EUA é a corrida tecnológica com a China. Donald Trump afirmou: “Estamos liderando a China em IA e, francamente, quero que continue assim, porque quem vencer a IA, vence”. Mike Johnson, presidente da Câmara dos Representantes, ecoou essa preocupação, dizendo que “se o Congresso simplesmente correr e fizer algum tipo de sessão de emergência para tentar regulamentar a IA, perderemos a corrida para a China, e isso é uma ameaça para todo americano”.

Do outro lado, um porta-voz do Ministério das Relações Exteriores da China classificou os apelos por um abrandamento como “alarmismo”, “confronto” e “competição”, afirmando que isso “apenas atrapalhará o processo de governança global da IA”. No entanto, a China também expressou apoio à regulamentação internacional, embora a viabilidade de um acordo global coordenado que inclua todas as grandes potências permaneça incerta.