Os CEOs de três empresas de inteligência artificial participaram nesta quarta-feira (23) de uma reunião do Conselho de Segurança da Organização das Nações Unidas (ONU) dedicada aos impactos da tecnologia sobre a segurança internacional. Sam Altman, da OpenAI; Dario Amodei, da Anthropic; e Clement Delangue, da Hugging Face, foram convidados a discutir os riscos associados ao avanço de sistemas de IA cada vez mais poderosos. A reunião foi convocada pela França, que preside o Conselho de Segurança durante o mês de setembro.

O encontro ocorreu em meio a preocupações de pesquisadores, governos e empresas sobre a possibilidade de sistemas mais avançados escaparem dos mecanismos atuais de supervisão humana. Um relatório do Painel Científico Internacional Independente sobre IA da própria ONU, publicado em setembro, aponta riscos relacionados a agentes capazes de agir de maneira autônoma e encontrar brechas em sistemas de controle. O documento também ressalta que incidentes envolvendo IA podem ultrapassar fronteiras e que nenhum país ou organização consegue, sozinho, identificar todos os riscos emergentes.

Leia também:

• • Brasileiros estão mais preocupados do que entusiasmados com avanço da IA
  • ShinyHunters afirma ter invadido FBI e roubado dados de agentes e candidatos
  • Samsung e Skeelo levam leitura digital para diferentes momentos da rotina

Amodei alerta para riscos à humanidade

Dario Amodei afirmou ao Conselho de Segurança que, caso a tecnologia seja mal administrada, a inteligência artificial pode representar um risco para a humanidade. A declaração ocorre enquanto empresas desenvolvem sistemas cada vez mais capazes de executar tarefas de forma autônoma, ampliando as discussões sobre segurança, supervisão e controle humano.

O alerta também foi reforçado por Yoshua Bengio, professor da Universidade de Montreal e copresidente do Painel Científico Internacional Independente sobre IA da ONU. Durante a reunião, ele classificou os riscos associados à tecnologia como “reais e iminentes” e afirmou que a ameaça não respeita fronteiras nacionais. Para Bengio, nenhum país consegue lidar isoladamente com os desafios apresentados pelo avanço da inteligência artificial.

Altman defende participação dos governos

Sam Altman, por sua vez, defendeu uma atuação coordenada entre países e maior participação dos governos na definição das regras para o desenvolvimento da inteligência artificial. Para o executivo, decisões fundamentais sobre o futuro da tecnologia não devem ficar restritas às empresas responsáveis por criar esses sistemas.

A posição de Altman acompanha uma mudança no debate internacional sobre IA, que passou de discussões predominantemente tecnológicas para questões relacionadas à segurança internacional e à governança. Em declaração anterior à reunião, a OpenAI também defendeu esforços internacionais para estabelecer padrões técnicos para sistemas avançados e mecanismos comuns para o registro de incidentes.

O executivo comparou o momento atual a outros períodos em que países rivais precisaram cooperar diante do surgimento de tecnologias capazes de alterar o equilíbrio internacional. A discussão, portanto, envolve não apenas a criação de regras para empresas, mas também a definição de quais decisões devem ser tomadas por governos e instituições multilaterais.

IA também entra na defesa contra ataques cibernéticos

Clement Delangue, CEO da Hugging Face, destacou outro aspecto da relação entre inteligência artificial e segurança: o uso da tecnologia em ataques e na defesa de sistemas digitais. Segundo ele, a própria empresa já foi alvo de um ataque realizado com auxílio de IA, mas também utilizou a tecnologia para se defender.

O episódio ilustra uma das dificuldades enfrentadas pelos governos: a mesma tecnologia pode ampliar a capacidade de agentes maliciosos e, ao mesmo tempo, ser utilizada para identificar ameaças e proteger redes. O Painel Científico da ONU também cita a cibersegurança entre os campos em que o comportamento de sistemas mais autônomos pode criar novos desafios de supervisão.

EUA e China divergem sobre os limites do avanço

A discussão ocorre em um cenário de disputa tecnológica entre Estados Unidos e China, que concentram parte significativa do desenvolvimento de sistemas avançados de inteligência artificial. Os dois países têm posições diferentes sobre como conciliar segurança, competitividade e velocidade de inovação.

De um lado, há pressão para que o setor continue avançando impulsionado por investimentos e competição de mercado. De outro, cresce a defesa de padrões internacionais de segurança e mecanismos de supervisão capazes de acompanhar o desenvolvimento da tecnologia. A divergência ficou evidente nos debates recentes sobre a possibilidade de estabelecer limites ou mecanismos internacionais para sistemas de IA mais avançados.