OpenAI, Anthropic e Google discutem a criação de uma organização conjunta voltada à definição de padrões de segurança para sistemas de inteligência artificial avançada. Segundo o The Information, as empresas vêm mantendo reuniões para estruturar o projeto, que poderá se chamar Standards Authority for Frontier AI (SAFA). A previsão discutida pelo grupo é de que a iniciativa seja lançada entre o fim de 2026 e o início de 2027.

A proposta surge em um momento de avanço acelerado dos chamados modelos de fronteira, sistemas desenvolvidos para executar tarefas cada vez mais complexas. Em vez de estabelecer apenas recomendações internas, a SAFA teria como objetivo transformar compromissos voluntários de segurança adotados pelas empresas em práticas e padrões mais concretos para o setor.

Leia também:

• • ShinyHunters afirma ter invadido FBI e roubado dados de agentes e candidatos
  • Samsung e Skeelo levam leitura digital para diferentes momentos da rotina
  • Ando quer transformar agentes de IA em colegas de trabalho, não apenas ferramentas

Entre as atribuições discutidas está o apoio a organizações independentes responsáveis por testar modelos antes de sua implementação. A ideia é ampliar a participação de avaliadores externos na análise de sistemas avançados, incluindo testes voltados à identificação de riscos e vulnerabilidades.

A organização também poderia estabelecer diretrizes para que desenvolvedores de inteligência artificial comuniquem incidentes relacionados à segurança. Um padrão comum de comunicação permitiria, por exemplo, definir quais situações deveriam ser reportadas e quais informações deveriam ser compartilhadas quando um sistema apresentar um problema relevante.

Padrões comuns para um setor em rápida transformação

Outro possível papel da SAFA seria contribuir para a criação de critérios comuns de avaliação e segurança. A iniciativa poderia definir parâmetros para testes independentes e estabelecer requisitos para organizações e profissionais responsáveis por auditorias de modelos de IA.

A discussão também envolve a relação entre a futura organização e iniciativas governamentais existentes. O The Information relata que ainda não está definido até que ponto a SAFA participaria diretamente dos testes de segurança e como suas atividades se relacionariam com trabalhos já realizados por órgãos públicos nos Estados Unidos.

A criação de padrões comuns não seria, entretanto, uma ideia inédita entre as empresas. Google, Microsoft, OpenAI e Anthropic já participam do Frontier Model Forum, criado em 2023 com o objetivo de promover pesquisas em segurança e avaliações independentes e padronizadas de modelos de fronteira.

A possível criação da SAFA representaria um passo adicional em direção à definição de procedimentos compartilhados para sistemas cada vez mais avançados. Por enquanto, porém, a estrutura, a governança e o cronograma definitivo da organização ainda estão em discussão entre as empresas.