A Anthropic atualizou nesta quinta-feira sua política de uso e passou a proibir explicitamente uma série de práticas envolvendo o Claude, seu modelo de inteligência artificial. Entre as mudanças estão novas restrições a interferência em processos eleitorais, desenvolvimento de softwares para armas, vigilância e interações consideradas persistentemente abusivas contra a própria IA.

Uma das alterações que mais chama atenção é a inclusão do abuso verbal prolongado contra o Claude entre as condutas proibidas pela empresa. Desde uma atualização realizada em agosto, o modelo já havia sido treinado para encerrar conversas diante de interações consideradas persistentemente prejudiciais ou abusivas. Agora, a regra deixa de ser apenas um comportamento do sistema e passa a fazer parte formal da política de uso.

Leia também:

• • Google transforma comandos de IA em jogos para navegador
  • ChatGPT ganha interface mais visual com o Intelligent UI
  • Criador do Orkut apresenta projeto de nova rede social “mais humana”

A Anthropic, porém, afirma que a proibição é voltada a situações extremas. A regra não pretende impedir que usuários demonstrem frustração, critiquem respostas, discordem do modelo ou discutam temas perturbadores em trabalhos criativos. Testes e pesquisas sobre o comportamento de sistemas de inteligência artificial também não são abrangidos pela restrição.

A mudança ocorre em um momento em que a própria Anthropic tem ampliado as discussões sobre questões relacionadas à natureza dos modelos de IA. A empresa mantém contato com estudiosos de diferentes tradições religiosas e chegou a discutir com alguns deles a possibilidade de Claude apresentar algum tipo de consciência ou até uma alma. O tema ainda está no campo da investigação e do debate filosófico, sem consenso científico sobre a existência de consciência em sistemas atuais de IA.

Eleições entram explicitamente na política

A atualização também torna mais claras as restrições relacionadas a processos democráticos. Em uma seção chamada “Do Not Undermine Democratic Processes”, ou “Não prejudique processos democráticos”, a Anthropic proíbe o uso de seus sistemas para ações destinadas a enganar eleitores ou interromper processos eleitorais.

A empresa também reforçou a proibição de campanhas deliberadamente enganosas. Entre os exemplos estão a criação de contas falsas, a produção de veículos de notícias fictícios e outras operações destinadas a apresentar informações ou identidades falsas como legítimas.

As novas regras ampliam, portanto, o conjunto de situações em que a Anthropic estabelece limites para o uso do Claude. Além das preocupações tradicionais relacionadas a segurança e abuso, a política passa a detalhar com maior precisão riscos envolvendo manipulação de informações, processos eleitorais e o próprio relacionamento entre usuários e sistemas de IA.

Este conteúdo foi criado com auxílio de inteligência artificial e supervisionado por um jornalista do ToqueTec