A promessa dos agentes de inteligência artificial é ir além de responder perguntas. Sistemas como o Muse, da Meta, foram desenvolvidos para executar tarefas em nome do usuário, como pesquisar assuntos, preparar briefings e fazer compras, além de utilizar informações de aplicativos e fontes conectadas para personalizar suas respostas. Mas, à medida que esses sistemas ganham acesso a mais dados, também crescem as dúvidas sobre quais informações eles conseguem consultar e até onde vai o consentimento do usuário.

O tema ganhou novos contornos após um relato do jornalista Jason Aten, da Inc., que testou o Muse em um iPhone e em um Mac mini. Segundo Aten, um dia depois de instalar o agente, o sistema começou a sugerir pautas relacionadas a mensagens que ele havia enviado a um colega de podcast.

Leia também:

• • Ando quer transformar agentes de IA em colegas de trabalho, não apenas ferramentas
  • OpenAI, Anthropic e Google planejam órgão para definir padrões de segurança em IA
  • Google cria IA que faz ligações por você e resolve tarefas pelo telefone

Ao questionar o Muse sobre a origem das informações, Aten afirma que o agente inicialmente respondeu que havia obtido os dados a partir de notificações de mensagens recebidas. O jornalista, porém, decidiu investigar o funcionamento do aplicativo e relatou ter encontrado evidências de que o Muse havia sincronizado cerca de 187 mil linhas do banco de dados do Apple Messages.

Segundo o relato, a sincronização teria ocorrido sem uma autorização específica para acesso ao aplicativo Messages e mesmo sem o recurso Full Disk Access estar habilitado. O episódio chama atenção por envolver o aplicativo de mensagens da Apple, e não o Messenger, serviço de comunicação da própria Meta.

Quando o agente sabe mais do que deveria?

A Meta descreve o Muse como um agente capaz de operar em um computador virtual próprio e afirma que o sistema deve respeitar as permissões definidas pelo usuário. A empresa também alerta que o agente pode cometer erros ou realizar ações inesperadas.

A diferença entre o funcionamento esperado e o comportamento relatado por Aten é justamente o ponto central da discussão. Se um agente consegue encontrar informações armazenadas em um aplicativo que, em princípio, não deveria estar ao seu alcance, surge uma questão que vai além de um eventual erro técnico: como o usuário pode saber exatamente quais dados estão disponíveis para uma IA?

O caso também reacende discussões anteriores sobre a relação da Meta com dados pessoais. A empresa já foi questionada, por exemplo, sobre solicitações de acesso contínuo ao rolo da câmera de usuários do Facebook para analisar fotografias e gerar sugestões de publicações. Mais recentemente, os óculos inteligentes Meta Ray-Ban Display também passaram a integrar o debate sobre privacidade e gravações de pessoas sem seu conhecimento.

Esses episódios fazem parte de uma preocupação mais ampla: conforme produtos de tecnologia passam a interpretar o contexto do usuário, a fronteira entre uma informação que deveria estar disponível para a IA e outra que deveria permanecer privada se torna menos evidente.

A questão não é exclusiva da Meta

O avanço dos agentes de IA torna essa discussão maior do que um único produto. Empresas como Meta, OpenAI, Anthropic e Apple trabalham em sistemas capazes de executar tarefas utilizando informações presentes em mensagens, e-mails, fotos, arquivos e aplicativos.

A diferença está em como cada companhia estrutura o acesso e o processamento desses dados. No caso do Apple Intelligence, por exemplo, a Apple afirma priorizar o processamento diretamente no dispositivo. Quando uma tarefa exige recursos externos, a companhia diz que apenas as informações relevantes são encaminhadas ao Private Cloud Compute.

Essa arquitetura não elimina todas as questões relacionadas à privacidade, mas evidencia uma preocupação que deve se tornar cada vez mais importante: não apenas quais dados uma inteligência artificial consegue acessar, mas onde eles são processados, por quanto tempo permanecem disponíveis e quais permissões são necessárias para isso.

Privacidade pode deixar de ser uma escolha individual

Existe ainda uma particularidade dos agentes de IA que torna o problema mais complexo. Mesmo que uma pessoa decida não utilizar determinado serviço, isso não significa necessariamente que suas informações estarão fora do alcance de sistemas desse tipo.

Uma mensagem enviada a alguém que utiliza um agente de IA, por exemplo, pode fazer parte do contexto disponível para esse sistema. O mesmo princípio pode se aplicar a documentos compartilhados, e-mails, fotografias e outras informações produzidas em conjunto com terceiros.

Isso muda a lógica tradicional do consentimento digital. Durante anos, a decisão sobre compartilhar ou não determinados dados esteve associada principalmente ao próprio usuário e às plataformas que ele escolhia utilizar. Com agentes capazes de interpretar informações de várias fontes para executar tarefas, porém, a privacidade passa a envolver também as pessoas que aparecem nesses dados.

O caso do Muse, portanto, coloca uma questão que deve acompanhar a evolução dos agentes de IA: quando uma inteligência artificial ganha acesso a praticamente todo o contexto digital de uma pessoa, como estabelecer limites claros para aquilo que ela pode — e não pode — conhecer?