O Google estava acidentalmente vazando seus bate-papos Bard AI em resultados de pesquisa públicos

Os chatbots com tecnologia de IA são projetados para serem consultores sempre disponíveis que impulsionarão a próxima era de produtividade. Mas eles têm um problema de privacidade – como evidenciado por um recente passo em falso do Google.

A gigante das buscas , que desenvolveu seu chatbot Bard AI em resposta à chegada do ChatGPT da OpenAI no final do ano passado, tem vazado inadvertidamente conversas em seus resultados de busca – um problema que agora está sendo remediado depois de ter sido tornado público.

O consultor de SEO Gagan Ghotra levantou pela primeira vez a questão de que URLs vinculados a conversas que os usuários tiveram com Bard estavam aparecendo no índice de pesquisa do Google, o banco de dados de sites que o mecanismo de pesquisa rastreia para fornecer respostas às dúvidas dos usuários.

Ghotra compartilhou uma captura de tela mostrando conversas privadas de usuários com Bard pedindo dicas sobre como localizar lontras em Cingapura e como usar Bard para melhorar sua escrita. Clicar nesses links levaria os usuários ao registro histórico de uma conversa que outro usuário teve com Bard sobre o assunto. Peter Liu, cientista pesquisador do Google DeepMind, esclareceu rapidamente que as conversas de bate-papo que aparecem nos resultados de pesquisa já haviam sido compartilhadas com outro usuário usando a funcionalidade Compartilhar comum em chatbots de IA – que permite aos usuários fornecer links para pessoas de sua escolha.

Liu foi criticado pelo que alguns consideraram uma tentativa de minimizar a gravidade da violação da confiança dos usuários na privacidade. Os críticos sugeriram que os usuários que compartilhavam links para seus bate-papos o faziam apenas com um pequeno círculo de pessoas que escolheram, e não com toda a gente na Internet. “É um ponto bastante sutil, mas na verdade é muito importante”, diz Simon Willison, crítico de IA e criador do Datasette .

“Este é fundamentalmente um recurso de privacidade”, diz Willison. “Tudo o que você diz ao Bard é privado por padrão, mas há um recurso que permite compartilhar essa conversa.” Willison sugere que os usuários esperam que suas conversas sejam compartilhadas apenas com quem eles escolherem. Ele aponta para o texto usado na interface do usuário para a funcionalidade Compartilhar com o Bard. “’Permita que qualquer pessoa com o link veja o que você selecionou’”, diz ele. “Isso implica que apenas as pessoas para quem você enviar o link poderão ver a conversa.”

Essa formulação, diz Willison, sugere que há um limite para o rumo da conversa. “Seu link compartilhado aparecendo em pesquisas aleatórias viola suas expectativas quando você usou o recurso de compartilhamento”, diz ele. Willison ressalta que o ChatGPT possui um botão Compartilhar semelhante em seu serviço. “Mas o compartilhamento ChatGPT, como deveria, inclui código no HTML para impedir que o conteúdo compartilhado seja indexado pelos mecanismos de busca”, diz ele. “O Google Bard evidentemente esqueceu de incluir isso e, como resultado, a Pesquisa Google começou a varrer essas conversas.”ANÚNCIO

O problema é agravado pelo fato de que a inclusão de conversas de bate-papo nos resultados de pesquisa – que Liu, do Google DeepMind, parecia sugerir que era intencional e um exemplo da funcionalidade Compartilhar funcionando normalmente – é contrária ao que aconteceu antes. “Isso é muito diferente do que o Google faz com produtos como o Google Docs e o Google Drive”, diz Margaret Mitchell, da empresa de IA Hugging Face, que ressalta que nesses outros produtos, para usuários corporativos, as opções de compartilhamento irão alertá-lo sobre os riscos de compartilhar conteúdo com pessoas fora do nome de domínio da sua organização.

Essa inconsistência entre o que o Google fez anteriormente e o que parece estar fazendo agora é confusa para os usuários comuns, ela avalia. “Para usuários que têm uma expectativa de consistência ou uma suposição de privacidade básica alinhada com as normas que o Google já estabeleceu em seus produtos, isso é assustador e dissimulado”, diz ela. “Quem quer que tenha aprovado isso está muito fora de sincronia com o que já se sabe sobre privacidade no Google. Ou substituí-lo intencionalmente, o que é um movimento bastante intenso para algo que o Google admite ser uma experiência.”

A reação inicial de Mitchell quando a Fast Company mostrou o que havia acontecido foi de choque. Um porta-voz do Google se recusou a comentar oficialmente esta história, mas apontou para um tweet de Danny Sullivan, o contato público da empresa para pesquisas, que aparentemente admitiu que isso foi um erro. “Bard permite que as pessoas compartilhem bate-papos, se assim desejarem”, escreveu Sullivan. “Também não pretendemos que esses bate-papos compartilhados sejam indexados pela Pesquisa Google. Estamos trabalhando para impedir que eles sejam indexados agora.”

A questão é tão preocupante devido à forma como os usuários adotaram os chatbots de IA como o confessionário do século XXI. Uma pesquisa recente mostra que os usuários estão dispostos a compartilhar informações de identificação privada com o ChatGPT, enquanto Lilian Weng, funcionária da equipe de segurança de IA da própria OpenAI, sugeriu esta semana que os usuários podem tentar usar o chatbot de sua empresa como alternativa a um terapeuta. O risco de essas conversas se tornarem públicas parece não ter sido levado em consideração.

A ação rápida do Google para corrigir a violação é louvável, diz Willison, mas destaca uma questão mais ampla sobre a corrida pela supremacia da IA ​​em que o Google, a Microsoft, a OpenAI e um grupo de outras empresas estão atualmente envolvidos. três empresas estão avançando a uma velocidade vertiginosa para competir entre si”, diz ele, “o que torna mais provável que erros como este passem para a produção”.

Fonte: FastCompany