Grandes modelos de linguagem – LLMs podem inferir detalhes pessoais a partir de texto anônimo, conclui estudo
Uma nova pesquisa revela como modelos populares de linguagem grande (LLMs), como o ChatGPT, podem adivinhar com precisão a raça, ocupação ou localização de um usuário após analisar registros de bate-papo aparentemente triviais. Isto tem implicações preocupantes em termos de privacidade.
Detalhes:
- O GPT-4 da OpenAI e outros LLMs líderes podem inferir informações privadas de comentários anônimos do Reddit com 85-95% de precisão.
- Os modelos foram capazes de adivinhar detalhes como cidade, idade, raça e trabalho do usuário com base em pistas sutis de como as frases foram formuladas.
- Os pesquisadores alertam que esta técnica pode permitir que atores mal-intencionados desmascarem usuários anônimos online, alimentando suas postagens em um LLM.
As descobertas destacam os riscos de privacidade de grandes modelos linguísticos, que podem inferir dados altamente pessoais numa escala sem precedentes.
