O que é “privacidade diferencial” e como ela mantém meus dados anônimos?

A Apple está apostando em sua reputação para garantir que os dados que coleta de você permaneçam privados. Como? Usando algo chamado “Privacidade diferencial”.

O que é privacidade diferencial?

A Apple explica assim:

A Apple está usando a tecnologia de privacidade diferencial para ajudar a descobrir os padrões de uso de um grande número de usuários sem comprometer a privacidade individual. Para obscurecer a identidade de um indivíduo, a Privacidade Diferencial adiciona ruído matemático a uma pequena amostra do padrão de uso do indivíduo. À medida que mais pessoas compartilham o mesmo padrão, padrões gerais começam a surgir, o que pode informar e aprimorar a experiência do usuário.

A filosofia por trás da privacidade diferencial é esta: qualquer usuário cujo dispositivo, seja um iPhone, iPad ou Mac, adiciona uma computação a um conjunto maior de dados agregados (uma grande imagem formada a partir de várias imagens menores), não deve ser revelado como a fonte, sem falar com quais dados eles contribuíram.

A Apple também não é a única empresa que faz isso – tanto o Google quanto a Microsoft já o usavam antes. Mas a Apple o popularizou falando sobre ele em detalhes em sua palestra de 2016 na WWDC .

Então, como isso é diferente de outros dados anônimos, você pergunta? Bem, dados anônimos ainda podem ser usados ​​para deduzir informações pessoais, se você souber o suficiente sobre uma pessoa.

Digamos que um hacker possa acessar um banco de dados anônimo que revela a folha de pagamento de uma empresa. Digamos que eles também saibam que o funcionário X está se mudando para outra área. O hacker poderia então simplesmente consultar o banco de dados antes e depois da mudança do funcionário X e deduzir facilmente sua receita.

Para proteger as informações confidenciais do Funcionário X, a Privacidade Diferencial altera os dados com “ruído” matemático e outras técnicas de forma que, se você consultar o banco de dados, receberá apenas uma estimativa de quanto (ou qualquer outra pessoa) o Funcionário X recebeu.

Portanto, sua privacidade é preservada devido à “diferença” entre os dados fornecidos e o ruído adicionado a eles, então é vago o suficiente para que seja virtualmente impossível saber se os dados que você está vendo são realmente de um determinado indivíduo.

Como funciona a privacidade diferencial da Apple?

Privacidade diferencial é um conceito relativamente novo , mas a ideia é que ela pode fornecer a uma empresa percepções aguçadas com base nos dados de seus usuários, sem saber exatamente o que esses dados dizem ou de quem eles se originam.

A Apple, por exemplo, depende de três componentes para fazer sua abordagem de Privacidade Diferencial funcionar em seu Mac ou dispositivo iOS: hashing, subamostragem e injeção de ruído.

O hash pega uma string de texto e a transforma em um valor menor com um comprimento fixo e mistura essas chaves em strings irreversivelmente aleatórias de caracteres únicos ou “hash”. Isso obscurece seus dados para que o dispositivo não armazene nada em sua forma original.

Subamostragem significa que, em vez de coletar cada palavra que uma pessoa digitar, a Apple usará apenas uma amostra menor delas. Por exemplo, digamos que você tenha uma longa conversa de texto com um amigo usando liberalmente emoji. Em vez de coletar toda a conversa, a subamostragem pode usar apenas as partes nas quais a Apple está interessada, como o emoji.

Por fim, seu dispositivo injeta ruído, adicionando dados aleatórios ao conjunto de dados original para torná-lo mais vago. Isso significa que a Apple obtém um resultado que foi mascarado levemente e, portanto, não é muito exato.

Tudo isso acontece no seu dispositivo, então ele já foi encurtado, misturado, amostrado e desfocado antes mesmo de ser enviado para a nuvem para que a Apple analise.

Onde é usada a privacidade diferencial da Apple?

Existem vários casos em que a Apple pode querer coletar dados para melhorar seus aplicativos e serviços. No momento, porém, a Apple está usando a privacidade diferencial apenas em quatro áreas específicas.

• Quando um número suficiente de pessoas substitui uma palavra por um emoji específico, isso se torna uma sugestão para todos.
• Quando novas palavras são adicionadas a dicionários locais suficientes para serem consideradas comuns, a Apple as adiciona ao dicionário de todos os outros também.
• Você pode usar um termo de pesquisa no Spotlight e, em seguida, ele fornecerá sugestões de aplicativos e abrirá esse link no aplicativo ou permitirá que você o instale a partir da App Store. Por exemplo, digamos que você pesquise “Star Trek”, o que sugere o aplicativo IMDB. Quanto mais pessoas abrirem ou instalarem o aplicativo IMDB, mais ele aparecerá nos resultados de pesquisa de todos.
• Ele fornecerá resultados mais precisos para dicas de pesquisa em notas. Por exemplo, digamos que você tenha uma nota com a palavra “maçã” nela. Você faz uma pesquisa e ela fornece resultados não apenas para a definição do dicionário, mas também para o site da Apple, localizações das Apple Stores e assim por diante. Presumivelmente, quanto mais pessoas tocam em determinados resultados, mais alto e com maior frequência eles aparecerão na Pesquisa para todos os outros.

Vamos usar emojis como exemplo. No iOS 10, a Apple introduziu um novo recurso de substituição de emoji no iMessage. Digite a palavra “amor” e você pode substituí-la por um emoji de coração. digite a palavra “cachorro” e – você adivinhou – você pode substituí-la por um emoji de cachorro.

Da mesma forma, é possível que o seu iPhone preveja qual emoji você deseja, de modo que, se você estiver digitando uma mensagem “Vou passear com o cachorro”, seu iPhone irá sugerir o emoji do cachorro.

Portanto, a Apple pega todos os pequenos pedaços de dados do iMessage que coleta, examina-os como um todo e pode deduzir padrões a partir do que as pessoas estão digitando e em que contexto. Isso significa que seu iPhone pode oferecer escolhas mais inteligentes, pois ele se beneficia de todas as conversas de texto que outras pessoas estão criando e pensam: “este é provavelmente o emoji que você deseja”.

It Takes a Village (of Emoji)

A desvantagem da privacidade diferencial é que ela não fornece resultados precisos em amostras pequenas. Seu poder está em tornar vagos os dados específicos para que não possam ser atribuídos a nenhum usuário. Para que funcione e funcione bem, muitos usuários devem participar.

É como olhar para uma foto em bitmap de muito perto. Você não será capaz de ver o que é se olhar apenas alguns pedaços, mas quando você dá um passo para trás e olha para a coisa toda, a imagem se torna mais clara e definida, mesmo que não seja muito alta resolução.

Assim, a fim de melhorar a substituição e previsão de emojis (entre outras coisas), a Apple precisa coletar dados do iPhone e Mac de todo o mundo para dar uma imagem cada vez mais clara do que as pessoas estão fazendo e, assim, melhorar seus aplicativos e serviços. Ele se transforma em todos esses dados randomizados, barulhentos e de crowdsourcing e os extrai de padrões, como quantos usuários estão usando o emoji de pêssego no lugar de “bunda”.

Portanto, o poder da privacidade diferencial depende da capacidade da Apple de examinar grandes quantidades de dados agregados, garantindo ao mesmo tempo que ninguém sabe quem está enviando esses dados.

Como desativar a privacidade diferencial no iOS e macOS

Se você ainda não está convencido de que a privacidade diferencial é certa para você, você está com sorte. Você pode optar por sair diretamente nas configurações do seu dispositivo.

No seu dispositivo iOS, toque em “Configurações” e depois em “Privacidade”.

Na tela de privacidade, toque em “Diagnóstico e uso”.

Finalmente, na tela Diagnósticos e uso, toque em “Não enviar”.

No macOS, abra as Preferências do Sistema e clique em “Segurança e Privacidade”.

Nas preferências de Segurança e Privacidade, clique na guia “Privacidade” e certifique-se de que a opção “Enviar diagnóstico e dados de uso para a Apple” esteja desmarcada. Observe que você precisará clicar no ícone de cadeado no canto inferior esquerdo e inserir a senha do sistema antes de fazer essa alteração.

Obviamente, há muito mais na privacidade diferencial , tanto na teoria quanto na aplicação, do que essa explicação simplificada. A carne e as batatas disso dependem fortemente de alguma matemática séria e, como tal, pode ficar bem pesado e complicado.

Esperançosamente, no entanto, isso lhe dará uma ideia de como funciona e que você se sinta mais confiante quanto à coleta de determinados dados pelas empresas sem medo de ser identificada.