Alexa, por que os funcionários estão olhando meus dados?

Todo mundo está falando sobre o relatório da Bloomberg de que os trabalhadores da Amazon estão ouvindo as gravações de voz criadas quando você fala com Alexa. Mas a Amazon está longe de estar sozinha. Veja como as empresas de tecnologia podem – e têm – observado os dados privados que você carrega.

Da leitura de suas anotações à perseguição de menores

Vamos falar sobre alguns exemplos, de funcionários do Evernote falando sobre a leitura de suas notas privadas para funcionários do Google e do Facebook perseguindo pessoas.

• O Evernote deu a seus funcionários permissão para ler suas notas privadas para “Melhorar sua experiência” em uma mudança em sua política de privacidade feita em janeiro de 2017. O Evernote mudou de ideia e prometeu que os funcionários solicitariam permissão primeiro depois que muitos usuários ficassem chateados. Mas isso ilustra o problema – o Evernote pode facilmente dar acesso a seus funcionários. E, mesmo que você compartilhe dados com o Evernote, esperando que a política da empresa os mantenha seguros, a empresa pode alterar essa política sempre que desejar.
• O Google uma vez demitiu um Engenheiro de Confiabilidade de Site por usar seu acesso aos servidores do Google para perseguir e espionar vários menores , tocando em seus registros de chamadas no Google Voice, acessando seus registros de bate-papo e se desbloqueando na lista de amigos de um adolescente. Os engenheiros de confiabilidade do local têm acesso a tudo porque precisam para fazer seus trabalhos – e é possível que os funcionários saiam do controle e abusem desse acesso, como fez esse engenheiro em 2010.
• O Facebook demitiu um engenheiro de segurança que usou seu acesso ao Facebook para perseguir várias mulheres online  em 2018. O Motherboard relatou que outros funcionários foram demitidos por perseguir seus ex e outras coisas igualmente assustadoras.
• Recomendamos não permitir que aplicativos acessem seu e-mail . Mas, se você fizer isso, esses aplicativos podem fazer com que as pessoas leiam seu e-mail – seja do Gmail, Outlook.com ou qualquer outra conta de e-mail. O Wall Street Journal relatou que engenheiros humanos que trabalharam para algumas empresas responsáveis ​​por esses aplicativos estavam examinando centenas de milhares de e – mails para treinar seus algoritmos.

Esta não é uma lista exaustiva. O Facebook uma vez teve um bug que expôs fotos privadas para desenvolvedores de aplicativos e seu empregador pode ler suas mensagens privadas no Slack – em outras palavras, elas não são tão privadas. Até a NSA teve que demitir pessoas por usar sistemas de vigilância do governo para espionar seus ex . E toda empresa que possui seus dados irá entregá-los ao governo quando um mandado chegar, como a Amazon fez quando Alexa ouviu um duplo assassinato .

A nuvem é apenas o computador de outra pessoa

Quando você usa um serviço que carrega seus dados para um serviço de “nuvem”, está apenas armazenando esses dados nos servidores de uma empresa. E essa empresa pode ver os dados, se quiser.

Isso é bastante simples, mas relatos sobre funcionários ouvindo nossas gravações de voz ainda parecem chocantes de alguma forma. Talvez todos nós presumamos que há dados demais e as pessoas não poderiam examiná-los, ou talvez pensemos que deve haver algum tipo de lei que impede as empresas de tecnologia de examinar essas coisas. Mas, pelo menos nos EUA, não temos conhecimento de nenhuma lei que impeça as empresas de olhar para esses dados – desde que sejam honestas sobre isso, talvez divulgando esse fato em um documento de termos de serviço que ninguém lê .

Mesmo com assistentes de voz, no entanto, não é apenas a Amazon. Como a própria Bloomberg diz, mesmo a Apple focada na privacidade tem pessoas ouvindo gravações do Siri para ajudar a treinar os algoritmos que fazem esses assistentes de voz funcionarem. E Bloomberg diz que alguns revisores do Google ouvem gravações feitas com dispositivos Google Home também.

Razões legítimas pelas quais as pessoas podem olhar seus dados

Deixando de lado os perseguidores assustadores e outras pessoas que abusam de seu acesso, aqui estão alguns motivos válidos que um funcionário da empresa pode ter para examinar seus dados:

• Solicitações do governo : um mandado pode obrigar uma empresa a examinar seus dados em busca de algo relevante e entregá-lo ao governo
• Algoritmos de treinamento : Devido à forma como o aprendizado de máquina funciona, os algoritmos usados ​​em software precisam de alguma entrada humana durante o processo de treinamento. É por isso que as pessoas estão ouvindo as gravações de Alexa e Siri e é por isso que o Evernote queria que as pessoas olhassem suas anotações.
• Garantia de qualidade : as empresas podem examinar as gravações ou outros dados para descobrir como o serviço está funcionando. Mesmo se você estiver falando com um robô, outra pessoa pode ouvir a gravação mais tarde para ver como foi.
• Suporte ao cliente : uma empresa pode solicitar permissão para visualizar seus dados para ajudá-lo se você precisar de suporte. Pelo menos, esperamos que a empresa só faça isso com sua permissão – que pode ser tão fácil de conceder quanto enviar um tweet , como foi com o Google Fotos.
• Violações relatadas : uma empresa pode examinar seus dados para ver relatórios de violações. Por exemplo, digamos que você esteja tendo uma conversa particular um para um no Facebook. Se a outra pessoa denunciasse você por assédio ou outra violação, o Facebook investigaria a conversão.

A única maneira de impedir isso: criptografia de ponta a ponta

Isso tudo acontece por causa da forma como a internet funciona. Apesar de toda a conversa sobre “criptografia” para proteger seus dados, os dados geralmente só são criptografados quando são enviados entre seus dispositivos e os servidores da empresa. Claro, os dados podem ser armazenados criptografados nos servidores da empresa – mas de forma que a empresa possa acessá-los. Afinal, a empresa precisa descriptografar os dados para enviá-los a você.

A única maneira de evitar isso é usando criptografia ponta a ponta ou criptografia do lado do cliente. Isso significa que o software que você usa criptografaria os dados nos dispositivos que você usa, armazenando apenas os dados criptografados nos servidores da empresa de forma que a empresa não pudesse acessá-los. Seus dados seriam seus.

Mas isso é menos conveniente de várias maneiras. Serviços como o Google Fotos não seriam possíveis, pois não poderiam executar tarefas automaticamente em suas fotos nos servidores da empresa. As empresas não seriam capazes de “desduplicar” os dados e teriam que colocar mais dinheiro no armazenamento. Para os assistentes de voz, todo o processamento teria que acontecer localmente e as empresas não poderiam usar os dados de voz para treinar melhor seus assistentes.

Se você perder sua chave de criptografia, não poderá mais acessar seus dados – afinal, se a empresa pudesse lhe dar acesso aos seus arquivos novamente, isso significa que a empresa poderia acessar seus arquivos em primeiro lugar.