Os hackers já estão enganando o scanner de fotos do iPhone da Apple

Tem havido muita conversa sobre o scanner CSAM (Child Sexual Abuse Material) da Apple . Agora, o scanner está de volta às notícias novamente, pois parece que os hackers podem estar um passo mais perto de enganar o scanner CSAM e criar falsos positivos.

O problema com o scanner CSAM da Apple

Um usuário do Reddit fez alguma engenharia reversa para entender o algoritmo NeuralHash da Apple para detecção de CSAM no dispositivo. Ao fazer isso, eles descobriram uma possível colisão no hash que poderia criar falsos positivos. Uma colisão é um conflito potencial que ocorre quando duas partes de dados têm o mesmo valor de hash, soma de verificação, impressão digital ou resumo criptográfico.

Um codificador chamado Cory Cornelius produziu uma colisão no algoritmo , o que significa que eles encontraram duas imagens que criam o mesmo hash. Isso poderia ser usado para criar falsos positivos, o que sinalizaria as imagens para a Apple como contendo abuso infantil, mesmo que sejam totalmente inócuas.

Embora certamente não seja fácil, existe a possibilidade de que um hacker possa gerar uma imagem que dispara os alertas CSAM, embora não seja uma imagem CSAM.

A Apple tem camadas projetadas para garantir que o falso positivo não cause problemas. Por exemplo, quando uma imagem é sinalizada, ela deve ser revisada por uma pessoa real antes de ser enviada para a aplicação da lei. Antes mesmo de chegar a esse ponto, o hacker precisaria obter acesso ao banco de dados hash NCMEC, criar 30 imagens em colisão e, em seguida, colocar todas elas no telefone do alvo.

Dito isso, é apenas mais um problema que surge com o scanner CSAM da Apple. Já houve uma tremenda oposição, e o fato de que os programadores foram capazes de fazer a engenharia reversa é muito preocupante. Em vez de uma colisão levar meses para aparecer, uma foi descoberta poucas horas depois de o código se tornar público. Isso é preocupante.

A Apple fará alguma coisa?

Só o tempo dirá como a Apple aborda essa situação. A empresa pode voltar atrás em seu plano de usar o algoritmo NeuralHash. No mínimo, a empresa precisa lidar com a situação, já que a confiança no plano de digitalização de fotos da Apple já está baixa.