Недавно стало известно, что Apple проверяет электронную почту и файлы в iCloud на предмет незаконного контента, например случаи жестокого обращения с детьми.
Нет, вы не думайте, что сотрудники Apple сидят и проверяют каждое письмо вручную, для этого есть искуственный интеллект, который с помощью хэшей распознает запрещенный контент, проходящий через серверы компании. Если вдруг потенциально незаконные изображения нашелись, электронное письмо или файл, будут помещены на карантин для дальнейшей проверки. В случае, если количество таких изображений достигнет определнного порога, сотрудники компании имеют право заблокировать отправку сообщений и свзязаться с соответствующими органами.
Следовательно, Apple берегут конфиденциальность пользователей до последнего, не позволяя сотрудникам вмешиваться в процесс анализа фотографий, пока алгоритмы не распознают насилие или издевательство над детьми.
Единственная проблема, которая потенциально может возникнуть, помимо использования компанией Apple хешей для распознавания не только насильственного или порнографического контента, связанного с детьми, это распознавание другого контента (например, финансового, политического и т. д.), и будет ли здесь злоупотреблять конфиденциальностью пользователей.