- Специальный корреспондент
На WhatsApp работает более 1 тыс. подрядчиков, которые изучают пользовательский контент.
Когда в марте 2019 года глава Facebook Марк Цукерберг представил новый подход компании к конфиденциальности, в качестве примера он привел мессенджер WhatsApp и его основную особенность – сквозное шифрование, превращающее сообщения в нечитаемый формат, которые могут просмотреть только те, кому они предназначались. Как уверял Цукерберг, больше никто, даже сама компания, не может их прочитать. Однако, все эти уверения не соответствуют действительности, утверждается в новом материале некоммерческой организации ProPublica, занимающейся журналистскими расследованиями.
Согласно статье, на WhatsApp работает более 1 тыс. подрядчиков в Остине, Техасе, Дублине и Сингапуре, которые изучают пользовательский контент с помощью систем искусственного интеллекта, а также специального программного обеспечения Facebook. Инструмент позволяет анализировать потоки частных сообщений, изображений и видео, на которые компания получила жалобы, например, мошеннический контент, спам, детскую порнографию или материалы, касающиеся потенциального терроризма. Как правило, весь процесс оценки контента занимает не более 1 минуты.
В основном специфика работы модератором в WhatsApp схожа с Facebook или Instagram, пишет ProPublica. При этом в объявлении о поиске сотрудников указывается «изучение контента», но не упоминаются ни Facebook, ни WhatsApp. За свою работу модераторы получают от $16,5 в час. Всем, кто спросит, сотрудники должны отвечать, что работают на компанию Accenture (в самой Accenture отказались от комментария). Также они подписывают договор о неразглашении.
Поскольку контент в WhatsApp зашифрован, ИИ-системы не могут автоматически просканировать все чаты, изображения или видео, как это происходит в Facebook и Instagram.
По словам бывших инженеров WhatsApp, модераторы получают доступ к частному контенту, когда пользователь пожалуется на сообщение, предположительно нарушающее политику сервиса. Далее это сообщение вместе с четырьмя предыдущими в диалоге перенаправляется модератору в незашифрованном виде и ставится в очередь.
Незашифрованные данные включают имена и изображения в профиле пользователя, номер телефона, статус, уровень заряда аккумулятора, язык и временную зону, идентификатор телефона, IP-адрес и ОС, мощность беспроводного сигнала, связанные аккаунты в Facebook и Instagram, дату последнего использования приложения и историю нарушений.
В комментарии к статье представитель Facebook заявил, что:
«Мы строим WhatsApp таким образом, что ограничивает сбор данных, но предоставляет инструменты, позволяющие бороться со спамом, изучать угрозы и банить нарушителей, в том числе на основании жалоб пользователей».
В компании также отметили, что в WhatsApp добавлены новые инструменты для защиты конфиденциальности, в частности, исчезающие сообщения.
«Судя по обратной связи, которую мы получаем от пользователей, мы уверены, что люди понимают, что когда они отправляют сообщение WhatsApp, мы получаем отправленный ими контент», - отметил представитель Facebook.
Когда в марте 2019 года глава Facebook Марк Цукерберг представил новый подход компании к конфиденциальности, в качестве примера он привел мессенджер WhatsApp и его основную особенность – сквозное шифрование, превращающее сообщения в нечитаемый формат, которые могут просмотреть только те, кому они предназначались. Как уверял Цукерберг, больше никто, даже сама компания, не может их прочитать. Однако, все эти уверения не соответствуют действительности, утверждается в новом материале некоммерческой организации ProPublica, занимающейся журналистскими расследованиями.
Согласно статье, на WhatsApp работает более 1 тыс. подрядчиков в Остине, Техасе, Дублине и Сингапуре, которые изучают пользовательский контент с помощью систем искусственного интеллекта, а также специального программного обеспечения Facebook. Инструмент позволяет анализировать потоки частных сообщений, изображений и видео, на которые компания получила жалобы, например, мошеннический контент, спам, детскую порнографию или материалы, касающиеся потенциального терроризма. Как правило, весь процесс оценки контента занимает не более 1 минуты.
В основном специфика работы модератором в WhatsApp схожа с Facebook или Instagram, пишет ProPublica. При этом в объявлении о поиске сотрудников указывается «изучение контента», но не упоминаются ни Facebook, ни WhatsApp. За свою работу модераторы получают от $16,5 в час. Всем, кто спросит, сотрудники должны отвечать, что работают на компанию Accenture (в самой Accenture отказались от комментария). Также они подписывают договор о неразглашении.
Поскольку контент в WhatsApp зашифрован, ИИ-системы не могут автоматически просканировать все чаты, изображения или видео, как это происходит в Facebook и Instagram.
По словам бывших инженеров WhatsApp, модераторы получают доступ к частному контенту, когда пользователь пожалуется на сообщение, предположительно нарушающее политику сервиса. Далее это сообщение вместе с четырьмя предыдущими в диалоге перенаправляется модератору в незашифрованном виде и ставится в очередь.
Незашифрованные данные включают имена и изображения в профиле пользователя, номер телефона, статус, уровень заряда аккумулятора, язык и временную зону, идентификатор телефона, IP-адрес и ОС, мощность беспроводного сигнала, связанные аккаунты в Facebook и Instagram, дату последнего использования приложения и историю нарушений.
В комментарии к статье представитель Facebook заявил, что:
«Мы строим WhatsApp таким образом, что ограничивает сбор данных, но предоставляет инструменты, позволяющие бороться со спамом, изучать угрозы и банить нарушителей, в том числе на основании жалоб пользователей».
В компании также отметили, что в WhatsApp добавлены новые инструменты для защиты конфиденциальности, в частности, исчезающие сообщения.
«Судя по обратной связи, которую мы получаем от пользователей, мы уверены, что люди понимают, что когда они отправляют сообщение WhatsApp, мы получаем отправленный ими контент», - отметил представитель Facebook.
