TikTok решает установить новые правила модерации в попытке бороться с недостоверной информацией

В начале этой недели компания Microsoft объявил подготовка к продолжению переговоров о покупке TikTok в США после угроз запрета в этой стране. Этот шаг является ответом на обеспокоенность президента Трампа по поводу практики конфиденциальности и возможных связей с китайским правительством.

Недавно TikTok решил установить новые правила модерации для лучшей защиты своей платформы от неверной информации, вмешательства в выборы и другого манипулятивного контента в преддверии выборов этого года. Теперь компания заявляет, что она запрещает все «глубокие подделки» в явном виде. Глубокие подделки — это манипуляции с видео и аудио с помощью искусственного интеллекта, предназначенные для введения людей в заблуждение относительно того, что человек мог сказать или сделать.

В сообщении, опубликованном в блоге Ванессы Паппас в среду, было сказано, что компания добавляет политику, которая будет запрещать манипулируемый или синтетический контент, который вводит пользователей в заблуждение путем искажения истины «таким образом, что может причинить вред». Она также уточнила, что их цель — защитить пользователей от глубоких или поверхностных подделок.

Глубокие подделки в TikTok обычно ассоциируются с видео с подменой лиц, которые используются для создания порнографического контента. До сих пор они не использовались крупной политической кампанией, хотя кампания по переизбранию президента Трампа и Белый дом делились или создавали менее сложные правки и другой подобный обманный контент, который был признан очень вводящим в заблуждение.

В последние годы мы наблюдаем рост изощренности и простоты использования методов создания таких подделок. Эта технология вызвала серьезные опасения по поводу того, что глубокие подделки могут быть использованы для обманного редактирования политиков, выражающих поддержку или говорящих вещи, которые могут повредить их репутации или дискредитировать их. Несколько крупных платформ социальных сетей и некоторые штаты полностью запретили фейки в политической рекламе.

TikTok уже не разрешает политическую рекламу. Компания добавляет, что ее запрет на глубокие подделки направлен на то, чтобы затруднить использование платформы для продвижения обманных медиа в политических целях. Согласно новым правилам модерации, TikTok запрещает использование ботов и фальшивых аккаунтов, которые вводят людей в заблуждение относительно личности владельца аккаунта с целью повлиять на общественное мнение или оказать другие формы влияния. Компания также расширяет партнерство по проверке фактов с Lead Stories и PolitiFact для проверки потенциальной дезинформации, связанной с выборами в США 2020 года. Компания также добавляет опцию дезинформации о выборах в свой механизм отчетности в приложении, позволяющий пользователям отмечать подозрительные аккаунты или контент. Приложение также будет содержать новый «информационный центр выборов», который будет указывать пользователям на достоверную информацию о голосовании, расах и других связанных с ними темах.