TikTok: Защита пользователей от опасного контента в мире популярной видеоплатформы

TikTok, одна из ведущих видеоплатформ в мире, активно работает над обеспечением безопасности своих пользователей, особенно несовершеннолетних. С каждым днем на платформу загружается огромное количество видеороликов, и вопрос о том, как TikTok защищает своих пользователей от опасного контента, становится все более актуальным.

Индивидуальная лента рекомендаций и алгоритмы

Платформа создает для каждого пользователя уникальную ленту рекомендаций, основываясь на его интересах. Чем больше пользователь взаимодействует с контентом, тем больше ему показывается видео, соответствующее его предпочтениям. Однако TikTok также стремится избежать формирования "информационного пузыря", предлагая пользователям контент, который может отличаться от их привычных интересов.

"Мы ответственно подходим к рекомендации контента, и у нас строгие критерии отбора роликов для ленты рекомендаций. В наших правилах четко прописаны стандарты для допуска в рекомендации: например, платформа не будет рекомендовать контент о строгих низкокалорийных диетах или физических упражнениях, предназначенных для радикального снижения веса".

Лента рекомендаций для пользователей старше 18 лет отличается от ленты для подростков, что позволяет учитывать возрастные особенности и повышенные требования к безопасности контента.

"Для этого мы используем систему уровней контента, учитывающую возраст пользователей и разные стандарты к безопасности контента, которая призвана не допускать видео со взрослыми темами в ленту рекомендаций подростков".

Процесс модерации контента

Модерация контента на TikTok представляет собой многоуровневый процесс, в который вовлечены как автоматизированные системы, так и команды экспертов. Перед тем как видео становится доступным для просмотра, оно проходит проверку с помощью машинной модерации, которая удаляет запрещенные материалы до их публикации.

В первом квартале 2025 года 87 процентов нежелательного контента было удалено с помощью автоматизированной модерации.

"В 2024 году более 96 процентов контента в мире было удалено на нашей платформе до того, как он был просмотрен, и более 98 процентов было удалено в течение 24 часов".

Кроме того, пользователи могут жаловаться на контент, и модераторы рассматривают эти жалобы. В 2024 году в Казахстане было удалено более 6,5 миллионов видеороликов по причине нарушения Правил сообщества, из которых 95 процентов были удалены проактивно.

Запрещенные темы на платформе

Правила сообщества TikTok четко определяют темы, которые запрещены на платформе. К ним относятся:

• дискриминационные высказывания;
• насилие;
• преступная деятельность;
• темы самоубийства.

"Мы категорически не допускаем дискриминационные высказывания в отношении людей по таким признакам, как этническая принадлежность, национальное происхождение, раса, религия – такой контент удаляется".

Платформа также уделяет внимание ментальному и физическому здоровью пользователей, запрещая демонстрацию и пропаганду самоубийства или самоповреждения.

Основы правил сообщества

Правила TikTok основаны на принципах прав человека, с целью сохранить уважение и безопасность пользователей, не ограничивая свободу самовыражения. Важно находить баланс между безопасностью и выражением себя, что является задачей специалистов по всему миру.

"В Казахстане есть игра 'кокпар' — это не просто спортивное состязание, но часть национального культурного достояния. Во время Игр кочевников на платформе было много контента об этих соревнованиях".

Модерация прямых эфиров

Правила, применяемые к коротким видеороликам, также распространяются на прямые эфиры. В прошлом году в Казахстане было прервано более 930 тысяч трансляций из-за нарушений.

"Помимо блокировки прямых эфиров, мы также применяем меры для того, чтобы эфиры были более качественными".

Безопасность для детей и подростков

Важно отметить, что TikTok не предназначен для пользователей младше 13 лет. Для предотвращения использования приложения детьми предусмотрена форма регистрации, где требуется указать дату рождения.

"За прошлый год только в Казахстане было удалено 1,9 миллиона аккаунтов пользователей младше 13 лет".

Для подростков в возрасте 13-15 лет аккаунты по умолчанию являются приватными, а их видео недоступны для скачивания. Пользователи до 16 лет не имеют доступа к личным сообщениям, а пользователи младше 18 лет не могут создавать прямые эфиры.

Новая функция – медитационные паузы

В этом году была запущена функция медитационных пауз, которая предлагает расслабляющее дыхательное упражнение, если подросток использует приложение после десяти часов ночи.

"Интересно, что, когда мы только тестировали эту функцию, 98 процентов подростков приняли решение оставить ее включенной".

Семейные настройки и родительский контроль

Для родителей подростков, достигших возраста 13 лет, TikTok предлагает инструмент родительского контроля "Семейные настройки", который позволяет управлять различными параметрами, включая ограничение времени использования платформы.

• установить приватность аккаунта;
• настроить, кто может писать личные сообщения ребенку и комментировать его ролики;
• решить, будет ли аккаунт попадаться в рекомендациях других пользователей.

"Он также может отбирать определенные ключевые слова или хэштеги, и контент, который их содержит, не попадет в ленту рекомендаций ребенка".

Взаимодействие с экспертами и организациями

TikTok активно взаимодействует с экспертами по безопасности и правозащитными организациями для обновления своих правил и обеспечения их актуальности в ответ на новые вызовы.

"Мы сотрудничаем с авторитетными некоммерческими организациями и экспертами в разных областях".

Таким образом, TikTok стремится повысить уровень цифровой грамотности среди пользователей, что является важной частью их работы.