Меню Меню

TikTok запускает множество функций безопасности, включая фильтрацию For You

TikTok внедряет множество новых функций безопасности, в том числе рейтинги «зрелости» для видео для молодых пользователей, алгоритм, предотвращающий массовый просмотр проблемного контента, и возможность фильтрации на странице «Для вас» с помощью слов или хэштегов.

Настройка вашего алгоритма на TikTok может потребовать тонны просеивания довольно схематичного контента. Конечно, если вы опоздали на игру, как я.

Несмотря на впечатляющую репутацию самого популярного приложения 2021 года, с момента запуска оно подвергалось практически постоянному контролю из-за явного отсутствия регулирующих мер. Только в этом месяце группа американских родителей подал в суд на платформу после того, как их дети погибли, пытаясь выполнить опасные испытания, замеченные на TikTok.

Хотя откровенный контент для взрослых (включая наготу или порнографию) категорически запрещен, TikTok признает, что некоторые из его видео могут содержать «взрослые или сложные темы, отражающие личный опыт или реальные события, предназначенные для более старшей аудитории». В конце концов, какой мрачной порой может быть жизнь, именно так мы выпускаем пар.

Однако я могу подтвердить мысль о том, что алгоритмы приложения временами своеобразны. Только на прошлой неделе меня необъяснимым образом перенесло с острова любви и игровых видео на уличные драки, например. Wall Street Journal также продемонстрировал, как приложение может подтолкнуть молодых пользователей к кроличьей норе контента, связанного с наркотиками.

К счастью, для того, чтобы гарантировать, что более молодые когорты лучше защищены от контента, который они не должны видеть — то есть теоретически — TikTok теперь готов развернуть множество функций безопасности, которые был в его рулевой рубке на некоторое время.

Частью этого является грядущая система, получившая название «Уровни содержания», направленная на классификацию всех загруженных видео по степени зрелости, аналогичной возрастным рейтингам, установленным для фильмов, телешоу и игр. Те, кто исследует откровенно взрослые темы, должны быть старше 18 лет.

Что касается того, что считается зрелым, модераторы доверия и безопасности TikTok будут отслеживать контент, получающий многочисленные отчеты в приложении. Имеет смысл, хотя еще предстоит увидеть, насколько быстрым или эффективным может быть этот процесс.

Ранее ТикТок сказал создателей контента могут попросить правильно пометить свои видео, что, вероятно, будет более полезным.

Пока это работает постоянно, вторичное приложение будет стремиться идентифицировать видео, которые считаются приемлемыми при модерации, но потенциально опасными при массовом просмотре — например, экстремальные причуды диеты или спиральный контент о психическом здоровье и т. д. — и переключится на другие темы.

Наконец, и, вероятно, самое главное, TikTok возвращает контроль пользователям, если они не хотят полагаться исключительно на модераторов и машинное обучение для выполнения адекватной работы. Разумный ход, учитывая количество случаев, когда ненавистный материал просочился сквозь щели.

Подобно отключению звука слов в Твиттере, инструмент фильтрации может принимать введенные вручную хэштеги или слова, чтобы предотвратить появление определенного типа инициирующего контента. TikTok предполагает, что вы можете заблокировать молочные или мясные рецепты, например, если вы станете веганом, хотя люди, вероятно, будут выбрасывать гораздо более гнусные вещи, чем это.

Учитывая, что 1 миллиард человек использовал TikTok за один месяц, понятно, что нормативные упущения будут допущены при контроле того, что мы потребляем по всему миру. Тем не менее, передача некоторого агентства пользователям будет хорошо воспринята.

Обновления выйдут в ближайшие недели, так что приготовьте хэштеги.

Универсальный доступ