В YouTube рассказали, как фильтруют дезинформацию в рекомендуемом контенте
VP of Engineering YouTube Кристос Гудроу рассказал об алгоритмах работы рекомендаций сервиса. У компании есть специальная платформа, которая фильтрует дезинформацию.
VP of Engineering YouTube Кристос Гудроу рассказал об алгоритмах работы рекомендаций сервиса. У компании есть специальная платформа, которая фильтрует дезинформацию.
«Кто-то может сказать, что очень доволен видео, утверждающем, что „Земля плоская“, но это не значит, что мы хотим рекомендовать такой тип некачественного содержания», — рассказал Кристос Гудроу, VP of Engineering YouTube в интервью каналу Creator Insider.
По его словам, в последние годы YouTube активно используют как платформу для распространения дезинформации. С целью предотвращения этого разработчики расширили возможности системы рекомендаций. Они научились исключать из списка рекомендаций явную дезинформацию и материалы пограничного содержания — то есть содержания, которое близко, но не совсем нарушает правила. Например, теория заговора или видео, которые утверждают, что апельсиновый сок лечит рак.
С помощью классификаторов определяют, является ли видео «авторитетным» или «пограничным». Эти классификаторы опираются на экспертов, оценивающих качество информации в каждом канале или видео. Оценщики со всего мира учатся с помощью детальных, общедоступных рекомендаций по рейтингам.
- В процессе оценки они отвечают на следующие вопросы:
- Выполняет ли содержание свои обещания, достигает ли своей цели?
- Какие знания необходимы для достижения цели видео?
- Какая репутация спикера у видео и канала, на котором он выступает?
- Какова основная тема видео (например, новости, спорт, история, наука и т. д.)?
- Должно ли содержание прежде всего быть сатирой?
Чем выше балл, тем больше данное видео попадает в рекомендации.
Чтобы определить пограничное содержание, оценщики отмечают такие факторы видео:
- неточное и обманчивое;
- нетерпимое или оскорбительное;
- вредное или потенциально вредное.
Результаты объединяют, чтобы оценить, насколько вероятно, что видео содержит вредную дезинформацию. Любое видео, классифицированное как пограничное, спускается в рекомендациях.
«Это не означает, что мы решили проблемы — это просто означает, что нам нужно продолжать совершенствоваться и инвестировать в наши системы. Наша цель — получить объем просмотров пограничного содержания рекомендациям ниже 0,5% от общих просмотров на YouTube», — делится Кристос Гудроу.
Он считает, что система рекомендаций построена на простом принципе — помочь людям найти видео, которое они хотят посмотреть. Таким образом они стимулируют значительную часть зрителей платформы к просмотру. Система сравнивает привычки пользователей, имеющих схожие предпочтения, и использует эту информацию, чтобы предложить другой контент, который вы, возможно, захотите посмотреть.
