ИИ-инструмент определяет точность и политическую предвзятость источников новостей

• Новый алгоритм машинного обучения фокусируется на источниках новостей, а не просто на скрейпинге отдельных утверждений, для обнаружения фейковых и предвзятых новостей.
• Для новых новостных статей он достиг точности до 70%.
• Ему требуется всего 150 материалов, чтобы определить, можно ли доверять источнику.

Платформы социальных медиа сделали невероятно легким для любого деляться и распространять информацию в интернете. Это привело к пролиферации фейковых новостей, которые обычно генерируются либо для изменения настроений людей и влияния на крупные события вроде политических выборов, либо для привлечения трафика и заработка на показе рекламы.

Пока многие технологические гиганты вкладывают значительные ресурсы в создание собственных систем обнаружения фейковых новостей, исследователи из MIT и Катарского вычислительного исследовательского института считают, что лучшая стратегия обнаружения фейковых новостей — фокусироваться на источниках новостей, а не просто анализировать отдельные утверждения.

Используя этот подход, они разработали новый метод на базе машинного обучения, который определяет, является ли источник надежным. По сути, он характеризует целые новостные медиа, прогнозируя фактуальность отчетности.

Как он определяет предвзятые новости?

Идея за системой в том, что если сайт публиковал неверные факты раньше, есть приличная вероятность, что они сделают это снова. Анализ другого контента на таких веб-сайтах может помочь системе определить, какие сайты, вероятно, сделают это в первую очередь.

Для надежной идентификации фейковых новостей можно искать общие лингвистические признаки, такие как структура, сложность и сентимент в статье. Например, большинство фейковых новостей используют эмоциональный, субъективный и гиперболический язык.

В этом исследовании они экспериментируют с несколькими признаками, полученными из:

1. Контента целевых новостных источников,
2. их Twitter-аккаунта и страницы Википедии
3. структуры их URL
4. количества посетителей, которых они получают

Они собрали данные с веб-сайта Media Bias/Fact Check. С помощью человеческих рецензентов этот сайт изучает фактуальность и предвзятость почти двух тысяч новостных сайтов, включая популярные медиа-источники и тонкие контент-фермы.

Источник: arXiv:1810.01765 | MIT

Эти данные были загружены в модель машинного обучения, разработанную для классификации источников так же, как это делает сайт с человеческим рецензированием. Модель дала впечатляющие результаты: для новых новостных статей она достигла точности 65% в определении того, имеет ли статья низкий, средний или высокий уровень фактуальности, и была точной на 70% в определении, является ли контент правоориентированным, левоориентированным или умеренным.

Источник изображения: MIT

Исследователи утверждают, что системе требуется всего 150 материалов, чтобы точно определить, можно ли доверять исходному веб-сайту. Таким образом, она может отфильтровывать фейковые новости до того, как они слишком широко распространятся по интернету.

Что дальше?

Исследователи в настоящее время работают над системой для улучшения ее точности и заставляют ее работать в сочетании с конвенциональными факто-анализаторами. Если система дает «странные или запутанные» выводы на конкретную тему, платформы с ручным рецензированием могут быстро проверить эти результаты и определить, какую валидность следует дать разным перспективам.

Авторы также сгенерировали открытый набор данных почти из тысячи новостных веб-сайтов, помеченных оценками точности и предвзятости. Они также планируют выпустить мобильные приложения, чтобы помочь людям выйти из своих политических пузырей. Более того, они попытаются обучить систему работать с другими языками. Они хотят выйти за рамки право/лево предвзятости и смоделировать другие формы предвзятостей, которые более релевантны для других регионов.

Читайте также: Новый общий алгоритм обнаружения фейковых ID в социальных сетях

Такого типа алгоритмы могут помочь людям понять, как выглядят фальшивые сайты и какой тип статей они склонны публиковать.