ИИ и Viztech: новая эра более безопасного онлайн-контента

Онлайн-медиа компании борются за полицию экстремистского материала до его появления в сети. Дэвид Фултон, CEO WeSee, утверждает, что ИИ-ориентированная технология может выявлять опасный контент до того, как он когда-либо пойдет в эфир.

Правительственные чиновники и академики давно дебатят, как лучше сдерживать прилив онлайн-террористического контента. Пока платформы вроде Facebook, Twitter и YouTube сталкиваются с растущим регуляторным давлением — немецкие законодатели недавно приняли закон, требующий от крупных интернет-фирм удалять «очевидно незаконный» материал в течение 24 часов или рисковать штрафами до $57 млн — уверенность в их текущих возможностях модерации остается низкой.

В июне Гарвардский университет провел конференцию Harmful Speech Online: At the Intersection of Algorithms and Human Behaviour, совместно организованную центром Беркман Кляйн, центром Шоренстайна и лондонским Институтом стратегического диалога. Событие подсветило критический разрыв между растущей проблемой вредной речи и инструментами для ее решения.

Открывающее обращение подчеркнуло, как экстремистский контент формирует общественное мнение и политический дискурс, отмечая серьезные дефициты ресурсов и исследований, препятствующие эффективным ответам.

Автоматизированное обнаружение: срочный призыв

В сентябре лидеры Великобритании, Франции и Италии встретились с крупными интернет-компаниями на Генеральной Ассамблее ООН в Нью-Йорке. Премьер-министр Великобритании Тереза Мэй предупредила, что неспособность обнаружить и удалить террористический контент в течение двух часов может вызвать крутые штрафы. Этот дедлайн значим — исследования показывают, что две трети пропаганды распространяются в этом окне, поднимая вопросы о реалистичности лимита времени.

Google и YouTube анонсировали планы масштабирования их ИИ-систем идентификации контента. Однако проблема сохраняется. Недавняя статья Telegraph сообщила, что 54 000 сайтов, предлагающих инструкции по изготовлению бомб и другую экстремистскую пропаганду, были активны между августом прошлого года и маем этого года, все связанные с сторонниками Исламского государства.

Прогнозы Cisco указывают, что к 2020 году веб будет хостить 65 триллионов изображений и 6 триллионов видео, причем трафик изображений и видео ожидается составлять более 80% всего интернет-трафика менее чем через три года. Мониторинг таких объемов для экстремистского контента — грандиозная задача, которую передовая ИИ может помочь решить.

Viztech: предиктивный подход

Viztech, пионер в ИИ-базированном визуальном анализе контента, разработал сложный фильтр, способный обнаруживать взрослый и насильственный материал — наряду с террористическими образами — до публикации. Распознавая символы вроде флага ИГИЛ или лица известных экстремистских фигур, система Viztech может флагать контент в реальном времени, задолго до любого взаимодействия пользователя.

Построенная на глубоких нейронных сетях, технология работает со скоростью до 1000 раз быстрее человеческого познания, предлагая как предиктивную фильтрацию, так и точную категоризацию видео и статичных изображений. По сути, Viztech выходит за рамки реактивной модерации к проактивной профилактике, предоставляя правительствам, исследователям и платформам мощный инструмент для защиты онлайн-экосистемы.

Дэвид Фултон, CEO WeSee