Обработка сигналов с использованием нейронных сетей:проверка в дизайне нейронных сетей

В этой статье объясняется, почему проверка особенно важна, когда мы обрабатываем данные с помощью нейронной сети.

Цикл AAC по разработке нейронных сетей продолжается здесь рассмотрением валидации в нейронных сетях и того, как NN функционируют при обработке сигналов.

1. Как выполнить классификацию с помощью нейронной сети:что такое перцептрон?
2. Как использовать простой пример нейронной сети персептрона для классификации данных
3. Как обучить базовую нейронную сеть персептрона
4. Общие сведения об обучении простой нейронной сети
5. Введение в теорию обучения нейронных сетей.
6. Скорость обучения в нейронных сетях
7. Расширенное машинное обучение с многоуровневым персептроном
8. Функция активации сигмовидной кишки:активация в многослойных перцептронных нейронных сетях.
9. Как обучить многослойную нейронную сеть персептрона
10. Понимание формул обучения и обратного распространения ошибки для многослойных персептронов
11. Архитектура нейронной сети для реализации Python
12. Как создать многослойную нейронную сеть персептрона на Python.
13. Обработка сигналов с использованием нейронных сетей:проверка при проектировании нейронных сетей
14. Обучающие наборы данных для нейронных сетей:как обучить и проверить нейронную сеть Python

Природа обработки сигналов нейронной сети

Нейронная сеть принципиально отличается от других систем обработки сигналов. «Нормальный» способ достичь определенной цели обработки сигналов - это применить алгоритм.

В этой модели исследователь создает математический метод для анализа или изменения сигнала каким-либо образом. Существуют методы удаления шума из звука, нахождения краев на изображениях, вычисления температуры по сопротивлению термистора, определения частотного содержания радиочастотного сигнала и т. Д. Затем разработчик опирается на работу исследователя, преобразовывая этот метод в алгоритм, который может выполняться процессором и адаптироваться к потребностям данного приложения.

КИХ-фильтр - это пример системы обработки сигналов, которую мы можем оценить и понять с точной математической точностью.

С другой стороны, обученная нейронная сеть - это эмпирический система.

Математические процессы, происходящие в сети, не представляют собой конкретный алгоритм, предназначенный для классификации рукописных символов, или прогнозирования образования торнадо, или разработки процедур управления для экстремальных авиационных маневров. Скорее, математика в нейронной сети - это фреймворк что позволяет сети создавать настраиваемую вычислительную модель на основе данных обучения.

Мы понимаем математическую структуру, которая позволяет нейронной сети обучаться и достигать требуемых функций, но фактический алгоритм обработки сигналов зависит от обучающих данных, скорости обучения, начальных значений веса и других факторов.

Нейронная сеть, в отличие от FIR-фильтра, зависит от множества различных факторов.

Это как разница между изучением языка в детстве и изучением языка во взрослом возрасте.

Ребенок, который никогда даже не слышал слово «грамматика», может многократно воспроизводить правильную форму глагола, потому что его или ее мозг естественным образом распознал и сохранил закономерности, содержащиеся в огромном количестве языковых входных данных, которые дети получают от пожилых людей, с которыми они взаимодействуют.

Однако взрослые обычно не имеют доступа ко всей этой информации и могут не усваивать шаблоны таким же образом, и, следовательно, мы запоминаем и применяем лингвистические «алгоритмы», которые позволяют нам правильно спрягать глаголы и выбирать времена.

Важность валидации

Нейронные сети могут решать чрезвычайно сложные задачи, потому что при большом количестве входных данных они «естественным образом» находят математические модели, аналогичные тому, как дети находят лингвистические модели. Но такой подход к обработке сигналов отнюдь не безупречный.

Рассмотрим англоязычных детей, которые говорят «goed» вместо «go» или «holded» вместо «hold». Это называется ошибками чрезмерной регуляции. Они уловили образец -ed для прошедшего времени, но по какой-то причине - возможно, недостаточных данных или когнитивных особенностей - они еще не усовершенствовали свою лингвистическую модель, чтобы учесть неправильные глаголы в прошедшем времени.

Никто, конечно же, не собирается осуждать четырехлетнего ребенка за то, что он сказал:«Я ходил в парк». Но если бы видный политик выступал с важной речью и неоднократно повторял «принят», «удержал», «найден», «осведомлен» и т. Д., Аудитория будет серьезно недовольна (или совершенно озадачена), и политическая карьера оратора может внезапно подошли к концу.

Эти ошибки чрезмерной регуляризации являются хорошим примером того, как обученная нейронная сеть может иметь неожиданные пробелы в своей способности достичь желаемой функциональности обработки сигналов. И хотя небольшие пробелы могут показаться несущественными или даже интересными, когда мы просто проводим эксперименты, пример политика напоминает нам, что они могут иметь катастрофические последствия в реальном приложении.

Как недобор, так и перетренированность могут привести к неожиданному и проблемному поведению, когда сеть сталкивается с реальными данными приложения. См. Дополнительную информацию в части 4.

И теперь мы видим, почему валидация является важным аспектом развития нейронных сетей. Обучения недостаточно, потому что набор обучающих данных по своей природе ограничен, и поэтому реакция сети на этот набор данных также ограничена.

Более того, в результате обучения образуется вычислительная система «черный ящик», которую мы не можем анализировать и оценивать, как если бы это была типичная формула или алгоритм. Таким образом, нам нужно проверить , который я бы определил как делать все, что мы разумно можем сделать, чтобы гарантировать, что сеть будет успешно обрабатывать типичные реальные входные данные и не будет приводить к серьезным сбоям при представлении нетипичных данных.

Сортировка терминологии

Процедуру, которую я называю «валидацией», также можно назвать «верификацией» или просто «тестированием».

В контексте разработки программного обеспечения первые два термина имеют разные значения. Википедия со ссылкой на Барри Бема говорит, что проверка направлена ​​на определение того, правильно ли создается продукт, а проверка направлена ​​на определение того, создается ли правильный продукт. Поскольку обе эти проблемы важны, вы увидите сокращение «V&V» для «проверка и проверка».

Я не инженер-программист, поэтому, надеюсь, это означает, что я не обязан принимать эту парадигму. Я просто использую термин «проверка» для обозначения тестирования, анализа и наблюдения, которые мы проводим в попытке убедиться, что обученная нейронная сеть соответствует системным требованиям.

Заключение:что такое валидация?

Ну, это зависит от обстоятельств.

НАСА, например, опубликовало довольно длинный документ под названием «Проверка и проверка нейронных сетей для аэрокосмических систем». Если вас больше, чем меня интересует V&V нейронных сетей, возможно, вам стоит начать с этого документа. Если вы настоящий фанат V&V, вам следует изучить книгу Методы и процедуры проверки и подтверждения искусственных нейронных сетей .; он состоит из 293 страниц и явно превосходит мои знания по этой теме как минимум на три порядка.

В моем мире простых нейронных сетей, разработанных для экспериментальных или учебных целей, проверка в первую очередь означает запуск обученной сети на новых данных и оценку точности классификации, и мы также можем включить тонкую настройку, которая поможет нам определить, может ли и как может быть достигнута общая производительность. улучшено.

Мы рассмотрим конкретные методы проверки в будущих статьях.