Отличие фактов от вымысла: раскрываем истинную историю за вашими данными

Еще в 30 000 г. до н.э. наши предки изображали на стенах пещер истории о своей повседневной жизни, а к 700 г. до н.э. у нас появилась первая печатная история — «Гильгамеш». Перемотаем вперед до 2021 года: уже более пяти лет мы совместно создаем истории с ИИ. Но когда на порядке дня точная бизнес-аналитика, компании хотят быть уверены, что их системы искусственного интеллекта и машинного обучения не проявляют художественного произвола и не выдают вымышленные рассказы.

Это особенно актуально сейчас, когда принятие решений на базе ИИ и ML достигло исторического максимума, и даже самые скептичные руководители начинают видеть огромные выгоды от данных-центричного подхода к стратегии. По мере роста доверия к обещаниям ИИ и ML, точность становится критически важной. Вопрос остается главным для многих: «Как понять, рассказывают ли наши данные всю историю — и основанную на фактах? Что нужно знать, чтобы доверять нашим моделям?»

Идеально чистые данные

Когда система машинного обучения выдает неточный прогноз, виновник обычно один — данные. Исключая «черные лебеди», данные являются началом, серединой и концом любой предсказательной системы. Проблема может быть в недостаточном объеме данных для надежного обучения системы или основания прогнозов — в таком случае дополнительные точки данных решают вопрос. Обычно такое выявляется на ранних стадиях проектирования модели и определенно до развертывания, по крайней мере, для предотвращения дико неточных прогнозов. Однако более вероятный виновник — исходные данные были недостаточно «чистыми». «Достаточно чистыми» — понятие относительное. Требования к данным для некоторых проектов похожи на вопрос: «Достаточно ли чисты мои кроссовки, чтобы пойти в супермаркет?» Для других, особенно критических систем, касающихся жизни, безопасности и благополучия, это сценарии уровня «без пыли, до скрипа, нарядный блеск, в котором можно проверить зубы» — именно такой чистоты должны быть данные для надежной (и этической) работы.

Что делает данные «грязными? Короткий ответ: неточная или искаженная информация.

Сломанные теги — сломанные модели

Это может быть неправильно размеченные данные, данные с неверной информацией в неверном поле или в некорректном формате, например: «27 декабря 2015» вместо «12/27/15» или «27/12/2015». Первый вариант просто вызовет ошибку или будет проигнорирован, но перепутывание двух последних форматов дат может привести к серьезным последствиям для точности. Не только даты страдают от неверного форматирования — время, SKU, текст там, где должны быть числа, числа там, где должен быть текст, и все специальные потоки данных с производственного оборудования: переопределения, аварии, нагрузки, скорости, подачи и т.д. Суть в том, что без надежной и согласованной структуры данные становятся беспорядочными и ведут к неточным выводам.

С MachineMetrics компании могут использовать наш автоматизированный движок преобразования данных, который стандартизирует и форматирует широкий спектр типов данных для легкого анализа. Он обрабатывает пользовательские значения датчиков, статус станка, режимы, аварии, переопределения, нагрузку, скорости, подачи, параметры PMC, диагностику и многое другое.

Можете ли вы доверять своим источникам?

Важно учитывать достоверность и точность любых используемых источников данных, особенно если это люди. Люди — не самые точные существа. Мы округляем, забываем, подгоняем цифры. Мы бываем ленивыми, уставшими, голодными, отвлеченными. По самой природе использования человеческих источников данные будут «грязными» тем или иным способом. Здесь важно смотреть на допуски. Например, операторы станков могут вводить данные о состоянии используемого оборудования. При сообщении о простое указанные причины могут быть точными, а время — лишь оценкой. Это ведет к менее точной предсказательной системе, так как ее выходные данные также ближе к оценкам, чем к истинно точным данным.

Это еще один сценарий, где нужно учитывать реалистичные допуски. Секунды или получасовые интервалы? В случае сбора данных со станков вы даже можете иметь дело с наносекундами или меньше для некоторых сценариев. Каков бы ни был признанный разумный допуск для проекта, важно его соблюдать и обеспечивать, чтобы любые входные данные попадали в эти параметры для точности.

Адаптер высокочастотных данных MachineMetrics захватывает данные станка на частоте 1 кГц (по сравнению со стандартными 1 Гц — в 1000 раз быстрее), поэтому вы никогда не пропустите ни удара, какой бы уровень точности ни требовало ваше приложение.

Здесь компании также должны искать потенциальное смещение. Ложь молчанием все равно приводит к сказочным прогнозам. Ваши источники данных собирают информацию достаточно широко, чтобы показать полную картину, или они склонны к смещению из-за используемых методов сбора? Например, если вы пытаетесь узнать среднюю зарплату рабочего конвейера, но все опрошенные — мужчины, вы, вероятно, получите искаженную цифру по сравнению с опросом и мужчин, и женщин для более ясной и точной картины. Активный поиск таких упущений приводит к более чистым данным и точным прогнозам.

Контекст и сложность

Чем сложнее система, тем больше места для неточностей, противоречий, рисков и общих сбоев в данных и логике, лежащей в ее основе, когда вы пытаетесь перевести это во что-то пригодное для анализа. Сколько шагов в процессе, для которого вы собираете данные? Есть ли у вас отраслевые знания, чтобы дать контекст сырым данным? Например, станок, который «останавливается» несколько раз за минуты с успешным производством между остановками, менее вероятно представляет собой настоящие производственные запуски — скорее это указывает на тесты для убедительности, что первоначальная проблема простоя полностью решена, перекалибрована и готова к возобновлению реального производства. Однако оставление этих чисел в наборе данных как есть может вызвать серьезные неточности, трудно замечаемые неопытным глазом.

Это не значит, что ваша команда данных должна быть экспертом во всем в вашей отрасли. Это значит, что критически важны каналы, через которые эксперты могут добавлять контекст. Например, в MachineMetrics операторы оснащены планшетами прямо на станках в цехе. Они могут быстро и легко добавлять человеческий контекст к числовым данным, повышая точность на этапе анализа. Без такого канала контекста определение того, какие числа включить в анализ, а какие отбросить, становится игрой в угадайку.

Потери при преобразовании

Когда вы превращаете одно в другое, почти всегда есть некоторая степень потерь, пусть даже ничтожная — будь то превращение руды в сталь, хлопка в ткани или данных в формат для анализа. Важно определить, сколько потерь допустимо, а сколько можно предотвратить. Начало с чистых, точных данных — жизненно важный первый шаг к чистому и точному анализу. За этим этапом необходимо учитывать, какие инструменты вы будете использовать и для каких приложений, вероятность потери точности и в какой степени это допустимо (или несущественно). Это напрямую возвращает нас к пониманию того, что вы пытаетесь сделать со своими данными и моделями — какие проблемы решаете — и какого уровня точность требуется для их эффективного решения.

В MachineMetrics мы гарантируем, что ваши данные дают вам всю правду и только правду. Мы — отраслевые эксперты, понимающие глубину, широту и тип данных, необходимых для решения ваших самых насущных проблем — будь то простои станков, оптимизация выпуска или множество других вариантов — с помощью подхода, основанного на данных. Мы используем простые, понятные форматы для обмена и анализа, сохраняющие свою целостность и точность даже в реальном времени. MachineMetrics упрощает задачу интеграции цеховых данных с реальным принятием решений через проверенный процесс, реализованный на простом языке и с такими простыми инструментами, что даже нетехнические специалисты могут легко установить их самостоятельно, для сервиса, принесшего нашим клиентам ROI менее чем за неделю. Чтобы узнать, какие вопросы MachineMetrics может решить для вашего бизнеса, или заказать демо, свяжитесь с нами в любое время.