ИИ выявляет «слепые зоны» автопилотов: обучение с участием людей повышает безопасность
Проблема разрыва между симуляцией и реальностью
ИИ беспилотников обучается в симуляции, но в реальности ошибается: не реагирует на сигналы скорой, принимая её за обычный грузовик. Исследователи MIT и Microsoft создали модель, обнаруживающую такие «слепые зоны» с помощью человеческой обратной связи.
Как работает сбор человеческих данных
Система сначала обучается в виртуальной среде, затем развертывается в реальности. Человек-инструктор вмешивается при ошибках двумя способами:
- Коррекция: берет руль, сигнализируя об ошибке и показывая правильное действие.
- Демонстрация: сам ведет машину, ИИ сравнивает свои решения с действиями человека.
Алгоритм Давида-Скина для выявления неоднозначностей
После обучения система имеет список приемлемых и недопустимых действий. Алгоритм Давида-Скина агрегирует метки «слепых зон», вычисляет вероятности и строит тепловую карту риска для каждой ситуации.
В реальности, если модель с высокой вероятностью определяет ситуацию как «слепую зону», она запрашивает у человека правильное действие, обеспечивая безопасность.
Источник: arXiv:1805.08966 | MIT
Промышленные технологии
- 4 экономичных технологических обновления для поднятия legacy производственного оборудования
- Как программы, основанные на надежности, повышают безопасность на рабочем месте и снижают затраты
- Автопилоты хуже обнаруживают темнокожих пешеходов: вина в обучающих данных
- ИИ предсказывает движения пешеходов до 45 м для безопасных автопилотов
- Использование дронов для повышения безопасности на рабочем месте и снижения рисков
- 5 проверенных стратегий для мгновенного повышения безопасности на заводе
- Три ключевые стратегии повышения безопасности рабочих в промышленных условиях
- Инфографика: 3 проверенных шага для повышения безопасности операторов
- Устранение ошибок и повышение качества производства через эффективную SQM
- Революция в безопасности на рабочем месте: инновации носимых технологий, защищающие сотрудников