Автопилоты хуже обнаруживают темнокожих пешеходов: вина в обучающих данных
Исследование Georgia Tech: 5% разница в точности
Алгоритмы детекции объектов в автопилотах на 5% реже находят темнокожих пешеходов. Причина: обучающие датасеты в основном содержат белых людей. Смещение сохраняется после коррекции за время суток и загораживания.
Природа алгоритмического предвзятости
ML/ДL модели учатся на данных. Если датасет неразнообразен — модель ошибается на недорепрезентированных группах. Аналогичная проблема была у систем распознавания лиц (Microsoft, IBM, Megvii — ошибки по полу у темнокожих).
Решение
Включать в обучение расисто-разнообразные примеры и давать больший вес редким классам (oversampling / weighted loss). Исследование на публичных датасетах/моделях, но инсайты применимы к коммерческим системам.
Источник: arXiv:1902.11097 | Georgia Institute of Technology
Промышленные технологии
- Индустрия 4.0: Настоящая революция — в бизнес-моделях
- Коботы уполномачивают Donnelly Custom Manufacturing оптимизировать баланс люди-автоматизация
- Intel ставит амбициозную цель: развернуть 100 автономных авто глобально к концу года
- Узнайте свой ключ безопасности сети: простые шаги для поиска и защиты Wi‑Fi
- ИИ выявляет «слепые зоны» автопилотов: обучение с участием людей повышает безопасность
- ИИ предсказывает движения пешеходов до 45 м для безопасных автопилотов
- ИИ по анализу крови: курение старит мужчин в 1,5 раза, женщин — в 2 раза
- ИИ находит злоупотребление алкоглем в клинических записях с точностью 78%
- Жесткие диски как скрытые микрофоны: звук модулирует позицию головки
- Прорыв ИИ: GPU-ускоренный инструмент обнаруживает COVID-19 на снимках рентгена