Самоходным транспортным средствам трудно обнаруживать темнокожих пешеходов

• Беспилотные автомобили на 5% менее точно обнаруживают темнокожих людей.
• Это происходит потому, что большинство алгоритмов обнаружения объектов в основном обучались на наборах данных, содержащих изображения белых людей.

Модели машинного обучения начали находить применение в нашей повседневной жизни. В частности, за последнее десятилетие область автономного вождения прошла путь от «может быть возможно» до «коммерчески доступного».

Однако эти достижения в области автоматизированных систем в последние годы вызвали много опасений по поводу беспилотных автомобилей, и кажется, что список проблем стал длиннее. Помимо беспокойства о своей безопасности и способности преодолевать препятствия на дорогах, необходимо также беспокоиться о том, могут ли беспилотные автомобили причинить вред цветным людям.

Исследователи из Технологического института Джорджии провели исследование, в ходе которого пришли к выводу, что алгоритмы, используемые в системах автономного вождения, на 5% менее точны при обнаружении темнокожих пешеходов.

Более высокий уровень ошибок для одних демографических групп, чем для других

Команда начала с исследования точности современных моделей обнаружения объектов, которые в основном используются в автономных транспортных средствах. Они хотели выяснить, как именно эти модели обнаруживают людей из разных демографических групп.

Они проанализировали массивный набор данных, содержащий фотографии пешеходов, и разделили людей по цвету кожи. Затем они посмотрели, как часто такие модели точно определяли присутствие людей в группе темнокожих, а также людей в группе светлокожих.

Ссылка:arXiv:1902.11097 | Технологический институт Джорджии

Исследователи обнаружили, что эти модели в среднем на 5% менее точны при обнаружении темнокожих групп. Это несоответствие осталось неизменным даже после настройки нескольких важных параметров, таких как часто затрудненный обзор пешеходов и время суток на изображениях.

В исследовании рассматриваются только модели, используемые в исследовательских целях, которые обучаются на общедоступных наборах данных. Он не анализировал какую-либо модель, которая фактически используется коммерческими автономными транспортными средствами. Однако это не означает, что полученные результаты бесценны:подобные исследования дают четкое представление о реальных недостатках и рисках.

Причины предвзятых / расистских алгоритмов

Это не первый раз, когда кто-то публикует отчет о предвзятых алгоритмах. В прошлом году исследование показало, что три системы распознавания лиц, разработанные техническими гигантами (Microsoft, IBM и Megvii), могут ошибочно определять пол темнокожих людей чаще, чем светлокожие.

Изображение предоставлено:Ияд Рахван

Поскольку модели искусственного интеллекта, особенно алгоритмы машинного обучения и глубокого обучения, учатся на наборах обучающих данных, которые они загружают, если вы не предоставите достаточно разнообразных данных, эти модели не будут работать точно при развертывании в реальный мир.

То же самое и с беспилотными автомобилями:алгоритмы обнаружения объектов в основном обучались на наборах данных, содержащих изображения белых людей. Кроме того, эти алгоритмы не придавали большого значения изучению ограниченных наборов данных (люди с темным оттенком кожи).

Читайте:Новый ИИ для самоуправляемых транспортных средств может прогнозировать движение пешеходов

Исследователи полагают, что эти модели можно улучшить, включив примеры, различающиеся по расовому признаку, и уделив больше внимания ограниченным примерам во время обучения.