Устранение предвзятости в обучении ИИ: набор инструментов AI Fairness 360 от IBM

Устранение предвзятости в обучении ИИ: набор инструментов AI Fairness 360 от IBM

Справедливость — краеугольный камень ответственного искусственного интеллекта. Однако определение и обеспечение ее остается сложной задачей — особенно когда технология используется в высокорисковых доменах вроде здравоохранения, найма и автономных автомобилей.

Новый подход IBM

IBM Research запускает AI Fairness 360, облачный сервис обнаружения и смягчения предвзятости, позволяющий организациям тестировать и верифицировать справедливость своих ИИ-систем. Набор инструментов построен на открытых метриках и алгоритмах, измеряющих предвзятость через наборы данных и модели.

Разрыв в справедливости в текущих практиках ИИ

По словам Саски Мойсилович, Fellow в IBM Research, индустрия традиционно приоритезировала точность над справедливостью. Она отмечает, что первый вопрос, который большинство людей задают об ИИ: «Могут ли машины обыграть людей?» Вместо этого Мойсилович утверждает: «А как же справедливость?» и предупреждает, что непроверенная предвзятость может привести к катастрофическим результатам в критических секторах.

Декомпозиция справедливости

Чтобы сделать концепцию действенной, команда IBM начала с разложения справедливости на измеримые компоненты. Куш Варшней, ученый-исследователь в IBM, объяснил, что они изучали справедливость на индивидуальном и групповом уровнях, рассматривая атрибуты вроде пола и расы, а также правовые и регуляторные импликации. Результатом стал набор из 30 различных метрик, оценивающих предвзятость в данных, моделях и процессах принятия решений.

Измерение и смягчение предвзятости

Набор инструментов AI Fairness 360 включает эти метрики и предлагает алгоритмы не только для обнаружения предвзятости, но и для ее устранения (debias) в моделях. Цель — предоставить разработчикам действенные инсайты, применимые на протяжении всего жизненного цикла ИИ.

Смягчение предвзятости на протяжении жизненного цикла ИИ (Источник: IBM)

Междисциплинарное сотрудничество

Признавая, что справедливость выходит за рамки компьютерных наук, IBM привлекла ученых из этики, права и социальных наук. Варшней выступал на конференции Uehiro-Carnegie-Oxford Ethics, в то время как Мойсилович участвовала в мастерской по ИИ в юридической школе UC Berkeley. Их сотрудничество гарантирует, что набор инструментов отражает как техническую строгость, так и социальные ценности.

Нейтрален ли алгоритм?

Социальные ученые вроде Ён Ми Ким из Университета Висконсин — Мэдисон указывают, что предвзятость ИИ может возникать на любой стадии — от выборки данных до обучения модели. В своем исследовании «Algorithmic Opportunity: Digital Advertising and Inequality of Political Involvement» Ким демонстрирует, как алгоритмические решения могут усиливать существующие неравенства. Она предостерегает, что утверждение алгоритма «нейтральным» игнорирует встроенные предвзятости, появляющиеся во время разработки и развертывания.

Предоставляя прозрачные метрики и стратегии смягчения, AI Fairness 360 уполномачивает организации строить ИИ-системы, которые не только точны, но и справедливы.