Как разнообразные данные и этичные практики ведут к ответственной ИИ-инженерии

Инженерный путь Карен Панетты привел её к выявлению критического предвзятости в системах распознавания лиц и защите прозрачных технологий, защищающих благополучие людей.

Авторы:

• Эстер Шитту, новостной писатель
• Шон Сатнер, старший директор по новостям

Опубликовано: 1 июля 2025 г.

Путь Карен Панетты к инженерной степени начался с совета отца, что привычка шопинга должна обеспечиваться сильной финансовой карьерой.

После того как она потратила время на сборку компьютеров и проектирование ЦП, IEEE-феллоу и декан выпускнической инженерии в Университете Тафтс стремилась в академию. Однако она поняла, что в инженерии есть большая проблема.

«Они сказали: "Мы нанимаем вас быть ментором для женщин", а когда я пришла на первый урок, там не было ни одной женщины", — вспомнила Панетта в последнем выпуске подкаста Targeting AI от Informa TechTarget. «Так я стала случайным ментором, сторонником и чемпионом за привлечение инклюзивной аудитории в инженерию».

Эта страсть позже перешла в ИИ-технологии, когда она начала работать по спасению детей от торговли людьми.

«Я заметила, что все наборы данных, на которых обучалось распознавание лиц, были сделаны прямо, оба уха видны. База данных в основном состояла из людей цвета и криминальных баз. Так что это было: ок, вот предвзятость», — сказала Панетта.

В ответ Панетта и её команда создали разнообразную базу данных людей со всего мира, возрастом 3–78 лет. Изображения включают людей в разных сценариях: в солнечных очках, масках или с разными поворотами головы.

«ИИ, обученный на очень чистых данных, не будет работать в реальном мире», — сказала Панетта. «Реальный мир не автоматически переводится в ИИ».

Панетта добавила, что ИИ-технологии также должны быть этичными, что означает не причинение вреда людям или их средствам к существованию.

«Когда мы говорим об этическом ИИ, мы говорим о том, как мы собираем данные, права людей и как мы будем их использовать», — сказала она.

В то же время, отвественный ИИ — это способность объяснить, почему ИИ-система приняла то или иное решение, сказала она.

Эстер Шитту — новостной писатель и ведущая подкаста Informa TechTarget, охватывающая ИИ-ПО и системы. Шон Сатнер — старший директор по новостям команды управления информацией Informa TechTarget, отвечающий за покрытие ИИ, аналитики, технологий управления данными, биг-теха и федерального регулирования. Ветеран журналистики с более чем 30-летним опытом. Вместе они ведут подкаст Targeting AI.

Углубитесь в темы ИИ-технологий

• 11 реальных примеров и кейсов агентного ИИ

  Автор: Мэри Пратт

• Корпоративное видение ИИ IBM для кастомизации и коллаборации

  Автор: Эстер Шитту

• CEO Black Girls Code: разнообразие в ИИ включает всех

  Автор: Эстер Шитту

• Как Cerebras подходит к конкуренции с Nvidia

  Автор: Эстер Шитту