Как разнообразные данные и этические практики стимулируют ответственную разработку искусственного интеллекта

Инженерный путь Карен Панетты позволил ей выявить критическую предвзятость в системах распознавания лиц и отстаивать прозрачные технологии, защищающие благополучие людей.

<ли> <ли>

Автор

• Эстер Шитту, корреспондент новостей
• Шон Сатнер, старший директор новостей

Опубликовано:01 июля 2025 г.

Путь к получению инженерного образования Карен Панетта начался с совета ее отца о том, что ее привычка к покупкам должна подкрепляться сильной финансовой карьерой.

Потратив некоторое время на сборку компьютеров и разработку процессоров, научный сотрудник IEEE и декан последипломного инженерного образования Университета Тафтса решил заняться академической деятельностью. Однако она поняла, что в инженерной сфере существует большая проблема.

«Они сказали:«Мы нанимаем вас в качестве наставника для женщин», а затем, когда я пришел на свой первый урок, женщин там не было», — рассказал Панетта в последнем выпуске подкаста Targeting AI от Informa TechTarget. "Так я случайно стал наставником, сторонником и поборником привлечения инклюзивной аудитории к инженерному делу".

Эта страсть позже перешла на технологии искусственного интеллекта, когда она начала спасать детей от торговли людьми.

«Я заметил, что все наборы данных, которые были обучены для распознавания лиц, были взяты прямо с обоих ушей», — сказал Панетта. «База данных в основном была взята из баз данных цветных людей и криминальных баз данных. Так что это было типа:ОК, тут есть предвзятость».

В ответ Панетта и ее команда создали разнообразную базу данных людей со всего мира в возрасте от 3 до 78 лет. На изображениях изображены люди в разных ситуациях:в солнцезащитных очках, масках или с разным поворотом головы.

«ИИ, обученный на очень точных данных, не будет работать в реальном мире», — сказал Панетта. «Реальный мир не преобразуется автоматически в ИИ».

Панетта добавил, что технология искусственного интеллекта также должна быть этичной, то есть не наносить вреда людям или их средствам к существованию.

«Когда мы говорим об этичном ИИ, мы говорим о том, как мы его собираем, о правах людей и о том, как мы собираемся его использовать», — сказала она.

Между тем, ответственный ИИ – это способность объяснить, почему система ИИ приняла то или иное решение, сказала она.

Эстер Шитту — автор новостей Informa TechTarget и ведущая подкастов, посвященная программному обеспечению и системам искусственного интеллекта. Шон Сатнер — старший директор по новостям группы управления информацией Informa TechTarget, отвечающий за освещение технологий искусственного интеллекта, аналитики и управления данными, а также крупных технологий и федерального регулирования. Он опытный журналист с более чем 30-летним опытом работы в новостях. Вместе они освещают подкаст Targeting AI.

Узнайте больше о технологиях искусственного интеллекта

<ли>

11 реальных примеров и вариантов использования агентного ИИ

Автор:Мэри Пратт

<ли>

Корпоративная концепция искусственного интеллекта IBM для настройки и совместной работы

Автор:Эстер Шитту

<ли>

Генеральный директор Black Girls Code говорит, что разнообразие в искусственном интеллекте касается каждого

Автор:Эстер Шитту

<ли>

Как Cerebras подходит к конкуренции с Nvidia

Автор:Эстер Шитту