Привлекательный и покорный в вашей команде: является ли искусственный интеллект сексистским?

Когда Amazon впервые провозгласили лозунг "спроси Alexa" для своего виртуального помощника, они не могли предсказать гендерный характер некоторых запросов. "Программа" может похвастаться энциклопедическими знаниями, но исследования потребительского поведения аналитиков Canvas8 показывают, что некоторые пользователи больше заинтересованы в виртуальном флирте, чем в поиске фактов.

И она не единственная: вкрадчивый голос от Microsoft Cortana тоже заводит клиентов.

От аватарок в традиционно женской роли поддержки до гипер-сексуальных "ботов", потакающих мужским фантазиям, женская форма в техно-мире, привлекательная, послушная и всегда в вашей команде.

Svedka - напыщенная бабенка, представляющая одноименный шведский водочный бренд в течение многих лет, "стимулирует сексуальную энергию".

Немного более консервативный, но так же стремящийся угодить, виртуальный личный помощник Amy Ingram является детищем нью-йоркского стартапа X.ai.

"Всегда к вашим услугам", - планировщик встреч Amy получает в подарок цветы и конфеты от счастливых клиентов, казалось бы, не подозревая, что она просто алгоритм обучения.

Существует также Amelia - бот от IPSoft. И другие женские банковские боты - Ericas, Cleos, Pennys и Ninas, рассылающие информацию о часах работы и вашем банковском балансе.

Почему ИТ-индустрия становится такой сексистской?

Гендерный дисбаланс

Женщины составляют только 30% занятых в сфере технологий, согласно данным, опубликованным совместно компанией Apple, компаниями Google, Facebook и Amazon. Получается, что этот дисбаланс отражается на продукции отрасли?

Иляна Стиглиани, доцент кафедры дизайна и инноваций в London's Imperial College Business School, говорит, что ответ громкое «да».

"Если те, кто обучает компьютеры тому, чтобы действовать, как люди, не только мужчины то, есть большая вероятность того, что полученная продукция будет сбалансированной с гендерной точки зрения", - говорит она. "Это может объяснить то, почему мы видим сексуальных женщин-роботов, что отражает социальные нормы группы тех, кто их создал – белые люди, например."

Ноэль Шарки, профессор искусственного интеллекта и робототехники в университете Шеффилда, согласен с этим.

"На самом деле здесь нет большой пропасти между некоторыми из основных персонажей искусственного интеллекта и растущей популярностью сексботов; одна тенденция, безусловно, подпитывает другую", - говорит он. "Он объективирует женщин и закрепляет гендерные стереотипы, ни один из которых не является полезным с точки зрения привлечения большего числа женщин в отрасль, в которую мы должны принести больше баланса и разнообразия."

Компьютерная застенчивость

Мисси Келли, директор по дизайну продуктов искусственного интеллекта в Huge, считает, что молодые девушки часто стремятся к сфере технологий, но не уживаются с мужчиноориентированной обучающей культурой.

В период с 2000 по 2012 год произошло 64%-ное снижение количества женщин, заинтересованных в специальности "компьютерные науки" в рамках программ бакалавриата, по данным американского Национального центра по делам женщин и информационных технологий.

"С самого начала искусственный интеллект был создан с целью доказать, что что-то можно сделать с упором на процесс. Мужчины управляли процессом обучения и продолжают делать это. Многие женщины, однако, хотят видеть более общие задачи в плане того, как технология влияет на другие. Поэтому обучение должно развиваться от задачеориентированных целей к тому как ИИ может решать более широкие социальные вопросы".

Почему женщины не выбирают инженерию?

Учебные заведения, очевидно, должны сыграть свою роль в попытке устранить этот гендерный дисбаланс.

London's Imperial College Business School запускает программу МВА [Мастер делового администрирования], которая учитывает социальные последствия внедрения ИИ и как ИИ может удовлетворить фундаментальные человеческие потребности.

Это подтверждается ежегодным конкурсом, в котором студентки из сферы науки и технологий борются за £10,000, которые даются за разработку бизнес-идеи, решающей проблемы реального общества.

Нейтральная персона

Но на технологические компании также ляжет ответственность за то, чтобы занять более гендерно-нейтральный подход по отношению к роботам, которых они создают.

Многие стартапы уже принимают вызов.Например, платформа для общения Rainbird решила придать боту своей компании черты личности или аватар, который не может быть ассоциирован с женскими персонажами.

"Наиболее прогрессивные технологические компании признают, что если бот делает свою работу должным образом, то нет необходимости продавать его как светловолосую улыбающуюся женщину", - говорит председатель Rainbird Джеймс Дуез. "Мы просто оставляем расстояние между программным обеспечением, которое мы создаем, и основной массой населения. В качестве поставщика технологий мы несем большую ответственность в плане того, как мы влияем на молодое поколение".

Отодвинув внешность в сторону, учебная машина с накачанными сексистскими данными только собирается стать сексистом.

"Обучение робота игнорировать нехорошие мысли имеет решающее значение", - говорит Крити Шарма, вице-президент в Sage Group.

Мисс Шарма возглавляла команду девелоперов, которые создали Sage Peg, первого бота фирмы, который напоминает клиентам, если они опоздали с оплатой счета или раздули свои бюджеты. Она ясно дала понять с самого начала, что бот не будет иметь женский образ.

"Я не встретила никакого сопротивления со стороны девелоперов мужского пола, - говорит она. - Я думаю, что вопрос больше в том, чтобы люди просто соблюдали нормы и делали то, что они всегда делают, не задумываясь о влиянии определенных персонажей. Но как только были установлены культурные рамки, все стали очень восприимчивы."

И в отличие от некоторых ботов известных своим флиртом и игрой в сексуальный стеб, Sage Peg направляет любые такие отступления обратно к финансам. И этого достаточно, чтобы охладить пыл кого угодно.