Почему женщины должны иметь право голоса за столом переговоров по искусственному интеллекту

Катя Москаленко, менеджер по маркетингу продуктов лондонской компании Measure Protocol, бьет тревогу, что искусственный интеллект может оказать негативное влияние на существующий гендерный разрыв в технологической отрасли. Хотя это создает мир захватывающих возможностей, оно также создает — почти по своей сути — риски предвзятости и исключения.

Чтобы избежать этих ловушек, сказала она нам, потребуется «целая цепочка решений и стратегий, таких как обеспечение разнообразия наборов данных, обеспечение разнообразия команд, соблюдение этических соображений в любых решениях на базе ИИ».

Нам предстоит пройти долгий путь. Москаленко цитирует данные Всемирного экономического форума за 2021 год, согласно которым только 26% должностей в сфере данных и ИИ занимают женщины; нет оснований предполагать, что эта статистика резко улучшилась.

Это будет долгое путешествие

Катя признает, что волшебного решения этой проблемы нет. «Мы не можем решить все сразу», — сказала она. «Предстоит долгий путь, чтобы гарантировать, что ИИ будет служить всем людям. Имея более сбалансированное представительство, мы можем гарантировать, что все новые технологии, включая ИИ, будут инклюзивными и беспристрастными по замыслу».

Но время начать настало. Иногда кажется, что в каждой компании, большой или маленькой, есть команда, разрабатывающая новые решения на базе искусственного интеллекта — от Adobe и AirBnB до небольших стартапов, — сказала она.

«Итак, во-первых, давайте диверсифицируем команды, добавляя больше женщин, цветных людей, больше групп меньшинств, чтобы обеспечить разнообразную и инклюзивную перспективу», - продолжила она. «Кроме того, давайте позаботимся о том, чтобы у нас были инклюзивные и разнообразные наборы данных, которые можно было бы вводить в системы, в большие языковые модели».

Обеспокоенность по поводу того, что модели ИИ, особенно обученные в Интернете, будут иметь встроенные предубеждения, далеко не нова. И здесь нет простого решения, хотя Москаленко признает, что некоторые крупные игроки в этой отрасли пытаются решить эту проблему.

«Я очень впечатлен тем, что у OpenAI есть хорошие рекомендации; инструкции о том, как быть осторожным и как нести ответственность», — сказала она. «Кроме того, невероятно важно делиться передовым опытом, а также некоторыми слабостями и уязвимостями, которые мы обнаруживаем. Важно смягчить непреднамеренный вред».

Она просит вдумчивого сотрудничества; нам необходимо признать, что проблемы существуют, и работать вместе над их решением. «Учитывая происходящее экономическое и деловое соперничество, мы должны также думать об обществе в целом, о человечестве в целом. Мы будем жить в обществе и с человечеством, которое мы построили. Эффективное сотрудничество – это ключ к успеху».

Правильное получение этих наборов данных

Проповедник данных и участник MarTech Тереза ​​Кушнер также активно инвестирует в разнообразие и инклюзивность, когда речь идет о женщинах в ИИ. Мы спросили ее о взаимосвязи между разнообразием в командах и разнообразными, объективными наборами данных.

«Обеспечение гендерного равенства начинается задолго до того, как вы перейдете на этап разработки алгоритмов ИИ», — подчеркнула она. «Все начинается с того, какие данные вы собираете. Интересно, что большинство компаний не всегда считают, что учет гендерной проблематики является обязательным. Поэтому они действительно не могут сказать вам, являются ли их данные предвзятыми или нет. Я работал с некоторыми компаниями, которым приходилось делать выводы о поле на основании собранной ими информации, такой как имя, принадлежность к колледжу, внеклассные занятия. Это не лучший способ обеспечить гендерную безопасность, но зачастую это все, что у них есть».

Она согласна с тем, что необходима разнообразная команда, оценивающая алгоритмы ИИ. «Поскольку данные все больше и больше рассматриваются как продукт, команды ИИ должны начать думать, как разработчики продуктов, учитывая своих пользователей и рынки. Однажды я услышал рассказ инженера о команде, создавшей продукт, подобный Fitbit. Вот инструмент, который должен отслеживать все функции вашего организма, но дизайнеры, которые были мужчинами, исключили из проекта одну вещь, которую отслеживает каждая женщина — ее менструацию. Без различных групп, создающих информационные продукты, мы сталкиваемся с похожими ситуациями».

Копните глубже: почему мы заботимся об искусственном интеллекте в маркетинге

Нанимайте, но и сохраняйте

Чтобы предпринять шаги по диверсификации команд, работающих в этой сфере, недостаточно нанимать сотрудников, учитывающих разнообразие. «Необходимо прилагать усилия, которые способствуют не только найму, но и удержанию женщин — потому что, к сожалению, наем женщины — это еще не конец миссии. Также важно обеспечить ее повышение квалификации и переквалификацию, а также то, что у нее есть все необходимое для процветания».

Если одно ясно, так это то, что упор на переквалификацию работников-мужчин в области генеративного ИИ – а также в области ИИ и данных в целом – только ухудшит и без того плохую ситуацию.

Кушнер согласился и расширил эту тему. «Конечно, вы должны одинаково тренироваться в области ИИ, но нам следует беспокоиться не об инструментах. Доступ к инструментам должен быть простым для любой женщины, работающей в сфере ИТ. Однако мы должны обеспечить участие женщин в управлении инструментами и алгоритмами, созданными ИИ. Помните, что разнообразие – это не только гендер и этническая принадлежность, это также разнообразие мыслей и подходов. Включение женщин часто также дает вам такое разнообразие».

Женщины в сфере технологий: глобальное движение

Москаленко занималась этими вопросами, не только касающимися ИИ, благодаря своему участию в движении «Женщины в технологиях». Она объяснила почему.

«Я прошла интересный путь от очень традиционных областей маркетинга, от очень традиционных медиа-компаний до быстро меняющейся реальности технологических стартапов», — сказала она нам (Measure Protocol предлагает программное обеспечение для отслеживания конкурентной разведки и поведения потребителей). . «Я чувствовала, что для меня важно поделиться своим опытом и помочь другим женщинам изучить эту невероятно интересную и динамичную индустрию — и сделать этот предвзятый пузырь немного более разнообразным и инклюзивным».

Более подробную информацию о всемирной миссии «Женщины в сфере технологий» можно найти здесь.