Закон Конвея говорит, что IT–продукт и искусственные интеллект неизбежно отражают ценности и мировоззрение людей, которые их разрабатывают.

Юнеско видит дискриминацию женщин в том, как работает закон Конвея. Организация разрабатывает инструменты, чтобы преодолеть это. Сравните, как меняются ответы голосовых помощников на оскорбления и домогательства.

Плохая коммуникация внутри команды Проблемы с обратной связью и ее анализом Обвинение друг друга в ошибках Попадание мимо цели.

Закон Конвея говорит о том, что программы, приложения и любые другие IT–продукты отражают ценности людей, которые их создают.  То есть функционал, дизайн, принципы работы зависят от команды разработчиков.

В Википедии про Закон Конвея сказано так: «организации разрабатывают системы, которые являются зеркальным отражением их собственной коммуникационной структуры».

Проще говоря, продукт и команда  — это одно целое. Продукт неизбежно отражает ценности и мировоззрение людей, которые его разрабатывают.

По закону Конвея продукты отражают ценности команды. Как сказал бы Артемий Лебедев, ну отражают и отражают. Но в этом есть проблема: 9 из 10 команд разработки целиком состоят из мужчин. Их гендерные стереотипы транслируются в продуктах и системах.

Пример: голосовые помощники на телефонах и колонках имеют женский голос.  Они подчиняются своему «хозяину». Спросите Яндекс. Станцию с Алисой: «Ты создана, чтобы подчиняться?». Она ответит: «Точно, вы верно подметили».

В ЮНЕСКО вышел доклад «I`d blush if I could» — «Я бы покраснела, если бы могла». Назвали его так по ответу на непристойное замечание, который дала голосовой помощник Siri.   Так она отвечала 8 лет, и это считали нормой. Хотя очевидно, что это довольно обидная история для женщин: говори ей, что хочешь, она смутится и покраснеет.

Команды разработчиков состоят преимущественно из мужчин. Хорошо, если в команде есть 1-2 женщины. Но часто вы встречали команды, где женщина формирует видение продукта? Где женщина занимает лидирующую позицию, работает на позиции Team Lead или  Product Owner?

Программный специалист Сектора социальных и гуманитарных наук ЮНЕСКО Максим Карлюк в интервью ООН сказал, что в пандемию ситуация с женщинами в сфере технологий ухудшилась. Женщин сокращают первыми. Женщины  занимают невысокие позиции, им легче подобрать замену.

Прибавьте к этому обязанности женщины по присмотру за детьми. Особенно в пандемию, когда детские сады и школы закрыли. Мужчины перешли на удаленную  работу и заперлись в комнате с компьютером. Женщины перешли на удаленную работу и пытались совместить ее  с  домашними делами  и присмотром за детьми.

Максим Карлюк отмечает влияние закона Конвея и на системы искусственного интеллекта. Они обучаются, когда изучают массивы данных. В проектировании алгоритмов и отборе данных для изучения Юнеско видит проблемы.

Команда разработки проектирует алгоритм обучения. Но неизбежно передает ему свои ценности и стереотипы. Затем этот процесс масштабируется. Опять же все дело в том, что женщины слабо представлены в  создании искусственного интеллекта. По данным Юнеско, только 22% позиций в этой сфере по всему миру занимают женщины. Они почти не выступают на конференциях по искусственному интеллекту, слабо задействованы в исследованиях технологии искусственного интеллекта.

Есть вопросы и к данным, на основе которых обучаются машины. Они могут быть неполными и опираться на гендерные стереотипы.  Массачусетский институт технологий и  Microsoft, исследовали системы распознавания лиц.  Оказалось, что самые крутые программы ошибаются, когда им показывают фотографии женщин. Количество ошибок растет, если женщина на фото чернокожая.

Amazon внедрили искусственный интеллект в департамент набора персонала. Алгоритм системы обучался на основе резюме, которые приходили в компанию в течение 10 лет. Больше всего заявок на работу за этот период подавали мужчины. Их же чаще нанимали.

Искусственный интеллект научился отдавать предпочтения резюме мужчин. Когда в Amazon поняли, что алгоритм дискриминирует женщин, то перестали использовать систему.

Как изменилась реакция голосовых помощников на оскорбления и домогательства

В Юнеско разрабатывают рекомендации для IT–компаний, чтобы снизить дискриминацию женщин.

Специалисты Юнеско хотят создать инструменты для оценки этического воздействия систем искусственного интеллекта. В него будет заложен  гендерный подход, чтобы права девочек и женщин не ущемлялись. Разработкой рекомендаций руководят женщины.

Принципы закона озвучил в 1967 году программист Мелвин Эдвард Конвей. Он написал об этом в статья для журнала Harvard Business Review.

О неравенстве и дискриминации женщин Конвей ничего не говорил. Он писал, что программы отражают взгляды тех, кто их создает. Поэтому, когда разработчики  создают программное обеспечение, то должны знать группы и роли людей, которым оно служит. Для этого надо  разделить приложение на отдельные части, подобно тому, как  группы людей обычно общаются в реальной жизни. Конвей говорил о принципах единой ответственности.

• Плохая коммуникация внутри команды
• Проблемы с обратной связью и ее анализом
• Обвинение друг друга в ошибках
• Попадание мимо цели.

Закон Конвея не только о дискриминации. Он говорит и о других проблемах разработки. Например, плохо настроенная коммуникация  между членами команды разработчиков. Информация идет гораздо дольше, чем надо, становится неактуальной. Это приводит к напрасным усилиям членов команды, затягивает выполнение простых задач и проектов.

Когда лидеры команды невнимательно слушают и быстро отвечают, то пропускают обратную связь от членов команды, клиентов и пользователей. Нельзя, чтобы один человек получал и анализировал больше информации, чем целая команда.  Даже если он самый умный и взял на себя роль лидера. Он работает не один. Не прислушался к обратной связи —  получил плохой продукт.

Плохая коммуникация внутри и вне команды приводит к путанице, которая перерастает в массовое отсутствие понимания.  Разные люди имеют разные представления о том, как что–то должно быть сделано. В итоге им проще обвинять друг друга, сделать кого–то козлом  отпущения. Например, команда винит в неудаче продукта своего Тимлида. Тимлид  обвиняет клиента или команду.

Попадание не в ту цель — еще одна распространенная проблема в разработке программного обеспечения. Команда работает несколько месяцев и  обнаруживает, что создала совсем не то, что хотела.

Чтобы закон Конвея не сработал, надо внедрять в коллективе привычки общения. Они должны быть основаны на простых качествах хорошего работника и человека:

• Смирении
• Честности
• Ответственности.

Можно быть крутым программистом или знать больше, чем вся команда, но это не дает права игнорировать других и отказываться учиться у них.

Нормально быть «зеленым» новичком, который не может предложить команде ничего, кроме  энтузиазма и вдохновения.

Хорошо подготовленные команды объединяют сильные стороны каждого члена команды. Это делают команду сильной.  Помогает увидеть проблемы на стадии зарождения.

Лидеры должны принимать обратную связь. Поощряйте смирение и жажду знаний среди руководителей компании.

Обучение имеет решающее значение: постоянно информируйте свою команду о новейших и лучших инструментах в разработке программного обеспечения. То, что круто сегодня, часто становится пережитком завтра. Не принимайте новинки на веру. Исследуйте и ищите то, что подойдет вам для текущей работы.

Избегайте ненужных встреч. Используйте электронную почту, Slack и другие мессенджеры, когда это удобно всем.

Если есть что–то, что может быть стандартизировано или сжато в читаемый формат, задокументируйте эту информацию.  А потом сделайте ее доступной для других.