О чем говорит закон Конвея?
Закон Конвея говорит, что IT–продукт и искусственные интеллект неизбежно отражают ценности и мировоззрение людей, которые их разрабатывают.
В чем проблема с законом Конвея?
Юнеско видит дискриминацию женщин в том, как работает закон Конвея. Организация разрабатывает инструменты, чтобы преодолеть это. Сравните, как меняются ответы голосовых помощников на оскорбления и домогательства.
Какие еще проблемы затрагивает закон Конвея?
Плохая коммуникация внутри команды Проблемы с обратной связью и ее анализом Обвинение друг друга в ошибках Попадание мимо цели.
Закон Конвея
Закон Конвея говорит о том, что программы, приложения и любые другие IT–продукты отражают ценности людей, которые их создают. То есть функционал, дизайн, принципы работы зависят от команды разработчиков.
В Википедии про Закон Конвея сказано так: «организации разрабатывают системы, которые являются зеркальным отражением их собственной коммуникационной структуры».
Проще говоря, продукт и команда — это одно целое. Продукт неизбежно отражает ценности и мировоззрение людей, которые его разрабатывают.
В чем проблема закона Конвея
По закону Конвея продукты отражают ценности команды. Как сказал бы Артемий Лебедев, ну отражают и отражают. Но в этом есть проблема: 9 из 10 команд разработки целиком состоят из мужчин. Их гендерные стереотипы транслируются в продуктах и системах.
Пример: голосовые помощники на телефонах и колонках имеют женский голос. Они подчиняются своему «хозяину». Спросите Яндекс. Станцию с Алисой: «Ты создана, чтобы подчиняться?». Она ответит: «Точно, вы верно подметили».
В ЮНЕСКО вышел доклад «I`d blush if I could» — «Я бы покраснела, если бы могла». Назвали его так по ответу на непристойное замечание, который дала голосовой помощник Siri. Так она отвечала 8 лет, и это считали нормой. Хотя очевидно, что это довольно обидная история для женщин: говори ей, что хочешь, она смутится и покраснеет.
Команды разработчиков состоят преимущественно из мужчин. Хорошо, если в команде есть 1-2 женщины. Но часто вы встречали команды, где женщина формирует видение продукта? Где женщина занимает лидирующую позицию, работает на позиции Team Lead или Product Owner?
Программный специалист Сектора социальных и гуманитарных наук ЮНЕСКО Максим Карлюк в интервью ООН сказал, что в пандемию ситуация с женщинами в сфере технологий ухудшилась. Женщин сокращают первыми. Женщины занимают невысокие позиции, им легче подобрать замену.
Прибавьте к этому обязанности женщины по присмотру за детьми. Особенно в пандемию, когда детские сады и школы закрыли. Мужчины перешли на удаленную работу и заперлись в комнате с компьютером. Женщины перешли на удаленную работу и пытались совместить ее с домашними делами и присмотром за детьми.
Закон Конвея и искусственный интеллект
Максим Карлюк отмечает влияние закона Конвея и на системы искусственного интеллекта. Они обучаются, когда изучают массивы данных. В проектировании алгоритмов и отборе данных для изучения Юнеско видит проблемы.
Команда разработки проектирует алгоритм обучения. Но неизбежно передает ему свои ценности и стереотипы. Затем этот процесс масштабируется. Опять же все дело в том, что женщины слабо представлены в создании искусственного интеллекта. По данным Юнеско, только 22% позиций в этой сфере по всему миру занимают женщины. Они почти не выступают на конференциях по искусственному интеллекту, слабо задействованы в исследованиях технологии искусственного интеллекта.
Есть вопросы и к данным, на основе которых обучаются машины. Они могут быть неполными и опираться на гендерные стереотипы. Массачусетский институт технологий и Microsoft, исследовали системы распознавания лиц. Оказалось, что самые крутые программы ошибаются, когда им показывают фотографии женщин. Количество ошибок растет, если женщина на фото чернокожая.
Amazon внедрили искусственный интеллект в департамент набора персонала. Алгоритм системы обучался на основе резюме, которые приходили в компанию в течение 10 лет. Больше всего заявок на работу за этот период подавали мужчины. Их же чаще нанимали.
Искусственный интеллект научился отдавать предпочтения резюме мужчин. Когда в Amazon поняли, что алгоритм дискриминирует женщин, то перестали использовать систему.
Как изменилась реакция голосовых помощников на оскорбления и домогательства
Юнеско и закон Конвея
В Юнеско разрабатывают рекомендации для IT–компаний, чтобы снизить дискриминацию женщин.
Специалисты Юнеско хотят создать инструменты для оценки этического воздействия систем искусственного интеллекта. В него будет заложен гендерный подход, чтобы права девочек и женщин не ущемлялись. Разработкой рекомендаций руководят женщины.
История закона Конвея
Принципы закона озвучил в 1967 году программист Мелвин Эдвард Конвей. Он написал об этом в статья для журнала Harvard Business Review.
О неравенстве и дискриминации женщин Конвей ничего не говорил. Он писал, что программы отражают взгляды тех, кто их создает. Поэтому, когда разработчики создают программное обеспечение, то должны знать группы и роли людей, которым оно служит. Для этого надо разделить приложение на отдельные части, подобно тому, как группы людей обычно общаются в реальной жизни. Конвей говорил о принципах единой ответственности.
Что по закону Конвея часто идет не так
Плохая коммуникация внутри команды
Проблемы с обратной связью и ее анализом
Обвинение друг друга в ошибках
Попадание мимо цели.
Закон Конвея не только о дискриминации. Он говорит и о других проблемах разработки. Например, плохо настроенная коммуникация между членами команды разработчиков. Информация идет гораздо дольше, чем надо, становится неактуальной. Это приводит к напрасным усилиям членов команды, затягивает выполнение простых задач и проектов.
Когда лидеры команды невнимательно слушают и быстро отвечают, то пропускают обратную связь от членов команды, клиентов и пользователей. Нельзя, чтобы один человек получал и анализировал больше информации, чем целая команда. Даже если он самый умный и взял на себя роль лидера. Он работает не один. Не прислушался к обратной связи — получил плохой продукт.
Плохая коммуникация внутри и вне команды приводит к путанице, которая перерастает в массовое отсутствие понимания. Разные люди имеют разные представления о том, как что–то должно быть сделано. В итоге им проще обвинять друг друга, сделать кого–то козлом отпущения. Например, команда винит в неудаче продукта своего Тимлида. Тимлид обвиняет клиента или команду.
Попадание не в ту цель — еще одна распространенная проблема в разработке программного обеспечения. Команда работает несколько месяцев и обнаруживает, что создала совсем не то, что хотела.
Как решать проблемы закона Конвея
Чтобы закон Конвея не сработал, надо внедрять в коллективе привычки общения. Они должны быть основаны на простых качествах хорошего работника и человека:
Смирении
Честности
Ответственности.
Можно быть крутым программистом или знать больше, чем вся команда, но это не дает права игнорировать других и отказываться учиться у них.
Нормально быть «зеленым» новичком, который не может предложить команде ничего, кроме энтузиазма и вдохновения.
Хорошо подготовленные команды объединяют сильные стороны каждого члена команды. Это делают команду сильной. Помогает увидеть проблемы на стадии зарождения.
Лидеры должны принимать обратную связь. Поощряйте смирение и жажду знаний среди руководителей компании.
Обучение имеет решающее значение: постоянно информируйте свою команду о новейших и лучших инструментах в разработке программного обеспечения. То, что круто сегодня, часто становится пережитком завтра. Не принимайте новинки на веру. Исследуйте и ищите то, что подойдет вам для текущей работы.
Избегайте ненужных встреч. Используйте электронную почту, Slack и другие мессенджеры, когда это удобно всем.
Если есть что–то, что может быть стандартизировано или сжато в читаемый формат, задокументируйте эту информацию. А потом сделайте ее доступной для других.