От пикселей к совести: оцениваем дизайн с точки зрения морали

В общем и целом, мораль — это сочетание личных и общественных норм, определяющих приемлемое поведение. 

Философы пытаются проникнуть в суть этого понятия уже много веков. К их числу относится писатель и ученый Джонатан Хайдт. Ниже мы последовательно рассмотрим 5 основ, которые Хайдт использует для определения морали:

• Забота / Вред

В какой степени мы принимаем во внимание страдания других людей?

• Справедливость / Обман

Насколько для нас важны соразмерность, заслуги и объективность?

• Верность / Предательство

Насколько велики наши обязательства перед группой, семьей или страной?

• Авторитет / Подчинение

Насколько мы должны подчиняться и уважать иерархию, родителей, полицию и т.д.?

• Святость / Деградация

Насколько важно контролировать свои желания и обладать добродетелью целомудрия?

Цель данной статьи заключается не в том, чтобы найти баланс между капиталистическими и нравственными ценностями, а в том, чтобы выяснить, можем ли мы использовать стандарты Хайдта для оценки наших продуктов.

1. Забота / Вред

Наш моральный компас в первую очередь ориентируется на то, причиняют ли наши действия вред другим людям. Как общество, мы считаем аморальным причинение вреда кому-либо.

Несмотря на это, мы время от времени проектируем приложения, которые наносят финансовый, эмоциональный и даже физический ущерб нашим пользователям. Насколько мы готовы с этим мириться, зависит от нашей «цифровой морали».

Вот несколько примеров, иллюстрирующих принцип заботы.

Uber / Bolt / Grab и т. д.

Насколько допустимо, чтобы приложение для доставки еды было спроектировано таким образом, чтобы доставщики испытывали чрезмерное психологическое давление и были готовы проехать на красный свет, лишь бы клиент получил пиццу вовремя? Можно ли оштрафовать курьера, если пицца приехала на несколько минут позже из-за задержки на светофоре?

Организация Safe Work Australia (Безопасная работа в Австралии) проанализировала состояние этой отрасли и отметила следующее:

• Небезопасные системы работы, например, нереалистичные сроки доставки, приводят к созданию аварийных ситуаций на дороге.
• Экономическое давление может побуждать работников идти на неоправданный риск.
• Насилие и агрессия, в том числе со стороны клиентов.

Пользователям приложений для вызова такси также приходится делать дополнительный моральный выбор. Допустимы ли дизайн-паттерны, которые вынуждают водителей продолжать работу дольше, чем позволяют физические и юридические ограничения?

Стремясь удовлетворить потребности одних пользователей, мы периодически забываем о других пользователях и подвергаем их психическому и физическому риску.

Социальные сети

О влиянии социальных сетей на психику и эмоциональное состояние подростков сказано достаточно. Шаблоны прокрутки, уведомления, лайки и т.д. — всё это продуманные механизмы, которые становятся причиной зависимости, тревожности и цифровой социальной изоляции. 

Социальные сети могут быть частично ответственны за ухудшение психического здоровья подростков и молодых людей в последнее время. Владельцы платформ, регулирующие органы и исследователи должны определить, можно ли снизить это влияние и если да, то каким образом.

Facebook* и другие соцсети часто пренебрегают UX-исследованиями в погоне за ростом аудитории. И это сознательный моральный выбор.

Strava

Приложение для велоспорта и тренировок Strava позволяет пользователям соревноваться друг с другом. Оно отслеживает время, затраченное на прохождение определенного участка дороги, обычно подъема. Затем вы можете сравнить свои результаты с результатами сообщества, среди участников которого есть и профессиональные велосипедисты. Такая геймификация работает очень хорошо. Она мотивирует людей расширять границы своих физических возможностей.

Приятная деталь — вы можете отслеживать свой прогресс в режиме реального времени. Ваш телефон или велокомпьютер покажет, на сколько секунд вы отстаете от своей цели или опережаете ее.

Strava решила убрать такое отслеживание для скоростных спусков. Можно лишь представить, как часто эта функция провоцировала спортсменов на неоправданный риск на дорогах общего пользования. Данные спусков сохраняются, поэтому пользователи по-прежнему могут узнать свою среднюю и максимальную скорость и поделиться результатами с сообществом.

Нравственные продукты не наносят преднамеренного финансового, эмоционального или физического ущерба.

2. Справедливость / Обман

Мы хотим жить в справедливом мире. Для одних справедливость подразумевает равенство, для других — соразмерность: вознаграждение должно соответствовать вкладу.

Доступность

Одна из больших проблем в сфере технологий — отказ в доступе определенной группе потребителей. Когда продукт отвечает требованиям доступности, его могут использовать люди с визуальными, слуховыми, физическими или когнитивными нарушениями.

Доступный дизайн допускает применение скринридеров, обладает достаточной контрастностью и написан понятным языком.

Физические продукты также должны быть спроектированы таким образом, чтобы ими могли пользоваться как можно больше людей. Не хочу жаловаться, но даже не верится, с каким количеством проблем я сталкиваюсь как левша.

Многие дизайнеры подбирают цвета, не обращая внимания на контрастность. Стоит внести небольшие корректировки, и интерфейс станет гораздо более удобным для пользователей с нарушениями цветовосприятия.

Люди с темной кожей испытывают трудности при взаимодействии с программами распознавания лиц, поскольку уровень контрастности оптимизирован для светлой кожи.

У нравственного продукта все в порядке с доступностью. Продуктовые команды должны помнить о проблемах, которые они могут создать для «нестандартных» пользователей.

Честность и справедливость

Справедливость и честность тесно связаны друг с другом. Допустимо ли обманывать пользователей? Например, может ли платформа для бронирования отелей создавать иллюзию, что номера нужной категории скоро закончатся, в то время как на самом деле свободных номеров достаточно?

Как насчет приложений для знакомств, которые создают фейковые аккаунты, чтобы заставить пользователей (обычно мужчин) поверить в наличие большого количества потенциальных партнеров? Что если такая платформа внедрит алгоритм, который будет показывать привлекательных людей в верхней части списка? Это возвращает нас к принципам равенства и соразмерности.

Amazon

Компанию Amazon давно критикуют за то, что она подсознательно подталкивает пользователей к оформлению подписки на Amazon Prime.

Федеральная торговая комиссия США принимает меры против Amazon.com, Inc. Причина — многолетние попытки привлечь потребителей к участию в программе Prime без их согласия и сознательное создание препятствий для отмены подписки.

Насколько же легко должно быть пользователям отказаться от подписки? Допустимы ли скрытые расходы в процессе оформления заказа?

Наблюдение и сбор данных

Как пользователи, мы иногда намеренно, но чаще нет, передаем массу данных создателям приложений. Эти компании собирают все, что могут о вас найти, и продают брокерам данных, которые составляют профили пользователей и продают их другим компаниям, чтобы тем было проще принимать решения.

Эта статья не о торговле данными, а о морали. В какой степени приложения должны информировать вас о том, какие данные они собирают и что они потом с ними делают? Большинство людей не читают политику конфиденциальности и были бы шокированы, узнав, на что они соглашаются. Должны ли компании более открыто заявлять о своих намерениях, или это нормально — прятать их в длинных юридических документах, написанных непонятным языком?

Нравственные продукты показывают информацию, которая соответствует реальности. Они также не пытаются создать иллюзию взаимодействия, например, с фейковыми пользователями.

3. Верность / Предательство

У нас с Хайдтом разные представления о том, что такое верность. Для него она тесно связана с семейными ценностями и патриотизмом. Безусловно, это один из аспектов верности, но универсализм и глобализм — это другие ее оттенки, которые он не рассматривает.

Патриотический брендинг

Некоторые компании имеют ярко выраженную патриотическую коммуникацию. Испанская марка автомобилей Seat называет все свои модели в честь местных регионов (Leon, Ibiza и т.д.). Версии операционной системы Apple носят имена калифорнийских локаций и животных (Yosemite, Snow Leopard и т.д.). В логотипах швейцарских брендов часов, шоколада и ножей часто можно увидеть флаг страны. Брендинг спортивных команд, новостных сайтов и правительственных приложений обычно отражает их национальную принадлежность.

Становятся ли такие компании более нравственными, чем бренды с нейтральным оформлением? Думаю, нет. Они просто используют определенную маркетинговую стратегию, которая им подходит.

Приоритет отечественной продукции

А как быть с интернет-магазинами, в которых количество зарубежных товаров превышает количество отечественных? Должны ли они отдавать предпочтение местным брендам, чтобы помочь национальной экономике? Что должно быть для них первично — собственные коммерческие интересы или продвижение отечественной продукции?

Поощрение новых и краткосрочных связей

Современные приложения позволяют расширить или даже полностью заменить ваш круг общения. Путешествовать в одиночку еще никогда не было так просто, потому что вы можете найти новых знакомых на Couchsurfing или в других приложениях. Деловая коммуникация переместилась в LinkedIn. Социальные сети дают возможность людям с уникальными желаниями найти единомышленников.

Это противоречит основному принципу верности. Вы можете найти новых знакомых, если вас не устраивают нынешние. Делает ли это данные продукты аморальными?

Трудно определить, что такое нравственный продукт с точки зрения лояльности.

Это должны решать сами компании и пользователи.

4. Авторитет / Подчинение

По мнению Хайдта, наиболее важными авторитетами являются правительство, полиция и родители. Уважение и послушание — важная часть этого морального принципа. То, насколько сильно мы должны проявлять уважение, связано с культурным измерением дистанции власти.

Тон голоса

Культурное разделение проявляется в том, как компании обращаются к пользователям. Я работал в мультикультурной среде, где этот вопрос частенько вызывал жаркие споры.

В германских и латинских языках обращение может быть формальным (vous, Sie) или  неформальным (tu, du). В странах с высоким индексом дистанции власти «тыкать» не принято. 

Выбор между "vous" (вы) и "tu" (ты) можно сравнить с выбором между "Dear Mr. Wallet" (Уважаемый мистер Воллет) и "Hi Bas" (Привет, Бас).

Всё зависит от социальных и культурных установок вашей целевой аудитории.

Кому доверять?

Еще один аспект — как страны определяют благонадежность. Там, где авторитет имеет большое значение, люди склонны опираться на сертификаты и другие официальные подтверждения компетентности. Эгалитарные (основанные на равенстве) страны могут использовать юмор и знаменитостей для повышения репутации бренда.

UX тесно связан с коммуникацией.

Важно, чтобы текст в интерфейсе соответствовал культурным нормам пользователей. Здесь нет правильных и неправильных решений.

Нарушение или обход правил

Есть продукты, которые помогают нам обходить правила:

• Некоторые приложения информируют вас о том, где на автомагистрали находятся камеры контроля скорости. Это позволяет ехать быстрее, чем разрешено.
• VPN-сервисы помогают обходить блокировки, лишая правительство возможность отслеживать ваше поведение в сети.
• VPN-сервисы позволяют заходить на платформы для скачивания контента, такие как Pirate Bay, помогая вам нарушать законы об авторском праве.

Можно с уверенностью сказать, что приложения, которые помогают пользователям нарушать закон, менее нравственны.

5. Святость / Деградация

Святость — это чистая жизнь в соответствии с религиозными ценностями. Здесь ценятся целомудрие и следование заповедям. Этот критерий может трактоваться по-разному в разных культурах.

Гендер и сексуальность

При разработке цифровых продуктов нам приходится делать выбор, который может вызывать эмоциональную реакцию. В частности, это касается форм регистрации. Какие варианты выбора пола мы предлагаем пользователю? Только мужчина и женщина или что-то еще?

Как насчет приложений для знакомств? Должна ли у пользователей быть возможность сообщать остальным, что они ищут партнера на одну ночь?

Есть приложения, созданные специально для семейных пар, ищущих «внебрачных развлечений». Ну и куда же без OnlyFans и других «интимных» платформ. Насколько всё это аморально?

Азартные игры

Думаю, все мы знаем, что такое азартные игры и какой вред они могут принести, поэтому не будем останавливаться на этой теме подробно.

Отмечу лишь, что приложения для знакомств, азартных игр и просмотра порно открыто заявляют о своих намерениях. Можно ли считать их аморальными, если они не используют никаких обманчивых дизайн-паттернов?

Правильное питание

У многих людей питание ассоциируется с чистотой. У иудеев, мусульман и индуистов есть собственные религиозные диеты. Вегетарианцы и веганы придерживаются своих идеалов. Если человек страдает от аллергии, некоторые ингредиенты влияют на «чистоту» его организма.

Насколько далеко должны заходить приложения, добавляя фильтры для поиска блюд, соответствующих той или иной диете? Следует ли ресторанам указывать подробную информацию в приложениях для заказа еды? Это еще одна точка, в которой сходятся издержки бизнеса, ценность и мораль.

Можем ли мы определить святость цифровых продуктов? Я думаю, нет. Разные группы пользователей понимают чистоту по-разному.

Итак, можем ли мы оценить нравственность наших цифровых продуктов?

Скорее всего, нет. Пожалуй, нам трудно оценить даже нравственность отдельных людей или обществ. Универсальных представлений о добре и зле не существует.

Мы проектируем продукты, чтобы помочь нашим инвесторам, компании и пользователям. Чем больше мы осознаем свою моральную ответственность, тем проще нам найти золотую середину, которая устроит все заинтересованные стороны.

Хотите сделать отмену подписки практически невыполнимой задачей? Такой подход может показаться стратегически оправданным, однако он, скорее всего, нанесет вашему бизнесу репутационный ущерб.

Решили не приводить продукт в соответствие с требованиями доступности, чтобы снизить затраты на разработку? В конечном итоге это может привести к судебным искам и еще большим расходам на редизайн и реализацию.

Дизайнеры часто получают те или иные требования от руководителя отдела, владельца продукта и других заинтересованных лиц. Всегда ли эти требования имеют смысл? Как они влияют на эмоциональную, финансовую и физическую безопасность пользователей?

Подумайте, как новые функции могут изменить положение вашего продукта в модели моральных основ Хайдта. Вы должны сами решить, какое место он должен в ней занимать. И сделать этот выбор осознанно.

* Компания Meta признана в РФ экстремистской организацией