32 важных элемента цифровой этики

No items found.
Аудио перевод статьи
0:00
0:00
·

Диаграмма, которая поможет руководствоваться моральными соображениями в сфере технологий.

В течение нескольких месяцев я работал над этой диаграммой, чтобы обобщить в ней множество возможных негативных последствий цифровых технологий.  Наряду с диаграммой я представил краткий обзор значения ее 6 разделов и 32 элементов.

Я не противник цифровых технологий. Я сторонник ответственных инноваций. Чтобы делать ответственный выбор, надо понимать, что может пойти не так. Моя диаграмма не предназначена для того, чтобы отговорить вас использовать технологии, скорее она нужна, чтобы проинформировать вас и побудить делать более осмотрительный и взвешенный выбор в цифровом мире. Смело используйте эту диаграмму как повседневный инструмент, повод для начала обсуждения и как план для обучения.

Цифровая этика — это форма прикладной этики, в рамках которой организации и профессионалы действуют с намерением устранить и смягчить вредные последствия их работы с цифровыми продуктами или услугами. Это практическое применение моральных соображений в сфере технологий. В схеме обозначены тематические области, которые способствуют появлению моральных дилемм, актуальных для изучения в практике цифровой этики.

Ниже приводится краткое изложение 6 разделов и лежащих в их основе элементов — всего их 32:

Организация

Эти элементы относятся к качествам и проблемам организаций, разрабатывающих цифровые услуги и продукты как в частном, так и в государственном секторе.

Отсутствие ответственности за соблюдение этических норм

Когда никто в компании или организации не несет явной ответственности за соблюдение этических норм в повседневной деятельности, любые инициативы будут бессистемными и могут игнорироваться. Отсутствие ответственности заставляет организации участвовать в деятельности, которая приводит к негативным последствиям.

Попытки создать видимость этичности (ethicswashing)

Кодексы этики, консультативные советы, официальные документы, награды и многое другое могут быть собраны таким образом, чтобы создать видимость тщательного изучения вопросов этики, однако за таким блеском может не быть реального содержания. Попытки создать видимость этичности могут также состоять в привлечении внимания к инвестициям и пожертвованиям в благотворительные проекты, которые при дальнейшем рассмотрении оказываются малоценными с точки зрения достижения поставленной цели по смягчению негативного воздействия самих цифровых услуг и продуктов.

Монокультура

Через призму опыта и обстоятельств небольшой группы людей трудно представить и предвидеть множество точек зрения и судеб, на которые может повлиять конкретное творение. Группа тех, кому была предоставлена возможность создавать и творить в цифровом пространстве является достаточно однородной. Это означает, что в первую очередь пользу получают люди, похожие на них — “зеркальные отражения”, при этом о благополучии тех, кто не входит в эту группу, не особенно заботятся.

Концентрация власти

Когда власть принадлежит немногим, их собственные потребности и интересы, естественно, оказываются в приоритете. Чем более приоритетны их потребности, тем больше власти они получают.

Безответственность

Существует очень мало механизмов, позволяющих привлечь к ответственности создателей цифровых решений за какой-либо реальный вред, вызванный проектированием и разработкой технических услуг или продуктов. Часто и производители техники, и законодатели даже не подозревают о вреде. В других случаях техника сама по себе является идеальным козлом отпущения.

Когда техника продается, ее превозносят как воплощение безупречности. Когда она выходит из строя, это происходит потому, что “техника так и делает”, и при большем финансировании она могла бы работать безотказно. Люди-создатели никогда не несут ответственности.

Цифровой газлайтинг

Знания выступают в качестве преимущества и открывают игровое поле для формирования чувства вины у пользователей или других людей за их беспокойство и нерешительность. Когда пользователям причинен вред, их иногда убеждают в том, что это результат их собственных действий и они заслужили это.

Цифровая путаница

Очень легко скрыть важные соглашения и условия о цифровом продукте там, где их невозможно обнаружить, опираясь на интуицию, а также в массе контента за вводящими в заблуждение словами и невинными фразами.

Наивное безрассудство

По причине чрезмерной самоуверенности и наивных представлений о ценности информации и безопасности онлайн-хранилища, личные данные зачастую управляются бессистемно, а также к ним имеют доступ сомнительные субъекты.

Машины

Поскольку процесс принятия решений все более автоматизирован, больше людей должны полагаться на алгоритмы, машинное обучение и неизвестность. Перечисленные далее элементы раздела “Машины” описывают присущие технике качества, которые усугубляют возможный вред.

Алгоритмическая несправедливость

Ничего из созданного нельзя считать нейтральным. Все творения отражают ценности и убеждения создателей — сознательно это делается или нет. Мы не можем избежать дисбаланса сил, как и предвзятого отношения, поскольку они обязательно закодированы в технике, принимающей решения. Особенно беспокоит то, что предвзятое отношение, заложенное в алгоритмах, и его влияние можно легко сделать во много раз больше, что существенно увеличит размах и серьезность вредных последствий.

Невидимый процесс принятия решений

Чем сложнее становятся алгоритмы, тем труднее их понимать. Чем более автономно им позволено развиваться, тем дальше они отклоняются от человеческого понимания. Многие компании скрывают свой программный код и уклоняются от проверок, иногда сами теряя понимание полной картины того, как он работает. Расшифровка и понимание того, как принимаются решения, будут открыты для гораздо меньшего числа людей.

Психоинженерия

По причине наличия бесконечного количества взаимосвязанных крупиц информации о природе и поведении человека, машины будут знать о нас больше, чем мы сами. Это позволит прогнозировать и изменять поведение людей беспрецедентными и непредсказуемыми способами. Хотя в поведенческой экономике все еще не уделяется должного внимания человеческому согласию, когда власть переходит от человека к машине, становится все труднее определить, кто главный. Одно дело, когда предпринимаются скрытые попытки убедить человека, совсем другое — “взламывать” людей с бритвенной точностью, при этом заставляя их верить, что они действуют сами по себе.

Вирусное распространение

Все, что создано в цифровом виде, может иметь огромное влияние, выходящее за рамки контроля создателя.

Общество

Появление цифровых технологий имеет последствия для общества в целом, влияя на системы ценностей, возможности, страхи, безопасность и другие сферы. Вещи, которые раньше были невозможны, сейчас являются главными и часто приобретают “спасительные” качества, обещанные цифровой трансформацией. Вновь обретенные способности и предпринимаемые попытки записывать и измерять все в цифрах ведут к тому, что все меньше внимания уделяется духовности, состраданию и чувствительности.

Правило количества

Никогда еще не было так просто измерить понятия “быстрее”, “крупнее”, “эффективнее”. Все, чему может быть присвоено число, рейтинг или балл, они зачастую присвоены. Это редко бывает результатом необходимости или стратегической цели, но чаще просто потому, что “это возможно”. О людях чаще судят по числам, это игра с числами, которая теперь пронизывает бизнес, медицину, физические упражнения и даже определяет количество друзей.

Каждый раз, когда мы слишком спешим и не успеваем проводить время с нашими близкими, у нас есть возможность усвоить урок естественного баланса: мы не можем иметь все одновременно.

Техносолюционизм

Когда мы сталкиваемся с новой социальной проблемой, широко распространены убеждение и стремление использовать для ее решения цифровые технологии. Эта догма быстро опровергает все другие нецифровые предложения. В основе техносолюционизма, конечно, лежит глубокое убеждение в том, что технология может решать проблемы, но также часто вопиющее пренебрежение способностью технологий эти проблемы создавать.

Экономика внимания

Современное общество — это соревнование за внимание, основанное на стремлении создать возможности для получения внимания там, где их раньше не было. Такая ситуация делает выгодным и целесообразным намерение меньше спать, проводить меньше времени с близкими, поощряет многозадачность, а также подталкивает участвовать в отслеживании и изменении своего поведения.

Капитализм слежки (Surveillance capitalism)

Чем больше мы знаем, тем эффективнее мы можем убеждать. Данные о людях, в сочетании с их вниманием, позволяют организациям нацеливаться на них в моменты, когда они наиболее уязвимы для конкретных сообщений. Это значительно увеличивает шансы на то, что люди будут вести себя желаемым образом либо совершат покупку. Тот, кто знает больше всего, обладает наибольшей властью и может взимать самые высокие цены. Рынок вознаграждает их, вместо того, чтобы поставить под сомнение слежку, необходимую для получения такой власти.

Повсеместная травля

Платформы, на которых присутствует большое количество людей и повышенное внимание, одновременно наделяют всех и каждого расширенными возможностями для буллинга, провокаций и притеснений в широких масштабах и для личного удовольствия. Цифровая травля и террор могут происходить анонимно и круглосуточно, 7 дней в неделю, нанося огромному количеству людей травмы и подвергая их страданиям, избежать которых становится все труднее, поскольку общество требует цифровой доступности каждого.

Человек

Хотя большинство аспектов цифровой этики связаны с негативным воздействием на жизнь людей, некоторые элементы задевают их за живое сильнее остальных и имеют на их благополучие более прямое и ощутимое влияние.

Дискриминация

Язык, гражданство, физические способности и множество других причин лишают людей равного доступа к цифровым технологиям. И все же, в то время, как цифровые решения обладают потенциалом охватить почти всех, цифровые продукты по-прежнему разрабатываются таким образом, чтобы пресловутые двери были закрыты. Организации предпочитают игнорировать людей, ссылаясь на “крайние случаи”, финансовые ограничения или стандартные методы работы.

Подавление мнений

Мнения, которые редко бывают услышаны, не учитываются в процессе цифрового развития. Вместо этого уже сильные позиции слышны и используются, потребности таких людей удовлетворяются по мере того, как тихие голоса окончательно исчезают. Людей, чьи мнения подавляются, не приглашают на платформы, в результате чего они там не представлены. Когда их приглашают, некоторым людям все равно сложно общаться на цифровых платформах, которые требуют определенного уровня опыта и навыков письма. Неуверенность и тревогу легче выявлять на личных встречах, тогда как в Интернете они могут остаться незамеченными.

Возможность злоупотребления

Технологии, предназначенные для управления вещами, доказывают, что они в равной степени способны управлять людьми. В насильственных отношениях обидчик теперь имеет власть над светом, дверьми, коммуникациями, камерами и устройствами, позволяющими определять местоположение. Системы не обеспечивают защиту для тех, кто подвергается злоупотреблениям со стороны технологий.

Обесценивание конфиденциальности

Оплата посредством предоставления личной информации для получения доступа к услугам стала нормой и часто такие требования принимаются без раздумий. Как правило, мало известно о том, как хранятся личные данные, какой их объем передается вовне и как они используются. В какой-то момент переживания на этот счет перерастают в смирение, принятие условий не по причине хорошей сделки, а потому, что обмен стал нормой, и возникает ощущение, что сожалеть об этом слишком поздно. Существует определенная терпимость к предоставлению не только своих данных, но и данных друзей и семьи. А желание больше разобраться в этом вопросе со временем только ослабевает.

Подавление поведения

Все, что мы делаем и говорим, может оказаться в Интернете. Все, что мы делаем и говорим публично, может быть записано. Все, что мы делаем и говорим на работе, можно измерить, чтобы определить производительность. Мы знаем, что наши покупки попадают в базы данных, потому что бонусные программы сообщают нам, что мы покупаем. Наше местоположение отслеживается. Программное обеспечение для онлайн-переговоров может измерить наше “внимание”. Свобода действий всегда ограничивается опасениями по поводу того, как это действие будет восприниматься вне контекста в глазах оценивающего. Число оценивающих людей продолжает расти.

Биометрическое насилие

Сбор биометрических данных продолжает расширяться, но при этом игнорируется неизменность и, следовательно, огромная деликатность этих данных. Однажды утраченные биометрические данные редко могут быть ликвидированы, и их можно использовать для идентификации даже там, где была обещана анонимность. Непрерывный сбор огромного количества информации о людях создает биометрические данные там, где многие этого не ожидали: помимо отпечатков пальцев, распознавания лиц и походки, уже используются распознавание сердцебиения и биометрия нажатия клавиш.

Надзор

Этот раздел касается сложной практики контроля и управления потенциальным негативным воздействием, связанным с цифровыми услугами и продуктами, на национальном уровне.

Последствия навсегда

Многие проблемы в цифровом пространстве вызваны действиями, которые нелегко отменить. Когда данные были переданы, их можно копировать бесконечно. Если отпечаток пальца получен, это уже не изменить. Когда алгоритм машинного обучения реализован, немногие могут его понять, и еще меньше людей могут изменить его поведение. Кроме того, сегодняшние ценности закодированы в системах принятия решений, независимо от того, как ценности общества изменятся в течение нескольких десятилетий. Сегодняшние предубеждения — это то, чему мы учим цифровые системы, которые принимают решения завтра.

Дефекты образования

Законы неприкосновенности, этики и конфиденциальности редко входят в программы обучения, которые сегодня преподают нам профессионалы в области цифровых технологий. Часто навыки программирования и дизайна приобретаются самостоятельно или на онлайн-курсах без междисциплинарных занятий. В то время как спрос на разработчиков и создателей цифровых технологий продолжает расти, работодатели уделяют мало внимания способности кандидатов заботиться о человеческом благополучии.

Дефекты регулирования

Закон и политика часто пытаются регулировать каждую новую технологию индивидуально, упуская при этом общую картину. Изменения происходят быстрее, чем могут создаваться новые правила, что указывает на необходимость регулировать саму скорость изменений и предпосылки для них. Сколько раз в течение жизни гражданин должен заново учиться тому, как откликнуться на вакансию, купить билет на автобус или записаться на прием к врачу, и кто должен нести расходы на такие изменения?

Частные общественные пространства онлайн

Многие страны пришли к неформальному принятию частных сервисов в качестве платформ для публичного дискурса и свободы слова. Тем не менее, контроль над платформами и их участниками определяется частными компаниями, а не государством, и законы о равном доступе редко применяются к частным компаниям в той же степени, что и к государственному сектору. Это создает множество серых зон и путаницу относительно подотчетности, доступности и ответственности, одновременно влияя на способность людей быть участниками открытого общения.

Географическое сопротивление

В процессе управления цифровыми услугами, правительства в значительной степени ограничены физическими границами и юрисдикциями, которые цифровые системы с удовольствием игнорируют. Многие страны обнаруживают, что их граждане применяют инструменты и сервисы, на которые трудно повлиять с помощью национального или регионального законодательства.

Среда

Элементы в этом разделе относятся к проблемам, которые возникают и/или упускаются из виду в процессе создания цифровых инструментов. Их часто игнорируют, потому что они считаются второстепенными условиями и не имеют прямого отношения к цели того, что создается. Эти элементы, которые иногда воспринимаются как неприкосновенные или неизбежные, по-прежнему нуждаются в рассмотрении и управлении, чтобы смягчить негативное воздействие.

Опасность для работников

В сервисах, где миллионы пользователей собираются для публикации контента, всегда есть процент вредоносного или незаконного контента, который необходимо отфильтровать и удалить. Чтобы справиться с этим, работникам с низким уровнем заработной платы, возможно, придется лично просмотреть контент, связанный с разжиганием ненависти, жестоким обращением с животными и порнографией. Работники также подвергаются опасности из-за того, что они просто осознают, какой вред наносит их деятельность, однако, находясь под принуждением или внешним давлением, им трудно отказаться от ее выполнения.

Пренебрежение цепочкой поставок

Для реализации цифровых услуг и решений нам необходимо оборудование и программное обеспечение. За их производством может стоять любое количество репрессивных отношений и эксплуатации рабочих. Одним из примеров является потребность в кобальте, используемом в литиевых батарейках, который часто добывают в суровых условиях, напоминающих рабство. Неспособность проанализировать свое собственное участие в цепочке поставок, необходимой для предоставления цифровых услуг, означает игнорирование ответственности за потенциальный вред другим людям.

Неравный доступ

Лишь чуть больше половины населения мира имеет доступ к Интернету, и в разных странах доступ к сети и конкретным услугам будет различаться. В некоторых странах интернет систематически используется в качестве репрессивной силы путем закрытия и открытия доступа к ресурсам во время беспорядков. Хотя сеть зачастую называют открытой, очень важно понимать, что Интернет закрыт для значительного числа людей во всем мире, и задуматься о последствиях их игнорирования.

Пренебрежение экологией

По мере роста цифровых услуг они требуют все больше ресурсов с точки зрения использования энергии, дальнейшей транспортировки товаров, а также нуждаются в центрах обработки данных, которые заменяют реальные площади и сообщества. Опять же, легко упустить из виду общее воздействие творческой работы в цифровой индустрии на окружающую среду, когда оно не измеряется, а приоритет отдается другим измерениям. Как всегда, все переменные не могут улучшаться одновременно, и нам нужно знать, какие показатели ухудшаются в зависимости от наших действий.

Как использовать диаграмму

Диаграмму можно использовать в качестве предмета для обсуждения и справочного материала при проведении оценки рисков. Я также использую ее, когда планирую уроки для своих курсов.

Иногда огромное количество элементов может показаться ошеломляющим, и вот два способа разбить их на части:

  1. Один из практических способов использования диаграммы в формате семинара состоит в том, чтобы каждая рабочая группа выбрала 3-4 элемента из разных разделов, и начала обсуждение того, какие примеры цифрового вреда приходят на ум, когда смотришь на эту конкретную комбинацию элементов.
Например, сочетание этих четырех элементов может привести к важным разговорам о зависимости, психическом здоровье и недосыпании. Четыре элемента на картинке: “Безответственность”, “Психоинженерия”, “Экономика внимания” и “Дефекты регулирования”.
  1. Мы также можем начать с выявления различных сервисов, которые мы используем каждый день, и выбрать из диаграммы как очевидные, так и не столь очевидные элементы, применимые в нашем контексте использования.

Если вы найдете другие способы использования диаграммы в своей работе, которыми захотите поделиться, дайте мне знать в комментариях или связавшись со мной.

Изображение в высоком разрешении и PDF

Вы можете найти последнюю версию диаграммы в высоком разрешении (PNG) и PDF в моем Dropbox: 

Цифровая этика — папка Dropbox

Предыстория

Последние пять лет я читал, преподавал и обсуждал с другими людьми все факторы, которые приводят к негативным последствиям в сфере цифровых технологий. Я делаю все это, чтобы научиться лучше создавать и разрабатывать цифровые продукты, которые способствуют благополучию людей и уменьшают вред. Вы можете бесплатно получить доступ к моей исследовательской коллекции ссылок по цифровой этике — она постоянно обновляется. Я также могу предоставить вам список вдохновляющих книг по цифровой этике и устойчивому развитию.

Я создал и поддерживаю диаграмму “Элементы цифровой этики”, чтобы обобщить многие изученные мной вещи и выводы из моих исследований. Я также выступаю на конференциях и провожу семинары для распространения информации о цифровой этике.

Источник:
axbom.com
·
comments powered by HyperComments