Можете ли вы представить день, когда искусственный интеллект (ИИ) не будет влиять на ваш выбор? За последнее десятилетие ИИ органично вписался в повседневную жизнь и используется везде — от рекомендаций в новостных лентах до управления автомобилем, диагностики заболеваний и персонализации онлайн-шопинга. Подобные преобразования отражают не просто развитие технологий, а глубокие изменения в самой структуре общества.
На этом фоне вспоминаются древние греки, в частности врач Гиппократ, которого называют “отцом медицины”. Хотя медицинские инструменты и методики его времени были примитивны по сегодняшним меркам, Гиппократ осознал глубокую истину: с большой силой и знаниями приходит большая ответственность. На основе этого постулата возникла клятва Гиппократа — обязательство врачей придерживаться определенных этических норм. На протяжении многих веков эта клятва служила этическим компасом для медицинских работников, направляя их стремление к врачеванию и сохраняя при этом глубокое благоговение перед человеческой жизнью.
Сейчас, стоя на пороге будущего, управляемого искусственным интеллектом, мы сталкиваемся с новым кругом этических дилемм. На это исследование меня вдохновила беседа с Джанни Джакомелли — руководителем отдела инноваций MIT Collective Intelligence Design Lab и основателем SuperMind Design. Подобно тому, как врачи влияют на жизнь и смерть, дизайнеры и технологи своими разработками влияют на динамику общества, индивидуальную психологию и демократические процессы. Сама природа ИИ с его способностью к самообучению и повсеместным распространением способствует экспоненциальному воздействию данных проектных решений. В связи с этим возникает насущный вопрос: в эпоху, когда дизайнерские решения могут оказать влияние на ход выборов, углубить социальные противоречия и даже привести к кризису психического здоровья, не пора ли ввести клятву Гиппократа для дизайнеров? Человечность как этическая основа построения будущего должна оставаться в центре каждого алгоритма, каждого интерфейса и каждой системы, работающей на основе ИИ.
Необходимость клятвы дизайнера
Сегодня дизайнеры выступают в роли архитекторов онлайн-взаимодействия, формируя обширную цифровую среду. С учетом того, что ИИ глубоко вплетен в эту среду, дизайнерские решения приобретают значение, выходящее далеко за рамки эстетики и удобства использования. Они формируют поведение, изменяют восприятие и даже оказывают огромное влияние на динамику общества.
Документальный фильм 2020 года Coded Bias (“Закодированная предвзятость”) отразил глубокие последствия проектных решений в системах ИИ. В фильме показаны погрешности, допущенные в технологии распознавания лиц, в основном обусловленные дизайном и обучающими данными. Например, выявление Джоем Буоламвини, исследователем из Массачусетского технологического института, того факта, что программы распознавания лиц с трудом идентифицируют темнокожих людей и женщин, говорит о непреднамеренных предрассудках, заложенных в эти системы. Подобные ошибки при дизайне и разработке чреваты не просто техническими сбоями — они могут привести к глубоким социальным последствиям. Представьте возможные результаты использования предвзятых систем в таких важных сферах, как правоохранительная деятельность или подбор персонала (эти вопросы подробно рассматриваются в документальном фильме). Ошибки дизайна усиливают расовые и гендерные предубеждения, приводя к дискриминационным последствиям, которые еще больше укореняют неравенство в обществе.
Приведенные факты — свидетельство огромного влияния дизайнеров и разработчиков на нашу жизнь. И влияние это усиливается по мере углубления в эпоху ИИ. Разработка дизайнерской присяги — это не просто составление этических рекомендаций. Сам процесс формулирования “клятвы Гиппократа для дизайнеров” представляет собой серьезную дилемму в области дизайна. Требуется соблюдение баланса между гибкостью и строгим следованием, эволюцией и стабильностью, а также учета постоянно меняющегося технологического и этического ландшафта. Разработка этой клятвы, как ни парадоксально, сама по себе является важнейшей задачей дизайна.
Основы дизайнерской присяги
Нельзя приступить к обсуждению клятвы дизайнеров, не обратившись к принципу универсализма, который предполагает, что технологии будут оказывать одинаковое влияние на всех. В подавляющем большинстве случаев это неверно. Возникает вопрос: когда мы проектируем что-то для благополучия людей, каких людей имеем в виду? Исторически сложилось так, что многие технологические достижения, особенно в области ИИ, диспропорционально влияют на маргинализированные группы. Как говорилось выше, негативные последствия от использования предвзятых программ распознавания лиц и алгоритмов принятия решений не просто аномальны — они носят системный характер. Суть истинного универсализма заключается не в разработке универсального подхода, а в обеспечении инклюзивности за счет признания и учета уникальных потребностей и проблем, с которыми сталкиваются различные группы пользователей, особенно маргинализированные.
Сфера применения дизайна охватывает широкий спектр областей, каждая из которых решает свои специфические задачи. И каждая область дизайна — будь то разработка пользовательских интерфейсов для систем здравоохранения, проектирование алгоритмов для банковских приложений или создание нового поколения социальных сетей — предусматривает свои этические соображения. Хотя общая цель этической ответственности остается неизменной, ее достижение зависит от конкретной области применения. Дизайнер, работающий над обычным мобильным приложением, столкнется с иными этическими проблемами, чем тот, кто работает над средствами искусственного интеллекта для правоохранительных органов. Признание этого разнообразия необходимо для того, чтобы присяга дизайнеров была актуальной и действенной в различных сценариях разработки.
Каждое дизайнерское решение также влечет за собой ряд последствий, как краткосрочных, так и долгосрочных. Какой ценой в долгосрочной перспективе обернется решение обеспечить вовлечение пользователей в кратчайшие сроки? Со временем могут возникнуть последствия, связанные с влиянием на общество, доверием пользователей или более широкими этическими проблемами. Дизайнеры не только формируют сиюминутный опыт, но и оказывают влияние на траекторию развития технологий и их роль в обществе на годы вперед. В своей книге об этике дизайна и активизме Ruined by Design (“Разрушенный дизайном”) Майк Монтейро подчеркивает: “Пока вы дизайнер, вы обязаны делать мир лучше для остального человечества. Если вы дизайнер, то вы прежде всего человек. Ваша задача — остановить тех, кто хочет очернить человечество ради собственной эгоистической выгоды”. Дизайнерская присяга должна подчеркивать значимость такого долгосрочного видения, побуждая специалистов задумываться не только о сиюминутных результатах, но и о будущих последствиях своей работы.
Решение задач дизайна с помощью клятвы
Доступность
В основе этичного дизайна лежит принцип доступности, обеспечивающий эффективное и плодотворное использование технологий каждым пользователем, независимо от его физического, когнитивного или социально-экономического статуса. Исторически сложилось так, что дизайн часто ориентирован на “среднего” пользователя, непроизвольно исключая тех, кто не вписывается в эту модель. Но что такое “средний” пользователь в нашем разнообразном мире? Клятва, ориентированная на этичный дизайн, должна ставить во главу угла инклюзивность, призывая дизайнеров мыслить шире традиционных профилей пользователей и включать функции, ориентированные на людей с ограниченными возможностями, пожилых людей и тех, кто в противном случае могли бы оказаться в меньшинстве.
Экологическая ответственность
Будучи в ответе за будущее, дизайнеры обязаны учитывать экологические последствия своей работы. Каждое дизайнерское решение — от материалов, используемых в физических изделиях, до энергопотребления цифровых платформ — несет в себе экологический след. Клятва должна подчеркивать важность экодизайна. Речь может идти как о продвижении дизайна с использованием экологичных материалов, поощрении энергоэффективности цифровых платформ, так и о рассмотрении полного жизненного цикла продукции, чтобы она не превращалась в неразлагаемые отходы.
Экономическая целесообразность
Дизайн не существует в вакууме, он тесно переплетается с экономическими реалиями нашего мира. Баланс между стремлением к инновациям и экономической целесообразностью — дело тонкое. Расширение границ возможного достойно похвалы, но при этом в клятве должна быть подчеркнута важность создания экономически целесообразных решений. Это позволит не ограничивать инновации лабораториями или небольшой демографической группой, а охватить более широкую аудиторию, обеспечив максимальное воздействие на общество.
Свобода выбора и автономность
По мере того, как ИИ все больше интегрируется в наш цифровой опыт, возникает потенциальный риск снижения самостоятельности пользователя. Алгоритмы с прогнозированием, делая платформы более интуитивными, могут направлять пользователей по заранее определенным путям, ограничивая их выбор. Клятва должна отстаивать идею автономии пользователя. Она должна оставлять последнее слово за пользователем, даже при условии повышения интеллектуального уровня платформ. Это может означать предоставление четких опций отказа от участия, прозрачность алгоритмов принятия решений или инструментов, позволяющих пользователям понимать и контролировать влияние ИИ на их цифровой путь.
Психическое благополучие
Воздействие цифровых платформ на душевное состояние пользователей становится все более очевидным. Цифровая сфера несет в себе как возможности, так и проблемы — от привыкания к социальным сетям до последствий для психического здоровья, связанных с постоянным нахождением в сети. Клятва должна признавать эти реалии и ориентировать дизайнеров на создание впечатлений, способствующих позитивному психическому благополучию. Это может включать в себя отказ от дизайна, способствующего развитию зависимости, поощрение подлинных социальных связей и даже обеспечение перерывов или времени отдыха на платформах для снижения уровня цифровой усталости. Это требует времени на обдумывание, но это стоит сделать до того, как мы выпустим еще больше продуктов и услуг, которые будут иметь долгосрочные последствия для общества.
Клятва дизайнеров в эпоху ИИ должна стать компасом, который будет вести их через сложный лабиринт этических проблем, чтобы каждое решение, независимо от его значимости, соответствовало более широкой цели — принести пользу всему человечеству.
Устранение проблем при составлении клятвы
Одна из наиболее заметных трудностей при составлении клятвы дизайнеров связана с субъективностью таких понятий, как “вред” и “польза”. То, что считается полезным в одном культурном или общественном контексте, может быть признано вредным в другом. “Польза” и “вред” требуют глубокого понимания и признания различных точек зрения. Разработка универсальной клятвы требует нюансированного подхода, исключающего излишне предписывающие определения и позволяющего гибко интерпретировать их в зависимости от контекста, но при этом дающего четкие этические рекомендации.
Любая клятва должна быть адаптируемой в своей основе, поскольку темпы развития технологий просто головокружительны. То, что актуально сегодня, завтра может оказаться устаревшим. Принципы проектирования, применимые к нынешним технологиям, могут оказаться непригодными для инноваций следующего десятилетия. В связи с этим возникает проблема обеспечения актуальности клятвы с течением времени. Возможным решением является привязка клятвы к более широким этическим принципам, а не к конкретному технологическому контексту. Сосредоточившись на вечных ценностях, таких как инклюзивность, прозрачность и автономия пользователя, клятва может стать надежным ориентиром в вихре технологических изменений.
Кроме того, дизайн не работает в изоляции. Он пересекается с технологией, социологией, психологией, экономикой и другими дисциплинами. Различные области привносят свои взгляды, методологии и ценности. Эти различия, хотя и обогащают, могут привести к расхождениям в понимании и подходах. Эффективная клятва должна служить мостом, способствующим междисциплинарному сотрудничеству и диалогу. Она должна способствовать формированию общей этической основы, отдавая должное уникальному вкладу каждой области.
Наконец, клятва, как бы хорошо она ни была составлена, не будет иметь большой ценности, если останется просто словами на бумаге. Настоящая проблема заключается в ее реализации и обеспечении соблюдения. Чтобы клятва была действенной, она должна сопровождаться механизмами надзора, обучения и постоянной обратной связи. Это может включать создание комитетов по этике в дизайнерских организациях, регулярные тренинги по принципам этичного дизайна, а также платформы для заинтересованных сторон, в том числе пользователей, для обратной связи и обсуждения актуальных тем. Внедрив клятву в структуру дизайн-сообщества, мы сможем обеспечить ее использование в качестве живого ориентира, формирующего этические дизайн-решения на практике.
Движение вперед: действенные шаги
Как и к продуктам, с которыми часто работают дизайнеры, к самой клятве следует относиться как к “продукту”, требующему регулярных итераций и обновлений. По мере развития технологий и потребностей общества должны меняться и наши этические принципы. Клятва должна рассматриваться не как статичный документ, а как динамичная структура, адаптирующаяся к меняющемуся технологическому ландшафту и сопутствующим этическим проблемам. Регулярный пересмотр, возможно, ежегодный или полугодовой, может обеспечить сохранение актуальности и эффективности клятвы.
Абстрактных принципов может быть недостаточно. Более реальным подходом может стать интеграция сценарных рекомендаций с использованием подхода, основанного на дизайнерском мышлении. Моделируя реальные проблемы и дилеммы, с которыми могут столкнуться дизайнеры, эти рекомендации могут дать более четкие ориентиры для принятия этических решений. Сценарии, разработанные на основе реальных примеров из практики, позволяют понять потенциальные “подводные камни” и лучшие практики.
Кроме того, истинная сила этического руководства заключается в его укорененности в обществе, которому оно служит. Активный поиск обратной связи с различными заинтересованными сторонами — от дизайнеров и разработчиков до конечных пользователей с различным опытом работы — гарантирует, что клятва будет основана на реальном опыте. Подход “снизу вверх” позволяет выявить непредвиденные проблемы, предубеждения или упущения и доработать клятву, сделав ее более полной и всеохватывающей.
Однако путь к созданию общепризнанной клятвы Гиппократа для дизайнеров нельзя пройти в одиночку. Он требует коллективной мудрости и усилий дизайнеров, технологов, политиков, специалистов по этике и широкой общественности. Только благодаря активному участию, диалогу и сотрудничеству можно разработать руководство, которое выдержит испытание временем и обеспечит будущее дизайна, твердо опираясь на этические принципы. Путь к созданию эффективной и действенной клятвы сопряжен с определенными трудностями, требует согласованности усилий и стремления к сотрудничеству. Но этот путь того стоит.
Дизайнеры оказывают огромное влияние на сложное взаимодействие человека и технологий. Современные дизайнеры не просто создают продукты, а формируют восприятие, поведение и саму структуру нашего общества. С развитием возможностей искусственного интеллекта это влияние только растет в геометрической прогрессии, умножая как потенциальные преимущества, так и подводные камни.
Эта ключевая роль подчеркивает необходимость разработки этических принципов, подобных клятве Гиппократа, специально для дизайнеров. Такой компас не только послужит защитой от возможных ошибок, но и станет сигнализатором, направляющим дизайнеров на создание инноваций, действительно служащих интересам человечества.
При попытке создать такую клятву, несомненно, возникнут трудности. Однако вместе с трудностями появятся и возможности для сотрудничества, размышлений и роста. Полностью признаю, что в этой концепции есть “белые пятна”, о которых здесь не было упомянуто. Признаю также, что попытка выполнить все пункты полноценной клятвы Гиппократа для дизайнеров может показаться невозможной и даже утопичной. Но сейчас, когда мы стоим на этом технологическом перекрестке, у нас есть надежда. Связывая ИИ и этический дизайн, мы можем представить себе будущее, основанное на алгоритмах, но не допускающее их доминирования. Будущее, в котором технологии и дизайн объединятся не для того, чтобы затмевать человечество, а чтобы возвышать и прославлять его.
Читайте также:
- 10 конструкторов сайтов с ИИ, которые стоит попробовать каждому UI/UX-дизайнеру
- 14 когнитивных измерений — мастхэв для современного программиста
- Основные принципы дизайна для НЕ дизайнеров
Читайте нас в Telegram, VK и Дзен
Перевод статьи Nicole Cacal: The Hippocratic Oath for Designers in the Age of AI: A Concept
