Сетевая технология имеет сетевые эффекты. Зачастую они являются неосязаемыми и усиливаются через систему во время использования машинного обучения. Но есть ли смысл создавать ориентированный на человека дизайн при работе с ИИ?
Появление новых технологий способствует развитию форм дизайна. Печатная пресса принесла графический дизайн и типографию, производственная линия ввела понятие “дизайн продукта”, а благодаря Интернету у нас появился дизайн взаимодействия. Совсем недавно утвердилось сервисное проектирование для активации взаимодействий, которые происходят с течением времени. Каждая форма преподносит новые подходы и способы создания интересных, полезных и красивых вещей. Кроме того, манера проектирования вещей существенно определяет, что и как мы создаем.
Многие из современных форм имеют общую основу в пользовательском или ориентированном на человека дизайне, а также в дизайнерском мышлении. Эти методики направлены на то, чтобы сопереживать тем, кто использует продукт или услуги. К тому же они ставят потребности пользователей во главу дизайна.
В большей степени HCD — это часть технологического процесса для формирования цифровых продуктов, которые опираются на машинное обучение и ориентированы на потребителя. Такие ИИ-модели масштабно собирают и анализируют пользовательские данные. Несмотря на то, что у них есть возможности, которые требуют взаимодействия и сервис-дизайн, их рабочий процесс приводит к различным последствиям для статичных форм технологии. В этом контексте HCD имеет два основных ограничения.
Первое ограничение базируется на том, что HCD нацелено на понимание и решение проблем определенного человека. Это делается с помощью элегантных и масштабируемых решений, которые могут быть использованы другими людьми с аналогичными потребностями. Такие методы представляют людей и их потребности дискретными и статичными. Но алгоритм машинного обучения не рассчитан на людей в контексте отдельных личностей. В целом машинное обучение — это абстрактный анализ данных и автоматическое обнаружение их правил и шаблонов.
Например, для модели машинного обучения, находящейся в основе социальной сети, “человек” — это кластер точек данных, который связан с другими подобными кластерами.Алгоритм оптимизируется благодаря анализу того, как меняется взаимосвязь между точками данных, в зависимости от показываемых выходных данных. Это значит, что наши пользовательские потребности зависят от окружающих.
Социология социальных групп для частных лиц — простой способ обдумать все это. Как правило, у всех нас есть первичная группа лиц — это близкие друзья и семья. Но также у нас есть второстепенная группа — сюда входят большинство знакомых и коллег. Помимо этого, мы взаимодействуем с различными референтными группами. Они включают множество лиц, с которыми человек сравнивает себя для оценки своего поведения. Такие группы созданы, чтобы определить личность, потребности и позицию человека. До появления социальных сетей, референтные группы были горизонтальными. Это говорит о том, что люди вокруг нас занимали значимое место. Сегодня существуют как вертикальные, так и горизонтальные референтные группы. Неконтролируемое обучение увеличивает количество референтных групп и наше последующее восприятие потребностей, которые руководствуются постоянно меняющимся поведением.
Поэтому не стоит думать, что пользовательские потребности — это что-то особенное и неизменное.
Второе ограничение заключается в том, что в большинстве случаев центральное место занимает бизнес-модель, а не пользователи. Дональду Норману приписывают создание ориентированного на пользователя дизайна для Apple в 1993 году. Однажды он сказал:
“Системное мышление и системный дизайн — это то, чему я учу, и вы должны понимать всю историю. Но даже наша сфера деятельности имеет свои границы, и она останавливается на бизнес-модели”.
Очерченная вокруг бизнес-модели граница системы имеет практические причины. Мы живем в мире систем, и границы вокруг социальных и окружающих систем носят проницаемый характер. Такая коммерческая реальность существовала и раньше, но сейчас она может привести к новым последствиям, как и бизнес-модель.
Незамысловатые интерфейсы скрывают раздутые бэкенды с сомнительным кодом отслеживания. Этот код собирает личные данные, которые питают ИИ-модели. Такие модели требуют колоссальной загрузки сервера. По оценкам экспертов, центры информационных данных составляют примерно 2% от общего объема выбросов парниковых газов. В своей книге “Эпоха надзорного капитализма” (“The Age of Surveillance Capitalism”) профессор Гарвардской бизнес-школы Шошана Зубофф довольно убедительно продемонстрировала, что бизнес-модель превратилась в датафикацию и коммерциализацию личного опыта.
Конечно же, нельзя возложить на дизайнеров ответственность за проблемы, возникающие из-за тугого узла политики, власти и экономической стратегии. Такого рода проблемы и привели к подобным коммерческим моделям. Однако, если вы собираетесь использовать HCD для создания искусственного интеллекта, вам стоит помнить, что потребители этих продуктов являются частью дегуманизированного общества. Поэтому дизайнерские методы становятся скорее более экстрактивными, нежели эмпатическими.
В большинстве случаев дизайнерам не хватает ресурсов, времени и навыков, необходимых для проведения исследований, которые позволили бы им взаимодействовать с аудиторией и сопереживать ей. При работе с такими ограничениями специалистам часто приходится сводить число людей к двум “юзерам”. Как правило, в эту группу входят люди с исторически и контекстуально обусловленной моделью поведения.
В дизайне для описания пользователей часто используется такое понятие, как персона — вымышленный персонаж, разработанный на основе демографических данных. Он описывает поведение или группу людей, которые потенциально могут быть заинтересованы в предложении или продукте. Это скорее концепция ценностей дизайнера, навязанная группе людей, нежели отражение реального жизненного опыта. Впоследствии эти ценности кодируются и усиливаются в жизни людей точно так же, как это делают системные ошибки в данных.
Еще одним следствием дизайна на основе персон является то, что люди, находящиеся между точками данных, просто не учитываются. Часто эти невидимые сообщества в некоторой степени маргинализированы. Упрощение не позволяет рассматривать альтернативные точки зрения и потребности различных пользователей. Затем встроенные в персоны предубеждения усиливаются через сеть.
Конечно же, появляются новые нормативные акты и антимонопольные иски, которые смогут решить некоторые проблемы бизнес-модели. Но ИИ никуда не исчезнет, так как же дизайнеры будут справляться с ним в будущем?
Похоже, машинное обучение перегружает осознание того, что наши потребности носят реляционный характер. Руководитель британского портфеля Общественного фонда национальной лотереи и сооснователь Point People Кэсси Робинсон написала про “реляционный дизайн”, описывая его как “проектирование для набора потребностей в разных масштабах”.
“Этот тип дизайна доказывает, что мы являемся сложными созданиями по отношению друг к другу и к более развитым системам. Здравоохранение служит хорошим примером этого — потребности человека, нуждающегося в индивидуальном уходе, его семьи, опекуна, медицинского работника, требования к Национальной службы здравоохранения Великобритании (NHS) — все эти факторы различны, но тесно взаимосвязаны. Никто не существует в вакууме, а доступ к жизненно важным услугам не является линейным. Поэтому их использование имеет кумулятивное воздействие на более развитую систему”.
Думаем ли мы о реляционном дизайне, когда работаем с искусственным интеллектом? Один из способов сделать это — использовать подходы социальной теории, как например Акторно-сетевая теория (ANT).ANT — это способ, который рассматривает объекты в качестве эффективных единиц социальных отношений. Он описывает системы, как отношения между “действующими лицами” — это могут быть как люди, так и что-то другое (идеи, процессы, объекты, животные и т. д.). Для ANT крайне важно, чтобы все действующие лица рассматривались наравне по отношению друг к другу. Профессор Донна Харауэй привела хороший пример реляционного мышления:
“Если у меня есть собака, то у моей собаки есть человек”.
ANT отражает отношения, которые одновременно являются как материальными (между вещами), так и семиотическими (между понятиями). Подобное картирование означает, что вы начинаете смотреть на систему снизу верх, выбирая точку начала. Человеческие, технические и другие действующие лица в системе раскрывают гораздо больше нюансов, нежели основанные на персонах методы. Более того, если дизайнер включает их в картирование, то, скорее всего, он сможет избежать большинство проблем.
Опираясь на работу Донны Харауэй, ученая Джилл Реттберг недавно опубликовала метод анализа данных о местоположении. С его помощью исследователи рассматривают, как данные строятся, оформляются и обрабатываются для разных аудиторий и целей. При этом они берут во внимание тот факт, что система зависит от контекста и ее невозможно увидеть целиком. По сути это отправная точка, которая способствует более точному соотношению сил на платформах.
Ввиду того, что такие новые технологии, как AR и VR широко развиваются, компании, скорее всего, получат доступ к обширным потокам данных наблюдения. Они могут сделать это при помощи гидролокатора, лидара, структурированного света, датчиков времени полета или камер, которые прикреплены к головному убору пользователя. Эти данные помогают понять пространственную среду пользователя, а также людей и объекты этой среды. Поэтому дизайнерам необходимо брать во внимание последствия, которые могут произойти.
Речь не о том, чтобы полностью изменять дизайн-мышление. Но, возможно, есть смысл добавлять подобные методы при создании дизайна для ИИ.
Читайте также:
- Разработка инфраструктуры и торговых ботов для ИИ-трейдинга
- Автоматическое создание музыки с помощью искусственного интеллекта
- Как ИИ меняет сферу финансов
Читайте нас в Telegram, VK и Яндекс.Дзен
Перевод статьи Miranda Marcus: Beyond HCD: Do we need a new approach for designing with AI?
