“Человечество накопило большой опыт в области инноваций”, — пишут Аджун Рамани и Чжэндун Ванг в эссе о том, почему трансформирующий искусственный интеллект трудно реализовать.
Рамани, корреспондент The Economist, освещающий проблемы глобального бизнеса и экономики, и Ванг, инженер-исследователь Google DeepMind, верят в то, что искусственный интеллект в конечном итоге приведет к значительным трансформационным изменениям. В частности, они ожидают, что ИИ будет выполнять гораздо более широкий круг задач, чем предыдущие революционные технологии. “Механизация сельского хозяйства, паровые двигатели, электричество, современная медицина, компьютеры и интернет — все это радикально изменило мир, — отмечают они. — Тем не менее трендовые темпы роста ВВП на душу населения в пограничной мировой экономике никогда не превышали 3% в год”.
ИИ может изменить правила игры. Он способен трансформировать “сам инновационный процесс”, что может привести как к распространению закона Мура на все, так и к рискам, сравнимым с пандемиями и ядерной войной”. Однако сначала искусственному интеллекту необходимо преодолеть основные препятствия.
В эссе описываются три фактора, сдерживающих прогресс ИИ: экономическая эффективность, основные технологические ограничения и социально-экономические барьеры.
Приводятся также ключевые аргументы по каждому из этих факторов.
Экономическая эффективность
Преобразующий потенциал искусственного интеллекта ограничен сложнейшими проблемами с производительностью труда.
Рамани и Ванг рассматривают трансформационный ИИ не как систему, которая не хуже или лучше человека справляется с широким спектром экономически важных задач, а как экономический эффект, измеряемый ростом производительности при выполнении полезной работы.
“Настанет день, когда мощный искусственный интеллект сможет выполнять всю основную умственную и физическую работу. Как предсказывают некоторые модели экономического роста, при автоматизации самого инновационного процесса, рост ВВП не просто превысит 3% на душу населения в год — он ускорится”. Однако авторы отмечают, что достичь этого будет очень трудно.
В середине 1960-х годов экономист Уильям Баумоль описал то, что теперь известно как эффект Баумоля: общий рост производительности, даже если в некоторых секторах экономики наблюдается ее значительный подъем, сдерживается более слабыми секторами.
В качестве примера авторы эссе предлагают рассмотреть простую экономическую модель с двумя секторами: написание аналитических статей и строительство зданий. “Представьте, что искусственный интеллект ускоряет написание статей, но не строительство. Производительность повышается, достигается экономический рост. Однако аналитическая статья не может заменить новое здание. Таким образом, экономически важная отрасль, которую ИИ не оптимизирует, например строительство, становится относительно более ценной и нивелирует выгоды от написания статей. 100-кратное увеличение скорости написания статей может привести только к 2-кратному росту экономического эффекта”.
За последние несколько десятилетий рост производительности, как правило, сопровождался эффектом Баумоля. Производительность обрабатывающей промышленности значительно возросла, что привело к снижению цен и повышению качества телевизоров и других потребительских товаров. Аналогичным образом, развитие ИТ-индустрии стало причиной технологических достижений, которые значительно оптимизировали ценовые показатели компьютеров и персональных устройств. В то же время цены на трудоемкие услуги, такие как здравоохранение, образование и уход за детьми, значительно выросли, как и цены на жилье, что сдерживает рост совокупной производительности.
2. Технологические ограничения
Несмотря на быстрый прогресс в некоторых областях ИИ, сохраняются серьезные технологические препятствия.
- Прогресс в области управления тонкой моторикой значительно отстает от прогресса в области нейронных моделей языка.
В 1988 году Ханс Моравек наблюдал явление, которое стало известно как парадокс Моравека: “Относительно легко заставить компьютер достичь уровня взрослого человека в таких задачах, как тест на интеллект и игра в шашки, но сложно или невозможно привить ему навыки годовалого ребенка в задачах восприятия и мобильности”.
К аналогичному выводу в 1994 году пришел Стивен Пинкер: “Главный урок 35-летних исследований в области ИИ состоит в том, что трудные проблемы легки, а легкие — трудны”.
Последние успехи ИИ в решении сложных когнитивных задач действительно впечатляют, но в робототехнике, имеющей дело с относительно простыми физическими задачами, подобного прогресса не наблюдается.
- Список открытых исследовательских проблем, имеющих отношение к трансформационному ИИ, пополняется.
В эссе приводится ряд таких проблем. К ним относится воплощенное познание, а именно предположение о том, что познание и телесный опыт неразделимы, поскольку познание формируется на основе жизнедеятельности тела.
Другой важной проблемой является теория, согласно которой разум нужно рассматривать не как совокупность специфических для конкретной задачи навыков, а как способность приобретать новые навыки путем обучения. Эту идею предложил Алан Тьюринг в своей фундаментальной работе 1950 года “Вычислительные машины и разум”. “Возможно, нам не придется решать некоторые или даже все эти открытые проблемы, — пишут Рамани и Ванг. — Но в равной степени мы пока не можем окончательно отказаться от их решения, что добавляет трудностей”.
- Существующих методов может оказаться недостаточно.
Обучение продвинутых ИИ-моделей связано с огромными компьютерными мощностями и затратами электроэнергии, а их масштабирование потребует дополнительных расходов в сотни миллиардов долларов. Это нецелесообразно и, возможно, даже неосуществимо. Кроме того, у нас может закончиться запас высококачественных данных для обучения этих огромных моделей. Старый добрый человеческий труд может оказаться эффективнее, чем масштабирование методом “грубой силы”.
- Человек остается ограничивающим фактором в разработке ИИ-моделей.
Обратная связь с человеком в процессе разработки и обучения делает ИИ более полезным и надежным, но высокая стоимость человеческого участия сдерживает производительность ИИ. Вряд ли ситуация изменится, особенно учитывая наше стремление привести ИИ в соответствие с человеческими ценностями с помощью обратной связи. Технические эксперты, общественность и регулирующие органы хотели бы закрепить роль человека в развитии искусственного интеллекта.
- Значительная часть человеческих знаний является неявной, незарегистрированной и неопределенной.
Явные знания формальны, кодифицированы, их можно легко объяснить людям и зафиксировать в компьютерной системе. А вот неявные знания (понятие введено в 1950-х годах Майклом Полани) — это те знания, о которых мы часто не подозреваем. Поэтому их трудно передать другому человеку, не говоря уже о том, чтобы зафиксировать в компьютерной программе. “Мы можем знать больше, чем рассказать”, — это выражение Полани стало известно как парадокс Полани. Оно лаконично отражает тот факт, что мы неявно знаем многое о том, как устроен мир, но не можем явно описать это знание.
- Возможно, мы движемся совсем не в том направлении.
“Нам все еще трудно точно определить, что мы пытаемся создать, — говорится в эссе. — Мы слабо понимаем природу разума и человечности. Соответствующие философские проблемы, такие как основы морального статуса, квалиа и личностная идентичность, ставят человечество в тупик на протяжении тысячелетий. Таким образом, мы бросаем кости в темноте, делая ставку на свою интуицию, которая, по мнению некоторых, порождает лишь стохастических попугаев”.
3. Социально-экономические барьеры
Даже если технологический прогресс ИИ будет продолжаться, социально-экономические преграды могут ограничить его влияние.
- История экономических трансформаций — это история непредвиденных событий.
Подобно паровому двигателю, электричеству, компьютерам, а в последнее время и интернету, ИИ существенно изменит экономику, общество и нашу личную жизнь. И, как мы убедились за последние два с половиной столетия, исторически значимые технологии с самого начала обладают огромным потенциалом.
Однако реализация этого потенциала требует фундаментального переосмысления организаций, отраслей, экономик и общественных институтов, а также крупных дополнительных инициатив, включая перестройку бизнес-процессов, внедрение инновационных продуктов, приложений и бизнес-моделей, повышение квалификации персонала. Для всего этого нужно значительное количество времени.
- Возможно, ИИ не сможет автоматизировать именно те отрасли, которые больше всего нуждаются в автоматизации.
Производительность значительно выросла в тех отраслях, которые воспользовались преимуществами революционного развития цифровых технологий (ИТ, электроника, производство и финансовые услуги). Однако в таких трудоемких отраслях, как здравоохранение, образование, государственное управление и транспорт, автоматизация и производительность значительно отстают.
- Одной автоматизации недостаточно для трансформационного экономического роста.
Даже если автоматизация на основе ИИ поможет преодолеть ограничения производительности в медленно развивающихся секторах, социальные и политические барьеры, скорее всего, будут и дальше тормозить внедрение технологий. Медленно развивающиеся отрасли, как правило, находятся под сильным давлением регулирующих органов, и поэтому значительно менее чувствительны к вопросам повышения эффективности и рыночной конкуренции.
- Значительную долю экономики составляют отрасли, которые, как правило, носят более социальный характер.
“Даже если искусственный интеллект сможет автоматизировать производство, мы все равно должны решать, что производить, а это социальный процесс, — говорится в эссе. — Возможно, образование — это не просто передача фактов, а в значительной степени мотивация учащихся и привитие им навыков социального взаимодействия… В здравоохранении эмоциональная поддержка сочетается с более функциональными составляющими — диагнозами и рецептами… До тех пор пока продукция, производимая ИИ, не сможет заменить ту, которая является социальной, а значит, дефицитной, такая продукция будет требовать растущей ‘платы за участие человека’ и вызывать эффекты в духе Баумоля, препятствующие экономическому росту”.
Как относиться к ИИ, учитывая эти препятствия?
В заключение авторы эссе задаются вопросом: “Как нам следует рассматривать ИИ в свете этих препятствий?” и отвечают на него тремя ключевыми замечаниями.
- Наиболее ощутимыми рисками ИИ, скорее всего, будут те, что связаны с повседневным применением мощной технологии.
Вряд ли ИИ станет “автономной, неконтролируемой и непостижимой экзистенциальной угрозой”.
“Наиболее серьезный вред от ИИ — это тот, который уже существует или может возникнуть в ближайшем будущем, например предвзятость и неправильное использование”.
- Не стоит связывать общий будущий прогресс с успехами в одной области.
Не ожидайте, что ИИ преодолеет препятствия, которые мы не умеем преодолевать сами. “Мы также не должны воспринимать будущие прорывы как нечто само собой разумеющееся — они могут произойти завтра, а могут не случиться еще очень долгое время”. Диверсифицируйте свои горизонты, “отслеживая прогресс во многих областях инноваций, а не только в звездной подотрасли ИИ”.
- Соответственно, необходимо инвестировать в решения самых сложных проблем в сфере инноваций и социального развития.
“Сделайте паузу, прежде чем переходить к ярким разработкам в области ИИ. Понадобится мощная человеческая изобретательность, чтобы использовать возможности ИИ во благо широких слоев общества — начиная от технических исследовательских задач, которые сейчас не в моде, и заканчивая загадками человеческих отношений, которые остаются актуальными на протяжении многих поколений.
Читайте также:
- Почему ИИ не лишит работы программистов
- Почему искусственный интеллект никогда не захватит мир?
- Как автоматизировать создание контента для YouTube и блога с помощью LangChain и OpenAI
Читайте нас в Telegram, VK и Дзен
Перевод статьи MIT IDE: Three Ways that AI Progress Could Stall
