Понятие программного рабочего потока существует уже несколько десятилетий. Оно широко применяется для автоматизации пошагового процесса ручного труда, часто встречающегося в корпоративных цепочках поставок и приложениях для повышения продуктивности работы фронт-офиса. В преддверии запуска платформы EdgeCloud команда инженеров Theta исследовала конвейеры моделей генеративного ИИ. Эти конвейеры являются сквозными конструкциями, которые оркестрируют поступление данных в набор моделей ИИ и вывод из этих данных.
Впервые Theta представила концепцию конвейеризации моделей генеративного ИИ в прошлом году. Это произошло на конференции GoogleCloud Next, посвященной приложениям для преобразования видео в текст с использованием Imagen on Vertex — платформы ИИ от Google — и нескольких моделей EdgeCloud для преобразования текста в текст и кодирования видео. На диаграмме, представленной ниже, показан пример генерации роликов для киберспортивной игры с использованием конвейера из четырех моделей, включая Imagen от Google.
Развивая эту концепцию, компания Theta анонсировала на прошлой неделе собственную модель генеративного ИИ Sketch-to-3D, реализованную в виде двухступенчатого конвейера моделей с преобразователем текста/наброска в 2,5D-изображение и генератором 3D-модели.
На данный момент вышло обновление для демонстрации возможностей ИИ EdgeCloud c добавлением новой двухступенчатой модели преобразования текста в изображение. Обновление работает следующим образом: исходный промпт автоматически вводится в большую языковую модель Llama3 для генерации улучшенного с помощью ИИ, оптимизированного для стабильной диффузии промпта, который затем вводится в модель генерации изображения. В целях обучения оба выходных изображения, вместе с промптами, отображаются рядом, чтобы пользователи могли увидеть разницу между ними и усовершенствовать результат.
“Под капотом” конвейер модели ИИ включает исходные данные из источника, характеристики, результаты, модель машинного обучения, ее параметры и другие результаты прогнозирования. Для запуска и масштабирования моделей ИИ требуется оборудование GPU, а также инструменты для очистки и подготовки данных, разработки и выбора функций, интерпретации и использования результатов модели ИИ. Этот процесс становится еще более сложным, когда команды дата-сайентистов, часто при поддержке IT-специалистов и системных инженеров, создают конвейеры моделей и управляют ими. Специальное обслуживание является дорогостоящим, сложным и отнимает много времени.
Theta EdgeCloud — первая гибридная платформа для облачных вычислений, которая может эффективно реализовать операции машинного обучения (MLOps) для настройки, управления и поддержки конвейеров моделей ИИ. Следите за достижениями этой компании в 2024-2025 годах, а пока получайте удовольствие от использования обновленной демонстрационной площадки ИИ EdgeCloud.
Читайте также:
- Интеллектуальная синергия: динамические отношения между искусственным и человеческим интеллектом
- Почему не стоит разрабатывать инструменты ИИ на основе чатов
- Искусственный интеллект и пользовательский опыт: погружение в новую эру визуализации данных
Читайте нас в Telegram, VK и Дзен
Перевод статьи Theta Labs: EdgeCloud: Taking genAI to the Next Level with AI Model Pipelining
