Описание проекта

На сегодняшний день 80% российских компаний внедряют сторонние или развивают собственные machine learning (ML) продукты. Современные модели используют обширный технологический стек с десятками фреймворков, предназначенных для различных задач, а обучение и инференс моделей требуют значительных мощностей в виде серверов и кластеров.

Для повышения характеристик моделей и снижения стоимости их обучения, широко применяются методы оптимизации на различных уровнях. Однако, выбор итоговой конфигурации модели, гарантирующей максимальное использование доступных ресурсов с достижением заданных продуктовых метрик модели является нетривиальной задачей, требующей множество экспериментов, времени, и денег.

С целью ускорить разработку новых и оптимизацию существующих моделей мы представляем ForgeML - продукт для моделирования и оптимизации моделей машинного обучения. С помощью предлагаемого продукта становится возможным оценить характеристики модели до непосредственного деплоя на железо. ForgeML - это виртуальный полигон для ML-команд: моделируйте, оптимизируйте и валидируйте ваши модели до того, как потратить хоть один рубль на реальное "железо".

В графическом интерфейсе создается цифровой двойник целевой модели. Задаются характеристики железа и параметры исполнения. Рассчитываются ключевые метрики производительности модели. Становится возможным выбор оптимальной с точки зрения различных характеристик конфигурации (минимизировать стоимость при фиксированных метриках или максимизировать производительность). На этапе моделирования реальный прогон не требуется - получаем ускорение, снижение стоимости экспериментов и оптимизации модели.

Презентации

Вводная презентация

Пульс