Меню категорий
SharesPro
05.04.2020 15:57
0
OctoML привлекает $15 млн для упрощения оптимизации моделей ML

Стартап OctoML, основанный командой проекта Apache TVM, объявил о привлечении финансирования в размере $15 млн в рамках раунда A. Этот раунд прошел под руководством Amplify при участии Madrona Ventures. Основная идея OctoML и TVM состоит в том, чтобы использовать машинное обучение для оптимизации моделей и увеличения эффективности его работы на различных типах оборудования.

«Был достигнут некоторый прогресс в создании моделей машинного обучения», - сказал генеральный директор OctoML и профессор Вашингтонского университета Луис Сезе (Luis Ceze). «Но большая часть проблемы перешла к тому, когда у вас есть модель, действительно ли вы на самом деле эффективно используете ее на краю и в облаках?»

В этом случае авторы стартапа предлагают обратить внимание на проект TVM. В настоящее время это инкубационный проект Apache, и, поскольку он довольно часто используется и поддерживается крупными компаниями, такими как AWS,ARM, Facebook,Google, Intel, Microsoft, Nvidia, Xilinx и рядом других, команда решила создать вокруг него коммерческое предприятие, собственно, OctoML.

Сезе описал TVM как современную операционную систему для моделей машинного обучения.

«Модель машинного обучения - это не код, у нее нет инструкций, у нее есть числа, которые описывают ее статистическое моделирование», - сказал он. «Существует довольно много проблем в том, чтобы заставить его эффективно работать на данной аппаратной платформе, потому что существуют миллиарды способов, которыми вы можете сопоставить модель с конкретными аппаратными целями. Выбор правильного и оптимального способа является важной задачей, которая обычно требует человеческой интуиции».

И именно здесь пригодится OctoML и его SaaS-продукт Octomizer. Пользователи могут загружать свою модель в сервис, и она автоматически оптимизирует, тестирует и упаковывает ее для нужного оборудования и в нужном формате. Для более продвинутых пользователей есть также возможность добавить API службы в их конвейеры CI / CD. Эти оптимизированные модели работают значительно быстрее, потому что теперь они могут полностью использовать оборудование, на котором работают, но многим компаниям, возможно, придется больше заботиться о том, чтобы эти более эффективные модели также обходились им дешевле в облаке или чтобы они способны используйте более дешевое оборудование с меньшей производительностью для тех же результатов. В некоторых случаях использование TVM уже приводит к увеличению производительности в 80 раз.

В настоящее время команда OctoML состоит из около 20 инженеров. Благодаря новому финансированию компания планирует расширить свою команду. Сезе также подчеркнул, что, хотя Octomizer - хорошее начало, настоящей целью проекта является создание более полнофункциональной платформы MLOps.

«Миссия OctoML - создать лучшую в мире платформу, которая автоматизирует MLOps», - сказал он.

Подписывайтесь на SharesPro в социальных сетях:
Telegram: https://t.me/sharespro
Instagram: https://www.instagram.com/sharespro/

Войдите, чтобы оставлять комментарии.

Получить консультацию