SageMaker Neo

Продукт
Название базовой системы (платформы): Amazon Web Services (AWS)
Разработчики: Amazon
Дата премьеры системы: ноябрь 2018 г
Дата последнего релиза: январь 2019 г
Отрасли: Информационные технологии

Сервис Amazon SageMaker Neo предназначен для оптимизации построенных моделей с целью ускорения работы и снижения потребления ресурсов. Решение позволяет обучить модель один раз, а затем развертывать ее где угодно. С помощью технологий машинного обучения SageMaker Neo автоматически оптимизирует обученную модель, созданную в AWS, для конкретной аппаратной платформы. После этого модель можно развернуть в инстансах EC2 и SageMaker или на любом периферийном устройстве со средой выполнения Neo, в том числе на устройствах AWS Greengrass.

2019: Раскрытие исходных кодов

В январе 2019 года Amazon раскрыла исходные коды сервиса Amazon SageMaker Neo, позволяющего построить и обучить один раз модели машинного обучения на PyTorch, а затем развернуть их в облаке AWS с двукратной производительностью.

Платформа выпущена в рамках проекта Neo-AI под лицензией Apache Software License и после раскрытия исходников позволит производителям чипов и устройств, а также разработчикам программного обеспечения оптимизировать модели машинного обучения для широкого спектра аппаратных платформ.

Amazon раскрыла исходники ИИ-системы, подстраивающей машинное обучение под устройства и ПО

Согласно заявлению Amazon, Neo-AI автоматически оптимизирует модели для платформ TensorFlow, MXNet, PyTorch, ONNX и XGBoost и может удвоить скорость работы этих моделей без потери точности. Сервис также преобразует модели в общий формат, чтобы уменьшить проблемы совместимости.

«
Как правило, оптимизация модели машинного обучения для нескольких аппаратных платформ является сложной задачей, поскольку разработчикам необходимо настраивать модели вручную для конфигурирования аппаратного и программного обеспечения каждой платформы, — пишут Суквон Ким и Вин Шарма из Amazon Web Services (AWS) в блоге. — Это особенно сложно для периферийных устройств, которые обычно ограничены в вычислительной мощности и памяти».
»

Первую версию Neo-AI поддержали компании Intel, Nvidia и Arm, а чипмейкеры Xilinx, Cadence и Qualcomm планируют присоединиться к ним.[1]

Примечания



СМ. ТАКЖЕ (4)