Название базовой системы (платформы): | Искусственный интеллект (ИИ, Artificial intelligence, AI) |
Разработчики: | |
Дата последнего релиза: | март 2019 г |
Отрасли: | Информационные технологии |
Содержание |
2019: Раскрытие исходных кодов
В марте 2019 года Google раскрыла исходные коды библиотеки GPipe, используемой для обучения глубоких нейронных сетей. Библиотека предназначена для платформы Lingvo, которая построена на технологии TensorFlow и применяется для моделирования последовательностей.
GPipe можно применять к любой нейросети, состоящей из множества уровней последовательностей и позволяет исследователям «легко» масштабировать производительность искусственного интеллекта, говорит программист Google AI Янпинг Хуанг (Yanping Huang).
![]() | Глубокие нейронные сети (DNN) выполняют множество задач машинного обучения, включая распознавание речи, визуальное распознавание и обработку языка. Более крупные модели DNN приводят к улучшению качества выполнения задач. Прошлый опыт показывает, что существует прямая зависимость между размером модели и точностью классификации. В GPipe мы демонстрируем применение конвейерного параллелизма для того, чтобы увеличить эффективность обучения DNN и обойти эти ограничения, - написал Хуан в блоге Google. | ![]() |
Значительная часть прироста производительности GPipe обусловлена с распределением памяти для ИИ-моделей. На тензорных процессорах второго поколения Google (TPU), каждый из которых содержит восемь вычислительных ядер и 64 Гбайт памяти (8 Гбайт на ядро), GPipe сокращает промежуточное использование памяти с 6,26 Гбайт до 3,46 Гбайт, что позволило использовать 318 млн параметров на одном ядре ускорителя. Хуанг говорит, что без GPipe одно ядро может тренировать до 82 млн параметров модели.Бизнес переходит на российское ПО, но отнюдь не массово
Это не единственное преимущество GPipe. Он также разбивает модели по разным ускорителям и автоматически разбивает «мини-партии» обучающих примеров на более мелкие «микропартии», а также конвейеризирует выполнение по «микропартиям».[1]
Робототехника
- Роботы (робототехника)
- Робототехника (мировой рынок)
- Обзор: Российский рынок промышленной робототехники 2019
- Карта российского рынка промышленной робототехники
- Промышленные роботы в России
- Каталог систем и проектов Роботы Промышленные
- Топ-30 интеграторов промышленных роботов в России
- Карта российского рынка промышленной робототехники: 4 ключевых сегмента, 170 компаний
- Технологические тенденции развития промышленных роботов
- В промышленности, медицине, боевые (Кибервойны)
- Сервисные роботы
- Каталог систем и проектов Роботы Сервисные
- Collaborative robot, cobot (Коллаборативный робот, кобот)
- IoT - IIoT - Цифровой двойник (Digital Twin)
- Компьютерное зрение (машинное зрение)
- Компьютерное зрение: технологии, рынок, перспективы
- Как роботы заменяют людей
- Секс-роботы
- Роботы-пылесосы
- Искусственный интеллект (ИИ, Artificial intelligence, AI)
- Обзор: Искусственный интеллект 2018
- Искусственный интеллект (рынок России)
- Искусственный интеллект (мировой рынок)
- Искусственный интеллект (рынок Украины)
- В банках, медицине, радиологии, ритейле, ВПК, производственной сфере, образовании, Автопилот, транспорте, логистике, спорте, СМИ и литература, видео (DeepFake, FakeApp), музыке
- Национальная стратегия развития искусственного интеллекта
- Национальная Ассоциация участников рынка робототехники (НАУРР)
- Российская ассоциация искусственного интеллекта
- Национальный центр развития технологий и базовых элементов робототехники
- Международный Центр по робототехнике (IRC) на базе НИТУ МИСиС
- Машинное обучение, Вредоносное машинное обучение, Разметка данных (data labeling)
- RPA - Роботизированная автоматизация процессов
- Видеоаналитика (машинное зрение)
- Машинный интеллект
- Когнитивный компьютинг
- Наука о данных (Data Science)
- DataLake (Озеро данных)
- BigData
- Нейросети
- Чатботы
- Умные колонки Голосовые помощники
- Безэкипажное судовождение (БЭС)
- Автопилот (беспилотный автомобиль)
- Беспилотные грузовики
- Беспилотные грузовики в России
- В мире и России
- Летающие автомобили
- Электромобили