Название базовой системы (платформы): | Искусственный интеллект (ИИ, Artificial intelligence, AI) |
Разработчики: | |
Дата последнего релиза: | март 2019 г |
Отрасли: | Информационные технологии |
Содержание |
2019: Раскрытие исходных кодов
В марте 2019 года Google раскрыла исходные коды библиотеки GPipe, используемой для обучения глубоких нейронных сетей. Библиотека предназначена для платформы Lingvo, которая построена на технологии TensorFlow и применяется для моделирования последовательностей.
GPipe можно применять к любой нейросети, состоящей из множества уровней последовательностей и позволяет исследователям «легко» масштабировать производительность искусственного интеллекта, говорит программист Google AI Янпинг Хуанг (Yanping Huang).
![]() | Глубокие нейронные сети (DNN) выполняют множество задач машинного обучения, включая распознавание речи, визуальное распознавание и обработку языка. Более крупные модели DNN приводят к улучшению качества выполнения задач. Прошлый опыт показывает, что существует прямая зависимость между размером модели и точностью классификации. В GPipe мы демонстрируем применение конвейерного параллелизма для того, чтобы увеличить эффективность обучения DNN и обойти эти ограничения, - написал Хуан в блоге Google. | ![]() |
Значительная часть прироста производительности GPipe обусловлена с распределением памяти для ИИ-моделей. На тензорных процессорах второго поколения Google (TPU), каждый из которых содержит восемь вычислительных ядер и 64 Гбайт памяти (8 Гбайт на ядро), GPipe сокращает промежуточное использование памяти с 6,26 Гбайт до 3,46 Гбайт, что позволило использовать 318 млн параметров на одном ядре ускорителя. Хуанг говорит, что без GPipe одно ядро может тренировать до 82 млн параметров модели.Геннадий Попов, PathVision.ai: Как искусственный интеллект помогает медицине и бизнесу
Это не единственное преимущество GPipe. Он также разбивает модели по разным ускорителям и автоматически разбивает «мини-партии» обучающих примеров на более мелкие «микропартии», а также конвейеризирует выполнение по «микропартиям».[1]
Робототехника
- Роботы (робототехника)
- Робототехника (мировой рынок)
- Обзор: Российский рынок промышленной робототехники 2019
- Карта российского рынка промышленной робототехники
- Промышленные роботы в России
- Каталог систем и проектов Роботы Промышленные
- Топ-30 интеграторов промышленных роботов в России
- Карта российского рынка промышленной робототехники: 4 ключевых сегмента, 170 компаний
- Технологические тенденции развития промышленных роботов
- В промышленности, медицине, боевые (Кибервойны)
- Сервисные роботы
- Каталог систем и проектов Роботы Сервисные
- Collaborative robot, cobot (Коллаборативный робот, кобот)
- IoT - IIoT - Цифровой двойник (Digital Twin)
- Компьютерное зрение (машинное зрение)
- Компьютерное зрение: технологии, рынок, перспективы
- Как роботы заменяют людей
- Секс-роботы
- Роботы-пылесосы
- Искусственный интеллект (ИИ, Artificial intelligence, AI)
- Обзор: Искусственный интеллект 2018
- Искусственный интеллект (рынок России)
- Искусственный интеллект (мировой рынок)
- Искусственный интеллект (рынок Украины)
- В банках, медицине, радиологии, ритейле, ВПК, производственной сфере, образовании, Автопилот, транспорте, логистике, спорте, СМИ и литература, видео (DeepFake, FakeApp), музыке
- Национальная стратегия развития искусственного интеллекта
- Национальная Ассоциация участников рынка робототехники (НАУРР)
- Российская ассоциация искусственного интеллекта
- Национальный центр развития технологий и базовых элементов робототехники
- Международный Центр по робототехнике (IRC) на базе НИТУ МИСиС
- Машинное обучение, Вредоносное машинное обучение, Разметка данных (data labeling)
- RPA - Роботизированная автоматизация процессов
- Видеоаналитика (машинное зрение)
- Машинный интеллект
- Когнитивный компьютинг
- Наука о данных (Data Science)
- DataLake (Озеро данных)
- BigData
- Нейросети
- Чатботы
- Умные колонки Голосовые помощники
- Безэкипажное судовождение (БЭС)
- Автопилот (беспилотный автомобиль)
- Беспилотные грузовики
- Беспилотные грузовики в России
- В мире и России
- Летающие автомобили
- Электромобили