| Разработчики: | IBM |
| Дата премьеры системы: | октябрь 2018 г |
| Дата последнего релиза: | декабрь 2018 г |
| Отрасли: | Информационные технологии |
Содержание |
2018
Выход новой версии, устраняющей предвзятость в искусственном интеллекте
14 декабря 2018 года корпорация IBM представила новую версию платформы AI OpenScale, способную объяснять пользователям, как ИИ-модели приходят к своим выводам, и выявлять предвзятость решениях, принимаемых искусственным интеллектом.
Согласно заявлению корпорации, AI OpenScale – важный инструмент современной работы с ИИ, потому что значительная часть предприятий просто не доверяет искусственному интеллекту, когда дело доходит до принятия наиболее важных решений. Основная проблема заключается в том, что пользователи не уверены в непредвзятости моделей и отсутствии системных ошибок. Кроме того, многих смущает проблема скрытой логики ИИ – им хотелось бы понимать, на основе каких данных модель пришла к этому выводу.
Вице-президент и директор лаборатории исследовательского центра IBM Research Almaden в Сан-Хосе пояснил, что предвзятость ИИ не всегда легко распознать. Платформа AI OpenScale предназначена для устранения проблемы системных ошибок с помощью алгоритмов, которые способны обнаруживать и исправлять их во всем спектре приложений ИИ, не прерывая их работы.
Платформа AI OpenScale постоянно отслеживает приложения ИИ и выявляет системные ошибки, которые имеют тенденцию накапливаться в моделях машинного обучения. Платформа регистрирует все прогнозы, версии модели и все данные обучения, а затем делает выводы на понятном пользователю языке. TAdviser Security 100: Крупнейшие ИБ-компании в России 
AI OpenScale также помогает упростить развертывание ИИ-моделей и позволяет приложениям, созданным с использованием любой модели машинного обучения с открытым исходным кодом или модели глубокого обучения, работать в обычной среде. К ним относятся собственные платформы IBM Watson и PowerAI, среда с открытым исходным кодом Seldon, SageMaker от Amazon Web Services (AWS), Microsoft Azure и другие. Кроме того, платформа снабжена бета-функцией NeuNetS - механизмом синтеза нейронных сетей, который, по словам IBM, позволит предприятиям быстро создавать нейронные сети с нуля.[1]
Анонс
В октябре 2018 года IBM представила платформу AI OpenScale, которая, по словам компании, позволяет создавать искусственный интеллект практически на любой инфраструктуре.
AI OpenScale предлагает инструменты, которые позволяют среди прочего выявлять систематические ошибки, связанные с выявлением определенного исхода в исследованиях.
Предусмотрена система протоколирования, которая записывает прогнозы, сделанные при помощи моделей машинного обучения и их версий. Можно использовать набор данных для обучения и связанные с ними показатели производительности.
Платформа создана для объединения нескольких фреймворков, которые используются для решения задач с помощью искусственного интеллекта. Она постоянно следит за возможно негативными решениями, которые принимает ИИ-модель, предпринимает меры для смягчения последствий и предлагает пояснения к выдаваемым ИИ-алгоритмами рекомендациям.
AI OpenScale поддерживает ИИ-модели, разработанные на различных открытых платформах, включая Google TensorFlow Microsoft AzureML, SparkML, Keras, Seldon и Amazon SageMaker. Такая совместимость облегчает внедрение этих моделей в средах, вроде IBM Watson и Seldon, и других сторонних платформах, отмечает издание VentureBeat.
AI OpenScale будет доступна клиентам IBM Cloud и Cloud Private через онлайн-панели управления.
В дополнение к AI OpenScale создан движок NeuNetS (Neural Network Synthesis Engine), который разрабатывает новые персональные ИИ-модели. Этот движок помогает специалистам в автоматизации процесса создания ИИ, обеспечивая построение сложных и глубоких нейронных сетей с нуля. Такая технология пригодится программистам, не имеющим опыта работы с искусственным интеллектом, а также для ускоренного внедрения таких технологий.
В IBM утверждают, что во время тестирования персонализированных ИИ-моделей, которые автономно разработаны, обучены и развернуты при помощи NeuNetS, была достигнута точность результатов, «сопоставимая с той, которую выдают нейросети, созданные людьми».[2]
