Brainwave: новый ускоритель искусственного интеллекта от Microsoft
На конференции Hot Chips в Купертино (США) Microsoft презентовала новую аппаратную платформу, которая позволяет ускорить программы, работающие на основе искусственного интеллекта. Она называется Project Brainwave и, по заявлению Microsoft, должна повысить скорость работы моделей машинного обучения.
В блоге компании говорится, что платформа разрабатывалась для того, чтобы обеспечить работу ИИ в реальном времени — то есть система будет отвечать на запросы сразу по их получении, с очень небольшой задержкой. Более быстрый ИИ необходим для обработки поисковых запросов, видео или, например, для взаимодействия с пользователями, отмечают в Microsoft.
Система Project Brainwave состоит из трех основных слоев: высокопроизводительной распределенной архитектуры; аппаратного движка DNN, построенного на FGPA; компилятора и библиотеки среды исполнения.
Отмечается, что Brainwave позволяет облачным моделям глубокого обучения эффективно работать вместе с массивной инфраструктурой на FPGA, которую Microsoft установил в своих центрах по обработке данных за последние несколько лет. Это означает, что элементы ИИ в приложениях будут получать более быструю поддержку от сервисов Microsoft.
На конференции представили ускоритель на 14-нанометровых FPGA Stratix 10 от Intel. И на данный момент производительность чипа оценивается в 39,5 TLFOPS, хотя, как отмечают в компании, в будущем планируется повысить производительность до 90 TLFOPS (улучшая Stratix 10).
Сейчас Project Brainwave поддерживает такие модели построения и обучения нейросетей, как Microsoft Toolkit и Google Tensorflow. При этом, как отмечает инженер Microsoft Дуг Бургер, идет работа над совместимостью с другими средствами (например, Caffe).
В блоге компании говорится, что платформа разрабатывалась для того, чтобы обеспечить работу ИИ в реальном времени — то есть система будет отвечать на запросы сразу по их получении, с очень небольшой задержкой. Более быстрый ИИ необходим для обработки поисковых запросов, видео или, например, для взаимодействия с пользователями, отмечают в Microsoft.
Система Project Brainwave состоит из трех основных слоев: высокопроизводительной распределенной архитектуры; аппаратного движка DNN, построенного на FGPA; компилятора и библиотеки среды исполнения.
Отмечается, что Brainwave позволяет облачным моделям глубокого обучения эффективно работать вместе с массивной инфраструктурой на FPGA, которую Microsoft установил в своих центрах по обработке данных за последние несколько лет. Это означает, что элементы ИИ в приложениях будут получать более быструю поддержку от сервисов Microsoft.
На конференции представили ускоритель на 14-нанометровых FPGA Stratix 10 от Intel. И на данный момент производительность чипа оценивается в 39,5 TLFOPS, хотя, как отмечают в компании, в будущем планируется повысить производительность до 90 TLFOPS (улучшая Stratix 10).
Сейчас Project Brainwave поддерживает такие модели построения и обучения нейросетей, как Microsoft Toolkit и Google Tensorflow. При этом, как отмечает инженер Microsoft Дуг Бургер, идет работа над совместимостью с другими средствами (например, Caffe).
Комментарии 0