Microsoft Research недавно представила четыре передовых компилятора искусственного интеллекта, целью которых является решение конкретных задач в области глубоких нейронных сетей (DNN). Эти компиляторы, получившие названия Rammer, Roller, Welder и Grinder, предлагают инновационные решения для оптимизации рабочей нагрузки DNN, эффективности доступа к памяти, выполнения потока управления и аппаратного ускорения.
Rammer: новаторское параллельное использование оборудования
Rammer, первый компилятор в квартете, фокусируется на использовании возможностей параллельного использования оборудования. Он рассматривает вычислительные задачи как кирпичики на двухмерной плоскости, оптимизируя планирование и аппаратные ресурсы. Оптимизируя пространство планирования, Rammer значительно повышает эффективность вычислений DNN.
Ролик: повышение эффективности вычислений
Roller, второй составитель, представляет уникальную концепцию, вдохновленную работой дорожного катка. Он эффективно помещает многомерные тензорные данные в двумерную структуру памяти, оптимизируя использование памяти и эффективность вычислений. Этот инновационный подход упрощает процесс компиляции и приводит к высокоэффективным результатам.
Welder: оптимизация доступа к памяти
Welder, третий компилятор, решает проблему нехватки пропускной способности памяти в моделях DNN. Он комплексно оптимизирует эффективность доступа к памяти, превращая процесс в эффективную сборочную линию. Объединяя различные операторы и блоки данных, Welder уменьшает трафик доступа к памяти и повышает производительность.
Grinder: освоение выполнения потока управления
Grinder, последний компилятор в квартете, фокусируется на эффективном выполнении потока управления в вычислениях ИИ. Он плавно интегрирует поток управления в поток данных, оптимизируя производительность за пределами границ потока управления. Grinder использует эвристические стратегии и новую абстракцию под названием uTask для оптимизации выполнения потока управления на аппаратных ускорителях.
Эти четыре ИИ-компилятора от Microsoft Research знаменуют собой значительный шаг вперед в технологии ИИ-компиляторов. Они предлагают инновационные решения для оптимизации рабочей нагрузки DNN, эффективности доступа к памяти, выполнения потока управления и аппаратного ускорения.
