Созданы запоминающие устройства для нейроморфных компьютеров
28.10.2021, 13:03 Исследователи разработали новые энергоэффективные запоминающие устройства, — мемконденсаторы — которые могут быть использованы для реализации алгоритмов машинного обучения на больших объемах данных. Demasius, Kirschen & Parkin
Исследователи смогли создать мемконденсаторы нового поколения, устройства из которых обладают высочайшей производительностью при низком энергопотреблении
Для обучения и внедрения нейронных сетей ученым требуются устройства, способные выполнять операции с большими объемами данных. В последние годы исследовательские группы по всему миру пытаются создать такие устройства, используя различные подходы и конструкции. Одним из возможных способов создания этих устройств является реализация специализированного оборудования, на которое можно напрямую отображать нейронные сети. Этот подход может помочь, например, использовать массивы запоминающих устройств, которые выполняют параллельные вычисления.
Анализируя предыдущие исследования авторы новой работы отметили, что все существующие запоминающие устройства было трудно масштабировать и они имели плохой динамический диапазон. Чтобы справиться с этими проблемами, ученые решили создать устройства, которые были бы более эффективными и простыми в масштабировании. Новое запоминающее устройство, которое они создали, вдохновлено работой синапсов и нейромедиаторов в головном мозге.
Это устройство относится к мемконденсаторам — элементам, которые при приложении электрического потенциала изменяют расстояние между своими обкладками, запоминая таким образом информацию. Разработанное учеными устройство управляет напряженностью электрического поля между верхним электродом затвора и нижним считывающим электродом через так называемый защитный слой. Этот защитный слой, в свою очередь, регулируется аналоговой памятью, которая может хранить различные значения веса искусственных нейронных сетей, аналогично тому, как нейромедиаторы в мозге хранят и передают информацию.
Чтобы оценить эффективность своих устройств, исследователи соединили 156 одинаковых блоков такого типа, а затем использовали их для обучения нейронной сети различению трех букв латинского алфавита — M, P и I. Интересно, что устройства смогли достичь энергоэффективности более 3500 триллионов операций в секунду на ватт с точностью 8 бит. Это в 35–300 раз больше, чем при использовании других существующих мемрезистивных подходов. Эти результаты подчеркивают потенциал новых мемконденсаторов для запуска больших и сложных моделей глубокого обучения с очень низким энергопотреблением.
Статья ученых опубликована в журнале Nature Electronics.
Исследователи смогли создать мемконденсаторы нового поколения, устройства из которых обладают высочайшей производительностью при низком энергопотреблении
Для обучения и внедрения нейронных сетей ученым требуются устройства, способные выполнять операции с большими объемами данных. В последние годы исследовательские группы по всему миру пытаются создать такие устройства, используя различные подходы и конструкции. Одним из возможных способов создания этих устройств является реализация специализированного оборудования, на которое можно напрямую отображать нейронные сети. Этот подход может помочь, например, использовать массивы запоминающих устройств, которые выполняют параллельные вычисления.
Анализируя предыдущие исследования авторы новой работы отметили, что все существующие запоминающие устройства было трудно масштабировать и они имели плохой динамический диапазон. Чтобы справиться с этими проблемами, ученые решили создать устройства, которые были бы более эффективными и простыми в масштабировании. Новое запоминающее устройство, которое они создали, вдохновлено работой синапсов и нейромедиаторов в головном мозге.
Это устройство относится к мемконденсаторам — элементам, которые при приложении электрического потенциала изменяют расстояние между своими обкладками, запоминая таким образом информацию. Разработанное учеными устройство управляет напряженностью электрического поля между верхним электродом затвора и нижним считывающим электродом через так называемый защитный слой. Этот защитный слой, в свою очередь, регулируется аналоговой памятью, которая может хранить различные значения веса искусственных нейронных сетей, аналогично тому, как нейромедиаторы в мозге хранят и передают информацию.
Чтобы оценить эффективность своих устройств, исследователи соединили 156 одинаковых блоков такого типа, а затем использовали их для обучения нейронной сети различению трех букв латинского алфавита — M, P и I. Интересно, что устройства смогли достичь энергоэффективности более 3500 триллионов операций в секунду на ватт с точностью 8 бит. Это в 35–300 раз больше, чем при использовании других существующих мемрезистивных подходов. Эти результаты подчеркивают потенциал новых мемконденсаторов для запуска больших и сложных моделей глубокого обучения с очень низким энергопотреблением.
Статья ученых опубликована в журнале Nature Electronics.
Ещё новости по теме:
18:20