Исследователи Центра искусственного интеллекта МГУ оценили, насколько оптические процессоры способны ускорять алгоритмы машинного обучения. Они показали, что высокая скорость отдельной оптической операции не всегда даёт существенное ускорение алгоритма в целом: итоговый выигрыш зависит от того, какую долю вычислений эта операция занимает.
Учёные рассмотрели случайные проекции, которые применяются в машинном обучении для уменьшения размерности данных, обнаружения изменений в потоках данных и работы с нейронными сетями. Для четырёх алгоритмов они определили, какая часть нагрузки приходится на случайную проекцию: около 15% для рандомизированного сингулярного разложения, 32% для прямого выравнивания обратной связи, 48% для метода обнаружения изменений в потоках данных и 75% для резервуарных вычислений.
Сравнение оптических и электронных устройств показало, что преимущество оптического подхода становится заметным при работе с векторами размерностью от трёх миллионов элементов, а такие масштабы пока редко встречаются на практике. При разработке оптических вычислительных систем необходимо учитывать не только возможности оборудования, но и структуру алгоритмов, для которых оно предназначено.
Полученные результаты позволяют оценивать целесообразность применения оптических процессоров ещё до создания специализированного оборудования. Развитие технологий и появление алгоритмов, в которых случайная проекция занимает большую часть вычислений, может расширить возможности их использования. Подробнее — на сайте.
Поделиться:
10
Источник: МГУ имени М.В. Ломоносова, научно-исследовательский зоологически
Комментарии
Оставлять комментарии могут только зарегистрированные посетители.
Войти или зарегистрироваться.
Реклама · erid: —
Закрыть
Ставить лайк и оставлять комментарии могут только зарегистрированные посетители.