Информация о статье

Название статьи:

Дорожная карта реализации оптических машин экстремального обучения

Авторы:
Головинский П.А., доктор физико-математических наук, профессор кафедры инноватики и строительной физики им. И.С. Суровцева, Воронежский государственный технический университет, г. Воронеж, Российская Федерация, golovinski@bk.ru

В рубрике:
ТЕХНИЧЕСКИЕ НАУКИ

Год: 2023 Том: 5 Номер журнала: 3

Страницы: 239-250

Тип статьи: Научная статья

УДК: 004.8

DOI: 10.17150/2713-1734.2023.5(3).239-250

Аннотация:
Обсуждаются принципы машинного обучения с точки зрения нелинейных отображений и смешения сигналов. Дана характеристика возможностей алгоритмических резервуарных компьютеров, основанных на программной реализации искусственных нейронов со случайными весами входных сигналов, и физических резервуарных компьютеров, использующих различные случайные и нелинейные явления. Изложены основные элементы концепции машин экстремального обучения, описаны их особенности и алгоритм обучения линейного выхода с гребенчатой регуляризацией методом псевдообратных матриц Мура-Пенроуза. Отмечено распределение оптических резервуарных компьютеров по видам и пространственным масштабам используемых физических процессов. В качестве перспективного направления реализации выделены оптические машины экстремального обучения (OELM). Описана структура дифракционной OELM, ее принцип действия, использующий рассеяние на случайных элементах, и присущие ей ограничения. Предложено использование плазмонных металлических наноструктур для снижения размеров оптических резервуарных процессоров. Для реализации квантовой версии OELM, обрабатывающей сигналы с частотной модуляцией, сформулирован новый подход к процессорам, работающим на системах искусственных атомов со случайными взаимодействиями. Возбуждение и считывание сигналов предлагается осуществлять с помощью трехимпульсной фемтосескундной спектроскопии возбуждения с зондированием. Отмечается необходимость низкого уровня релаксации за такт процессора для устойчивой работы схемы. В качестве фундаментального квантового предела процессора обсуждается отдельный атом, генерирующий высокие гармоники в сильном лазерном поле, и описан физический механизм, обеспечивающий этот эффект. Для каждого из трех вариантов OELM сформулированы критически важные задачи, последовательное решение которых позволит существенно приблизить создание технологически значимых OELM.

Ключевые слова: машина экстремального обучения, оптический процессор, рассеяние света, шероховатая поверхность, квантовая система, искусственные атомы, случайный спектр, спектроскопия возбуждения с зондированием, генерация высоких гармоник

Скачиваний - 0
География скачиваний

Скачать полный текст статьи

Список цитируемой литературы:

Гудфеллоу Я. Глубокое обучение / Я. Гудфеллоу, И. Бенджио, А. Курвилль. - 2-e изд. - Москва : ДМК Пресс, 2018. - 652 c.
Photonic neuromorphic information processing and reservoir computing / A. Lugnan, A. Katumba, F. Laporte [et al.] // APL Photonics. - 2020. - No. 5. - P. 020901.
Reservoir Computing. Theory, Physical Implementations, and Applications / ed. K. Nakajima, I. Fischer. - Singapore, 2021. - 457 p.
Jaeger H. The "echo state" approach to analysing and training recurrent neural networks : GMD Report 148 / H. Jaeger. - German National Research Center for Information Technology, 2001. - 47 p.
Maass W. Real-Time Computing Without Stable States: A New Framework for Neural Computation Based on Perturbations / W. Maass, T. Natschl?ager, H. Markram // Neural Computation. - 2020. - No. 14. - P. 2531-2560.
Nakajima K. Physical reservoir computing - an introductory perspective / K. Nakajima // Jpn. J. Appl. Phys. - 2020. - No. 59. - P. 060501.
Recent advances in physical reservoir computing: A review / G. Tanaka, T. Yamane, J.B. Heroux, R. Nakane // Neural Networks. - 2019. - No. 115. - P. 100-123.
Dai J. An Introduction to the Echo State Network and its Applications in Power System / J. Dai, G.K. Venayagamoorthy, R.G. Harley // Intelligent System Applications to Power Systems : 15th International Conference, Curitiba, December 2009. - Curitiba, 2009. - P. 1-7.
Konkoli Z. On developing theory of reservoir computing for sensing applications: the state weaving environment echo tracker (SWEET) algorithm / Z. Konkoli // International Journal of Parallel, Emergent and Distributed Systems. - 2018. - No. 33. - P. 121-143.
Khavinson S.Ya. Best Approximation by Linear Superpositions (Approximate Nomography). AMS Translations of Mathematical Monographs / S.Ya. Khavinson. - American Mathematical Society, 1997. - 175 p.
Guang-Bin Huang. Extreme learning machine: Theory and applications / Guang-Bin Huang, Qin-Yu Zhu, Chee-Kheong Siew // Neurocomputing. - 2006. - No. 70. - P. 489-501.
Хасти Т. Основы статистического обучения. Интеллектуальный анализ данных, логический вывод и прогнозирование / Т. Хасти, Р. Тибширани, Д. Фридман. - 2-e изд. - Москва : Диалектика, 2020. - 768 с.
Van der Sande G. Advances in photonic reservoir computing / G. Van der Sande, D. Brunner, M.C. Soriano // Nanophotonics. - 2017. - No. 6. -P. 561-576.
An optical neural chip for implementing complex-valued neural network / H. Zhang, M. Gu, X. Jiang, J. Thompson // Nat Commun. - 2021. - No. 12. - P. 457.
Pierangeli D. Photonic extreme learning machine by free-space optical propagation / D. Pierangeli, G. Marcucci, C. Conti // Photon. Res. - 2021. - No. 9. - P. 1446-1454.
Programming multi-level quantum gates in disordered computing reservoirs via machine learning / G. Marcucci, D. Pierangeli, W.H. Pinkse [et al.] // Opt. Express. - 2020. - No. 28. - P. 14018-14027.
Unravelling an optical extreme learning machine / D. Silva, N.A. Silva, T. Ferreira, C.C. Rosa // EPJ Web of Conferences EOSAM. - 2022. - No. 266. - P. 13034.
Novotny L. Principles of Nano-Optics / L. Novotny, B. Hecht. - 2nd ed. - Cambridge : Cambridge University Press, 2012. - 568 p.
Quantum reservoir processing / S. Ghoshi, A. Opala, M. Matuszewski, T. Paterek // npj Quantum Information. - 2019. - No. 35. - P. 1-6.
Reconstructing Quantum States With Quantum Reservoir Networks / S. Ghosh, A. Opala, M. Matuszewski, T. Paterek // IEEE Transactions on Neural Networks and Learning Systems. - 2021. - No. 32. - P. 3148-3155.
Ищенко А.А. Методы детектирования ультрабыстрой динамики вещества / А.А. Ищенко, Г.В. Фетисов, С.А. Асеев. - Москва : Физматлит, 2022. - 520 c.
Theory of strong-field attosecond transient absorption / M. Wu, S. Chen, S. Camp, K. Schafer // Journal of Physics B Atomic Molecular and Optical Physics. - 2016. - No. 49. - P. 062003.
Kern C. Limitations of Extreme Nonlinear Ultrafast Nanophotonics / C. Kern, M. Zurch, C. Spielmann // Nanophotonics. - 2015. - No. 4. - P. 303-323.
Mccaul K. Towards single atom computing via high harmonic generation / G. Mccaul, K. Jacobs, D.I. Bondar // European Physical Journal Plus. - 2023. - No. 138. - P. 123.