ONNとENNを併用する研究(2025/10)
外部リンク
NotebookLM
これらの科学論文の抜粋は、光学と電子技術を統合したニューラルネットワークの開発と分析に焦点を当てています。光学機械学習は、電力効率、速度、スケーラビリティの利点を活かし、回折光学素子を用いて畳み込み演算や分類などのタスクを光速で実行します。
いくつかの研究は、D2NNsを電子ニューラルネットワークと組み合わせたハイブリッドシステムを提案しており、これにより計算コストを削減し、特に入力ピクセル数を大幅に圧縮しながらも高い分類精度を維持できることを示しています。
さらに、デジタル・アナログ・ハイブリッドの行列乗算プロセッサを導入することで、従来のアナログ光学処理の精度限界を克服し、実世界のAIタスクに必要な高い数値精度を達成する試みも報告されています。また、単一ピクセル検出器を使用したスペクトル符号化による画像分類や、軌道角運動量ビームのデマルチプレクサへの応用など、多様なタスクにおける光学と電子の協働の可能性が探求されています。
OpenAI DeepResearch
DONN出力を電子ニューラルネットワークに接続するハイブリッド構成
回折型光学ニューラルネットワークを電子的なディープニューラルネットワーク(DNN)と統合することで、光学系がフロントエンドの特徴抽出・圧縮を担い、バックエンドの電子ネットワークが最終分類を行うハイブリッド構成が提案されています。
たとえば、Menguら(2020)は5層の回折型ネットワークと1層の全結合電子ニューラルネットを共同最適化し、手書き数字認識で約98.7%の高精度を達成しました。この光学‐電子ハイブリッドでは、光学前段が入力画像を圧縮して電子ネットへの入力ピクセル数を7.8倍以上削減(例えば28×28画素の入力を10×10画素に低減)でき、後段電子ネットワークの複雑さを大幅に緩和しています(mengu2020)。 Changら(2018)も光学的な畳み込み層(回折光学素子による計算)をCNNに組み込んだハイブリッドモデルを示し、電子演算の前に光学演算を1層挿入することで追加の計算コストなく分類性能を向上できることを報告しています(chang2018)。 光学変換系と分類器間の情報伝達とボトルネックに関する検討
光学前段(DONN)と後段の分類器(電子DNNやPIC)の接続構造について、情報処理の観点から理論的検討が行われています。
近年の研究では、最適化された回折光学系とデジタルニューラルネットを組み合わせたハイブリッド処理によって、入力のアナログ光信号とデジタル処理系との間に新たな「回折言語」が形成されると表現されています。これは言い換えれば、光学系でのアナログ並列計算とデジタル系での離散的学習処理を協調させることで双方の長所を引き出す情報エンコードが実現するということです(sadman2024)。 こうした光学+デジタルの共同最適化設計により、光学系は入力データから分類に必要な特徴を抽出・圧縮して後段へ伝達できます。実際、前述のハイブリッド構成では光学系で情報を圧縮して不要な冗長成分を削減しつつ精度を維持できることが示されており(mengu2020)、光学出力をカメラやフォトディテクタでサンプリングする際のボトルネックを最小化できます。さらに光学系は超並列かつ高速な演算が可能で、例えばレンズによるフーリエ変換はエネルギー消費ゼロで即時に実行できます(chang2018)。 このような光学特有の利点(広帯域・並列性・波長や空間の自由度)を最大限活用し(zhang2025、wang2022)、検出器インターフェース(電子変換)の制約に合わせて最適化することで、光学変換から分類器への情報伝達構造そのものがタスクに特化した圧縮・符号化機構となります(sadman2024)。 総じて、光学前段と分類器の接続方式や自由度(出力チャネル数、サンプリング解像度、スペクトル多重など)の理論モデルが整備されつつあり、どの程度情報を光学的に前処理すべきか、どこで電子/光子変換による損失やボトルネックが生じるか、といった点が議論されています。その結果、光学と電子/フォトニクスのハイブリッドによるエンドツーエンド最適化が、高速・省電力で高精度な情報処理を実現する上で極めて有効であることが理論および実証研究の双方から支持されています(sadman2024、mengu2020)。 論文
「プログラム可能な回折計算」と「デジタルニューラルネットワーク」を統合したハイブリッドな光学およびデジタル情報処理システムの進歩に焦点を当てた展望記事です。従来の回折光学プロセッサが主に人間の視覚に合わせて最適化されていたのに対し、近年では深層学習とデジタルニューラルネットワークと「共同で最適化」されるハイブリッド型プロセッサの開発が進んでいます。この新しいパラダイムは、アナログ情報を持つ入力電磁波と、デジタル化された情報を処理するニューラルネットワークの間で「回折言語」を確立し、両技術の利点を融合させます。この協力関係は、計算撮像、再構成可能なメタサーフェス、および統計的推論など、多岐にわたる応用分野で新しい能力を解き放つ可能性を秘めています。
D2NNに対して,以下の二つの提案を行なっている.
提案1:損失関数の工夫
訓練時の損失関数を変えることにより,勾配消失問題の影響を抑制する手法を提案している.
提案2:D2NNと電子NNを統合したハイブリッドモデル
D2NNで次元削減した画像データを電子NNに入力する光・電子ハイブリッド構成を提案している.
これより,電子NNの入力ピクセル数を大きく削減し,小型で低消費電力な仕組みを実現している.
光アナログ的に行列ベクトル演算(MVM)を実装するONNは,ノイズによる数値精度の限界を抱えている.
著者らは光演算の効率を維持したまま高い数値精度を実現する手法として,デジタル-アナログ複合に基づくMVM実装を提案している.
この研究論文では、ディープラーニングで訓練された回折ネットワークを利用し、物体の空間情報を光のスペクトルに符号化することで、シングルピクセル分光検出器を用いた新しい機械視覚システムが実証されています。このシステムは、光の回折層を用いて画像分類などの計算タスクを全光学的かつ効率的に実行し、特にテラヘルツ帯域での手書き数字の分類で高い精度を達成しました。さらに、検出されたスペクトル情報から画像を再構成する浅い電子ニューラルネットワークを結合することで、タスク固有の画像非圧縮を実証し、光学系と電子系の連携が全体的な推論精度を大幅に向上させることを示しています。このフレームワークは、低遅延かつ低消費電力で、ピクセル数の少ないセンサーシステムでの機械学習タスクを実現する道を開くものです。
CNN系
この科学論文では、ハイブリッドな光・電子畳み込みニューラルネットワーク(CNN)を提案しており、特に電力制約の厳しい組み込みシステムでの画像分類の効率向上を目指しています。著者らは、計算コストの高い畳み込み層の最初の部分を、最適化された回折光学素子(DOE)に基づく光計算層に置き換える戦略を探求しています。シミュレーションと試作機を用いた検証により、この光・電子ハイブリッドシステムは、従来の電子的な実装に匹敵する分類精度を達成しつつ、電子的な計算コストを大幅に削減できることを実証しています。この研究は、光コンピューティングが自律型コンピュータービジョンシステムの効率化に貢献する可能性を示唆しています。
この研究論文では、ハイブリッドな光電融合型畳み込みニューラルネットワーク (OECNN) を用いて、マルチプレックスされた軌道角運動量 (OAM) ビームをデマルチプレックスする新しい手法が提案されています。OAMビームは、大容量のデータ伝送を可能にする空間構造光ですが、大気乱流によって信号の直交性が損なわれるという通信上の課題を抱えています。このOECNNシステムは、4F光学系を利用してフーリエ光学畳み込みを光で高速に実行し、その後に電子層で強度認識に基づいたデマルチプレックスを行うことで、従来の全電子型CNNよりも3.2倍速いトレーニング時間を達成しました。このハイブリッドアプローチは、複雑な畳み込み計算を光で処理することで、データ通信における計算効率の向上と低遅延化に貢献する画期的な進歩を示しています。
光集積経路系
この論文では、Transformerの計算負荷が高い自己注意メカニズムを効率化するため、「HyAtten」というハイブリッドな光・デジタルアクセラレータが提案されています。従来の光ベースのアクセラレータは、信号変換に伴うオーバーヘッドが性能のボトルネックとなっていましたが、HyAttenはこの問題を解決するために信号を二種類に分類します。具体的には、大半を占める低解像度信号は低解像度の光・デジタルコンバータ(ADC)で高速に処理し、精度維持に不可欠な高解像度信号はデジタル回路で処理することで、信号変換の遅延と面積のオーバーヘッドを最小限に抑えています。結果として、HyAttenは既存の光ベースのアクセラレータと比較して、単位面積あたりの性能を9.8倍、エネルギー効率を2.2倍向上させつつ、わずかな精度低下に抑えることに成功しています。
積和演算回路(MZI)と回折セル(スラブ導波路)からなる光集積回路であるを回折型光ニューラルネットワーク(IDNN)チップを提案している。
IDNNチップでは一度の光照射・検出で次の1〜5の処理を実施可能であり,それを多層接続することでDNNを構成できる。
1. 入力信号の生成(MZI)
2. フーリエ変換(回折セル)
3. 積和演算(MZI)
4. 逆フーリエ変換(回折セル)
5. 活性化(強度検出)
https://scrapbox.io/files/68f41d182c546432e792bb47.png
Zhu, H.H., Zou, J., Zhang, H. et al. Space-efficient optical computing with an integrated chip diffractive neural network. Nat Commun 13, 1044 (2022).
非OA論文