1．は じ め に
著者は人工知能の研究者でもなんでもない，物理学者 である．少なくとも自分ではそのように自覚して研究を 続けてきた．しかしながら興味が発散気味な性格が災い してか，いろいろなところで顔を出す数理的な共通項を 見いだすにつれて，さまざまな分野に首を突っ込んでき た．最近では，機械学習の汎化性能について興味をもっ ている．物理学の進展とうまく重なる話題をここは一つ 提供するとしよう．量子アニーリングというキーワード をご存じだろうか．量子力学の原理に基づくダイナミク スを利用することで，最適化問題を解く手法である．カ ナダのベンチャー企業である D-Wave Systems 社がその 実装・商用販売に成功したことで，キャッチフレーズ的 には「世界初の商用量子コンピュータ」と銘打って，一 躍注目を集めた [西森 16]．さて，この量子アニーリン グ．物理学の進展として対岸の出来事と見てよいのだろ うか．テクノロジーの発達による新しい種類の計算機の 登場として見ればよいのだろうか．それ以上の可能性を 個人的には感じている．どうも量子コンピュータは人工 知能の発展に寄与する可能性が非常に高い．なかなか敷 居の高いテーマであることは重々承知しているが，物理 学と人工知能の接点を語るうえではこれ以上ない魅力あ るテーマではないだろうか．本稿では，少しだけその側 面を紹介することで，将来発展する可能性がどれほどあ るのか，読者に想像してもらいたい． そこで基本的問題として，ニューラルネットワークの 最適化問題を考える．あらかじめ与えられた訓練データ に対して，ニューラルネットワークを構築して，訓練誤 差を最小化するようにニューラルネットワークの重みを 更新する．その際に利用されるのは，訓練誤差に対して 重みに関する微分である．その微分を計算するために， 誤差逆伝搬法が利用される，というのが定番の解説であ る．誤差逆伝搬法やその周辺について語りつくされてき たような気もする．その話は置いて，ニューラルネット ワークの最適化手法そのものについて，物理学の視点か ら見直していくことから始めてみよう．2．物理学の支配方程式：運動方程式
微分はニュートンが運動の解析をするのに使われたよ うに，物理学で最も重要な解析手法の一つである．ニュー トンの運動方程式は，身の回りにあるような物体の動き を支配しており，その自由度の速度の 1 階微分にまつわ る微分方程式である． mdv dt = F− kv （1） ここで，質量 m，速度 v として，力 F，比例係数を k と して速度に比例する抵抗がかかっている状況を想定し た．ここで質量 m が非常に小さい場合について考えると， オーバダンプな運動方程式 kdx dt = F （2） に帰着する．この運動方程式に従い，自由度の座標は x(t + dt) = x(t) +dx dt dt = x(t) + F k dt （3） と時々刻々と変化する．この自由度にランダムな駆動力 （熱揺らぎ）が働く場合には，ランジュバン方程式と呼 ばれるものとなる． x(t + dt) = x(t) +F k dt + 2 TdW （4）量子コンピュータが人工知能を加速する ?
─量子揺らぎによるニューラルネットワークの最適化手法─
Can Quantum Computer Accelerate Artificial Intelligence?
─ Optimization of Neural Networks by Quantum Fluctuation ─
大関 真之
東北大学大学院情報科学研究科Masayuki Ohzeki Graduate School of Information Science, Tohoku University.
[email protected], http://www.smapip.is.tohoku.ac.jp/~mohzeki/
Keywords:
quantum annealing, neural network, optimization, artificial intelligence. 「物理学と AI」時間の変化を追う際に dW をどのように詳細に扱うのか によってさまざまな方法はあるが，当面 dW は平均 0， 分散 dt の正規分布と考えて差し支えない．いずれにせ よ，通常の更新にノイズが乗るのがランジュバン方程式 である．ここで，T は温度であり，ランダムな駆動力の 程度を表す．十分に時間が経過すると，自由度はある特 徴的な確率分布に従う．これをギブス・ボルツマン分布 と呼び，以下の表式で与えられる． P (x) = 1 Zexp − U (x) T （5） ここで， dx U(x) =− F であり，Z は分配関数と呼ばれる規格化定数である．こ れらはすべて「自然現象」を記述するために編み出され た理論であり，その結果は歴史的に繰り返されてきた 数々の実験に耐えてきた例の積み重ねによりサポートさ れるものである．いわば抗いようのないなりゆきを示す ものといえる．
3．ニューラルネットワークの更新式
一方で，今日の人工知能の基礎の発展に貢献している ニューラルネットワークについて話を振ってみよう．適 当なニューラルネットワークにより，識別や回帰を実行 するモデルを構築して，それらのモデルからの出力と教 師データを合わせるための誤差関数を C（w）と置く．こ こで，w はネットワークの重みとする．この C（w）を 最小化することが最大の目的であり，その結果得られた ニューラルネットワークにより，同様の振舞いをする データに対する識別や予測を行う．そのため最小化を行 うために，素朴にその微分をとり，勾配法に基づく更新 により最小解を目指す． w(t + 1) = w(t)− η∂C(w)∂w （6） ここでベクトルに関する偏微分の表記があるが，各成 分による微分を取り，結果をベクトル的に並べるもの （gradient）である．学習率ηを dt と同一視すれば，オー バダンプな運動方程式であることが読み取れる．ニュー ラルネットワークの最適化においては，誤差関数にデー タに関する単純和が含まれるため，勾配を計算する際に 計算量を低減する工夫が取られる．それが確率的勾配法 である [Robbins 51]．残念ながら物理学の運動方程式で そのような計算手法に対応する「自然現象」は存在しな い．それは学習の効率化を目指すのは，あくまで操作を する側の人間の都合のためである．また深いネットワー クに頻発する鞍点を効率的に回避することを期待して提 案された Adam や適応的に勾配による更新方法を変えて いく手法の多くも，それに対応する「自然現象」はない． 物理学が人工知能の発展に寄与することは，直ちに確認 できるものではないように思われる．ただ数多ある計算 手法が提案されてきたために，必ずしも対応するものが 存在しないだけであって，重要なアイディアについては 物理学の知見が生かされていることが多い． 例えば確率勾配法にノイズを印加することで，ニュー ラルネットワークのサンプリングを行う手法が Welling と Teh らによって提案されている [Welling 11]．その際 に採用されている更新式は w(t + 1) = w(t)− η∂C(w) ∂w + 2η T n （7） である．このように勾配法に「熱揺らぎ」を加えた手法 が機械学習の分野から提案されている．ここで，n は平 均 0，分散 1 の正規分布に従う乱数ベクトルを表してお り，式（7）はまさしくオーバダンプなランジュバン方 程式（4）に対応している．この熱揺らぎの影響により， 勾配法では極小に留まってしまうところを，ある程度の 割合で抜け出す効果があることが期待される．またサン プリングの観点からは，多峰の確率分布の形状をうまく 捉えることが期待される． また最適化するコスト関数に相当する誤差関数に，「運 動エネルギー」を加味して，以下のハミルトニアンに基 づくハミルトン方程式を意識したアルゴリズムが存在す る． H(w) = C(w) + p 2 2m （8） ここで，p はニューラルネットワークの重み w を座標と 見立てたときの運動量に相当するものであり，p2（2m）/ は運動エネルギーに相当する．以下のハミルトン方程式 による自由度の更新を行う [Chen 14]． w(t + 1) = w(t) +ηw m p(t + 1) （9） p(t + 1) = p(t)− ηp ∂C(w) ∂w + 2ηp T n （10） これはオーバダンプなランジュバン方程式から，（質量 mを無視しない）アンダダンプなランジュバン方程式を 利用したものともいえる．オーバダンプなランジュバン 方程式が，勾配法に熱揺らぎを追加したものであるとす ると，このアンダダンプなランジュバン方程式はどのよ うに解釈ができるだろうか．少し式変形をしてみると， p(t) = m ηw(w(t)− w(t − 1)) ≡ ∆w(t) （11） であるから，運動量は前回の更新幅に比例することから わかる．このことから式（9）は， w(t + 1) = w(t)−ηwmηp ∂C(w)∂w +ηw m 2ηp T n + ∆w(t) （12）と重み w に関してまとめることができる．係数は調整す る必要があるが，いわゆるモーメント法に対応した更新 則を利用することに対応している．コスト関数の形状に よって最適化が効率良く行われない場合に利用が検討さ れる手法である． このように大枠として，物理学の運動方程式をベース とした更新則がしばしば採用されている．
4．量子アニーリングの登場
最適化手法として自然現象を利用するという方策とし て，有名なものにシミュレーテッドアニーリングがある [Kirkpatrick 83]．組合せ最適化問題を解く汎用解法と して提案された．最小化問題を考える際に，変数を変え るとコスト関数が下がるときに，その更新を採択するだ けではなく，コスト関数が上昇した場合についても，乱 数を利用して一定の基準を超えると採択を許すという単 純な方法である．この基準を司るのが温度というパラ メータであり，熱揺らぎを利用した最適化手法である． そのため離散的変数ではなく，連続値の変数を取る最適 化問題については，オーバダンプなランジュバン方程式 （7）を用いることで実現できる．ここで，温度 T を比較 的大きめの値から小さめの値へとゆっくりと下げていく ことでシミュレーテッドアニーリングが実装される．シ ミュレーテッドアニーリングは，その温度のスケジュー ルしだいでは，さまざまな極小の谷を経めぐり，最小解 に到達することが保証されているアルゴリズムである． 最小解へ到達することが保証されるカラクリは，ゆっく りと温度を下げることで，各時刻ではギブス・ボルツマ ン分布（5）に従う平衡状態にあると近似することがで きること，最小解が確率分布の意味では，最も確率の大 きいところであるという二つの事実にある．「ゆっくり」 と表現されるとこのアルゴリズムは遅いものであると想 像するかもしれないが，実際上の利用では非常に高速に 温度を変化させていくことが多い．比較的高速に温度を 変化させた場合についても十分に最小解に到達すること が多くの問題で確認されたためだ． さて，シミュレーテッドアニーリングは温度 T におけ る「熱揺らぎ」を利用した最適化手法である．揺らぎと いうのは，結果が一つに決定的に定まらない様子を表現 した言葉である．極小解で止まらずに，他の可能性へ揺 り動かす作用をしている．それでは別の種類の揺らぎを 導入した場合はどうなるだろうか．現代物理学の一つの 柱である「量子力学」に一つの候補が存在する．量子力 学においては，実現値が変動するという「量子揺らぎ」 が存在する．これを利用した最適化手法が量子アニーリ ングである． 量子アニーリングという手法は，最適化問題，とりわ け変数が離散的な組合せ最適化問題に適用される手法と して提案された．現代物理学の一つの柱となる量子力学 をベースに 1990 年代の終わりに提案された [Kadowaki 98]．まず量子アニーリングのベースとなる量子力学に ついて振り返ろう．量子力学では，物理量を示す数値を 演算子へと変更する（第一量子化）．例えばここで問題 にしているニューラルネットワークについて，w ˆw， その運動量について p ˆp と書き換える．ここで ˆ とい う記号がところどころに付されているが，ただの数値か ら演算子（無限次元のヒルベルト空間）へと昇格したこ とを示す．そのために [ ˆw, ˆp ]≡ ˆw ˆp− ˆp ˆw＝iħといった ように，座標と運動量が交換しないなど，なかなか受け 入れがたい計算ルールが生じる．現在の状況を示すこと がただの数値ではなく演算子を利用した定式化を行うと ころが量子力学の特徴である．それは原子や分子などの 微視的なスケールに起こる現象を調べてみると，その結 果が単一の結果にはならず，結果が揺らぐためである． その原因は熱によるものではなく，微視的世界における 原理的な揺らぎであることから，量子揺らぎと呼ばれる． 形式的にハミルトニアンを量子力学の問題へ焼き直す と，以下のハミルトニアンに関する演算子を得ることが できる． ˆ H = C( ˆw) + pˆ 2 2m （13） 量子アニーリングと呼ばれる最適化手法では，この量子 力学へ問題を焼き直すだけでなく，次のようにコスト関 数と運動エネルギーの強さを時間変化させていく． ˆ H(t) = f (t)C( ˆw) +{1 − f(t)} pˆ 2 2m （14） f（0）＝0 から f（τ）＝1 へと有限の時間τの間にコスト関 数や運動エネルギーに相当する部分の係数を変化させて いく．このように時間変化をさせることで，量子アニー リングの実行当初はコスト関数を意識せず，さまざまな 可能性を探索するようにしておき，終盤になるにつれて コスト関数にかかる係数を大きめにして，運動エネル ギーに関する効果を弱めていく．ここで時間変化を非常 にゆっくりと行うことでシミュレーテッドアニーリング 同様に，最小解に到達することが理論的に保障されてい る．カナダのベンチャー企業である D-Wave Systems 社 が，この量子アニーリングを実装したマシンを開発して 商用販売しており，現在では 2048 量子ビットを制御す ることで，量子アニーリングを組合せ最適化問題に適用 することが可能となった．詳しくは拙著をご覧いただき たい [西森 16]．5．量子揺らぎの効果
さて，このまま演算子による表示を強いられると，な かなか読みづらくなる．それは物理学者であっても同様 であり，演算子による表現から再び数による表現へと変 換する方法がある．一部の問題では経路積分と呼ばれる手法を利用して，対象としている自由度がどのような確 率分布に従って揺らぐのかを調べることができる．導出 の詳細は文献など [Hatano 98] に譲り，結果のみを述べ ると，ニューラルネットワークの重み w は以下の確率 分布に従う． P (w) = lim M→∞PM(w) （15） ここで PM(w)∝ Dw M k=1 e−fM T(t)C(wk)− m(t) 2 wk−wk−1 2 であり， Dw = M−1k=1 dwk， m(t) = mM T 1− f(t) とした．ただし，w0＝wM＝w となる．ここで M をト ロッター数または虚時間と呼ぶ．量子力学に現れる演算 子を数値に置き換えるために，経路積分を経由して確率 分布を得ると，トロッター数分だけ並列化した仮想的な システムと対応することが知られている．古典・量子対 応と呼ぶ．これを用いると，だいぶイメージがしやすく なるのではないだろうか．このトロッター数分の並列化 されたシステムは，量子力学に従う対象に対して観測と 呼ばれる行為を施して，どのような状態にあるのかを調 べた際に結果が揺らぐ（同じ結果とならない）ことを擬 似的に表現している．トロッター数 1 番目の系で起こっ たこと w1とトロッター数 2 番目の系で起こったこと w2 が一般的には異なるという状況を表している．しかし， ランダムに全く無関係な結果を導くわけではなく，M 個 の並列化されたシステムの間にばねの弾性エネルギー m（t）‖wk−wk−1‖2/2で互いに結合している．このば ね定数に相当するのが m（t）であり，量子アニーリング では m（0）＝m MT から始まり，m（τ）＝ としてしだ いに大きくしていく．つまり量子アニーリングの実行当 初は，M 個の並列的に用意されたニューラルネットワー クがそれぞれ適当に初期化される．その後，ばね定数 m（t）がしだいに強められつつコスト関数の寄与が考慮 されることで，コスト関数 C（w）の谷に落ち込んでい るものが引っ張り出されながら，山を乗り超えて，より 良い解に引き込まれるといった現象が起こることが期待 される．これがいわゆる量子力学におけるトンネル効果 の素朴な描像である．m（τ）＝ まで到達すれば，並列 化されたシステム全体で同じ実現値となり，定まった結 果を取り出すことができる．
6．汎化性能の獲得
なるほど，無限個の並列性をもって誤差関数の最小解 を割り出して，そこにばねの力によって飛び込むという わけか．直観的にはそのとおりだが，そんな単純な理解 で終わるものでもない．ニューラルネットワークの学習 では，誤差関数がいかに最小化されるかではなく，むし ろ汎化性能に重点が置かれている．学習時に利用された 訓練データとは少し異なるテストデータが与えられた際 に，ニューラルネットワークが示す性能を汎化性能と呼 ぶ．これは訓練データに対して定義された誤差関数に対 して，テストデータによる誤差関数が少しずれたものと して与えられることを想像すれば，汎化性能と誤差関数 の関係が明らかとなる． 図 1 に示すように，誤差関数が広い極小の谷を有し ているところへ到達すれば，汎化性能の良いニューラル ネットワークを取り出すことができる．一方で狭い極小 の谷に到達してしまった場合には，それほど良い汎化性 能を示さない．つまり汎化性能の良いニューラルネット ワークを得るためには，誤差関数の最小化を目的とする だけではなく，誤差関数の形状が重要となるのだ． それでは量子揺らぎを導入した最適化手法として，量 子アニーリングを利用した場合に，ニューラルネット ワークはどのような解を好む傾向にあるのか．それを調 べてみるとしよう．量子アニーリングの終盤では，経路 積分で得られた並列化されたシステムにおいて，非常 に強いばね定数による結合をするため，並列化された ニューラルネットワークのそれぞれではほとんど同じ重 みを取るものと考えられる．境界条件より wk w と考 えられる．ばねの弾性エネルギーに相当する部分を w からの近傍の寄与だけを取り扱うと PM(w)∝ Dwe− k f(t) M TC(wk) e− 1 2m(t) k,k(wk−w)Vkk (wk−w) × （16） を得る．ここで Vkkは分散・共分散行列であり，簡単な フーリエ変換を実行することで計算することができる． 要するに各トロッター数における wkは w の周りにガウ ス分布しながら C（wk）による変調を受けるというダイ ナミクスに従うということだ．これを大胆に近似して， コスト関数 重み 汎化性能が高い 汎化性能が低い 図 1 コスト関数の形状と汎化性能Vkk/m（t）＝aγδk, kとした最適化手法に相当するのがエン トロピー（確率）勾配法である [Chaudhari 16]．この近 似により，M であるから鞍点法を実施することに より w = arg max w log dw e −aC(w )−aγ w −w 2/2 （17） を得る．ここで，a＝ f（t）/（MT）である．ニューラル ネットワークの最適化問題が，何かしらのコスト関数の 最小化問題であったことを思い出すと，これは量子力学 による定式化から得られたことから，近似的に量子揺ら ぎを考慮したコスト関数が得られたことになる．この新 たに得られたコスト関数は一体何を表すのか．被積分関 数のそれぞれの項がどのような影響をもたらすかを考え てみよう．積分を伴うために，値そのもの，または高さ そのものよりも形状が重要となる．面積を大きくするた めには高さだけではなく，その高い領域ができるだけ広 く分布していることが重要であるためだ．−C（w）そ のものを最大化するのであれば，その値そのものが重要 であるが，このような積分を通したコスト関数となると その値が大きい領域が広いほどコスト関数値が大きくな る．これは C（w）の極小付近での形状が重要な鍵を握 ることとなる．汎化性能が高くなるような広い谷であれ ばコスト関数値が大きくなる．一方で汎化性能が低い鋭 く細い谷であれば積分によって獲得できるコスト関数値 が小さくなる．第 2 項の aγ‖w−w‖2 /2を通して，w の 周辺の様子を調べるように積分がスクリーニングされ る．そのため式（17）汎化性能を引き上げることにより 注目したコスト関数であることがわかる．このコスト関 数を最大化するアルゴリズムは当初，より良い汎化性能 を得る手法として天下り的に提案された．ここで紹介し たほどに詳細ではないが，量子力学との関係性について も後になって指摘されている [Baldassi 18]．いずれにせ よ，量子力学による最適化手法を通して，高い汎化性能 をもつアルゴリズムを得ることができるのだ．ただし， 大胆な近似を行っていることに注意したい．Vkkを一様 な対角成分のみで近似することで計算量を大幅に減らし ている．計算量を多少払ってでも多大な性能向上がある のであれば，近似の精度を上げる挑戦をする価値はある が，それはなかなか容易ではない．しかし計算量につい て気にせずに，量子力学による実装をネイティブに行う ことのできる存在が，量子コンピュータである．そうで あるならば自由自在に計算を行うことができるまでに今 後何年かかるかわからないものの，基礎的概念として， 計算基盤として，量子コンピュータを研究することには 十分な価値があるのではないだろうか．
7．量子コンピュータが人工知能を加速する？
本稿では，ニューラルネットワークの最適化問題につ いて，量子アニーリングのような量子揺らぎを導入した アルゴリズムとして，エントロピー（確率）勾配法を紹 介した．量子揺らぎにより誤差関数の形状を意識した最 適化を実行することができることがわかった．あくまで 最適化手法として，量子力学を借りただけではあるもの の，案外と得られる結果は深いものだ．最適化問題では， コスト関数がいかに最小化ないしは最大化されるか，そ の実現する値の良し悪しで，アルゴリズムの良し悪しが 判別される．また解に到達するまでの速度により評価さ れる．一方で，ニューラルネットワークの最適化におい ては，汎化性能という別の切り口における評価がされる． その別軸の評価で量子力学を利用した最適化手法の優位 性が見いだされるのだ． 本原稿では，あくまで近似的に量子アニーリングの 終盤で起こることを紹介したに過ぎない．その計算途中 で起こることをより詳細に解析をすることで，量子揺ら ぎのさらなる優位性が見いだされる可能性がある．ただ 心配なのが，その計算コストではないだろうか．例えば 経路積分による定式化を見れば，トロッター数分の並列 化されたニューラルネットワークが必要となる．しかも その数は無限大である．ただでさえ計算資源を大きく利 用するニューラルネットワークの最適化において，それ は非常に難しいことである．しかし経路積分による定式 化は，あくまで量子力学を利用した最適化手法を実現し た場合に，どのようなことが起こるのかを探るためにし たのであって，その実現においては，量子力学が支配的 となる微視的な世界を思いどおりに制御した量子コン ピュータにおいては，そのような無限個の並列化は必要 がない．これが量子コンピュータのパワーの一つである 超並列性である．古典的には無数に計算リソースが必要 な現象を単一の量子系で表現することができるのだ．現 段階で実現している量子コンピュータは，精度もニュー ラルネットワークを載せる容量についてもまだまだ現在 利用しているコンピュータのそれらにはとうてい及ばな い．今後どれだけ技術が進展しても，現在のコンピュー タの水準ほどには達しない恐れもある．しかしながら， こうした量子力学を利用した手法の優位性や独自の性質 を見いだすことで，今後登場する量子コンピュータの利 用価値や利用の方向性，開発の位置付けなどに貢献して いくことは間違いない． ほかにも量子機械学習という分野が徐々に活発化して いる．従来の機械学習アルゴリズムを量子力学による定 式化を通して，その必要な計算量が低減することや必要 なメモリ量を節約することができることなどを次々と明 らかにしている．こと量子アニーリング周辺に限れば， 計算量の非常に大きいボルツマン機械学習において，そのサンプリングの実行をマルコフ連鎖モンテカルロ法か ら D-Wave Systems 社が開発した量子アニーリングマシ ンを利用したハードウェアからの出力で代替することで 高速化をするという方向性もある．効率的にギブス・ボ ルツマン分布が生成されるように，新しいハードウェア の利用方法が提案されている．このようにソフトウェア とハードウェアが協奏的に新しい方法を生み出していく ところで，思わぬ形で発展が加速される可能性がある． 量子コンピュータそのものが人工知能を加速するという よりも，両者の分野の発展が加速していっていること は間違いない．そういったときに「物理学と人工知能」， いわば「自然と人工物」という本来は全く異なる方向性 のものが混じり合い，非自明な結果を生み出していると ころに強烈な魅力を感じてならない． 謝 辞 本研究は，基盤研究 B「量子アニーリングが拓く機械 学習と計算科学の新時代」の支援を受けて実施された．
◇ 参 考 文 献 ◇
[Baldassi 18] Baldassi, C. and Zecchina, R.: Efficiency of quantum vs. classical annealing in nonconvex learning problems, Proc. National Academy of Sciences, Vol. 115, No. 7, pp. 1457-1462（2018）
[Chaudhari 16] Chaudhari, P., Choromanska, A., Soatto, S., Le-Cun, Y., Baldassi, C., Borgs, C., Chayes, J., Sagun, L. and Zecchina, R.: Entropy-SGD: Biasing gradient descent into wide valleys, ArXiv e-prints（2016）
[Chen 14] Chen, T., Fox, E. B. and Guestrin, C.: Stochastic gradient Hamiltonian Monte Carlo, Proc. 31st Int. Conf. on Machine Learning（ICML’14）， Vol. 32, pp. II-1683-II-1691, JMLR.org（2014）
[Hatano 98] Hatano, N.: Localization in non-Hermitian quantum mechanics and fl ux-line pinning in superconductors, Physica A: Statistical Mechanics and Its Applications, Vol. 254, No. 1, pp. 317 - 331（1998）
[Kadowaki 98] Kadowaki, T. and Nishimori, H.: Quantum annealing in the transverse Ising model, Phys. Rev. E, Vol. 58, pp. 5355-5363（1998）
[Kirkpatrick 83] Kirkpatrick, S., Gelatt, C. D. and Vecchi, M. P.: Optimization by simulated annealing, Science, Vol. 220, No. 4598, pp.671-680（1983）
[西森 16] 西森秀稔，大関真之：量子コンピュータが人工知能を加 速する，日経 BP 社（2016）
[Robbins 51] Robbins, H. and Monro, S.: A stochastic approximation method, Ann. Math. Statist., Vol. 22, No. 3, pp. 400-407（1951）
[Welling 11] Welling, M. and Teh, Y. W.: Bayesian learning via stochastic gradient Langevin dynamics, Proc. 28th Int. Conf. on Int. Conf. on Machine Learning（ICML’11），pp. 681-688, USA（2011）, Omnipress 2018年 5 月 8 日 受理
