学位論文要旨



No 213285
著者(漢字) 石井,信
著者(英字)
著者(カナ) イシイ,シン
標題(和) 非線形力学系による情報処理
標題(洋) Nonlinear dynamical systems for information processing
報告番号 213285
報告番号 乙13285
学位授与日 1997.03.17
学位種別 論文博士
学位種類 博士(工学)
学位記番号 第13285号
研究科 工学系研究科
専攻 計数工学専攻
論文審査委員 主査: 東京大学 助教授 合原,一幸
 東京大学 教授 伏見,正則
 東京大学 教授 吉澤,修治
 東京大学 助教授 松井,知己
 東京大学 講師 堀田,武彦
内容要旨

 近年の生理学的知見によって、周期振動やカオスといった挙動が脳の情報処理に関係があると予想されている。脳の情報処理上の性質を明らかにするためには、脳を高次元の非線形力学系として捉え、力学系の手法を用いて解析することが重要である。一方で、非線形力学系の性質の解明は著しいが、良好な性質の工学的応用に関する研究は少ない。本論文では、非線形力学系の情報処理への応用について述べる。扱う課題は、連想記憶問題と組合せ最適化問題であり、これらは脳においても重要な情報処理課題と考えられる。しかし、本論文では工学的見地からこれらの課題を扱う。特に、非線形力学系における極めて重要な二つの現象、すなわち、カオスと分岐、に関する考察を行い、その考察に基づき上記課題への工学的アプローチについて議論する。

 本論文のPART Iでは、カオス素子からなるネットワークモデルを提案し、その情報処理、特に連想記憶への応用について考察する。提案するモデルでは、ランダムな二値パターン(記憶)が相関学習によってシステムに蓄積される。システムは、入力パターンに近い記憶パターンを探索し、出力する。ここで、探索の早い段階では、システムはカオスの動的特性を効果的に用いて空間を探索する。探索が成功した場合は、システムの挙動は周期状態あるいはそれに近い状態になる。その時、位相の同じ素子について同じクラスタに属すると見なせば、空間的に固定化されたクラスタ分割状態となる。さらにクラスタを区別することにより離散表現とみなすことができる。探索が成功した場合は、この空間的に固定化された離散表現が記憶パターンと一致する。一方、探索が失敗した場合は、システムには空間的な動的特性が残り、いわゆる"I don’t know"状態になる。PART Iではこうしたカオスネットワークの基本的性質を調べ、その連想記憶への応用について議論する。また、部分連想記憶、あるいは階層連想記憶といった新しい連想記憶問題への応用も議論する。さらに、想起対象でない記憶パターンとの相関を動的に小さくすることによって、偽記憶を除去した修正モデルを提案する。修正モデルにおける記憶容量は0.58N程度であり、これは従来の相関学習型のHopfieldモデルにおける値の4倍、非単調素子を用いたモデルにおける値の1.5倍程度と大きなものとなる。本論文のPARTIでは、このように周期状態をアトラクタとする連想記憶モデルであっても固定点をアトラクタとするモデルと同等以上の工学的能力を示し、かつ生理学的知見とも関連があるモデルについて考察する。

 本論文のPART IIでは、まず全結合型リカレントニューラルネットワークモデルの組合せ最適化問題への工学的応用について、非線形力学系の分岐現象を中心に考察する。さらにその考察を踏まえて、新しいモデルの提案を行なう。まず、全結合型リカレントニューラルネットワークモデルにおいて、従来より強力とされてきた平均場近似アニーリング法について、その手続きの際に生じる分岐現象について考察する。その結果、システムは、問題の持つ対称性に応じた分岐を起こすことがわかる。この考察はさらに、平均場近似アリーリング法の重大な欠点を示唆する。また、従来の二値スピン系を用いたコーディング法では解の探索空間が大きくなり過ぎるために、良い解が得られない。これらの考察を踏まえて、次に、解空間を抑えながら、かつカオスの動的特性を用いて解空間を探索するモデルを提案する。また、Lagrange法に基づき、さらに解空間を小さくするモデル、あるいはカオスによる乱れを徐々に小さくしていくモデルも提案する。こうして提案されるモデルによる解は、従来強力とされてきた平均場近似アニーリング法によるよりも大幅に良いことを、巡回セールスマン問題を例として実証する。さらに、巡回セールスマン問題よりも実質的に難しいとされる二次割り当て問題に適用して、その工学的応用性を検証する。本論文のPART IIでは、このように平均場近似アニーリング法における分岐現象への考察を基に、対称性のある問題あるいはない問題を非線型力学系で解く工学的課題について論じる。

審査要旨

 近年の生理学的研究の進展に伴なって、周期振動やカオスといった非線形現象と脳の情報処理との関係が重要な研究テーマとなってきている。このような脳の情報処理上の非線形メカニズムを明らかにするためには、脳を高次元の非線形力学系として捉え、力学系の手法を用いて解析することが重要である。他方で、非線形力学系研究は最近大きく進んできているが、その工学的応用については研究すべき課題が多く残されている。本論文は、このような背景のもとで、二つの主題を扱っている。第一部(第2章から第4章)では、カオス素子からなる大域結合ネットワークモデルを提案し、その情報処理、特に連想記憶の応用に関して述べている。第二部(第5章から第9章)は、全結合型リカレントニューラルネットワークモデルの組合わせ最適化問題への工学的応用について、非線形力学系の分岐現象を中心に考察し、さらにその考察を踏まえて、新しいモデルの提案を行なっている。本論文は、"Nonlinear dynamical systems for information processing"(和文題目「非線形力学系による情報処理」)と題し、10章よりなる。

 第1章は序論で、第一部への序論については、脳を非線形力学系として捉える本研究の背景と研究現状をまとめている。また第二部への序論については、非線形力学系を用いた最適化手法についての研究現状をまとめ、また第二部で用いる平均場近似モデルの理論的導出を行なっている。

 第2章は"GCM model for information processing"と題する。大域結合写像モデル(GCM)とは、カオス素子が大域的結合によって相互作用するネットワークモデルである。本章では、対称な3次関数の非線形写像を基本素子とする大域結合写像モデルS-GCMを提案している。また提案モデルの基本的性質を調べ、その性質が3、4章において情報処理への応用について論じる際に、如何に関わるかについて論じている。

 第3章は"Information-processing applications of S-GCM"と題し、第2章で提案されたモデルS-GCMの連想記憶への応用について論じている。S-GCMにおいて、ユニットごとにカオスの強さに関わるパラメータを制御することによって連想記憶が実現でき、またその性能は従来のHopfieldモデルよりも優れていることを実験的に示している。また、基本モデルが柔軟性に富むため、部分連想記憶や階層連想記憶といった新しい連想記憶に応用できることを示している。

 第4章は"Parametrically coupled chaotic elements"と題し、望ましくない安定平衡点を除去し、結果として第3章で提案されたモデルよりも優れた連想記憶能力を示す修正モデルを提案している。また、従来の非単調素子を用いた連想記憶モデルとの比較を行い、それよりも大きな記憶容量を持つ理由について考察を行なっている。

 第5章は"Bifurcations in mean-field-theory annealing"と題し、最適化問題に応用されたBoltzmannマシンの平均場近似モデル(連続Hopfieldモデルと等価になる)において、アニーリングの際に生じる解の分岐現象について理論的に考察している。その結果、問題のもつ対称性に応じた対称性破壊分岐が起きることを示している。例えば、巡回セールスマン問題の場合は、回転対称性破壊分岐および反転対称性破壊分岐が起きることが示される。

 第6章は"Bifurcations and optimization problems"と題し、第5章での理論的考察を用いて、実際に平均場近似モデルを用いて最適化問題を解く際のアルゴリズム上の性質、およびその性質を踏まえたアルゴリズムの改良に関して論じている。

 第7章は"Chaotic Potts spin"と題し、従来のポッツスピンモデルを差分化することによってカオス的挙動を示すモデルの提案を行なっている。また、カオス的挙動を時間とともに制御するカオスアニーリングを組合わせたモデルについても論じている。提案されたモデルによる解は、従来強力とされてきたポッツ平均場近似アニーリングモデルよりも大幅に良いことを巡回セールスマン問題を例として実験的に確認している。

 第8章は"Doubly constrained network"と題し、Lagrange法に基づき、ポッツスピンモデルよりもさらに解空間を小さくするモデルについて論じている。本モデルによる解もポッツ平均場近似アニーリングモデルよりも大幅に良いことが実験的に確認されている。

 第9章は"Applications to quadratic assignment problems"と題し、第二部で論じてきた非線形力学系を、巡回セールスマン問題よりも実質的に難しいとされる二次割り当て問題に適用し、その工学的有効性を検証している。

 第10章は結論であり、以上の研究成果をまとめている。

 以上を要するに、本論文はまず非線形力学系を連想記憶や組み合わせ最適化などの情報処理に適用する際に問題となる基本的性質について考察すると共に、これらの応用の工学的有効性を確認したものである。これは数理工学上貢献するところが大きい。よって本論文は博士(工学)の学位請求論文として合格と認められる。

UT Repositoryリンク