このページの先頭です

メニューを飛ばして本文を読む

ここから本文です

サイト内の現在位置

教員紹介

西山 悠 助教 NISHIYAMA Yu

  • 社会知能情報学専攻
  • 知識創産システム学講座
  • yu.nishiyama(at)is.uec.ac.jp

はじめに

私は数学や数理全般に興味があり,とりわけ情報システムや機械学習周辺の数理的問題や数理的課題解決に関係した研究を目指しております.

現在(2014/10/1)の研究内容:カーネル平均表現でのベイズ推論(カーネルベイズ推論)

カーネル法は測度空間上の再生核ヒルベルト空間を扱います.カーネル法ではデータ(しばしば確率分布からの発生を仮定)を特徴写像により再生核ヒルベルト空間の元に写像させ,そのヒルベルト空間が持つ再生性(数値計算と相性が良い)を利用して効率的な非線形データ処理を行います.カーネル法の考え方を利用したアルゴリズムにはサポートベクターマシン,カーネルリッジ回帰,カーネルPCA, カーネルICAなどが有名です.近年,カーネル法をベイズ推論に適用する研究が行われています.確率分布の基本操作には,周辺分布を計算する和法則(sum rule; SR)やベイズ事後分布を計算するベイズ則(Bayes’ rule; BR)などがあります.ここではこれら確率分布の基本操作の有限回操作で得られるアルゴリズムをベイズ推論と呼ぶことにします.「グラフィカルモデル上の確率伝搬法」は和法則の有限回操作で,「状態空間モデルの隠れ変数推定」は和法則とベイズ則の組み合わせでアルゴリズムが構成されます.和法則やベイズ則はカーネル化され,カーネル和法則(kernel SR; KSR),カーネルベイズ則(kernel BR; KBR)が提案されています.和法則やベイズ則は通常ユークリッド空間R^d上で行いますが,カーネル和法則やカーネルベイズ則は任意集合上で正定値カーネルとともに考えます.確率分布の基本操作のカーネル化により様々なアルゴリズムのカーネル化が考えられます(カーネルベイズ推論).確率伝搬法,状態空間モデルフィルタリングのカーネル化もその1つです.カーネル和法則やカーネルベイズ則は,陰に条件付き確率のノンパラメトリック推定を行い,カーネルベイズ推論はノンパラメトリック推論手法となります.

現在までの具体的な研究対象は以下の通りです.

部分観測マルコフ決定過程(POMDP)におけるベルマン方程式のカーネル化

ベイズ推論のカーネル表現であるカーネルベイズ推論が提案されていますが,カーネルベイズ推論下での強化学習アルゴリズムを考えるものです.現在,マルコフ決定過程(MDP), 部分観測マルコフ決定過程(POMDP), Predictive State Representation (PSR),経路積分制御における強化学習アルゴリズムなどが研究されています.

ノンパラメトリックカーネルベイズ推論と確率モデルの融合

カーネル和法則やカーネルベイズ則は,陰に条件付き確率のノンパラメトリック推定を行い,その有限回操作はノンパラメトリック推論を導きます.一方で確率モデルを部分的に組み合わせてカーネルベイズ推論を行いたい状況もあります.その様な状況に対応するために確率モデルのカーネル平均の厳密表現の利用や,モンテカルロサンプリングとカーネル法を融合することによる状態空間モデルのフィルタリングアルゴリズムを開発しています.

特性的カーネルと確率分布の無限分解可能性

カーネルベイズ推論はカーネル平均表現のベイズ推論です.特性的カーネルは正定値カーネルの部分クラスのことを指し,カーネル平均の概念から誘導されるものです.確率分布からカーネル平均への写像(カーネル平均写像)が単射のとき正定値カーネルを特性的と呼びます.特性的カーネルは,カーネルベイズ推論をはじめカーネル平均の応用を考える際に,カーネル平均が確率分布に一意な表現を与える意味で,重要な意味を持ちます.正定値カーネルで典型的に使われる部分クラスである平行移動不変カーネルに対して,対称無限分解可能密度から作られる平行移動不変カーネルは特性的カーネルになるという無限分解可能分布の視点の研究を行いました.これはガウスカーネル,ラプラスカーネル,\alpha-安定カーネル,一般化双曲型カーネルなどを含みます.またノンパラメトリックカーネルベイズ推論をはじめとするカーネル平均応用と確率モデルの融合には,確率モデルのカーネル平均を利用するアルゴリズムが見られます.確率モデルとそのカーネル平均が同じ密度関数形になる共役カーネル(共役事前分布のアナロジー)を導入し,確率モデルのカーネル平均アルゴリズムについて見通しを良くする研究なども行っています.

生命科学,医学,材料科学への応用

生命科学,医学,材料科学へカーネル平均手法をはじめとする機械学習アルゴリズムの適用を考えたいと思います.

過去の研究内容

ベイジアンネットワークやマルコフネットワークを始めとするグラフ上の確率推論では,同時確率分布から周辺確率分布を効率近似計算することが求められます.確率伝搬法や各種メッセージパシングアルゴリズムが有名なアルゴリズムです.この問題には,変分法,平均場近似,ベーテ/菊池近似,自由エネルギーなど情報統計力学分野とのつながりもあります.他キーワード:変分ベイズ、CCCP、レプリカ法.

姿勢・信念

綺麗な構造は(情報システムや機械学習を始めとして)私たちの生活に役立つことができると信じています.それに基づき新しいものを創造しようと試みています.数学・数理がどのように情報システム・機械学習に役立つことができるかを明らかにし滑らかにつなげていくことが私の研究の理想です.計算可能という制約条件つき数学の範囲ですが,研究課題を一緒に探し,共に切磋琢磨しませんか?

教員紹介