土曜日は久しぶりで, 関西機械学習勉強会:サークルK の第9回の会合でした。
場所は京大本部キャンパスの田中利幸研究室。 小セミナー室が満員になる人数で, 大体15〜18人くらい参加されたように思います。

内容は相変わらずハイレベルで色々あり, 覚えている範囲では

• Compressed Sensingの解説と田中先生らによる最近の拡張 (田中先生)
• NIPS2010まとめ＆報告 ( 石黒君 )
• 画像領域モデルのBPによる改善 (三好先生)
• 拡散ＭＲＩ画像に基づくコネクトミクス研究について (大羽さん)
• 論文紹介: Dependent PYPによる画像分割 (持橋)
• オンライン凸最適化のイントロ (田中先生)
• グラフィカルモデルの近似分布の話 (前田さん)
• 準Newton法の確率的考察&Bregman化 (金森さん)

のような感じでした。タイトルをメモっておかなかったのが悔やまれます。。

大羽さんの話は, 統数研のワークショップ 「神経科学と統計科学の対話」 の予行?で, 大脳の白質を介した部位の繋がりを測定して, そのネットワーク構造を 求める, という話でした。「タワシ」みたいな構造が可視化できるという。
個人的に, 小学校2年生くらいの時に, 大脳の灰白質が思考を司っているのは分かったけれど, その下の白質にはいったい何があるんですか?という質問を 「こども電話相談室」に投げようかと思ったという記憶があって *1 , 実際謎だったのです が, 何か30年位たった今になってスッキリしたという..。w

三好先生が画像のMRF的な領域分割の話をされていたので, 僕は前から NIPS 2008 の Erik SudderthのPY過程画像分割の論文を紹介したいと思い, 今回紹介して みました。簡単に言うと, GPを水平にスライスして「画像領域」を生成し, その広さ とカテゴリがさらにPower Lawに従うような生成モデルです。

• pysceneseg-20101218.pdf

読んでみると, 8ページに情報が物凄く圧縮されていて, 論文紹介である程度きちんと 読んで良かったなというのが感想でした。

休憩を狭んで昼1時から6時過ぎまで難しい話を聞きまくりで, 翌日は微妙にぐったり でした。終了後, 田中研の学生室(aka. Bar田中)でそのまま夜まで懇親会&忘年会。
次回はNAISTで, という話が出ているので, 上のような話に興味のある方はぜひ, という感じです。

---

統数研の福水さんから(+伊庭さんの計らいで), 先日朝倉書店から出たばかりの 『カーネル法入門 ―正定値カーネルによるデータ解析―』 を献本していただきました。(ありがとうございました。)

内容を全部読んでからレビューすると凄く時間がかかってしまうので(&, 内容については僕より, T-PRIMALの最適化系の方の方が適していると思うので), 簡単に赤穂さんの 『カーネル多変量解析』(こちらも当然購入)との違いを言うと, 『カーネル多変量解析』の方は機械学習よりに書かれているのに対し, 『カーネル法入門』の方は福水さん らしく, 結構数学的に書かれているなぁ, というのが感想でした。
どちらも非常に良い本だという気がしますが, 『カーネル多変量解析』の方は 実務家の方が読んでも大丈夫そうなのに対して, 『カーネル法入門』の方はより専門的で, 研究者向けという感じがします。と言ってもわかりにくいわけでは全然なく, コンパクトに非常に 密度の濃い内容が書かれているように思います。7章までで『カーネル多変量解析』の内容がほぼ入っていて, 8,9.10章で最新の内容が入っている感じ。
ちなみにNLP的には, string kernelや一般に convolution kernel が大事ですが, これまで日本語の解説はあまりなかったはずで, 7章ではかなり丁寧に書かれている ので, そういう意味でもお薦めかも知れません。実際には, NLPではグラム行列を全部 計算するのはコストが高すぎるので最近あまり使われていませんが, 適当に"サボる"方法が最近色々あるようなので, これとは別に, そういう話がどこかにまとまっていると喜ぶ人は多そうな気がします。

-

朝食にホットケーキを食べていて, ふと思った。
十字型にナイフを入れた後, まだ大きいので, もう少し切る。
斜めにナイフを入れて櫛型に切るのが普通だが, ここまで水平-垂直に切ってきた のに, いきなり斜めに切るのは面倒だし, ピザみたいになってしまうので, そのまま四分円を縦に切って二つに分けたいと思うことが多い。

しかし, 少し考えればすぐわかるように, 辺の二等分(上の図のPH)で分けたのでは
面積が二等分にならない。 OHをいくつにすれば, ちょうど右側と左側の面積が同じになるのだろうか。

円盤(ホットケーキ)の半径を1としても一般性を失わないので, 以下半径は1とする。 θを上図のようにとれば, OH = sinθ, PH = cosθ なので, 右側の 面積は π・θ/(2π) + 1/2・sinθ・cosθ = θ/2 + 1/2sinθcosθ になる。 これが四分円の面積の半分に等しいとおいて, ちょっと計算すると, このθを 求めるには, 次の綺麗な式を解けばよいことがわかる。

2θ + sin2θ = π/2

(φ = 2θとおけば, f(φ) = φ + sinφ - π/2 = 0).
これは非線型な方程式なので, 解析解は存在しないが (Mathematicaに聞いた限りでは, 多分), f'(φ) = 1 + cosφ なので, Newton 法で以下のようにして解ける。

φ' = φ - (φ + sinφ - π/2) / (1 + cosφ)

Mathematica に聞く場合は, 以下のようにする。

% math
In[1]:= FindRoot[x + Sin[x] == Pi / 2, {x, Pi/2}]

Out[1]= {x -> 0.831711}

In[2]:= N[Sin[0.831711/2]]

Out[2]= 0.403973

というわけで, だいたい40.4%のところで切ると半分に切れるようだ。
40% と言ってもわかりにくいが, 下の図のように0.5の半分が0.25, その左の半分 が0.375 なので, そのもう少し左にナイフを入れると, ちょうど面積半分で切れる ことになる。

ホットケーキを食べるたびに気になっていた問題なので(本当)、解答が見つかって よかった。
ていうか、朝ごはん中断して何やってんの俺。(笑) (tgifの練習という話があります)