認識の
仕組み

「見る」とはなにか — ピクセルから特徴量へ

画像はピクセル値の配列だ。そこから分類に役立つ特徴量を抽出することで、単純なルールでもパターンを識別できる。

784次元 → 特徴量 (x₁, x₂) → 分類

数字を描いて、特徴量を抽出する

右のグリッドに 0 か 1 を描こう。描いた後に特徴量を計算して、散布図に点を打つ。

横幅スコアと中央列密度の2つの特徴で0と1を区別する。

W = 横幅 / グリッド幅
D = 中央1/3の塗りつぶし率
→ 点 (W, D) をプロット

描いたら「0として追加」か「1として追加」を押して散布図に追加しよう。消去でリセット。

線形分離 — 自分で境界線を引く

1本の直線でデータを分ける——直線の片側が「0」、反対が「1」。これが線形分離だ。

w₁·x₁ + w₂·x₂ + b = 0

端点をドラッグして境界線を動かし、全点を正しく分離してみよう。

SVM — マージン最大化の美学

SVMはマージンを最大化する最適な境界線を選ぶ。境界を決めるのはサポートベクターだけだ。

minimize  ½‖w‖²
subject to  yᵢ(w·xᵢ + b) ≥ 1

margin = 2/‖w‖

黄色い破線がマージン境界、四角がサポートベクター。