『SVM』はディープラーニング以前に最も成功した機械学習手法のひとつ。カーネル法やマージン最大化など、数学的に洗練された概念が特徴です。
雷門 あかり
SVMって響きがなんかカッコいいね!
どんな手法なの?
六角 いずみ 先生
SVM(サポートベクターマシン) は、2クラスを分ける超平面(高次元の境界線) を、両クラスからの距離 (マージン) が最大になるように決める分類手法よ。
白銀 エマ
マージン最大化が重要なポイント。
境界線から最も近いデータ点をサポートベクターと呼び、これらだけで境界が決まるの。
紫藤 ゆら
境界線を太く引くイメージですかぁ?
六角 いずみ 先生
そうそう!
太いマージンを確保することで、新しいデータにもロバストに分類できるの。
これが汎化性能の高さに繋がるのよ。
白銀 エマ
線形分離できないデータにはカーネルトリックを使うの。
データを高次元空間に写像して線形分離可能にする技術で、計算は元の空間のまま行える賢い方法よ。
雷門 あかり
次元を上げちゃうって、なんか魔法みたい!
六角 いずみ 先生
代表的なカーネルはRBFカーネル(Radial Basis Function)、多項式カーネル、線形カーネルなど。
RBFは汎用性が高く最も使われるわ。
紫藤 ゆら
3つも覚えるの大変ですぅ…
白銀 エマ
現実のデータはノイズを含むから、多少の誤分類を許すソフトマージンSVMが実用では主流よ。
ハイパーパラメータCで厳しさを調整するの。
六角 いずみ 先生
SVMは2010年代前半まで機械学習の王者だったのよ。
でも大規模データには計算コストが重くて、ディープラーニングに主役を譲ったということね。
雷門 あかり
昔は栄光の日々があったんだなぁ…
六角 いずみ 先生
G検定では『SVM=マージン最大化』『サポートベクター』『カーネルトリック』『ソフトマージン』をしっかり押さえてね!
確認クイズ
SVMで線形分離できないデータを扱うための技術はどれか。
- バギング
- カーネルトリック
- ブースティング
- ドロップアウト
こたえを見る
正解: 2. カーネルトリック
カーネルトリックはデータを高次元空間に写像して線形分離可能にする技術で、SVMの非線形分類を可能にします。バギング・ブースティングはアンサンブル手法、ドロップアウトはニューラルネットの正則化手法です。