平均二乗誤差・MSE・RMSE へいきんにじょうごさ・えむえすいー・あーるえむえすいー
MSERMSE平均二乗誤差回帰評価誤差指標
平均二乗誤差・MSE・RMSEについて教えて
簡単に言うとこんな感じ!
回帰モデルの誤差を「2乗して平均」した指標だよ。2乗することで大きな誤差をより厳しく罰則するのが特徴。RMSEはMSEの平方根で元の単位に戻したもの。ニューラルネットワークの学習では損失関数としてもよく使われるんだ!
MSE・RMSEとは
MSE(Mean Squared Error:平均二乗誤差)は、予測値と実際の値の差を2乗して平均した値です。
MSE = (1/n) × Σ(y_i - ŷ_i)²
RMSE(Root Mean Squared Error)は、MSEの平方根で、元の変数と同じ単位になります。
RMSE = √MSE = √[(1/n) × Σ(y_i - ŷ_i)²]
MAEとの比較
| 比較項目 | MAE | MSE/RMSE |
|---|---|---|
| 外れ値への感度 | 低い(ロバスト) | 高い(外れ値を強く罰則) |
| 数学的扱い | 微分が不連続 | 微分可能(最適化向き) |
| 直感的解釈 | しやすい | RMSEは解釈可能 |
| 単位 | 元と同じ | MSEは単位² / RMSEは元と同じ |
2乗する理由
2乗する効果:
誤差 1 → 誤差² 1
誤差 2 → 誤差² 4
誤差 5 → 誤差² 25 (5倍の誤差が25倍の罰則)
→ 「大きく外れる予測を特に嫌う」損失関数
→ 微分しやすいので勾配降下法に使いやすい
損失関数としての利用
MSEは回帰ニューラルネットワークの損失関数(学習時の目標)としても広く使われます。
import torch.nn as nn
criterion = nn.MSELoss()
loss = criterion(predictions, targets)
歴史と背景
- 1805年:ルジャンドルが最小二乗法を発表(MSEの起源)
- 1809年:ガウスが正規分布と最小二乗法の関係を示す
- 現在:回帰評価と損失関数の両方で使われる基本指標
関連用語
- 平均絶対誤差・MAE — MSEと対比される指標
- 決定係数・R² — 回帰評価の別の代表指標
- 損失関数 — MSEが学習時に使われる文脈
- 外れ値 — MSEが敏感に反応する要素
- 勾配降下法 — MSEを最小化する最適化手法