回帰直線と最小二乗法──なぜ誤差の2乗和を最小にするのか【情報Ⅰ 第88講】

こんにちは、数強塾代表の藤原進之介です。この記事は参考書『藤原進之介の最強120講義』の第88講「回帰直線と最小二乗法」のWeb版です。共通テスト「情報Ⅰ」での重要度はA（頻出。得点差がつく）、情報Ⅱでの接続先は(3)情報とデータサイエンスです。

1. この講の問い

散らばった点の真ん中に1本の直線を引くとき、なぜ「縦のズレの2乗」の和を最小にするのでしょうか。

2. 結論

3. なぜそうなるのか

3-1 回帰直線は「真ん中の線」ではなく「予測の装置」

相関係数 は x と y を入れ替えても値が変わりません。対等な量です。回帰直線はここが違います。文部科学省「情報Ⅰ」教員研修用教材 第4章は、単回帰直線をこう定義しています。

「条件付平均値」という一語が、この講のすべてを決めています。回帰直線は点の集まりの中心を通る線ではなく、x をある値に固定したときの y の平均を返す装置なのです。同教材は、予測される変量を目的変数といって y 軸に、予測に用いる変数を説明変数といって x 軸に対応させる、と明記しています。x が入力で y が出力。役割が最初から非対称です。この一方通行が、3-4（なぜ縦方向だけか）と 3-6（外挿の危険）を全部説明します。

3-2 ズレの測り方は3通りある

直線 を引いたとき、i 番目の点のズレ（残差）は次の量です。教材は残差を「x が与えられたときの直線上の値（モデル値）と実際の y の値との差」と定義しています。

案1：そのまま足す。 これは即座に失敗します。上にはみ出した点の正と、下にはみ出した点の負が打ち消し合うからです。実際、平均点を通る直線であれば傾きが何であっても になります。和が常に0では、良い直線と悪い直線を区別できません。

案2：絶対値で足す。 打ち消しは止まります。しかし採用されません。理由は2つ。第一に、絶対値は折れ曲がるので微分できず、「微分して0」という定石が使えません。第二に、そして決定的なのは、最小にする直線が1本に決まらないことです。第4節で総当たりを走らせますが、このあと使うデータでは絶対値和の最小値 16.0 を与える直線が無数に存在します。第83講で見た「データが偶数個のとき絶対値和を最小にする点は中央値の区間になる」という現象の、直線版です。

案3：2乗して足す。 これが最小二乗法です。教員研修用教材は図表4「回帰直線と残差」の傍注に、こう書いています。

2乗を選ぶ理由は「大きなズレを重く見たいから」という感覚の話ではありません。2乗和は b と a の2次式であり、下に凸なので最小値がただ一点で実現されるからです。微分できて、解が一意で、しかも閉じた式になる。案1と案2の欠点を両方つぶす唯一の選択肢が2乗なのです。

3-3 解いてみると、勝手に平均点が出てくる

残差平方和を次のようにおきます。

b を固定すると、これは a の2次関数です。平方完成すれば のとき最小になります。これを直線の式に戻すと

b が何であっても、この直線は点 を通ります。 回帰直線が必ず平均点を通るのは、性質でも偶然でもなく、切片を最適に選んだ瞬間に自動的に決まってしまうことなのです。

残るは傾き b です。上の式を代入して整理すると

ここで 、、 です。これは b の2次関数で だから下に凸。頂点は

分子分母を n で割れば「共分散 ÷ x の分散」です。平方完成すると となり、最適な傾きから離れるほど、離れた分の2乗に を掛けただけ損をすることまで見えます。第4節でこの放物線を数値で確かめます。

第83講で「1つの数 c で全部を代表させるとき を最小にする c は平均である」ことを見ました。いま起きたのは、その c を「x に応じて動く値 」に置き替えただけです。平均の拡張が回帰直線であり、だから回帰直線は平均点を通ります。同じ論理が、点から直線へ持ち上がっているのです。

3-4 なぜ縦のズレだけを測るのか

点と直線の距離といえば普通は垂線を下ろします。回帰では下ろしません。縦だけを測ります。理由は 3-1 に戻ります。x を与えて y を当てるのが目的だから、間違いは「y の予測値がどれだけ外れたか」でしか測りようがない。x 方向のズレは予測の誤差ではないのです。

この非対称性は、役割を入れ替えると別の直線が出る、という形で目に見えます。y で x を回帰すると傾きは になり、これを xy 平面の直線として書き直しても元の回帰直線とは一致しません。しかも2本の傾きには美しい関係があります。

2つの回帰直線の傾きの積は、相関係数の2乗に等しい。 が1に近いほど2本は重なり、0に近いほど大きく開きます。「回帰直線」と言うときに必ず「何を何で説明したのか」を確認しなければならない理由が、この式に凝縮されています。

3-5 決定係数は「説明できた割合」

y のばらつき全体を、回帰で説明できた分と残った分に分けます。

左から順に全変動 、回帰による変動 、残差変動 です。この分解が成り立つのは、最小二乗法の解が かつ を満たすからです（第4節で数値確認します）。そして

これが決定係数（寄与率）です。教員研修用教材の定義はこうです。

単回帰では 。 第86講で求めた をそのまま2乗すればよいのです。 なら で「y のばらつきの81%を x で説明できた」と読みます。ここで注意したいのは、 でも は 0.49 しかないこと。相関係数の見た目より、説明力はいつも小さいのです。

3-6 外挿はなぜ危ないか

回帰直線は「手元のデータが散らばっている範囲で、y の条件付平均を近似したもの」にすぎません。範囲の外で同じ直線が続く保証は、データのどこにも書かれていない。ところが情報Ⅰの教員研修用教材は、時系列データの1500m走の予測モデル（回帰係数 −0.837秒／年、寄与率50%）についてこう書きます。

国の教材自身が「代入すれば出る」と書いている。出ることと、当たることは別です。 第4節のデータでも、勉強時間25時間の予測値は105点になります。満点100点のテストで105点。式は止めてくれません。止めるのは人間の側の判断です。

4. 手で確かめる

第86講で使った10人分のデータをそのまま使います。x は1週間の勉強時間（時間）、y は小テストの得点（点）。相関係数が であることは第86講で計算済みです。

、、、、。したがって

回帰直線は 。 と標準偏差から出しても同じで、 です。

図1　10人分のデータと回帰直線。赤い破線が残差（縦のズレ）。直線は必ず平均点を通ります。x=4 の2点のように、同じ x でも y が違えば残差は大きくなります。

4-1 平均点を通ること、残差の和が0になること

x = 5 を代入すると 。通ります。残差は順に −1.25、−1.50、+0.50、−0.75、+5.25、−2.25、−2.25、+1.75、−0.75、+1.25 で、和はぴったり 0。 も 0 になります。残差平方和は です。

4-2 傾きを動かすと2乗和はどう増えるか

平均点を通る直線のまま、傾きだけを変えてみます。理論値は 。

図2　傾きを動かしたときの残差平方和。下に凸の放物線なので、最小になる傾きはただ1つに決まります。これが「2乗を選ぶ」理由そのものです。

傾きと切片の両方を 0.01 刻みで総当たりしても、最小になるのは (2.25, 48.75) の1点だけでした。

4-3 絶対値だと直線が決まらない

4-4 決定係数を出す

、よって 。 の2乗と一致します。「得点のばらつきの81%は勉強時間で説明できた。残り19%は別の要因」と読みます。

4-5 y で x を回帰すると別の直線になる

傾きは 。式は で、これを y について解くと 。元の とは別の直線です。傾きの積は 。3-4 の式のとおりになりました。

図3　同じ10点に対する2本の回帰直線。どちらも平均点を通りますが、傾きが違います。「どちらを予測したいのか」で直線が変わるのです。

4-6 Python で検算する

以下は標準ライブラリだけで書いたもので、私の手元で実際に実行して出力を確認しています。

from statistics import mean
x = [2, 3, 3, 4, 4, 6, 6, 6, 8, 8]
y = [52, 54, 56, 57, 63, 60, 60, 64, 66, 68]
mx, my = mean(x), mean(y)
Sxx = sum((v - mx) ** 2 for v in x)
Syy = sum((v - my) ** 2 for v in y)
Sxy = sum((p - mx) * (q - my) for p, q in zip(x, y))
b = Sxy / Sxx
a = my - b * mx
pred = [b * v + a for v in x]
res = [q - p for q, p in zip(y, pred)]
SE = sum(v * v for v in res)
SR = sum((p - my) ** 2 for p in pred)
print("b =", b, " a =", a)
print("yhat(xbar) =", b * mx + a, " ybar =", my)
print("sum of residuals =", round(sum(res), 12))
print("SR =", SR, " SE =", SE, " SR+SE =", SR + SE, " Syy =", Syy)
print("R2 =", SR / Syy, " r =", Sxy / (Sxx * Syy) ** 0.5)
print("slope of x-on-y =", Sxy / Syy,
      " product =", (Sxy / Sxx) * (Sxy / Syy))
for v in (0, 10, 20, 25):
    print("  x =", v, "-> yhat =", b * v + a)

実行結果（2026年8月3日、Python 3 で実行）。

b = 2.25  a = 48.75
yhat(xbar) = 60.0  ybar = 60
sum of residuals = 0.0
SR = 202.5  SE = 47.5  SR+SE = 250.0  Syy = 250
R2 = 0.81  r = 0.9
slope of x-on-y = 0.36  product = 0.81
  x = 0 -> yhat = 48.75
  x = 10 -> yhat = 71.25
  x = 20 -> yhat = 93.75
  x = 25 -> yhat = 105.0

手計算と完全に一致しました。最後の行が外挿です。 満点100点のテストなのに、式は105点という予測を平気で返してきます。

4-7 本物のデータで練習する

文部科学省の授業・研修用コンテンツ【情報Ⅰ】[5]「オープンデータの分析」のスライドは、生活時間の統計データを使って「学業の時間 x」から「睡眠の時間 y」を予測する単回帰式 y = −0.173x + 523.78（単位は分）を求めさせています。相関行列では、睡眠と負の相関が「学業（−0.3835）」「通勤・通学（−0.35631）」、正の相関が「テレビ・ラジオ・新聞・雑誌（0.357481）」「買い物（0.264208）」。そして「買い物に長く行くと睡眠時間が増えるのか」を擬似相関の題材として扱っています。

体力測定側のデータは、e-Stat の統計表「体力・運動能力調査 テスト項目の年次推移」（スポーツ庁、統計表ID 0003295660、2020年1月8日公開、1964〜2017年度）から誰でも取得できます。最強120講義の全体像もあわせてどうぞ。

5. 共通テストではこう出る（重要度 A）

第4問のデータ分析で、相関係数の次に来るのが回帰直線です。当塾では共通テストの問題文・選択肢・図表は転載していませんので、出題の型だけを整理します。

型1：散布図に合う回帰直線を選ぶ

傾きの符号は相関の符号と一致します（ で だから）。まず符号で半分に絞り、次に「その直線が平均点を通っているか」で確認します。選択肢の直線が を通っていなければ、それは回帰直線ではありません。これが最速の判定法です。

型2：予測値を計算する

与えられた式に x を代入するだけ。単位に注意します。回帰係数は単位変換係数でもあり、情報Ⅱの教員研修用教材は「回帰係数は，『立ち幅跳び』の単位 cm を『50m 走』の記録の単位である秒に変換する役割を担っている」と明記しています。

型3：残差を読む

大学入試センター「令和7年度大学入学共通テスト 試作問題『情報』の概要」の第4問問5は、都道府県ごとの睡眠の時間と学業の時間の散布図について「各点と回帰直線によって得られる推定値との残差やそれを変換した値を理解し、標準偏差を単位として中心から外れている度合を読み取ることができるか」を問う設問だと説明されています。残差そのものより、残差を標準化した値の読み取りが問われる。 代表値の講で扱った「平均は基準」という考え方と、標準偏差をものさしにする発想がここで効いてきます。

面白いのは、この題材が 4-7 の文部科学省の授業用スライドとほぼ同じであることです。生活時間の統計で睡眠と学業の関係を見る題材は、国の側で一度通っています。

型4：外挿の妥当性を問う

「この式で x = 100 のときを予測してよいか」型。データの範囲外であること、y に上限や下限があること（得点なら満点、時間なら0以上）を根拠に「妥当でない」と答えます。

6. 情報Ⅱではこうなる

ここが本講の核心です。情報Ⅰの回帰直線と情報Ⅱの重回帰分析は「似ている」のではなく、国の教材の中で同じデータが文字どおり引き継がれています。

6-1 同じ演習が、そのまま重回帰になる

文部科学省「情報Ⅱ」教員研修用教材 第3章 学習13「重回帰分析とモデルの決定」は、こう始まります。

情報Ⅰ側の単回帰式は「50m走（秒）の予測値 = −0.015（秒/cm）× 立ち幅跳び（cm）+ 10.731（秒）」で、寄与率は 45%。情報Ⅱではここに「ハンドボール投げ」「握力得点」「上体起こし」を足して説明変数を4つにします。

寄与率は 52.5%（統計ソフト R の出力で Multiple R-squared: 0.5249、重相関係数 0.725、自由度修正済み R2 は 0.5104、残差標準誤差 0.3349、残差自由度 131）。45% → 52.5%。 情報Ⅰ→情報Ⅱの接続が「推測」ではなく「同じデータの続き」として辿れる例は、この教材群でもここだけです。説明変数を増やすとは、1本の直線を多次元の平面に取り替えることであり、やっていることは最小二乗法のまま変わりません。

6-2 「平均を代入すると平均が返る」は情報Ⅱ側にも書いてある

3-3 で示した「回帰直線は必ず平均点を通る」は、情報Ⅱの教材に、重回帰へ一般化された形で明記されています。

説明変数が何本になっても、全部の平均値を入れれば目的変数の平均が返る。情報Ⅰで手計算して確かめた性質が、そのまま多変数で生きています。 同教材はさらに、単回帰と重回帰をつなぐ指標として重相関係数を置き、「単回帰分析の場合，重相関係数は X と Y の相関係数ｒの絶対値と等しくなる」と書いています。（情報Ⅰ）が （情報Ⅱ）の特別な場合になる、という対応が教材の中で閉じているのです。

6-3 寄与率が上がった＝良いモデル、ではない

45% → 52.5% と聞くと素直に良くなったように見えます。ところが同じ教材は、その直後にこう釘を刺します。

さらに、4変数の回帰係数の有意差検定では「立ち幅跳び」は1%有意、「ハンドボール投げ」は5%有意ですが、「握力」と「上体起こし」には有意差がないと教材は明言しています。つまり 45% → 52.5% の上昇のうち、統計的に効いていると言えるのは足した3変数の一部だけ。だから情報Ⅱは、自由度を調整した指標（自由度調整済み寄与率、AIC）と変数選択（総当法・変数増加法・変数減少法・変数増減法）を導入し、自動変数選択については「安易に使用すべき手法ではない」と書きます。

6-4 語の出現数で見る、情報Ⅰと情報Ⅱの境界

3つのPDFを全文検索してみました（2026年8月3日、当方で実施）。境界がはっきり見えます。

「自由度」が1回から21回へ跳ね上がる。 ここが情報Ⅰと情報Ⅱの分水嶺です。情報Ⅰは「直線を引いて当てはまりを見る」まで。情報Ⅱは「モデルの複雑さと手持ちデータの量を天秤にかける」ところまで行きます。学習指導要領解説の情報Ⅱ(3)にも、こう書かれています。

回帰直線と多項式近似を比べる（＝過剰適合を見る）、データを1点足して変動を見る（＝外れ値の影響を見る）。本講の 4-2・4-3 でやったことが、情報Ⅱでは正面から学習活動になっているのです。

6-5 情報Ⅰと情報Ⅱの対比

情報Ⅰでは表計算ソフトの「近似曲線の追加」から「線形近似」を選び、グラフに数式と R2 を表示させる、というのが教材の手順です。つまり情報Ⅰの段階では最小二乗法の式を自分で解きません。 だからこそ、この講で一度だけ手で解いておく価値があります。式の出どころを知っている人だけが、情報Ⅱで「自由度」という言葉が出てきたときに動じません。

7. この講のまとめ

データ分析の他の講は「情報Ⅰ 最強120講義」のカテゴリにまとめてあります。基数やデータ量の計算が不安な方は第40講（2進数・16進数の変換）から戻ってみてください。

参考にした一次資料（すべて2026年8月3日取得）

• 文部科学省「高等学校情報科『情報Ⅰ』教員研修用教材」第4章 情報通信ネットワークとデータの活用（令和2年）
• 文部科学省「高等学校情報科『情報Ⅱ』教員研修用教材」第3章 情報とデータサイエンス 前半（令和2年7月）
• 文部科学省「高等学校学習指導要領（平成30年告示）解説 情報編」平成30年7月
• 文部科学省 授業・研修用コンテンツ【情報Ⅰ】[5]「オープンデータの分析」スライド
• 大学入試センター「令和7年度大学入学共通テスト 試作問題『情報』の概要」（2022年11月公表）
• 政府統計の総合窓口（e-Stat）「体力・運動能力調査 テスト項目の年次推移」（スポーツ庁、統計表ID 0003295660）