Excelによる統計解析講座

【回帰分析】Excelを使って単回帰分析と重回帰分析を解説!

【Excelによる統計解析講座 第13章】Excelを使って単回帰分析と重回帰分析を解説!

前ページ

第13章では、単回帰分析重回帰分析を含む、回帰分析について解説していきます。

回帰分析では、どのような要素がどのくらい結果に影響しているかを調べる事が出来、マーケティングなどにも用いられます。

非常に使い勝手のよい分析方法になりますので、是非習得していってください!

また、本章で用いるExcelファイルは以下からダウンロードして下さい!

ファイルをダウンロード

本連載講座【Excelによる統計解析講座】では、Excel未経験の方、自身の無い方でも順を追って学習でき、基礎からデータ分析に必要なスキルまでを身に付ける事が出来ます。

画像が多く、ビジュアルで理解しやすくなっておりますので、読み物が得意ではないという方も大丈夫です!

また、第7章からは、統計学の分野も扱う為、様々な方に役立つ講座となっております。

そのため、

  • Excelを仕事で使う可能性のある方
  • Excelに自信のない方
  • データ分析をExcelでやりたい方

等は是非、TechTeacherが運営する【Excelによる統計解析講座】を使って学習していって下さい!

〈目次〉

第1章:【テーブル】Excelのテーブル(フィルター)を解説!

第2章:【SUM,AVERAGEExcelの基本的な関数を解説!

第3章:【XLOOKUP,COUNTIF】データ分析の為のExcel関数を解説!

第4章:【棒,折れ線,散布図】Excelの基本的なグラフを解説!

第5章:【ピボットテーブル】Excelの便利機能ピボットテーブルを紹介!

第6章:【プレゼン資料】Excelグラフの体裁の整え方について解説!

第7章:【相関分析】相関係数と共分散をExcelを用いて解説!

第8章:【確率変数・正規分布】確率変数や正規分布をExcelで解説!

第9章:【t検定・z検定】母平均と母分散の仮説検定について解説!

第10章:【t検定・z検定】2つの集団の母平均・母比率の仮説検定を解説!

第11章:【仮説検定】カイ二乗検定とF検定をExcelで一瞬で解く!

第12章:【一元配置・二元配置】分散分析についてExcelを用いて解説!

第13章:【回帰分析】Excelを使って単回帰分析と重回帰分析を解説!


本ブログを運営しているTech Teacherは、
プログラミング家庭教師サービスを運営しています。
完全マンツーマン・フルオーダーメイド
あなたが必要な指導を提供します。

回帰分析とは

回帰分析とは、目的変数yと説明変数xの関係を明らかにする事で、どの説明変数xの表す要素がどれほど目的変数yに影響しているかを分析する手法です。

主な回帰分析の種類として、単回帰分析と重回帰分析があります。

この単回帰分析は、説明変数\(y\)に対して、説明変数\(x\)を1つ設定して、その関係性を係数\(b_{0},b_{1}\)を用いて以下の式の様にして表わす回帰分析です。

\[ y = b_{0}+b_{1}x_{1} \]

この様に、回帰分析で得た式を回帰式と言い、\(b\)の様な係数を回帰係数と言います。

ここで、実際のxをこの式に代入した時のyが、実際のyに近くなる様な式であればあるほど、単回帰分析が上手くいっていることになります。

これに対し、重回帰分析は、説明変数\(y\)に対して、説明変数\(x\)を複数設定して、その関係性を係数\(b_{0}, \cdots ,b_{k}\)を用いて以下の式の様にして表わす回帰分析です。
ただし、kは自然数とします。

\[ y = b_{0}+b_{1}x_{1}+\cdots+b_{k}x_{k} \]

この時、重回帰分析における\(b\)の様な係数を回帰係数と言います。

一般的に、この偏回帰係数が大きい説明変数xほど、目的変数yへの影響が大きくなります。
※例外は後ほど説明します。

以下、これらの単回帰分析と重回帰分析について説明していきます。

単回帰分析

寄与率(決定係数)

目的変数yの変動の内、回帰によって説明できる(=説明変数xで説明できる)割合寄与率(決定係数)と言い、\(R^{2}\)で表します。

この寄与率(決定係数は)、回帰式が役に立ちそうかどうかを判断するのに使う事が出来ます。

この寄与率は、0から1の値をとり、1に近い程、単回帰分析の直線の当てはめが上手くいっているという事が出来ます。

また、寄与率(決定係数)は以下の式で計算できます。
ただし、\(S_{AB}\)はAとBの偏差積和です。

\[ R^{2}=\frac{S_{xy}^{2}}{S_{xx}S_{yy}} \]

決定係数に関してはExcelの関数を用いて瞬時に計算できる為、この式は覚えなくても大丈夫です!

残差

回帰式が役に立つかどうかを判断するにあたって、決定係数だけでは不十分です。

その為、目的変数yの値と、回帰で予測したyの値との差を考えます。

これを残差と言い、以下の式で計算されます。

残差 = 実際のyの値 ー 予測したyの値

ここで、この残差はデータ数分ある為、その平均的な残差の大きさを把握するために残差の標準偏差を求めます。

このようにして、回帰分析で得られた回帰式が役に立ちそうかどうかは、決定係数残差の標準偏差を算出する事で、調べる事が出来ます。

重回帰分析

自由度調整済み寄与率

寄与率(決定係数)の平方根Rを重相関係数と言います。

ここで、このRは説明変数が多くなると大きくなってしまいます。

その為、重回帰分析では、自由度調整済み寄与率というものが使われ、以下の式で計算できます。
ただし、データ数をnとします。

\[ R^{*2} = \frac{n-1}{n-k-1} (1-R^{2}) \]

また、自由度二度調整済み寄与率として、以下の式が使われる事もあります。

\[ R^{**2} = 1 – \frac{n+k+1}{n+1} \frac{n-1}{n-k-1} (1-R^{2}) \]

T値とp値

これまでの仮説検定に引き続き、回帰式の有用性の判断にも、T値とp値が用いられます。

有意水準とp値の図

この回帰式の有意性判定において、帰無仮説と対立仮説は以下の様になります。

帰無仮説:\(x_{j}\)は\(y\)の予測に役立たない

対立仮説:\(x_{j}\)は\(y\)の予測に役立つ

この時、T値が大きい程、またはp値が小さい程、帰無仮説が棄却出来て、\(x_{j}\)の\(y\)への影響が大きいと判断できます。

※帰無仮説を棄却する基準についても、基本は有意水準5%です。
しかし、重回帰分析では有意水準5%は厳しく、T値では\(\sqrt{2}\) 前後、p値では0.2前後を基準にするという人もいます。

ダミー係数

「〇」や「×」、「晴れ」と「曇り」と「雨」の様に、数字ではなく、”質的”な変数(質的変数)を用いる場合には、これらにダミー変数を対応させて重回帰分析を行います。

このダミー変数は0か1しか取らない人工変数で、「〇」や「×」に対して、「1」と「0」を割り当てる、といったようにして、質的変数を数字として扱います。

また、「晴れ」と「曇り」と「雨」の様な3つのデータに関しては、以下の様にして、数字として扱います。

天気 \(x_{1}\) \(x_{2}\)
晴れ 0 0
曇り 1 0
0 1

多重共線性

重回帰分析を行う際に、最も気をつけなければならないのが、多重共線性です。

重回帰分析において、各説明変数は独立、つまり、相関が非常に小さい事が求められます

この多重共線性とは、説明変数間に相関があり、互いに独立でない事を言います。

もし多重共線性が存在してしまうと、偏回帰係数に問題が起きて回帰式が求まらない、有用な説明変数のp値でも高く出る等、様々な問題が起きてしまいます。

そのため、重回帰分析で用いる説明変数に対しては、以下に説明する、相関行列を用いて、その独立性を調べる必要があります。

相関行列

相関行列とは、以下の様に、説明変数及び目的変数間の相関関係を表したものです。

相関行列

このとき、多重共線性を調べるには、説明変数同士の相関関係を見れば良いため、青の部分に注目します。

今回の例では、各々の説明変数に大きな相関は見られませんが、この青の部分の値の絶対値が1に近い値になった時、多重共線性が起こっている可能性があります。

なお、もし多重共線性が見られた場合は、
・独立でない説明変数同士を統合する
・独立でない説明変数の片方を除外する
等の処置を行う必要があります。

Excelを使って実際に回帰分析をしてみよう!

単回帰分析

まずは、Excel関数を用いて単回帰分析を行っていきましょう!

例題1(単回帰分析)

ある店で、アイスの値段と1日の売り上げの関係について調べています。
これについて、Excelファイル1ページ目において、説明変数を値段(円)、目的変数を売り上げ(円)として、その関係を単回帰分析を用いて調べてみましょう!

まず、回帰式を求めていきます。

\( y=b_{0}+b_{1}x_{1} \)の回帰係数\(b_{0},b_{1}\)に関して、

まず、\(b_{0}\)は以下の様にして計算する事が出来ます。

=INTERCEPT(目的変数の範囲,説明変数の範囲)

次に、\(b_{1}\)は以下の様にして計算する事が出来ます。

=SLOPE(目的変数の範囲,説明変数の範囲)

これを用いて2つの値について計算を行うと、以下の様になります。

Excel関数による単回帰分析の説明1

よって、回帰式は

\[ y = 353028 – 530.167x \]

で表せることが分かります。

次に、この回帰式の有意性を確認するために、決定係数を考えます。

決定係数は、以下の様にして計算する事が出来ます。

=RSQ(目的変数の範囲,説明変数の範囲)

これを用いて計算を行うと、以下の様になります。

Excel関数による単回帰分析の説明2

この結果から、売り上げの約74%はアイスの値段で説明できる(予測できる)事が分かります。

続いて、残差の標準偏差を考えます。

残差の標準偏差は、以下の様にして計算する事が出来ます。

=STEYX(目的変数の範囲,説明変数の範囲)

これを用いて計算を行うと、以下の様になります。

Excel関数による単回帰分析の説明3

グラフを用いた単回帰分析

例題1の単回帰分析に関して、回帰分析と決定係数の値だけであれば、Excelのグラフでも簡単に求めることが出来ます。

では早速、Excelファイル2ページ目を使ってやっていきましょう!

まず、①データ範囲を選択して、②「挿入」タブから③散布図を選択してグラフを作成します。

ここでは、データを見やすくするため、横軸の表示範囲を調整しています。

これらについて、詳しくは、第4章:【棒,折れ線,散布図】Excelの基本的なグラフを解説!第6章:【プレゼン資料】Excelグラフの体裁の整え方について解説!をご参照下さい!

次に、④「近似直線」から「その他のオプション」を選択します。

Exceグラフによる単回帰分析の説明1

続いて、⑤「グラフに数式を表示する」と「グラフにR-2乗値を表示する」にチェックを入れます。

数式や軸ラベルについては、見やすさの為に調整しています。

Exceグラフによる単回帰分析の説明2

これより、回帰式と決定係数を簡単に求める事が出来ました。

値を見ると、先ほど算出した数と等しい事が分かります。

近似直線の選択において、「指数近似」、「累乗近似」、「多項式近似」などがあります。

ここで、「多項式近似」に関して、通常「次数」を上げていくほど、データにフィットしやすくなるのですが、

次数が大きくなりすぎると、既データに合わせすぎて、むしろ新しいデータを予測できなくなってしまう、オーバーフィッティングという現象が起こります。

この現象を避けるために、

・使用する近似直線を「線形近似」、「指数近似」、「累乗近似」に絞る

・「多項式近似」の次数を3以上にしない

などを検討しましょう!

(参考)正規確率プロット

第8章の【確率変数・正規分布】確率変数や正規分布をExcelで解説!で触れましたが、単回帰は、データが正規分布に従っているかを調べる事が出来ます。

データが正規分布に従う為には、中央値付近で平均値を取り、中心から離れるにつれて、左右対称に、そのデータ数が少なくなっていくような曲線分布である必要があります。

これについて、データが正規分布に従う時、度数分布表の各階級値における、累積相対度数に対応するz値が等間隔で並びます。

そしてこの時、等間隔の階級値と等間隔のz値の関係は、単回帰分析の回帰式で精度良く表す事が出来ます

これを用いて、正規分布に従うかを判断する事が出来るものを正規確率プロットといいます。

正規確率プロットの原理の説明

中心極限定理より、データ数が十分多い時は、調べずとも正規分布に従うとみなせます。

そのため今回は、Excelファイル3ページ目の、アイスの値段のデータから25個のみ抜き出したデータについて、正規性を確認してみましょう!

まず、度数分布表を作成して、累積相対度数を算出します。

これらの値の導き方に関して、度数にはCOUNTIF関数とCOUNTIFS関数を、合計にはSUM関数を使っています。

詳しくは、Excelファイル3ページ目のデータを見てみて下さい!

正規確率プロットの説明1

次に、累積相対度数に対応するz値を算出します。

z値を算出するには、NORM.S.INV関数を使います。

正規確率プロットの説明2

最後に、累積相対度数とz値の関係について、決定係数を算出します。

正規確率プロットの説明3

また、グラフで正規確率プロットを確認すると、以下の様になります。

正規確率プロットの説明4

ここで、データが正規分布に従っているかの判断基準は、「決定係数が0.99以上かどうか」で行います。

この時、このデータは正規分布に従っていると判断できます。

※この決定係数の基準は、統計学的には定まっておらず、経験則によるものです。

データ分析ツールを用いた重回帰分析

最後に重回帰分析について、データ分析ツールを使って考えてみましょう!

このデータ分析が何かわからない方は、第7章:【相関分析】相関係数と共分散をExcelを用いて解説!の共分散と相関係数のデータ分析ツールを用いた算出方法を参照して設定してみて下さい!

例題2(重回帰分析)

ある店で、アイスの値段と1日の売り上げの関係について調べてましたが、アイスの値段だけでは不十分であると感じました。
これについて、Excelファイル4ページ目において、その日の平均気温(℃)と天気を説明変数に追加して、目的変数の売り上げ(円)との関係を重回帰分析を用いて調べてみましょう!
ただし、天気に対するダミー変数の割り当てに関しては、Excelファイル4ページ目をご参照下さい。

まず、①「データ」タブから、②「データ分析」ツールを選択し、更に③「回帰分析」を選択して④「OK」をクリックします。

データ分析ツールを用いた重回帰分析の説明1

次に、⑤「入力Y範囲」に「売り上げ」の、「入力Y範囲」に「平均気温」「値段」「天気1」「天気2」を入れ、⑥ラベルを含むため「ラベル」にチェックを入れ、⑦「OK」をクリックします。

データ分析ツールを用いた重回帰分析の説明2

すると、以下の様に新しいシートに重回帰分析の結果が出力されます。

ここで、まず、「補正R2」に注目します。

これは、自由度調整済み寄与率の事です。

データ分析ツールを用いた重回帰分析の説明3

この、補正R2(自由度調整済み寄与率)を見ると、目的変数の約87.6%がこの回帰式で説明できることが分かり、先ほどの単回帰分析より高くなっている事が確認できます。

次に、係数p値について確認します。

データ分析ツールを用いた重回帰分析の説明4

まず、係数に関して、これは、偏回帰係数の事で、この絶対値が大きい時、その説明変数が売り上げ(目的変数)に寄与する割合が高くなります。

更にp値に関して、この値が小さい程、その説明変数が目的変数に寄与するという事が出来ます。

更に、今回の有意水準を5%とすると、「平均気温」と「値段」に関しては、p値が0.05を下回っているものの、「天気1」と「天気2」に関しては、p値が大きくなっています。

そのため、「天気1」と「天気2」は目的変数の説明に役立っていないと判断する事が出来ます。

ここで、先程のデータ分析ツールにおいて、以下の様に、「天気1」と「天気2」を説明変数から除いて、結果を出力してみます。

データ分析ツールを用いた重回帰分析の説明5

すると、以下の様になります。

データ分析ツールを用いた重回帰分析の説明6

この結果から、補正R2が約87.8%で(今回は少しだけ)上がり、先程の回帰式より少し良くなったことが確認できます。

このように、関係ない説明変数は除外して回帰分析を行うと、より良い結果が得られることがあります。

最後に、多重共線性について調べます。

先程と同じで順で、①「データ」タブから「データ分析」ツールを選択し、②「相関」を選択して③「OK」をクリックします。

多重共線性の説明1

次に、④データ範囲を選択して、⑤「先頭行をラベルとして使用」にチェックを入れて、⑥「OK」をクリックします。

多重共線性の説明2

すると、新しいシートに、以下の様に相関行列が出力されます。

多重共線性の説明3

ここで、説明変数間の相関についてみてみると、際立って大きいものはなく、説明変数は独立であったという事が出来ます。

偏回帰係数に関して

この係数に関して、「この絶対値が大きい時、その説明変数が売り上げ(目的変数)に寄与する割合が高くなります。」と説明しましたが、説明変数の単位に依存するため、「絶対値が大きい程、その説明変数が売り上げ(目的変数)に寄与する割合が高くなる」とは言えません

この問題を解決する要素として、全ての変数を標準化した時に計算される係数である、標準偏回帰係数というものがあります。

『Tech Teacher』3つの魅力

魅力1. オーダーメイドのカリキュラ

『Tech Teacher』では、決められたカリキュラムがなくオーダーメイドでカリキュラムを組んでいます。「質問だけしたい」「相談相手が欲しい」等のご要望も実現できます。

    魅力2. 担当教師によるマンツーマン指導

    Tech Teacherでは完全マンツーマン指導で目標達成までサポートします。
    東京大学を始めとする難関大学の理系学生・院生・博士の教師がが1対1で、丁寧に指導しています。
    そのため、理解できない箇所は何度も分かるまで説明を受けることができます。

    魅力3. 3,960円/30分で必要な分だけ受講

    Tech Teacherでは、授業を受けた分だけ後払いの「従量課金制」を採用しているので、必要な分だけ授業を受講することができます。また、初期費用は入会金22,000円のみです一般的なプログラミングスクールとは異なり、多額な初期費用がかからないため、気軽に学習を始めることができます。

    まとめ

    ・魅力1. 担当教師によるマンツーマン指導

    ・魅力2. オーダーメイドのカリキュラム

    ・魅力3. 3,960円/30分で必要な分だけ受講

    質問のみのお問い合わせも受け付けております。

    まとめ

    今回のExcelによる統計解析講座第13章では、回帰分析として、単回帰分析及び重回帰分析の概要とExcelでの使い方について解説してきました。

    この回帰分析は、原因分析や予測において、一般的な分析方法となっており、その汎用性も高くなっていますので、是非、身に付けていってください!

    本章で、Excelによる統計解析講座は終わりです。

    もし分からない部分があったら、前の章を見なおして、データ分析の基礎を付けていただければと思います!