波士頓房地產雲端評估(一)

線性回歸分析: Property value prediction

此檔案使用scikit-learn 機器學習套件裡的linear regression演算法,來達成波士頓房地產價錢預測
    1.
    資料集:波士頓房產
    2.
    特徵:房地產客觀數據,如年份、平面大小
    3.
    預測目標:房地產價格
    4.
    機器學習方法:線性迴歸
    5.
    探討重點:10 等分的交叉驗証(10-fold Cross-Validation)來實際測試資料以及預測值的關係
    6.
    關鍵函式: sklearn.cross_validation.cross_val_predictjoblib.dumpjoblib.load

(一)引入函式庫及內建波士頓房地產資料庫

引入之函式庫如下
    1.
    sklearn.datasets: 用來匯入內建之波士頓房地產資料庫
    2.
    sklearn.cross_val_predict: 使用交叉驗證用來評估辨識準確度
    3.
    sklearn.linear_model: 線性分析之模組
    4.
    matplotlib.pyplot: 用來繪製影像
1
from sklearn import datasets
2
from sklearn.cross_validation import cross_val_predict
3
from sklearn import linear_model
4
import matplotlib.pyplot as plt
5
6
lr = linear_model.LinearRegression()
7
# The boston dataset
8
boston = datasets.load_boston()
9
y = boston.target
Copied!
使用linear_model.LinearRegression()將線性迴歸分析演算法引入到lr。 使用datasets.target將士頓房地產資料的預測數值匯入到y。 使用 datasets.load_boston() 將資料存入, boston 為一個dict型別資料,我們看一下資料的內容。
顯示
說明
('data', (506, 13))
房地產的資料集,共506筆房產13個特徵
('feature_names', (13,))
房地產的特徵名
('target', (506,))
回歸目標
DESCR
資料之描述

(二)cross_val_predict的使用

sklearn.cross_validation.cross_val_predict(estimator, X, y=None, cv=None, n_jobs=1, verbose=0, fit_params=None, pre_dispatch='2*n_jobs')
X為機器學習數據, y為回歸目標, cv為交叉驗証時資料切分的依據,範例為10則將資料切分為10等分,以其中9等分為訓練集,另外一等分則為測試集。
1
predicted = cross_val_predict(lr, boston.data, y, cv=10)
Copied!

(三)使用joblib.dump匯出預測器

1
from sklearn.externals import joblib
2
3
joblib.dump(lr,"./lr_machine.pkl")
Copied!
使用joblib.dump將線性回歸預測器匯出為pkl檔。

(四)訓練以及分類

接著使用lr=joblib.load("./lr_machine.pkl")將pkl檔匯入為一個linear regression預測器lr。接著使用波士頓房地產數據(boston.data),以及預測目標(y)來訓練預測機lr lr.fit(boston.data, y)。最後,使用predict_y=lr.predict(boston.data[2])預測第三筆資料的價格,並將結果存入predicted_y變數。
1
lr=joblib.load("./lr_machine.pkl")
2
lr.fit(boston.data, y)
3
predict_y=lr.predict(boston.data[2])
Copied!

(五)繪出預測結果與實際目標差異圖

X軸為預測結果,Y軸為回歸目標。 並劃出一條斜率=1的理想曲線(用虛線標示)。
紅點為房地產第三項數據的預測結果。
1
plt.scatter(predicted,y,s=2)
2
plt.plot(predict_y, predict_y, 'ro')
3
plt.plot([y.min(), y.max()], [y.min(), y.max()], 'k--', lw=2)
4
plt.xlabel('Predicted')
5
plt.ylabel('Measured')
Copied!

(六)完整程式碼

1
%matplotlib inline
2
from sklearn import datasets
3
from sklearn.cross_validation import cross_val_predict
4
from sklearn import linear_model
5
import matplotlib.pyplot as plt
6
7
lr = linear_model.LinearRegression()
8
boston = datasets.load_boston()
9
y = boston.target
10
# cross_val_predict returns an array of the same size as `y` where each entry
11
# is a prediction obtained by cross validated:
12
predicted = cross_val_predict(lr, boston.data, y, cv=10)
13
from sklearn.externals import joblib
14
15
joblib.dump(lr,"./lr_machine.pkl")
16
lr=joblib.load("./lr_machine.pkl")
17
lr.fit(boston.data, y)
18
predict_y=lr.predict(boston.data[2])
19
plt.scatter(predicted,y,s=2)
20
plt.plot(predict_y, predict_y, 'ro')
21
plt.plot([y.min(), y.max()], [y.min(), y.max()], 'k--', lw=2)
22
plt.xlabel('Predicted')
23
plt.ylabel('Measured')
Copied!