注意: 今回の説明は、PyLearn Keras 03: モノクロ画像に対するCNNの学習を行なった後の方がわかりやすいかもしれない。
ここでは、画像を入力とするCNNにより、回帰問題を解く方法について解説する。このため、まず、クラス分類問題と回帰問題の違いを復習しておく。
クラス分類問題: → 状態を判定する問題。例えば、
回帰問題: → 連続状態を判定する問題。例えば、
この例を見ればわかるように、画像から何かしらの数値を回帰できるというモデルは、色々と便利なことができる可能性を有している。ただし、回帰問題は、数学的に考えると、選択肢が無限大のクラス分類問題とみなせるので、性能を高めるには相当の努力が必要な場合が多い。
なお、回帰問題でもいいし、クラス分類問題でもいいという類の問題もある。例えば、
人の顔画像から、年齢を予測する問題は、
となる。この場合は、色々やってしっくりくるものを実際の現場で使用することになる。
今回はmnist のデータセットを使用して回帰問題を解くCNNを構築する。ただし、mnistを回帰問題で解くというのは、チョイスとしてはあまり良くない。というのは、画像上の3と4の形には、連続関係など一切ないためである。したがって、回帰モデルとして構築した際、仮に3.5という予想結果があったときに、そのモデルは3か4で迷っていることを意味しない。一方で、クラス分類問題として解いた場合に、3番目に相当する次元と4番目に相当する次元がどちらも高ければ、3と4のどちらかで迷っていると解釈できる。このような考察が可能になるので、明らかにクラス分類問題の方が良い。今回はあくまでデータを用意しやすいからmnistを回帰問題として解いているだけであることには注意されたい。
まずは、バックエンドをplaidmlにします。
# kerasのバックエンドを plaidmlに変更
import plaidml.keras
plaidml.keras.install_backend()
import keras
print(keras.backend.backend())
そして、mnistデータをロードします。
from keras.datasets import mnist
(x_train, y_train), (x_test, y_test) = mnist.load_data()
入力画像の縦と横のサイズを得て、画像の値を0-255スケールから0-1スケールに規格化します。
# import keras
from keras.models import Sequential
from keras.layers import Dense, Dropout
from keras.optimizers import RMSprop
# 各種サイズ取得
num_train = len(y_train) # 教師データ数
num_test = len(y_test) # テストデータ数
print("教師データサイズ: ", num_train)
print("テストデータサイズ: ", num_test)
size_0 = x_train.shape[1] # 横サイズ
size_1 = x_train.shape[2] # 縦サイズ
dim_input_vec = size_0 * size_1
# 規格化
# グレースケール画像の場合、0が黒、255が白となっている。
# ニューラルは値のレンジが0〜1が望ましいので、そのように規格化
x_train = x_train / 255
x_test = x_test / 255
CNNで扱えるデータの形式になっているか、チェックします。
import numpy as np
num_train = len(x_train[:, 0,0]) # 教師データの数
num_test = len(x_test[:, 0,0]) # テストデータの数
size_rows = len(x_train[0, :,0]) # 画像、行サイズ
size_cols = len(x_train[0, 0, :]) # 画像、列サイズ
print("x_trainのshape: ", np.shape(x_train))
x_train_cnn = np.reshape(x_train, [num_train, size_rows, size_cols, 1])
x_test_cnn = np.reshape(x_test, [num_test, size_rows, size_cols, 1])
print("x_train_cnnのshape: ", np.shape(x_train_cnn))
ここまで述べたことは、すべて入力画像側のお話です。それで、PyLearn Keras 03: モノクロ画像に対するCNNの学習とまったく一緒です。
今回はクラス分類問題ではなく、回帰問題で解くので、出力の正解値の形式が変わってきます。
mnistをクラス分類問題として解く場合と、回帰問題として解く場合の違いは、正解値をOne-hot vevtorにするかどうかです。
mnistのデータセットでは、x_train, x_testに相当する画像の正解値が、y_train, y_testにそのまま格納されているため、そのまま使用すれば良いです。もし新たなモデルを作りたいとき、例えば、人の顔の画像から年齢を予測したいのならば、y_train, y_testに、x_train, x_testに格納されている顔の画像の順に、年齢をそのまま入れておけば良いです。
print(y_train)
print(y_test)
mnistをクラス分類問題として解く場合は、0〜9の数字を判定させるので、個々の数字の確信度が出力となることから、出力層を
としていました。1つの画像を入力すると、10個の数字が出力される、つまり、先ほど述べたOne-hot vectorの次元数と合わせているわけです。また、10次元のベクトルの数字の総和が1になるように、softmax関数を利用していました。
回帰問題の場合は、1枚の画像の入力に対し、1つの実数を出力します。したがって、出力の次元は1となります。また、1つの数字の総和を1にすると、どうやっても1という出力しか行えなくなってしまいますから、softmaxを指定するのはなしです。回帰問題の場合、出力値として、-無限大から無限大までを出力できることが望ましいので、activationにlinearを設定します。linearとは、線形という意味で、数学上の定義とはちょっと違いますが、計算された数字を特に加工せずにそのまま出す、といういいがあります。
色々書きましたが、回帰モデルならば、出力層は、1次元、linearを使うと覚えておけば間違い無いです。
from keras.models import Sequential
from keras.layers import Dense, Dropout, Flatten
from keras.layers import Conv2D
model = Sequential()
model.add(Conv2D(filters=1, kernel_size=(5, 5), activation='relu', input_shape=(28, 28, 1)))
model.add(Conv2D(filters=1, kernel_size=(5, 5), activation='relu'))
model.add(Conv2D(filters=1, kernel_size=(5, 5), activation='relu'))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(30, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(1, activation='linear')) # ← ここが出力層！
続いて、学習に進みます。CNNの学習では、頭の良さの定義付けが必要です。クラス分類問題では、10個の選択肢の中から1つを選び、正解だったら頭が良いということで、いわゆる正答率をなんらかの形で加工したものを頭の良さと定義していました（ごまかしているのは、加工の仕方がたくさんにあるためです）。
一方、回帰問題の場合、正答率ではなく、予測と正解の実数値上のずれ（実測が3、予測が3.4なら、ズレは0.4）が少ないほど頭が良いと定義すべきです。このように、頭の良さの定義を変更することが必要です。
とすれば、okです。mean_squared_errorとは、平均平方誤差という意味です。ズレとは、マイナスのずれとプラスのずれがありますので、それを2乗で符号をキャンセルし、平方根をとって2乗をキャンセルし、最後にすべてのデータの平均をとることを意味しています。
# コンパイル
model.compile(loss="mean_squared_error", optimizer=RMSprop())
model.summary() # 構造出力
学習条件の設定が終わったら、実際の学習に進みます。ここはクラス分類問題のときと同様です。
# plaidmlをバックエンドにする場合は、バッチサイズを「2^n+1」にすること
# それ以外だと、lossがnanになる模様
batch_size = 129
epochs = 10 # 学習回数
learning_process = model.fit(x_train_cnn, y_train, # 画像とラベルデータ
batch_size=batch_size, # バッチサイズ
epochs=epochs, # エポック数
verbose=1)#, # 学習過程を表示する1, しない0
lossが減少していればokです。もっと下げたい人は、epochを増やしたり、モデル構造を変えたりしてみてください。このページの結果はまだまだ不十分ですが、これでテストデータを予測してみましょう。
test_pred = model.predict(x_test_cnn, batch_size=32+1) # バッチサイズには2^n+1
view_num = 20 # 表示枚数
error = []
for i in range(view_num):
error.append( np.abs(y_test[i] - test_pred[i]) )
print("実測: ", y_test[i], " / 予測: ", np.round(test_pred[i], 2), " / ズレ: ", np.round(error[i], 2))
print("\nズレの平均: ", np.mean(error))
回帰問題のベーシックな解説は以上になります。
以下は、過去のkerasの資料に書いていますので、ご参照ください。