今日も見てみます。初心者なので、追っていくだけで大変です。 <a href="https://www.kaggle.com/learn/computer-vision" rel="noopener noreferrer" target="_blank">https://www.kaggle.com/learn/computer-vision</a> ほぼコピペですが、、、 <a href="https://www.kaggle.com/code/ryanholbrook/the-convolutional-classifier" rel="noopener noreferrer" target="_blank">https://www.kaggle.com/code/ryanholbrook/the-convolutional-classifier</a> 画像認識で最も優れているニューラルネットワークは、畳み込みニューラルネットワークと呼ばれます（略してconvnetやCNNとも言います）。畳み込みは、convnetの層にそのユニークな構造を与える数学的な操作です。 <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2023/10/11/U0n5xjU.png"/> <a href="https://www.kaggle.com/code/ryanholbrook/the-convolutional-classifier" rel="noopener noreferrer" target="_blank">https://www.kaggle.com/code/ryanholbrook/the-convolutional-classifier</a> ベースは画像から特徴を抽出するために使用されます。主に畳み込み操作を行う層で構成されていますが、他の種類の層も含まれることがよくあります。ヘッドは画像のクラスを決定するために使用されます。主に密な層で構成されていますが、ドロップアウトのような他の層も含まれることがあります。 <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2023/10/11/UUAafkn.png"/> <a href="https://www.kaggle.com/code/ryanholbrook/the-convolutional-classifier" rel="noopener noreferrer" target="_blank">https://www.kaggle.com/code/ryanholbrook/the-convolutional-classifier</a> 分類器の訓練ネットワークの訓練中の目標は、以下の2つのことを学ぶことです： 1. 画像からどの特徴を抽出するか（ベース）。2. どのクラスがどの特徴と関連しているか（ヘッド）。 現在、convnetsはゼロから訓練されることはほとんどありません。よくあるのは、事前に訓練されたモデルのベースを再利用することです。その事前訓練済みのベースに、未訓練のヘッドを接続します。言い換えれば、1. 特徴を抽出するためにすでに学習されたネットワークの部分を再利用し、その上に新しい層を追加して2. 分類することを学びます。 ヘッドは通常、数少ない密な層のみから構成されるため、比較的少ないデータから非常に正確な分類器を作成することができます。 事前に訓練されたモデルを再利用するこの技術は、転移学習として知られています。この方法は非常に効果的であり、現在のほぼすべての画像分類器がこれを利用しています。 例 - Convnet分類器の訓練このコースを通じて、私たちは以下の問題を解決しようとする分類器を作成します：これは車の写真ですか、トラックの写真ですか？私たちのデータセットは、約10,000枚のさまざまな自動車の写真で、おおよそ半分は車、半分はトラックです。 ステップ1 - データの読み込み次の非表示セルは、いくつかのライブラリをインポートし、データパイプラインを設定します。ds_trainという訓練分割と、ds_validという検証分割があります。 <pre class="ql-syntax" spellcheck="false"># Imports
import os, warnings
import matplotlib.pyplot as plt
from matplotlib import gridspec

import numpy as np
import tensorflow as tf
from tensorflow.keras.preprocessing import image_dataset_from_directory

# Reproducability
def set_seed(seed=31415):
 np.random.seed(seed)
 tf.random.set_seed(seed)
 os.environ[&#39;PYTHONHASHSEED&#39;] = str(seed)
 os.environ[&#39;TF_DETERMINISTIC_OPS&#39;] = &#39;1&#39;
set_seed(31415)

# Set Matplotlib defaults
plt.rc(&#39;figure&#39;, autolayout=True)
plt.rc(&#39;axes&#39;, labelweight=&#39;bold&#39;, labelsize=&#39;large&#39;,
 titleweight=&#39;bold&#39;, titlesize=18, titlepad=10)
plt.rc(&#39;image&#39;, cmap=&#39;magma&#39;)
warnings.filterwarnings(&#34;ignore&#34;) # to clean up output cells


# Load training and validation sets
ds_train_ = image_dataset_from_directory(
 &#39;../input/car-or-truck/train&#39;,
 labels=&#39;inferred&#39;,
 label_mode=&#39;binary&#39;,
 image_size=[128, 128],
 interpolation=&#39;nearest&#39;,
 batch_size=64,
 shuffle=True,
)
ds_valid_ = image_dataset_from_directory(
 &#39;../input/car-or-truck/valid&#39;,
 labels=&#39;inferred&#39;,
 label_mode=&#39;binary&#39;,
 image_size=[128, 128],
 interpolation=&#39;nearest&#39;,
 batch_size=64,
 shuffle=False,
)

# Data Pipeline
def convert_to_float(image, label):
 image = tf.image.convert_image_dtype(image, dtype=tf.float32)
 return image, label

AUTOTUNE = tf.data.experimental.AUTOTUNE
ds_train = (
 ds_train_
 .map(convert_to_float)
 .cache()
 .prefetch(buffer_size=AUTOTUNE)
)
ds_valid = (
 ds_valid_
 .map(convert_to_float)
 .cache()
 .prefetch(buffer_size=AUTOTUNE)
)
</pre> <pre class="ql-syntax" spellcheck="false">Found 5117 files belonging to 2 classes.
Found 5051 files belonging to 2 classes.
</pre> <pre class="ql-syntax" spellcheck="false">import matplotlib.pyplot as plt
</pre> ステップ2 - 事前訓練済みベースの定義事前訓練に最も一般的に使用されるデータセットはImageNetで、さまざまな種類の自然な画像の大規模なデータセットです。Kerasのapplicationsモジュールには、ImageNetで事前訓練されたさまざまなモデルが含まれています。私たちが使用する事前訓練済みのモデルはVGG16と呼ばれます。 <pre class="ql-syntax" spellcheck="false">pretrained_base = tf.keras.models.load_model(
 &#39;../input/cv-course-models/cv-course-models/vgg16-pretrained-base&#39;,
)
pretrained_base.trainable = False
</pre> ステップ3 - ヘッドの接続次に、分類器のヘッドを接続します。この例では、隠れユニットの層（最初のDense層）を使用し、次にクラス1、トラックの確率スコアに出力を変換する層を使用します。Flatten層は、ベースの二次元の出力を、ヘッドが必要とする一次元の入力に変換します。 <pre class="ql-syntax" spellcheck="false">from tensorflow import keras
from tensorflow.keras import layers

model = keras.Sequential([
 pretrained_base,
 layers.Flatten(),
 layers.Dense(6, activation=&#39;relu&#39;),
 layers.Dense(1, activation=&#39;sigmoid&#39;),
])
</pre> ステップ4 - 訓練最後に、モデルを訓練しましょう。これは2クラスの問題なので、クロスエントロピーと正確性のバイナリバージョンを使用します。adamオプティマイザは一般的に良好な性能を発揮するので、これを選択します。 <pre class="ql-syntax" spellcheck="false">model.compile(
 optimizer=&#39;adam&#39;,
 loss=&#39;binary_crossentropy&#39;,
 metrics=[&#39;binary_accuracy&#39;],
)

history = model.fit(
 ds_train,
 validation_data=ds_valid,
 epochs=30,
 verbose=0,
)
</pre> ニューラルネットワークを訓練する際には、損失とメトリックのプロットを確認するのが常に良いアイディアです。historyオブジェクトには、history.historyという辞書の中にこの情報が含まれています。Pandasを使用してこの辞書をデータフレームに変換し、組み込みのメソッドでプロットすることができます。 <pre class="ql-syntax" spellcheck="false">import pandas as pd

history_frame = pd.DataFrame(history.history)
history_frame.loc[:, [&#39;loss&#39;, &#39;val_loss&#39;]].plot()
history_frame.loc[:, [&#39;binary_accuracy&#39;, &#39;val_binary_accuracy&#39;]].plot();
</pre> <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2023/10/11/aa.png"/> <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2023/10/11/__results___16_1.png"/> 結論このレッスンでは、convnet分類器の構造について学びました：特徴抽出を行うベースの上に、分類器として機能するヘッドがあります。 ヘッドは、本質的には入門コースで学んだ通常の分類器と同じものです。特徴としては、ベースによって抽出された特徴を使用します。これが畳み込み分類器の基本的なアイディアです：分類器自体に特徴エンジニアリングを行うユニットを接続することができるということです。 これは、深いニューラルネットワークが伝統的な機械学習モデルよりも持っている大きな利点の一つです：適切なネットワーク構造が与えられれば、深いニューラルネットは、問題を解決するために必要な特徴をエンジニアリングする方法を学ぶことができます。 次の数回のレッスンでは、畳み込みベースがどのように特徴抽出を達成するかを見ていきます。その後、これらのアイディアを適用し、独自の分類器を設計する方法を学びます。

Kaggleの画像認識のチュートリアルを見てみる。。。畳み込み分類器。

Yuichiro Minato