1. 序章

このチュートリアルでは、ニューラルネットワークとそのタイプについて簡単に説明します。 次に、エポック、反復、およびその他のいくつかの用語の違いについて説明します。

2. ニューラルネットワークとは何ですか？

2.1. 意味

簡単な例から始めましょう。 犬と猫の画像セットがあります。 これらの画像から、画像が犬用か猫用かをいつ判断できるかを学習できるコンピュータアプリケーションが必要です。 そのため、アプリケーションがこれまでに見たことのない新しい画像を思いついたときに、その画像に犬がいるのか猫がいるのかがわかります。

前の例では、犬と猫を区別できるようにする方法を子供に教えるプロセスをシミュレートします。 これは単に分類の問題であり、ニューラルネットワークで最もよく知られているタスクの1つです。

ニューラルネットワークは、入力データの基礎となるパターンを認識するために一緒に階層化されたアルゴリズムのセットです。認識されるパターンは数値であり、ベクトルに含まれ、画像、音声、テキストなど、すべての実世界のデータが含まれます。 、または時系列。

ニューラルネットワークはディープラーニングの頭脳です。ディープラーニングは、私たちが始めた「犬と猫」の例をカプセル化した科学的で最も洗練された用語です。

ニューラルネットワークとディープラーニングのアプリケーションは、画像処理、自然言語処理、音声認識、自動運転車、およびロボット工学に大きく関係しています。

他のすべてと同様に、ニューラルネットワークには長所と短所があります。

2.2. 構造

ニューラルネットワークはいくつかの層で構成され、各層は設定されたノードで構成され、ノードは計算が行われる場所です。

すべてのノードは、入力ベクトルとベクトル値の重みを受け取り、関数を適用して出力を次のレイヤーに送信します。 次の図は、単純なノードを示しています。

 

ノードのセットがレイヤーを構成し、基本的なニューラルネットワークは相互接続されたノードの3つのレイヤーで構成されます。 入力、非表示、および出力。 次の図は、単純なニューラルネットワークがどのように見えるかを示しています。

2.3. 種類

各層のノードがどのように接続されているか、データがネットワーク内でどのように伝播されるか、ネットワークがパターンを学習する方法、およびネットワークが学習した内容をどの程度記憶できるかに応じて、ニューラルネットワークの名前とタイプが変わります。

たくさんの種類があります。 これらのタイプのいくつかは次のとおりです。 フィードフォワード（FF）、リカレントニューラルネットワーク（RNN）、長短期記憶（LSTM）、および畳み込みニューラルネットワーク（CNN）。

3. 基本的なニューラルネットワークの用語

3.1. 時代

ニューラルネットワークは、入力データセットを読み取り、それにさまざまな計算を適用することによって、入力データのパターンを学習します。 しかし、ニューラルネットワークは一度だけではなく、入力データセットと以前の試行から得られた結果を使用して、何度も何度も学習します。

入力データセットから学習する各トレイルは、エポックと呼ばれます。

したがって、エポックとは、完全なトレーニングデータセットの1サイクルを指します。通常、ニューラルネットワークのトレーニングには数エポック以上かかります。 エポックの数を増やしても、ネットワークがより良い結果をもたらすとは限りません。

したがって、基本的には、試行錯誤によって、非常に数サイクル後も結果が同じになるいくつかのエポックを選択します。

3.2. 反復

完全なエポックごとに、いくつかの反復があります。 反復は、トレーニングデータのパーティション化されたパケットを通過するバッチまたはステップの数であり、1つのエポックを完了するために必要です。

3.3. バッチ

バッチは、1回の反復でのトレーニングサンプルまたは例の数です。バッチサイズが大きいほど、より多くのメモリスペースが必要になります。

4. 例で区別する

要約すると、「犬と猫」の例に戻りましょう。 合計100万枚の画像のトレーニングセットがある場合、それらすべてを一度にネットワークにフィードするのは大きなデータセットです。 ネットワークのトレーニング中、データのサイズはメモリ内で増加し続けています。 したがって、データセットをパーツまたはバッチに分割します。

バッチサイズを50Kに設定した場合、これは、ネットワークが1つのエポックを完了するために20（1M / 50K）の反復が必要であることを意味します。

5. 結論

このチュートリアルでは、ニューラルネットワークの定義、基本構造、およびいくつかの種類の名前を示しました。 次に、エポック、反復、およびバッチサイズの違いを示しました。