【ディープラーニングG検定対策】ディープラーニングの概要

G検定記事はこちら。
https://www.simulationroom999.com/blog/jdla-deep-learning-for-general-2020-1/

はじめに
ディープラーニング概要
まとめ

はじめに

G検定シラバス「ディープラーニングの概要」の範囲の対策。
難易度は中程度、過去問、問題集で十分フォローできる。

ディープラーニング概要

前回までは、AIの歴史やディープラーニングのブレイクスルー前の話が主だった。今回からディープラーニングの話に突入。ディープラーニングの基本構造の由来はニューラルネットワーク。ニューラルネットワーク自体は隠れ層を持つことで非線形分類ができるようになったもの。単純パーセプトロンと比べると複雑なことができるとはいえる

イテレーション＝重み更新回数。
エポック＝訓練データを使用した回数。

各種定理。

バーニーおじさんのルール
- パラメータ数の10倍の学習データが必要
ノーフリーランチ定理
- 万能なアルゴリズムは存在しない
みにくいアヒルの子定理
- 普通のアヒルとみにくいアヒルの判別は不可
モンベックのパラドックス
- 高度な推論よりも1歳児のやることの方が難しい

バーニーおじさんとは。

スタンフォード大学教授のバーナード・ウィドロー氏らしい。
https://en.wikipedia.org/wiki/Bernard_Widrow
1987年のIEEEカンファレンスでの講演「ADALINE and MADALINE」の中で「バーニーおじさんのルール（Uncle Bernie’s Rule）」を提唱した。

一気通貫学習：視覚、聴覚、触覚などのセンサをロボットが統合的に扱うよう学習。
事前学習＝Pre-training。