読者です 読者をやめる 読者になる 読者になる

心臓リハビリテーションのまにまに

心臓リハビリテーションについて考えたり思ったりしていることをつらつらと書いています。

ディープラーニングの現状

心リハ太郎です。

 

先日紹介した山本さんの人工知能についての連載記事の新しい記事が掲載されていました。

 AIと医療の未来 - 心臓リハビリテーションのまにまに

 

この記事の中の過学習という考え方が面白かったので紹介します。

ディープラーニングを支える黒魔術「ドロップアウト」|人工知能はどのようにして「名人」を超えるのか?|山本一成|cakes(ケイクス)

ディープラーニングは放っておくと「丸暗記」で解決しようとします。5万個のコップの写真(データ)があったら、その5万個の形をそのまま暗記し、絶対に間違えないように努力してしまいます。この状態を専門用語で「過学習」と言うのです。

 丸暗記したディープラーニングは、学習した問題を非常によく解けるようになります。一方で、まったく未知の問題には、丸暗記すればするほど正解率が落ちていきます。これがすべての人工知能の研究者が恐れる「過学習」の状態です。

丸暗記では未知の問題に対処できないという問題があり、これを過学習というようです。

それに対する対処法の一例も書かれています。

 では、どのようにすれば「過学習」を防げばよいでしょうか。
 それには、ディープラーニングが暗記ではなく、特徴を抽出するように仕向ければいいのです。つまり、何かしらの本質をつかめる状態にするとよいということです。

ディープラーニングが学習中に、ところどころ参加しているニューロンをランダムにドロップアウトさせるのです(ここで言うニューロンは、ディープラーニングの各層における、人間の脳のニューロンに当たるものを意味しています)。

 学習中にランダムにニューロンドロップアウトさせられることは、当たり前ですがディープラーニング側にとって厳しい状態です。とても「丸暗記」はできません。そこでディープラーニングは、必死になって入力の特徴をつかもうとするのです。

忘れるからこそ、応用的な思考が可能になる、というのは人間も同じなのかもしれません。

また丸暗記ではやはり未知の事態には対処できないわけで、我々もこうならこう、こうならこうというパターンだけで思考、行動し続けるだけでは自分の成長に繋がらないのかもしれませんね。当然基礎を積み重ねることは大事なのでまずはそこからですが。

 

なかなか考えさせられる記事でした。

 

人工知能についてはこの本が幅広くまとめてくれていて分かりやすいです。

60分でわかる!  AIビジネス最前線 (60分でわかる! IT知識)

60分でわかる! AIビジネス最前線 (60分でわかる! IT知識)

 

 

 

広告を非表示にする