# 生成AIパスポート勉強メモ_1005 第1章　AI（人工知能） 過学習（オーバーフィッティング） 機械学習モデルが訓練用データに過剰に適応した結果、実際の業務で入るような未知のデータを入れた際に、訓練用データにだけ特有の法則などを学習し過ぎたせいで、誤った結果をもたらしてしまうこと。 過学習を避けるためには、以下の方法がある。 ① アーリーストッピング（おぼえすぎない　やりすぎない） 訓練用データとは別に検証用データを用意して、訓練用データ への過剰適応が発生していないかをつど検証する。訓練用データでの誤差と、検証用データでの誤差を比較して、差が大きくなり始めたら学習をやめる。 ② 正則化（きょくたんなみかたをつくるのはやめてね） モデルがデータを学習する際に、重み（入力データごとの重要度）を過大につけ過ぎないようにする方法。例えば、学習データ画像の中に、たまたま赤い首輪をつけた猫が多かったとする。ここで正則化がなされていない場合、赤、首輪、毛、耳などの情報要素の中で、赤と首輪に判断の重みがつけられ過ぎてしまい、「赤い首輪をつけていれば猫やん！」という誤った学習をしてしまうので、そうならないように学習の中で重みをつけ過ぎないようにバランスをとらせること。 ③ドロップアウト（ぞくじんかはやめよう） ニューロン（AIの処理単位、チームメンバひとりひとり）を、学習の際にランダムで休ませることで、あるニューロンに学習が依存し過ぎないようにする。 AIブーム 現在に至るまでに、3度のAIブームが起きている。 ・第一次AIブーム ・・・1956年のダートマス会議を発端に1960年代まで続いた。探索（答えを見つけるために可能性をためしまくる）と推論（貰ったルールや知識から答えを出す）が注目された。ただ、ルールベースのシステムが複雑な問題には力不足ということがわかり、ブームは70年代に終息。 ・第二次AIブーム ・・・1980-90年代で起こったブーム。専門家の意思決定プロセスを組み込んだエキスパートシステムが導入されたが、専門家の知識・思考プロセスを組み込むのにかなり負荷がかかり、ブームが終息し「AIの冬」が起きた。 ・第三次AIブーム ・・・2010年代に入って現在まで続く。ビッグデータとディープラーニング技術によって発展しまくっている。第一次のルールベースや、第二次でのエキスパートシステムと異なり、AI自身に大量のデータを与えて自ら法則化・知識集積をさせることで、無限に成長し続ける仕組みが構築できるようになった。 機械学習の具体的手法 教師あり学習 教師なし学習 　　└クラスタリング 　　└次元削減（データの次元　要素数？　を減らすことで、計算量を減らし、情報の特徴をよりシンプルに可視化できる手法） 強化学習 半教師あり学習 AIのレベル別分類 処理できる内容の種類によって、４つのレベルに分けられる。 AIの レベル 内容・特徴 代表例 1 条件分岐で構成された単純な制御プログラムでつくられている AI家電（冷蔵庫、エアコン） 2 人間が事前に作成・投入したルール・知識をもとに、簡単な予測・出力をおこなう チャットボット、 音声認識システム 3 機械学習を利用したモデルで、 入力値を基にデータパターンを見出して 最適な出力を自分で調整する 検索エンジン、予測変換？ 4 ディープラーニングを利用したモデルで、 特徴量・重み？の調整を含めた 高度な学習・出力が可能 車の自動運転技術 AI関連の重要人物名 ①ジョン・マッカーシー アメリカの計算機科学者。 1956年のダートマス会議で主要な役割を果たした。 Artificial Intteligenceのという概念を提唱した。 また、AI研究で長く使われたLISPという言語の開発者でもあった。 ②アラン・チューリング イギリスの数学者・計算科学者。 AIが生まれる以前から「機械は人間のような知的活動ができるか否か」を思考した。チューリング・テスト（1950）は、審査員を姿の見えない２者と会話させてどちらか機械かを判定させ、機械が人間と判断されたら合格、とするテストのこと。 ちなみに、WW2においてドイツ軍が使用した暗号機エニグマを解読したのがアラン・チューリング。同性愛者であることが露見し、当時は違法であったことから職を解かれ、最後はかじられたりんごと青酸カリの瓶を残して、1954年に自殺した。Appleのロゴの元ネタではないかという噂がある（これは、やりすぎ都市伝説だろ） ③ヴァーナー・ヴィンジ アメリカの数学者・SF作家。 彼の作品では、インターネット、マルチプレイヤーオンラインゲーム、ダークウェブ、ハッカー、トロールの存在が予見されている。 1993年のエッセイ「the coming technological singularity」で、シンギュラリティ（技術的特異点）の概念を提唱した。 その後、AIの世界的権威であるレイ・カーツワイルという未来学者（OCRソフトを開発したりもしている）の著書で言及されたことから、世界的に話題になった。 ④レイ・カーツワイル アメリカの開発者・未来学者・作家。20代の頃にOCRソフトを開発したり、作曲ソフトを開発するなど、技術分野における開発者としても有名。 著書で、ヴァーナー・ヴィンジの「シンギュラリティ」に言及し、世界的に話題になった。 特に遺伝子学、ナノテクノロジー、ロボット工学技術の３つの技術革命が起こることで、人間の人生観・世界観が根本から変化するシンギュラリティが起こると予測している。それぞれの頭文字をとってGNR論とも呼ばれる。 また、2045年問題の提唱者であり、AIが人間の知性を超越して人間にさまざまな問題や脅威が起こることを予見している。マジ予言屋さん。 ⑤ジェフリー・ヒントン イギリスの計算機科学者、認知心理学者。 人間の脳細胞を模倣した、ニュートラルネットワークという機械学習モデルの研究を進めて、ディープラーニングを発展させた。 ニュートラルネットワークは、入力、重み付け、次の層、次の層、出力という流れをとにかく多層化させて勝手に学習するという流れのモデル。 ノーフリーランチ定理 全ての問題を解決できる最も優秀で唯一絶対の機会学習モデルというものはなく、それぞれの問題に対して適した解決法を持っている機械学習モデルを選択するべきというもの。 No Free Lunch（無料の昼食はない、ただで昼飯を食わせてもらえるなんて話はない、うまいはなしはない） ANIとAGI ANIーArtifical Narrow Intelligence（人工的な狭い知能） 　狭い範囲において専門家並の知能でタスクをこなすこと。色々はできない。 AGIーArtifical General Intelligence（人工的な広い知能） 　AIエージェントみたいなことかな？全ての知的タスクを人間並に遂行できること