月: 2017年10月

人工知能は人間を超えるか／松尾豊

人工知能の入門書とも言われている本書。感想まとめ第３弾です。

第１弾はコチラ
https://r2d.info/2017/10/30/matsuo1/

第２弾はコチラ

読了「人工知能は人間を超えるか／松尾豊」（その２）

第６章：人工知能は人間を超えるか

６章には今後の人工知能の展望を予言して、最終的に「人工知能が人間を支配するような未来はこない」と締めくくっています。今後の人工知能ロードマップは各地で謳われているものでして、把握しておいた方が良いでしょう。

抽象化：
物事の類似・対比・因果といった「隠れた仕組み」を見つけ出すこと。

①画像特徴の抽象化：
既にディープラーニングの登場で実現されつつあるレベル。画像から「ヒト」や「ネコ」の概念を抽出する。

②マルチモーダルな抽象化：
画像だけでなく音やセンサ値も合わせて認識をする。

③行動と結果の抽象化：
コンピュータ自らの行動と、結果として得られる外部情報の因果関係を抽象化して理解する。このあたりから身体性が強くなっている気がする。ブロックを押せば動くといったことを理解する。この段階までくると、何の行動が何に影響するのか因果関係を理解し始めるのでフレーム問題を解決しうる。

④行動を通じた特徴量の獲得：
ややわかりにくいが「一連の行動の結果として世界から引き出せる特徴量」を得ることができる段階。例えば、ゲームをプレイしてみて難しかった・簡単だったということを認識するといった具合だ。コップを強く握ったら割れたということを学習しだすと知能の環境適応がすすむ。

⑤言語理解：
概念と記号を結び付けて、シンボルグラウンディング問題を克服する。

⑥知識獲得：
文章等から知識を獲得・創出する。

所感としては、身体性の獲得によってフレーム問題の解決、言語理解によってシンボルグラウンディング問題を解決というのがポイントであろう。

終章：変わりゆく世界

終章では今後の人工知能による事業展開、日本業の課題などが記されている。

この図を見れば早いので引用しておく

出典源：http://www.soumu.go.jp/main_content/000400435.pdf

以上、最後は駆け足でしたが、まとめでした

人工知能は人間を超えるか／松尾豊

人工知能の入門書とも言われている本書。感想まとめ第２弾です。

第１弾はコチラ
https://r2d.info/2017/10/30/matsuo1/

第３弾はコチラ
https://r2d.info/2017/10/31/matsuo3/

第３章： 第２次 ＡＩブーム（1980～1995）

エキスパートシステム：
専門分野の知識を大量に取り込み、推論を行う。

ＭＹＣＩＮ（マイシン）：
1970年代にスタンフォード大学が開発した人工知能。伝染病の血液疾患の患者を診断して抗生物質を処方する。膨大に蓄積された知識を基に、患者の症状に対してＩＦ文を繰り返すことで症状を判定する。

エキスパートシステムの課題：
・専門家の知識ヒアリングに膨大な労力がかかる。
・ルールに一貫性が保たれない。
・曖昧な状態を表現でき無し。
・人間にとって常識的な知識を導入しにくい。

オントロジー研究：
「概念化の明示的な仕様」と定義され、知識を記述するときの仕様を定義しようとする研究。このように、エキスパートシステムの課題を受けて知識をどう定義するかの研究が盛んになった。

ﾍﾋﾞｰｳｪｲﾄ・ｵﾝﾄﾛｼﾞｰ：
人間によって概念間の関係を正確に定義して、知識を記述する。

ﾗｲﾄｳｪｲﾄ・ｵﾝﾄﾛｼﾞｰ ：
効率性を重視して、正確性に少々かけても大量のデータを読み込ませて自動で概念間の関係性を見つける。Webマイニングなどと相性が良い。

Watson：
IBMが開発した人工知能。ライトウェイトオントロジーの究極系とも称され、2011年にクイズ選手権で優勝。

フレーム問題：
あるタスクを実行するうえで関係ある知識だけを取り出して使うという作業が、ロボットや人工知能にとっては難しいという問題。バッテリーをとってくることを指示されたロボットが、バッテリーに付与された時限爆弾をどう処理するか、というダニエル・デネット氏の話が有名。

シンボルグラウンディング問題：
記号（文字列・言葉）と、それが意味するものとを結び付けられていないという問題。フレーム問題と並んで人工知能の難題とされる。

第４章： 第３次 ＡＩブーム①（2010～2015）機械学習

機械学習：
「学習することとは分けること」と本書には記載されている。蓄積されたデータについて、それらのデータをどうすれば目的に沿って分類できるのかというイエス・ノー問題の解き方を人工知能が自ら学習する。

代表的な分類手法①：最近傍法
１番近いデータと同じカテゴリーだと認識する。

代表的な分類手法②：ナイーブベイズ法
データの特徴ごとに、どのカテゴリに当てはまるのかを算出して加算していく。

代表的な分類手法③：決定木
ある属性の値で線引きをして、その二分割を繰り返す。空間を斜めに切ることができない点が弱点。

代表的な分類手法④：サポートベクターマシン
マージンを最大にするようにいい感じに境界線を引く。

代表的な分類手法⑤：ニューラルネットワーク
人間の脳構造をヒントに開発された技術。後にディープラーニングへとつながる。

機械学習における難題：
フィーチャーエンジニアリング（識別のための特徴量設計）を人手でしなくてはならない。深層学習の搭乗前は、いい特徴量を作るのが一番大変で、人間がやるしかないとされてた。

なぜ今まで人工知能が実現しなかったのか：
知識の記述が出来ない。フレーム問題。シンボルグラウンディング問題。特徴量設計が難しい。総じて「世界からどの特徴に注目して情報を取り出すべきか」について人の手を借りざる得なかった。（これの解決の兆しを後に深層学習がみせるわけである。）

第５章： 第３次 ＡＩブーム②（2010～2015）ディープラーニング

2012年のILSVRCでトロント大学がディープラーニングにより圧倒的な勝利を収めて世界に衝撃をもたらしたこと。そこから、ディープラーニング技術の詳細が記載されている。技術的なことについてはここでは省略します。（ググればSlideShareなど山ほど資料があるので）

ディープラーニングは今まで人工知能が実現できなかった概念を自ら作り出すということを可能にしうる。最難題である「世界からどの特徴に注目して情報を取り出すべきか」を学習により解決できる可能性を秘めている。と語られている。

つづく、（かも

人工知能は人間を超えるか／松尾豊

人工知能の入門書とも言われている本書。「人工知能とは何なのかを正しく理解しよう」というコンセプトで執筆されています。私は人工知能の開発に従事する技術者ですが、それでも「正しく理解」というフレーズを前にすると「念のため読んでおこう」という気持ちにさせられした。勘違いや思い込みとは最も恐ろしいものですからね。吉良吉影もそういってます。

第１章：人工知能とは何か

人工知能の定義について、著名教授の見解紹介や、様々な角度からの定義を試みている。

人工知能研究者の目的：
人工知能研究者は構造論的に知能を解明しようとしている。対照的に、脳科学者は分析的に知能を解明。

チューリングテスト：
コンピュータと別の部屋にいる人間が画面とキーボードを通じて会話する。相手がコンピュータだと見抜けなければ合格。

AI効果：
原理がわかってしまうと「これはAIではない！」と思ってしまうこと。

AIの４段階：
レベル1 ：   制御工学による制御をﾏｰｹﾃｨﾝｸﾞ的に人工知能と称している。
レベル2 ：  推論探索や知識ベースにより振る舞いが多彩なもの。
レベル3 ：    機械学習によりルールを自ら学習する。
レベル4 ：   深層学習によって特徴量を自ら抽出する。

※一見、レベル3とレベル4が似ているように感じるかもしれません。が、これらは全然同じではありません。

「強いAI」と「弱いAI」：
強いAI：   人間の知能を工学的に実現。
弱いAI ：  限定された機能によって、知的な問題解決が一見できているかのようにふるまう。

中国語の部屋：
中国語がわからないオペレーターが、中国語で問い合わせされたとい、入力された文字を膨大なマニュアルに照らし合わせながら確認し、決められた返答をしても、会話が成立したように見えるがその人は中国語を理解してはいない。

第２章： 第１次 ＡＩブーム（1956～1970）

探索：
深さ優先探索や幅優先探索といった、場合分けによって答えを見つけ出す。

ハノイの塔：
第１次ＡＩブームでは、単純な問題をＡＩで解くことができた。その例としてよく挙げられるゲーム。

ディープブルー：
1997年にチェス世界チャンピオンを下したIBMの人工知能。

モンテカルロ法の導入：
チェスや将棋における人工知能の性能を飛躍的に向上させた手法。ランダムに手を指し続けて終局させるという行為を何度も繰り返し、望ましい結果が得られた回数から、次の一手を評価する。

トイプロブレム：
ビジネスや医療など現実世界はいっそう複雑であり、ＡＩには限定的なルールの定められた問題（トイプロブレム）しか解けないとされた。

つづく　https://r2d.info/2017/10/30/matsuo2/

第３弾はコチラ
https://r2d.info/2017/10/31/matsuo3/

Caffeでディープラーニング研究開発をするにあたり、FeatureMapsの数だったりを増やしたり減らしたりしながら試行錯誤することはよくあります。

そんなとき、ネットワーク構造をPythonから自動的に変更させたくなりますよね？（あれ？なりませんか？）

とういわけでPythonからネットワーク構造定義ファイル.prototxtを編集する方法を調べました。こちらの投稿が参考になりました。

結論
・caffe_pb2 と google.protobuf.text_format を利用
・caffe.netから変更と保存できればと思ったけど無理そう

例えばprint(conv)とすると下記のように構造をとれていることがわかります。

なお、.caffemodelは

とった具合に編集していってください。

はじめに

いきなり釣りのようで恐縮ですが、文章から感情を推定するＩＢＭ提供サービス“Watson Tone Analyzer”は日本語対応していません。

文章の多言語翻訳だったり解析系はまだまだ日本語対応していない点が我々から見たＩＢＭ社の短所です。ただでさえ AWS・GCP・Azure がクラウドビッグスリーと呼ばれて、IBM社のクラウドは後塵を拝しているので頑張ってほしいものです。

翻訳ＡＰＩでフォロー

そんな文句はさておき、せっかくの Watson API なのでなんとか活用してみようとするのが今回の話です。結論から申し上げますと“Watson Tone Analyzer”が日本語対応していないので、文章入力前に日本語を英語に翻訳するＡＰＩをかませるという雑アプリを設計しました。

日本語でメッセージ入力⇒日本語から英語に翻訳⇒英語化した文章から感情推定⇒グラフで結果出力

翻訳くらいはWatsonを使えばと思いましたが、翻訳ＡＰＩも日本語対応完了していないため今回は下記ＡＰＩを利用。（無料。ただし要登録。）

Yandex.Passport　https://passport.yandex.com/

“Tone Analyzer”は設定が色々あるのですが、今回は５つのパラメータ『Anger、Disgust、Fear、Joy、Sadness』を出力する設定にしました。

しかし、なんというか、出力パラメータ５つのうち４つが負の感情ってどういうことだ・・・？

設計メモ

テキスト入力の受け付けはFormで適当に定義

翻訳ＡＰＩは下記のようにしてhttps://translate.yandex.net/api/v1.5/tr.json/translateに投げます

巷ではビッグデータが何年も注目を浴びています。ある大学の先生は2013年時点で「もうビッグデータは古い。」と言っていましたが、2017年になっても熱は冷めません、むしろ加速しています。

ただ、ブームに飛びつくのはいいですが、『データを集めて分析して、で、それからどうするの？』という声もよく耳にします。

ちょうどいい機会だと思って、ビッグデータに至るまでのデータ工学の歴史を調査してみました。それが下の図です。

もともとマイニングとは『採掘』という意味の言葉で、データマイニングやテキストマイニングは『知識を取り出す』試みです。

2010年以降はデータマイニングを試みるものの、公知である当たり前の知識抽出しかできず、学会には『研究の結果、ラーメンの伸び具合と、麺のゆで時間には強い相関があるとわかった。』みたいな発表が散見される時期もありました。

ただ、IoT等の技術発展によりデータ量が爆発的に増加している近年では、データマイニングによって今までなかったような知識発掘への期待が高まっています。製造業や物流業界ではデータマイニングによって、気づかなかった無駄を発見＆削減によって効率化を図ったりと、実績が出ています。

このような最適化が現在のデータマイニングの目指すところですね。

では、今後のデータ工学はどのような方向に進むのか？

有識者の方々からは自律社会、パブリックデータ（オープンデータ）などがキーワードとして挙げられています。が、私個人としてはデータの質を重視する流れが高まり、質の高いデータを収集する仕組み作りとデータクレンジング技術に注力するのではないかと思っています。

データの質と量についての議論はよくされていますが、結局両方必要です。ずいぶんデータ量が確保できるようになってきたので、そろそろ質も伴わねばならないフェーズに移行して来ていると私は考えています。