lddでは”not found”にならないのにmakeすると”No such file or directory”になる(LINUX)

特に買ったばかりのRaspberyyPiなどでよくある話

makeしてプログラム実行しようとすると

“error while loading shared libraries: ****.so.0: cannot open shared object file: No such file or directory”

となってしまう。ライブラリがリンクされていないのかと思ってlddで確認すると”not found”とならない。

 

リンクが出来ているのか出来てないのかどっちやねん!

これは”/etc/ld.so.cache”がアップデートされていないことが原因らしい。次のコマンドでアップデートとしてやると良い。

これで解決

レベルを上げて物理で殴る!?最新モデルよりもチューニングをちゃんとしたLSTMが最教説~On the State of the Art of Evaluation in Neural Language Models~

DeepMind社から面白い論文が発表されています。その名も「On the State of the Art of Evaluation in Neural Language Models」で、内容としてはチューニングをきちんとしたLSTMは、近年のstate-of-the-artを上回るというもの。

論文サイト:https://arxiv.org/abs/1707.05589

(アブスト。LSTMが最もよいと書かれています。)

様々な学会であれこれと創意工夫がこなされている中、まさかレベルを上げて物理で殴れば最強と言わんばかりの論文が登場するとは思いませんでした。

比較相手にされているのはRecurrent Highway Network(2016)とNAS(2016)のようです。

ちなみに「ちゃんと」チューニングとのことですが、具体的にはGoogle Vizierを用いたようです。こちらはGoogle社によるブラックボックス最適化のためのサービスです。っていわれてもなんのこっちゃですがハイパーパラメータなどをイイ感じに最適化するツールとでも解釈してください。

Google Vizier
https://research.google.com/pubs/pub46180.html
http://itpro.nikkeibp.co.jp/atcl/idg/17/100200076/100200002/?P=2

しかし、チューニングにGoogle Vizierを使ったとなると、Google Vizierの信頼性も気になるところですよね。一般的なモデルになりつつLSTMだからこそGoogle Vizierによるパラメタチューニングが上手くっただけで、state-of-the-artの手法にGoogle Vizierが対応できなくて性能が出なかったという可能性もありません。

まぁそれを差し置いてもLSTMで最高性能を達成したというだけでGoogle Vizierの価値が高いのは間違いないのですが。

個人的にはDeepMind社によるGoogle Vizierの宣伝じゃないかと懐疑的にもなりつつ、このようなシンプルに強力な結果を出す研究は大好きなので楽しく読ませて頂きました。

JDLA ディープラーニングG検定 内容・難易度・試験対策まとめ

2017年12月16日、JDLAディープラーニングG検定を受講しました。

受験を検討している方のために内容をまとめておきます。





問題数と試験時間

問題数:233問
試験時間:120分

試験時間に対して問題数が膨大ですが、「画像認識タスクには特定物体を矩形領域で抽出する(ア)や、ピクセル領域ごとに認識する(イ)がある。」といった具合に、1つの文章に対して穴埋め問題が複数設定されていたりするので、試験を受けた感じでは問題数が多すぎるといった感覚はなく、実質120問程度といった感覚でした。

 


出題範囲と難易度

ディープラーニングに関する出題は簡単なものばかりでした。
学習率の大小によって学習の進み方がどう変わるか、ドロップアウトは何の役に立つか、正規化や正則化はどんな処理をしてどんな効果が出るか、CNN・RNNの特徴は何か、、、、せいぜいそんなところです。ディープラーニング関連の設問が最も簡単で点の稼ぎ所だったのではないでしょうか。

重回帰分析、主成分分析、SVMについて問う出題もありました。
特にSVMはカーネルトリックなどがどんな手法でどんな効果を生むのか、マージン最大化手法ですという以上に正確な知識を問われました。このあたりは推薦図書を読んだだけでは解けない問題だったので、多くの受験生が苦戦したのではないでしょうか。

人工知能の開発の歴史を問う問題も多かったです。
第1次AIブームから現代にいたるまで、どんな技術でどんな課題が解決されブームが加速し、どんな課題に直面してブームが終焉したのか。シンボルグラウンディング問題やフレーム問題、抽象化の難しさやエキスパートシステムの問題点などを問う設問が多かったです。AlexNet、GoogleNet、VGG、ResNetなどディープラーニングの進化をたどる設問もありました。これらは推薦図書にあるAI白書や松尾先生の本を読めば対応できます。

人工知能開発の世間動向を問う設問もありました。
ここが最も厄介で、シンギュラリティに対してイーロン・マスクがとっている姿勢として最も適切なものを選べとか、「そんなの知らんわ」という設問が多かったです。自動運転の開発状況や各レベルの意味、さらには法規制の整備状況も問われました。人工知能をビジネスに活用しようとする人向けの試験であるということを強く感じさせる設問です。AI白書をよく読めば書いているのですが、カンペなしにはきつい設問が続きます。ここでうっかりググって時間を使ってしまって最後までたどり着けなかった受験生も多かったのではないでしょうか?


まとめ

ディープラーニング検定というよりも人工知能検定でした。試験名は改めた方がいいでしょう。

網羅性が高く、「バズワードに踊らされることなく、こういうことをきちんと理解してほしい」という協会からの強い意志を感じる試験でした。

ディープラーニング関連は岡谷先生の本を1度読めば十分です。それ以外の設問は推薦図書を1通り読んだだけでは対応できないでしょう。2~3回繰り返して読んで歴史や経緯を辿った知識定着をさせないと合格困難な試験と思われます。

IoTシステム技術検定試験 by MCPC 難易度と合格までの勉強時間

IoTシステム技術検定試験とは

その名の通りIoTに関する検定試験です。
http://www.mcpc-jp.org/iotkentei/gaiyou.html

主な出題範囲は以下3点
・通信技術(通信規格、プロトコル、ネットワーク設計)
・センサ技術(各種センサの特徴と仕組み)
・データ活用(データベース設計、機会学習)


試験の難易度

ここでは『中級』について言及します。というのも私が受験したのが中級だからです(検定種類としては『基礎』『中級』『上級』があります。)

はっきり言ってこれで中級??と疑ってしまうほどの易しさです。

4択問題×80問の構成ですが、「センサが収集したデータはもれなく全てサーバに送信する必要がある」など中学国語テストでよくある「全て」「必ず」「常に」を含んだ明らかにダミーとしか思えない選択肢の数々。

データ分析も出題範囲に含まれるので期待していたら教師あり学習・教師無し学習・強化学習の違いを問う程度のレベルで、「ニューラルネットワークする」という意味不明なバスワード釣りダミー選択肢も存在

感覚としては「CoAPってプロトコルの一種で、たしか軽いんだよな~」「MQTTってサブスクライバーとパブリッシャーってのがなんかするんだよな~」くらいの理解度で合格できます。

もう少し具体的に述べると公式テキストを2回読めば大丈夫です。記憶力の良い人は1回でいいでしょうけど、知識定着のために同じ本を2回読むと効果的です。

公式教材 IoT技術テキスト -MCPC IoTシステム技術検定 対応


勉強時間

公式テキストを2回読むのなら20時間あればお釣りがきます。通勤電車で片道30分ずつ平日に読めば1カ月で準備できますね。


試験の良い点

さて、難易度が低いとDisったようになりましたが無論よい点もあります。それは試験範囲の網羅性が高くて技術の目利き力を養える点です。IoTではどんなことが課題になているのか、この技術的はどんな課題を解決したのか、どんな課題が未解決なのか、今後はどんな課題に直面するのか、特に通信技術に関しては歴史とあわせて網羅的に記載されています。

システム設計スキルは本試験だけでは基礎的すぎて不足するかもしれませんが、技術を網羅的に見て目利き力を養うには良い試験です。

 

CCライセンスまとめ

①表示(BY)

原作者のクレジット(氏名、著作物タイトルなど)を表示する。

 

②非営利(NC)

営利目的での利用をしない。

 

③改変禁止(ND)

元の作品を改変しない。

 

④継承(SA)

改変した場合、元の作品と同じライセンスで公開する

 

実際はこれらの組み合わせでCCライセンスを設定します。




IoTシステム技術検定 試験対策⑤

IoT技術テキスト -MCPC IoTシステム技術検定 対応

今回はIoTシステム技術検定の試験対策として「第6章 IoTシステムのプロトタイピング開発」を中心にまとめます


データフォーマットの検討(CSV):
データがコンパクトで処理が速い。ただし、構造化データの弱い。シンプルなセンサデータであればCSVが適任。

データフォーマットの検討(XML):
トランザクション処理向き。構造化データに強い。処理時間がかかり、レコードが大きくなりがち。

データフォーマットの検討(JSON):
エスケープ処理に対応。構造化データに強い。CSVに比べるとレコードが若干大きめで処理速度も劣る。

FabLab:
3Dプリンタなどの先進的な工作機械を備えた市民工房。

マイコンボード(Arduino):
イタリアのマッシモ・バンジらによって開発されたマイコンボード。センサやアクチュエータなどを簡単接続できるため電子工作が手軽に可能。開発言語はJava以外にも独自言語が用意されている場合も多い。

コンピュータ(RaspberryPi):
英国のRaspberryPi財団が開発したコンピュータボード。OSを持っている点が特徴。モニタディスプレイやキーボードやLAN接続で廉価版PCとしても動く。

GPIO+アナログ信号:
General Purpose Input/Output(汎用入出力)の略語。アナログ信号を入出力する場合はマイコン側でA/D変換やD/A変換がなされる。入力として動作した場合は電気回路のほかの部分からのデジタル信号を読み取る。出力として動作した場合は他デバイスの制御や信号の通知を行う。デジタル出力のセンサ値をマイコンに伝える入力や、マイコンの演算結果をLEDで表示したりする信号を出力したりする時などに利用。

シリアル通信:
送受信によるプログラム制御によって、伝送路上を一度に1ビットずつ逐次的にデータを送る。送受信に用いる信号線の数はUARTは2本、I2Cが3本、SPIが4本。

電波強度RSSIの季節性:
電波は水分によって減衰するので、秋や冬に電波が良く通っていても、春や夏には電波が届かなくなることがあるので要注意。

IFTTT:
「レシピ」と呼ばれる個人作成もしくは公に共有しているプロフィールを使って数あるWebサービス同士で連携することができるWebサービス。TwitterやFacebookなど人気サービスはほぼ網羅されている。

myThings:
ヤフーが提供するIFTTTに類似したサービス。さぁどちらが本家かな?

 

 

IoTシステム技術検定 試験対策④

IoT技術テキスト -MCPC IoTシステム技術検定 対応

今回はIoTシステム技術検定の試験対策として「第4章 IoTデバイス」を中心にまとめます


パッシブセンサとアクティブセンサ:
人体表面から出る赤外線を検知するような仕組みがパッシブセンサ。近赤外線ビームを投光して反射光を測定するような仕組みがアクティブセンサ。

オフセット:
入力がゼロにも関わらず、出力がゼロでない場合、その値をオフセットと呼ぶ。

センサ感度:
入力に対する出力の比率。感度が高いほど高解像度で値検出できる。

CDsセル:
光りが照射されると電流が流れやすくなる光導電効果を利用。

フォトダイオード:
光りが照射されると電圧・電流が発生する光起電力効果を利用。

赤外線センサ:
人体からは体温に相当する遠赤外線が出ており、これらを測定することで非接触に体温測定が可能。温度上昇を抵抗変化で検出する熱型や、センサ表面に発生する電化で検出する焦電型がある。

PSD:
2つの電極で測定される光電流の差から、光の照射された位置を検出する。

サーミスタ:
温度センサに用いられる。金属の酸化物を焼結した素材。温度上昇に伴って抵抗が減少する。感度が高い。

熱電対:
異種の金属が電気的に接続された回路では、両端に温度差があると熱起電力が生じるゼーベック効果を利用。

白金測温体:
温度上昇にあわせて抵抗も上昇(サーミスタと逆)。細く加工することで応答時間が早くなる。

半導体温度センサ:
半導体ダイオードの温度特性を用いたセンサ。小型でIC回路内に搭載可能。チップ内の温度検出に用いられる。

ひずみゲージ:
薄く張り付けた金属が延びたりすることで変化する抵抗値を検出する。微小な抵抗変化であるため、検出のためにホイートストンブリッジ回路(未知の抵抗値を測定できる回路、微小な変化も検出できる)が組み込まれる。

ロードセル:
力の大きさを電気に変換するセンサ。表面にひずみセンサが貼り付けられている。体重計や電子秤に用いられる。

圧力センサ:
金属ダイアフラムが圧力によって変形して、その変形をひずみゲージ等で検出することで圧力を測定する。気体や液体の圧力に加え、血圧の測定などにも用いられる。

加速度センサ:
重りをバネで支えた構造を持ち、取り付けたひずみゲージの抵抗変化や、電極間の静電容量の変化により動きを検出する。

ジャイロセンサ:
回転を検出するセンサ。船やロケットの制御、さらにはGPSでも用いられる。回転物体は外力が加わると一定の姿勢を維持しようとするので、その力を計測することで角速度を検出する。

衛星測位システム:
代表的なのがGPS.4つ以上のGPS用人工衛星の信号を受け取ることで高精度な測位が可能。

超音波センサ:
超音波の反射を利用して物体の位置を検出。ドップラー効果によって速度も検出可能。また、音波は空気中よりも液中の方が速く進む。医療に用いられる超音波画像などもある。

磁気センサ:
磁気の他にも、電流の非接触測定やモータ回転制御に用いられる。電流が流れている半導体に磁界を加えられると電圧が生じるというホール効果を用いたものや、磁界によって電流が流れにくくなる(抵抗が大きくなる)MR素子を利用したものなどがある。MR素子はホール素子に比べて高感度。

化学センサ(水中のイオン検出):
ガラスの内側と外側の水素イオン濃度の差により電圧が発生する効果を利用して水中のイオンを測定するセンサ。

化学センサ(水中の酸素濃度):
白金と銀などの対極を用いて酸化還元反応をさせる。このときに流れる電流が酸素濃度に比例する性質を利用。

化学センサ(期待の成分を測定):
酸化スズの表面にガスが付着すると伝導率が変化する性質を利用。ジルコニアは酸素イオンを透過させるため酸素濃度の検出に用いられる。

バイオセンサ:
特定の物質が特定の分子と反応する性質を利用して、反応を電気信号に変換して取りあ出す。検出対象には酸素、免疫、DNA、臭い、味などがある。

アクチュエータ(DCモータ):
直流電流によって回転するモーター。入力電圧によって直線的に回転スピードが増加する。

アクチュエータ(ステッピングモータ):
モータの軸が時計の秒針のように一定の角度ずつ動く。正確な位置決めの制御が可能。産業用ロボットに用いられたりする。

アクチュエータ(ソレノイド):
電磁石コイルの中に可動鉄心を収めた構造を持つ。コイルに電流を流すことで可動鉄心を直線的に動かす。電磁弁として水や油の流体を流したり止めたりするのに使われる。

信号前処理(オペアンプ):
センサからの信号はμAやmVといった微小単位のことが多い。センサの感度調節やお布施と調節のために、これをオペアンプによって増幅してやる。

I2C:
フィリップス社が提唱したシリアル通信の方式。高速通信を実現
する。2線式の同期シリアル通信インターフェース。

SPI:
モトローラ社が提案した同期シリアル通信インターフェース。3線式。

エナジーハーベスティング:
低消費電力が求められるIoTデバイスにて、振動・温度差・室内光・電波などの周辺環境から微弱なエネルギーを求めて発電し、利用すること。

画像センサ:
感度を上げたい場合は大きな素子を用いる必要があるが、必然的にサイズが大きくなり高価にもなる。

F値:
レンズの絞りを最大に開いたときの明るさを、そのレンズのF値と呼ぶ。明るいレンズほど解像力がある一方で、焦点からずれた時のピンボケが大きくなる。

MEMS:
微小な電気要素と機械要素を一つの基板上に組み込んだセンサ、アクチュエータ等のデバイス/システム。 同一平面にCMOSデバイスを組み込み可能だったりコスト効率に優れている表面マイクロマシニングと、高い感度と精度があるバルクマイクロマシニングがある。IoT用途には周辺回路を集積化できる表面マイクロマシニングが主流。

移動サービスのクラウド化

本日は移動サービスのクラウド化について述べます。

結論だけ先に言うと同じ車両がユーザ要求に応じて異なる移動サービスを提供できる状態だと筆者は考えています。

参考書籍はIPAより今夏発売されたAI白書(なんというパワーワード…!?)


①移動サービスとは:

バス、タクシー、電車といった移動を提供するサービス。

 

②移動サービスの現状:

サービスとハードウェアとが分かちがたく結びついている。例えばバス車両はバスとしてのサービスに徹しており、タクシーのようには機能させない。タクシーがバスの代わりをすることもない。

 

③「クラウド」が指す概念

現在では、CPU、GPU、データベースなどのリソースを仮想化して、ネットワーク経由でサービス提供することを指す場合が多い。

もう少し抽象度を上げると、ユーザ要求に応じて柔軟にハードウェアリソースを割り当ててサービス提供し、ユーザはどのハードウェアを使っているのかを意識することが無い。と表現できる。

 

では、これらを踏まえて移動サービスのクラウド化とは何なのか考えます




 


移動サービスのクラウド化

冒頭申し上げました通り、同じ車両がユーザ要求に応じて異なる移動サービスを提供できる状態だと筆者は考えています。

現状では、1台のバス車両は同じルートを巡回するといった1つのサービスしか提供しておらず、ユーザが「私はコッチ方面に行きたい!」と要求してもサービス内容は変わりません。

タクシーはユーザごとに行先を定めるので、そういう意味では要求に応じて異なるサービスを提供できているのかもしれません。

しかし、ハードウェアリソース量と時空間の制約から、乗降場所と乗降時刻についてユーザ要求を満足したサービス提供をできているとは言い切れません。(平たく言うと近くにタクシーがなかなか見つからなかったり、タクシー到着までに時間がかかったりする。)

 

<未達成の問題>:
クラウドの特徴である「ユーザ要求に応じてハードウェアリソースを柔軟に割り当てる」という部分が最適化しきれていないこと。

<移動サービスのクラウド化が目指す姿>:
柔軟なハードウェアリソース割り当てによって乗降場所と乗降時刻についてユーザ要求を満足させること。そのためには需要予測に基づいた全体最適な配車管理が必要となる。

1997年のアメリカ映画『メン・イン・ブラック』では、道路を走っている車にKが手を上げると、実はその車は無人で自家用車に即変身するというシーンがあった。あれは未来像としてとてもよくできている。

 

・・・まとめると凄くフツーになってしまいましたね。

ここで注意してほしいのは、近年流行っている「Uber」は自家用車をついでにタクシー代わりに有効活用しようという発想であり、事前予約を必要としている以上、全体最適を達成しているわけではないということ。

以上

 

 

アンケート調査は万能ではない ~データ欠損と選択バイアス~

突然だが、アンケート調査はまんべんなく人々の声を集められるか?

実際に日本国民全員にアンケートするのは現実的ではない。よって、このようなときは全体となる母集団から一部を抜き出した標本調査を行う。簡単に言えばランダムに数人抜き出せば全体の縮小版になるので、人々の意思をまずまず反映できるだろうということだ。

だが実際はそううまくいかない。アンケートは万能ではない。今回はそういう話。





機会均等性の無視

某国の大統領選挙を思い出してほしい。あの過激で問題発言の多い候補者Tに誰が投票するかと言われていたし、事前調査ではもう一方の候補者Hが優勢だったのに、蓋を開ければ勝者は候補者Tであった。

なぜか?

これは、候補者Hを支持する人はアンケート調査に素直に「私は候補者Hを支持します」と回答するのに対して、候補者Tを支持する人はアンケート調査に素直に「候補者Tを支持しています」と言いにくく、無回答としたり「候補者Hを支持する」と嘘をついたりしたからだ。

つまり、特定の選択肢について選びにくい事情がある場合、アンケート調査は実態と離れてしまう。選択肢にバイスがかかっていて機会が均等ではないのだ。

さらに面白いのは、機会均等性が保たれていない上記のような状況では、標本数(アンケートした人数)が多いほど誤りが多くなることもある。(※一般には標本酢が多いほど母集団の特性を正確に反映できる)


調査方法によるバイアス

応えにくい選択肢があるのならば、完全匿名のインターネットで調査するのはどうだろうか。この場合は調査方法によるバイアスに注意が必要だ。

現代ではその影響はだいぶ少ないかもしれないが、インターネットでアンケート調査をすると、対象が「インターネットの操作に慣れている人々」に限定されてしまい、これがバイアスとなりかねない。

東京で街頭調査をしても関東人の意見の酒豪であり、関西人の意見は反映されない。こうなると日本人の相違とは若干遠ざかってしまうのだ。


興味によるバイアス

選択肢をいくら用意しても、興味が無いことには回答しようがない。サッカーを見たことが無い人に「どのチームが好きですか?」と尋ねても、だいたい無回答になってしまい、さらにはランダムな回答すらされることがある。

これでは、ランダムに起因したノイズデータや、データ欠損が起こってしまう。

興味がある人だけ回答してくださいとすればうまくいくだろうか?そうではない。その場合はサッカーに興味がある人だけに調査対象が偏ってしまい、標本にバイアスがかかってしまう。


おわりに

データのノイズや欠損は、統計的手法をしばしば困難にする。

ディープラーニングやデータマイニングによる価値が注目されているが、そのためには品質高いデータが必要だということだ。

 

IoTシステム技術検定 対策① 紛らわしい略語たち

IoT技術テキスト -MCPC IoTシステム技術検定 対応


こちらはIoTシステム検定の推薦図書。私は深層学習やってる傍らIoT技術者でもあるので一応読んでおきました。試験対策を意識して知識をまとめていきます。


覚えにくい略語まとめ

M2M:
Machine to Machine(マシーン・ツー・マシーン)の省。機器間の通信や、機器間で通信するデバイスを意味する。

oneM2M:
IoTやM2Mに共通性を持たせようと取り組む団体、および、団体による国際規格。アプリケーション(AE: Application Entity)、共通プラットフォーム(CSE: Common Service Entity)、ネットワークサービス(NSE: Network Service Entity)の3つのレイヤーによるアーキテクチャを定義した。

CSE(Common Service Entity)
アプリケーション管理、セッション管理、セキュリティなどM2Mデバイスに共有の機能を提供する。

ASN(Application Service Node):
M2Mデバイス。CSEを搭載しているもの。

ADN(Application Dedicated Node):
M2Mデバイス。消費電力などの観点からCSEを組み込めないもの。

CEP(Complex Event Processing:複合イベント処理):
IoTで収集されるストリームデータに対し、ローカルで分析して条件合致したら「特定のイベントが発生した」と判断してアクションを実行する処理。サーバに格納する前にエッジ端末で即時処理するシステムを想像すればわかりやすい。



OSGi:
Java VM上で働くアプリケーションの動的追加や実行を管理するためのミドルウエア。リモートから動的にJavaモジュールを追加・更新できるのが特徴で、1つの機能アプリケーションを「バンドル」と呼ぶ単位で管理する。

IoTデバイスに対してOSGiフレームワーク上で、バンドル単位のアプリケーションのインストールとアンインストールをすることで管理する。(例:HTTPサーバー機能、デバイス管理機能)

 

NB-IoT(Narrow Band IoT):
IoTでの利用を想定した無線通信方式として既存のLTEを拡張したもの。約200kHzという狭い帯域幅で通信をして、専有帯域幅が狭いため既存ネットワークと併存しやすい。

PAN:
Personal Area Networkの略。BluetoothやZigBeeなどのこと。

 


No-SQL

私はいつも逆に覚えてしまうのだが、データが膨大、一度書き込んだデータの更新はめったにしない、データ定義の拡張性、データベースの拡張性、書き込み処理の速さ、といった観点からIoTではRDBMSではなくNo-SQLが推奨されている。