prmu基礎研究における オープンアイデア · 諸問題のオープンアイデア...
TRANSCRIPT
![Page 1: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/1.jpg)
PRMU基礎研究におけるオープンアイデア
〜 PRMU第⼆期グランドチャレンジ 〜
安倍満・舩冨卓哉・⽊村昭悟中澤篤志・⼭崎俊彦・松下康之
内⽥誠⼀・前⽥英作2017/12/17
![Page 2: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/2.jpg)
オープンアイデアの試み• 新しい研究の問題設定・解き⽅の切り⼝をオープンに議論しよう︕
• 皆様にとって、次の研究のヒントになれば本望
• 願わくば、PRMUから次の潮流を︕
![Page 3: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/3.jpg)
基礎研究における諸問題のオープンアイデア
新しい計測デバイスの提案・いまあるデータの中で考えるのではなく
結局我々はどんなデータがほしいのか︖・イノベーションは新しい計測機器から⽣まれている
本当にきれいかつ条件に制約のない産業⽤途に耐える3D動画像⽣成
全データを取るのではなく異常データのみを収集する適応的センシング
全ての光線空間をキャプチャ
問題を解くために必要なデータを⾃動で収集
負例の収集 真値データ⼊⼒から解放される⽅法・「強い」センサによる
「弱い」センサ⽤dataset(半)⾃動構築・Simulationの併⽤
危険性/コンプライアンスの問題でデータが集めにくい問題(⾃動運転,監視カメラなど)
正解ラベルの問題・ラベルがない・ラベルにノイズが多い・正しくラベルの定義ができない
もっとパターン認識にadversarial的視点を・パターン認識はラベルを信じる性善説・セキュリティは反対策を⾒つける性悪説
わからないことを認識する・予め定義されたクラスの
どれかを出⼒しない・計算機による能動的学習
0からの⾔語・⾳声・画像理解(⾚ちゃんが⾏うような)ラベルなし学習
⼊⼒データ形式の多様化・グラフ構造への対応・未観測値を許す・実数値以外(複素数など)・多次元配列でないもの
異なるメディアの融合・Nominal, Ordinal, Interval, Ratio Scales全てを、
状況に応じて統合できるようにすること・不定⻑のデータを、うまくエンコードできること
InputからOutputへ・認識や理解のみならず、
制御、計画まで → 例︓強化学習
多⽬的最適化を⽤いたパターン認識
⾮定常な問題・ベイズリスク・対象の分布,ラベル・対象⾃体の特徴・⽬的関数⾃体,制約条件
最適から快適へ、⼤衆最適から個⼈最適へ・パーソナライズされたAI
⾃分を知り尽くしてくれるAI 例︓急ぎの時/家族と⼀緒の時で
経路を変更するナビ等
・⼈のような結果を返すAI・⼈の常識をエンコーディングしたAI ・⼈にとって安⼼できる結果を返すAI ・⼈が経験的にうまくやっていることの⾃動化
→例︓逆強化学習等
DNNの概念学習と⼈の概念のwarping
Classifier, regressorの出⼒の理由説明 AIシステムと性能保証のあり⽅→ 例︓AIと⾮AIの組合せ等・「学習」のみから、「記憶+学習」
→ 明⽰的なメモリの実装・Deterministicな安⼼感実現
(教えた事を記憶、破壊的忘却しない)
帰納と演繹(機械学習とシミュレーション)
統計的機械学習に記号論理の導⼊
![Page 4: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/4.jpg)
「定⽯」と「現実」のギャップ〜パターン認識で解きにくい問題への切り⼝〜
現実の問題
定⽯で解ける問題
![Page 5: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/5.jpg)
「定⽯」と「現実」のギャップ〜パターン認識で解きにくい問題への切り⼝〜
現実の問題
定⽯で解ける問題
![Page 6: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/6.jpg)
「定⽯」と「現実」のギャップ〜パターン認識で解きにくい問題への切り⼝〜
現実の問題
定⽯で解ける問題
![Page 7: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/7.jpg)
帰納的アプローチと演繹的アプローチの併⽤PR基礎研究におけるオープンアイデア
![Page 8: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/8.jpg)
教師あり学習を抽象化すると
例)画像 オブジェクト名
⾳声 テキスト
![Page 9: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/9.jpg)
例)巡回セールスマン問題
組み合わせ最適化問題を考える
計算量の爆発
![Page 10: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/10.jpg)
パターン認識・機械学習で困難さをバイパスできるだろうか︖
組み合わせ最適化問題を考える
![Page 11: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/11.jpg)
組み合わせ最適化e.g., SA, GA
演繹的アプローチ(Deduction)公理・ルールから合理的推論によって結論を導く
• 組み合わせ最適化問題• 物理モデルによる予測(天気予報・渋滞予測・流体)• 多視点幾何• etc.
![Page 12: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/12.jpg)
• 組み合わせ最適化問題• 物理モデルによる予測(天気予報・渋滞予測・流体)• 多視点幾何• etc.
パターン認識e.g., DNN
帰納的アプローチ (Induction)経験的データを収集して結論を導く
帰納的アプローチでもこれらの問題は解きうるか︖
![Page 13: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/13.jpg)
Visual Learning of Arithmetic Operations, AAAI2016
最も単純な例︓四則演算を『学習』する
![Page 14: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/14.jpg)
Visual Learning of Arithmetic Operations, AAAI2016
最も単純な例︓四則演算を『学習』する
![Page 15: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/15.jpg)
Visual Learning of Arithmetic Operations, AAAI2016
最も単純な例︓四則演算を『学習』する
![Page 16: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/16.jpg)
1978年製CPU 8086トランジスタ数29,000(積・和の計算が可能)
Neural Network約82万パラメータ
![Page 17: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/17.jpg)
![Page 18: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/18.jpg)
![Page 19: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/19.jpg)
![Page 20: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/20.jpg)
パターン認識e.g., DNN
演繹的アプローチ(Deduction)
帰納的アプローチ (Induction)RNNによる学習
離散最適化アルゴリズム ,
巡回セールスマン問題
都市の座標 経路
![Page 21: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/21.jpg)
パターン認識e.g., DNN
演繹的アプローチ(Deduction)
帰納的アプローチ (Induction)
さらなる先の姿として
都市の座標 経路
RNNによる学習
離散最適化アルゴリズム ,
![Page 22: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/22.jpg)
![Page 23: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/23.jpg)
![Page 24: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/24.jpg)
画像だけで理解することの難しさ
24
• A man hugging someone close under a cloudy sky.• Barack Obama is in this picture.• The other is probably his wife, Michelle.
![Page 25: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/25.jpg)
画像だけで理解することの難しさ
25
• 情報統合と推論の⽋如 –画像に記述されていない内容をつなぎ合わせた推論がないとその真の意味を理解できない• 選挙候補者が映っている• 選挙期間中に投稿された• 任期が4年である• 故にこの画像は選挙運動の⼀環
• 情報受容の任意性 –⾃⾝の好みや思想次第で画像の持つ意味が正反対に• ⺠主党⽀持層 – 何と感動的な• 共和党⽀持層 – けっ
![Page 26: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/26.jpg)
AならばBBならばC, ゆえに〜
パターン認識e.g., DNN
演繹的アプローチ(Deduction)
帰納的アプローチ (Induction)CNN, RNN
記号論理
記号的な論理推論との融合
画像 ⽂章
![Page 27: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/27.jpg)
データを収集することの難しさ
27
• データ量の問題
• データの偏りの問題(正例>>負例)• 外観検査• 医⽤画像処理
•収集の危険性/コンプライアンスの問題• ⾃動運転における安全な学習とは︖
![Page 28: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/28.jpg)
renderer
パターン認識e.g., DNN
演繹的アプローチ(Deduction)
帰納的アプローチ (Induction)CNN, RNN
コンピュータグラフィクス
画像⽣成との融合
画像 3D形状
![Page 29: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/29.jpg)
パターン認識e.g., DNN
演繹的アプローチ(Deduction)
帰納的アプローチ (Induction)Convolutional Neural Network
多視点幾何学
Visual SLAMの事例
動画 mapcamera motion
![Page 30: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/30.jpg)
Unsupervised Learning of Depth and Ego-Motion From Video, CVPR2017
![Page 31: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/31.jpg)
パターン認識e.g., DNN
演繹的アプローチ(Deduction)
帰納的アプローチ (Induction)過去の観測データによる予測
全球モデルによる予測
天気予報
観測 予測
![Page 32: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/32.jpg)
基礎研究における諸問題のオープンアイデア
新しい計測デバイスの提案・いまあるデータの中で考えるのではなく
結局我々はどんなデータがほしいのか︖・イノベーションは新しい計測機器から⽣まれている
本当にきれいかつ条件に制約のない産業⽤途に耐える3D動画像⽣成
全データを取るのではなく異常データのみを収集する適応的センシング
全ての光線空間をキャプチャ
問題を解くために必要なデータを⾃動で収集
負例の収集 真値データ⼊⼒から解放される⽅法・「強い」センサによる
「弱い」センサ⽤dataset(半)⾃動構築・Simulationの併⽤
危険性/コンプライアンスの問題でデータが集めにくい問題(⾃動運転,監視カメラなど)
正解ラベルの問題・ラベルがない・ラベルにノイズが多い・正しくラベルの定義ができない
もっとパターン認識にadversarial的視点を・パターン認識はラベルを信じる性善説・セキュリティは反対策を⾒つける性悪説
わからないことを認識する・予め定義されたクラスの
どれかを出⼒しない・計算機による能動的学習
0からの⾔語・⾳声・画像理解(⾚ちゃんが⾏うような)ラベルなし学習
⼊⼒データ形式の多様化・グラフ構造への対応・未観測値を許す・実数値以外(複素数など)・多次元配列でないもの
異なるメディアの融合・Nominal, Ordinal, Interval, Ratio Scales全てを、
状況に応じて統合できるようにすること・不定⻑のデータを、うまくエンコードできること
InputからOutputへ・認識や理解のみならず、
制御、計画まで → 例︓強化学習
多⽬的最適化を⽤いたパターン認識
⾮定常な問題・ベイズリスク・対象の分布,ラベル・対象⾃体の特徴・⽬的関数⾃体,制約条件
最適から快適へ、⼤衆最適から個⼈最適へ・パーソナライズされたAI
⾃分を知り尽くしてくれるAI 例︓急ぎの時/家族と⼀緒の時で
経路を変更するナビ等
・⼈のような結果を返すAI・⼈の常識をエンコーディングしたAI ・⼈にとって安⼼できる結果を返すAI ・⼈が経験的にうまくやっていることの⾃動化
→例︓逆強化学習等
DNNの概念学習と⼈の概念のwarping
Classifier, regressorの出⼒の理由説明 AIシステムと性能保証のあり⽅→ 例︓AIと⾮AIの組合せ等・「学習」のみから、「記憶+学習」
→ 明⽰的なメモリの実装・Deterministicな安⼼感実現
(教えた事を記憶、破壊的忘却しない)
帰納と演繹(機械学習とシミュレーション)
統計的機械学習に記号論理の導⼊
本⽇はここにフォーカス
![Page 33: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/33.jpg)
基礎研究における諸問題のオープンアイデア
新しい計測デバイスの提案・いまあるデータの中で考えるのではなく
結局我々はどんなデータがほしいのか︖・イノベーションは新しい計測機器から⽣まれている
本当にきれいかつ条件に制約のない産業⽤途に耐える3D動画像⽣成
全データを取るのではなく異常データのみを収集する適応的センシング
全ての光線空間をキャプチャ
問題を解くために必要なデータを⾃動で収集
負例の収集 真値データ⼊⼒から解放される⽅法・「強い」センサによる
「弱い」センサ⽤dataset(半)⾃動構築・Simulationの併⽤
危険性/コンプライアンスの問題でデータが集めにくい問題(⾃動運転,監視カメラなど)
正解ラベルの問題・ラベルがない・ラベルにノイズが多い・正しくラベルの定義ができない
もっとパターン認識にadversarial的視点を・パターン認識はラベルを信じる性善説・セキュリティは反対策を⾒つける性悪説
わからないことを認識する・予め定義されたクラスの
どれかを出⼒しない・計算機による能動的学習
0からの⾔語・⾳声・画像理解(⾚ちゃんが⾏うような)ラベルなし学習
⼊⼒データ形式の多様化・グラフ構造への対応・未観測値を許す・実数値以外(複素数など)・多次元配列でないもの
異なるメディアの融合・Nominal, Ordinal, Interval, Ratio Scales全てを、
状況に応じて統合できるようにすること・不定⻑のデータを、うまくエンコードできること
InputからOutputへ・認識や理解のみならず、
制御、計画まで → 例︓強化学習
多⽬的最適化を⽤いたパターン認識
⾮定常な問題・ベイズリスク・対象の分布,ラベル・対象⾃体の特徴・⽬的関数⾃体,制約条件
最適から快適へ、⼤衆最適から個⼈最適へ・パーソナライズされたAI
⾃分を知り尽くしてくれるAI 例︓急ぎの時/家族と⼀緒の時で
経路を変更するナビ等
・⼈のような結果を返すAI・⼈の常識をエンコーディングしたAI ・⼈にとって安⼼できる結果を返すAI ・⼈が経験的にうまくやっていることの⾃動化
→例︓逆強化学習等
DNNの概念学習と⼈の概念のwarping
Classifier, regressorの出⼒の理由説明 AIシステムと性能保証のあり⽅→ 例︓AIと⾮AIの組合せ等・「学習」のみから、「記憶+学習」
→ 明⽰的なメモリの実装・Deterministicな安⼼感実現
(教えた事を記憶、破壊的忘却しない)
帰納と演繹(機械学習とシミュレーション)
統計的機械学習に記号論理の導⼊
MIRU2017特別企画第2期グランドチャレンジ
中間報告にて紹介(http://www.ieice.org/iss/prmu/jpn/pdf/MIRU2017‐GC.pdf)
MIRU2017特別企画第2期グランドチャレンジ
中間報告にて紹介(http://www.ieice.org/iss/prmu/jpn/pdf/MIRU2017‐GC.pdf)
MIRU2017特別企画第2期グランドチャレンジ
中間報告にて紹介(http://www.ieice.org/iss/prmu/jpn/pdf/MIRU2017‐GC.pdf)
MIRU2017特別企画第2期グランドチャレンジ
中間報告にて紹介(http://www.ieice.org/iss/prmu/jpn/pdf/MIRU2017‐GC.pdf)
![Page 34: PRMU基礎研究における オープンアイデア · 諸問題のオープンアイデア 新しい計測デバイスの提案 ・いまあるデータの中で考えるのではなく](https://reader033.vdocuments.net/reader033/viewer/2022051822/5febf665b601ba0f51147284/html5/thumbnails/34.jpg)
まとめ• 新しい研究の問題設定・解き⽅の切り⼝をオープンに議論しよう︕
• 皆様にとって、次の研究のヒントになれば本望
• 願わくば、PRMUから次の潮流を︕