:RenResearch
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
単語検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
[[:seminar]]
* 研究進捗(金井) [#kadaf49b]
** 12/23 [#r06524ec]
◎進捗~
・実装~
Princeton Shape Benchmark：頂点ボクセルを2クラスに分類~
Princeton Shape Benchmark：密なボクセルを2クラスに分類~
Princeton Shape Benchmark： 〃 多クラスに分類~
◎課題~
平行移動でデータを増やし、分類~
クラス数を増やし、分類~
歪みグリッドの識別実験~
3Dプリミティブを使った識別実験~
CIFAR10/MNIST実験継続~
GPUクラスタ~
** 12/16 [#r06524ec]
◎進捗~
・文献~
Ben Graham, “Sparse 3D convolutional neural networks,” arXiv preprint arXiv:1505.02890, 2015.
・実装~
PSB：2クラス分類（データ増）~
◎課題~
PSB：多クラス実験~
歪みグリッドの識別実験~
3Dプリミティブを使った識別実験~
CIFAR10/MNIST実験継続~
GPUクラスタ~
** 11/25 [#r06524ec]
◎進捗~
・文献~
Yann LeCun, Leon Bottou, Yoshua Bengio, and Patrick Haffner. “Gradient-Based Learning Applied to Document Recognition” In Proceedings of the IEEE, 86, pp. 2278-2324, 1998.
O. Russakovsky, J. Deng, H. Su, J. Krause, S. Satheesh, S. Ma, Z. Huang, A. Karpathy, A. Khosla, M. Bernstein, A. C. Berg and L. Fei-Fei, “ImageNet large scale visual recognition challenge” CoRR, abs/1409.0575, 2014.
・実装~
CIFAR10 画像分類実験続き~
三次元クラス分類：全結合~
三次元クラス分類：CNN~
~
◎課題~
CIFAR10/MNIST実験継続~
3Dプリミティブを使った識別実験~
歪みグリッドの識別実験（閉じた形状でない場合は？）~
GPUクラスタ~
** 11/18 [#r06524ec]
◎進捗~
・文献~
Luis A. Alexandre. “3D Object Recognition using Convolutional Neural Networks with Transfer Learning between Input Channels” In Proc. the 13th International Conference on Intelligent Autonomous Systems, 2014.
Olivier Delalleau, Yoshua Bengio. “Shallow vs. Deep Sum-Product Networks”
得居 誠也 ”最適化から見たディープラーニングの考え方” オペレーションズ・リサーチ 60.4 (2015): 191-197.
・実装~
MNIST 手書き文字認識の実験~
CIFAR10 画像分類実験~
歪み画像識別実験~
~
◎課題~
歪んだグリッドを用いたCNNによる三次元形状識別~
CIFAR10識別続き~
GPUクラスタ~
** 11/11 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
Y.LeCun, B.Boser, J.S.Denker, D.Henderson, R.E.Howard,W.Hubbard, L.D.Jackel “Backpropagation Applied to Handwritten Zip Code Recognition”
・実装~
浅いCNNの実装~
省メモリのための重み共有の修正~
~
◎課題~
MNIST識別実験~
CIFAR10識別実験~
歪み画像識別実験~
歪みグリッドを使った三次元CNN~
** 11/3 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
畳み込み層の重み共有実装~
プーリングの伝播実装~
~
◎課題~
フィルタ数を増やす→今のままだとパターンを蓄積できない~
畳込み→プーリング→全結合 しないと、今の状態では学習するための層がない~
** 10/28 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
画像サイズによる識別率変化の実験(MLP)~
畳み込みの実装・パターン画像識別実験~
~
◎課題~
プーリング実装~
メモリ節約のための実装変更~
3次元CNNの実装・実験~
サーフェスモデルに加え、ボリュームモデルを用いた識別実験~
** 10/21 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
MLPの再実装~
CNNの再実装（途中。。。）~
~
◎課題~
三次元CNNの実装~
サーフェスモデルに加え、ボリュームモデルを用いた識別実験~
** 10/14 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
PSBデータセットの取得・加工~
三次元CNNの実装（途中。。。）~
~
◎課題~
三次元CNNの実装
サーフェスモデルに加え、ボリュームモデルを用いた識別実験
** 10/07 [#r06524ec]
◎進捗~
・文献~
Tiled convolutional neural networks
・実装~
二値パターン画像をCNNで識別~
〃 を放射状のフィルタを用いたCNNで識別~
〃 をスパースなフィルタを用いたCNNで識別~
◎課題~
CNNの三次元への拡張~
** 9/30 [#r06524ec]
◎進捗~
・文献~
Tiled convolutional neural networks
・実装~
白黒比に大きな偏りのない二値パターン画像の識別~
今回の二値画像の点線幅を大きくした場合の画像識別~
◎課題~
疎なフィルタを用いたCNNによる回転普遍性獲得のための識別実験~
** 9/16 [#r06524ec]
◎進捗~
・文献~
平井雄三 著 “はじめてのパターン認識” 森北出版株式会社
・実装~
新しい深層学習環境の構築（OSとフレームワークの乗り換え）~
二次元空間の点群をニューラルネットで識別~
◎課題~
白黒比に大きな偏りのない二値パターン画像の識別~
今回の二値画像の点線幅を大きくした場合の画像識別~
** 9/1 [#r06524ec]
◎進捗~
・文献~
DeepFace: Closing the Gap to Human-Level Performance in Face Verification
・実装~
ノイズ付き入力の自己符号化器による学習実験~
三次元空間上の特徴点情報を入力としたニューラルネットの構築~
◎課題~
AEの中間層重み調整時、突き合わせる正解データを変更し、検証~
二次元画像上マーカ座標を入力としたNNの実装~
平行移動や回転等を同定するような最小単位のニューラルネットを考える~
GPUクラスタ~
** 8/25 [#r06524ec]
◎進捗~
・文献~
連載解説:Deep Learning (第2/3/4回)
Maxout Networks
・実装~
GPU環境への移行~
入力画像を回転・拡大縮小・平行移動させたときの 自己符号化器の学習~
入力を2次元画像に変更したNN学習~
◎課題
デデンネを識別しうるAE＋NN実装~
三次元形状上マーカ座標を入力としたNNの実装~
GPUクラスタ~
** 8/11 [#r06524ec]
◎進捗~
・文献~
Deep Learning Representation using Autoencoder for 3D Shape Retrieval （再読）
Backpropagation Applied to Handwritten Zip Code Recognition
ImageNet Classification with Deep Convolutional Neural Network
Rectified Linear Units Improve Restricted Boltzmann Machines
・実装
対象データセットの変更~
GPU設定(途中…)~
◎課題
GPU環境の構築の続き~
PSBを使ったNN学習実験の続き~
平行移動・拡大縮小ノイズを加えたAEの実行
** 8/4 [#r06524ec]
◎進捗
・文献~
Efficient Learning of Sparse Representations with an Energy-Based Model
Object Recognition from Local Scale-Invariant Feature
Gradient ベースの特徴抽出 -SIFT と HOG-
・実装
３次元形状の透視投影(修正)~
自己符号化器による2層間の重み学習(修正)~
学習器全体の識別実験~
◎課題
テストデータ・訓練データの正解ラベルの修正~
深度マップの距離計算部分修正~
パラメタチューニングによる精度向上~
RGB付き3Dデータセットでの認識~
GPU~
** 7/28 [#r06524ec]
◎進捗
・文献~
Spatio-Temporal Convolutional Sparse Auto-Encoder for Sequence Classification
Unsupervised Learning of Invariant Feature Hierarchies with Applications to Object Recognition
・実装
多層ニューラルネットの構築・学習~
多層NN用自己符号化器の構築~
３次元形状の透視投影~
◎課題
自己符号化器の修正~
透視投影修正~
NN＋自己符号化器による学習~
Note:~
OpenGLの深度バッファの精度が原因？→Configで変更できる？
** 7/21 [#r06524ec]
◎進捗
・文献~
Deep Learning Representation using Autoencoder for 3D Shape Retrieval
・実装
三次元形状データセットの取得、可視化~
二次元深度画像への透視投影(途中…)~
識別器を深度画像用に再構成(途中..)~
◎課題~
・三次元形状データを入力とするNNの実装(自己符号化器→多層NNによる認識)
** 7/14 [#r06524ec]
◎進捗
・文献~
Tiled convolutional neural networks
Building High-level Features Using Large Scale Unsupervised Learning
ニューロコンピューティングの数学的基礎
・実装
自動符号化器の試験的実装
◎課題~
・回転不変性を獲得できるNNの調査~
** 6/30 [#r06524ec]
◎進捗
・論文~
Kernel Descriptors for Visual Recognition
Depth Kernel Descriptors for Object Recognition
◎課題~
・三次元空間上の物体の回転・平行移動を非線形な関数で表現する~
・ニューラルネットの数理的な表現について学び、理論を再現するニューラルネットを構築できるようにする~
** 6/23 [#r06524ec]
◎進捗
・論文~
A Learned Feature Descriptor for Object Recognition in RGB-D Data
Depth Kernel Descriptors for Object Recognition
・CNNの実装(Python)&br;
・CNNの実装(C++)&br;
◎疑問点
・三次元を使った物体認識
１，入力が三次元モデルデータ→３次元のRGB畳み込み&br;
２，入力が深度画像→２次元のRGBD畳み込み&br;
１，は、深度カメラで他視点で撮影して合成したモデルや、モデリングソフトで作成した3dCGデータなどが対象&br;
２，は、kinectなどの深度カメラで撮影した深度画像や、 RGB特徴などから深度を推定した深度画像などが対象~
→対象となるデータによって、扱う畳込みアルゴリズムを変える必要がある
◎課題~
・ニューラルネットに投げるデータ形式を考える~
・カーネルディスクリプタについて調べよう~
終了行:
[[:seminar]]
* 研究進捗(金井) [#kadaf49b]
** 12/23 [#r06524ec]
◎進捗~
・実装~
Princeton Shape Benchmark：頂点ボクセルを2クラスに分類~
Princeton Shape Benchmark：密なボクセルを2クラスに分類~
Princeton Shape Benchmark： 〃 多クラスに分類~
◎課題~
平行移動でデータを増やし、分類~
クラス数を増やし、分類~
歪みグリッドの識別実験~
3Dプリミティブを使った識別実験~
CIFAR10/MNIST実験継続~
GPUクラスタ~
** 12/16 [#r06524ec]
◎進捗~
・文献~
Ben Graham, “Sparse 3D convolutional neural networks,” arXiv preprint arXiv:1505.02890, 2015.
・実装~
PSB：2クラス分類（データ増）~
◎課題~
PSB：多クラス実験~
歪みグリッドの識別実験~
3Dプリミティブを使った識別実験~
CIFAR10/MNIST実験継続~
GPUクラスタ~
** 11/25 [#r06524ec]
◎進捗~
・文献~
Yann LeCun, Leon Bottou, Yoshua Bengio, and Patrick Haffner. “Gradient-Based Learning Applied to Document Recognition” In Proceedings of the IEEE, 86, pp. 2278-2324, 1998.
O. Russakovsky, J. Deng, H. Su, J. Krause, S. Satheesh, S. Ma, Z. Huang, A. Karpathy, A. Khosla, M. Bernstein, A. C. Berg and L. Fei-Fei, “ImageNet large scale visual recognition challenge” CoRR, abs/1409.0575, 2014.
・実装~
CIFAR10 画像分類実験続き~
三次元クラス分類：全結合~
三次元クラス分類：CNN~
~
◎課題~
CIFAR10/MNIST実験継続~
3Dプリミティブを使った識別実験~
歪みグリッドの識別実験（閉じた形状でない場合は？）~
GPUクラスタ~
** 11/18 [#r06524ec]
◎進捗~
・文献~
Luis A. Alexandre. “3D Object Recognition using Convolutional Neural Networks with Transfer Learning between Input Channels” In Proc. the 13th International Conference on Intelligent Autonomous Systems, 2014.
Olivier Delalleau, Yoshua Bengio. “Shallow vs. Deep Sum-Product Networks”
得居 誠也 ”最適化から見たディープラーニングの考え方” オペレーションズ・リサーチ 60.4 (2015): 191-197.
・実装~
MNIST 手書き文字認識の実験~
CIFAR10 画像分類実験~
歪み画像識別実験~
~
◎課題~
歪んだグリッドを用いたCNNによる三次元形状識別~
CIFAR10識別続き~
GPUクラスタ~
** 11/11 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
Y.LeCun, B.Boser, J.S.Denker, D.Henderson, R.E.Howard,W.Hubbard, L.D.Jackel “Backpropagation Applied to Handwritten Zip Code Recognition”
・実装~
浅いCNNの実装~
省メモリのための重み共有の修正~
~
◎課題~
MNIST識別実験~
CIFAR10識別実験~
歪み画像識別実験~
歪みグリッドを使った三次元CNN~
** 11/3 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
畳み込み層の重み共有実装~
プーリングの伝播実装~
~
◎課題~
フィルタ数を増やす→今のままだとパターンを蓄積できない~
畳込み→プーリング→全結合 しないと、今の状態では学習するための層がない~
** 10/28 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
画像サイズによる識別率変化の実験(MLP)~
畳み込みの実装・パターン画像識別実験~
~
◎課題~
プーリング実装~
メモリ節約のための実装変更~
3次元CNNの実装・実験~
サーフェスモデルに加え、ボリュームモデルを用いた識別実験~
** 10/21 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
MLPの再実装~
CNNの再実装（途中。。。）~
~
◎課題~
三次元CNNの実装~
サーフェスモデルに加え、ボリュームモデルを用いた識別実験~
** 10/14 [#r06524ec]
◎進捗~
・文献~
岡谷 貴之（2015） “機械学習（機械学習プロフェッショナルシリーズ）” 講談社
・実装~
PSBデータセットの取得・加工~
三次元CNNの実装（途中。。。）~
~
◎課題~
三次元CNNの実装
サーフェスモデルに加え、ボリュームモデルを用いた識別実験
** 10/07 [#r06524ec]
◎進捗~
・文献~
Tiled convolutional neural networks
・実装~
二値パターン画像をCNNで識別~
〃 を放射状のフィルタを用いたCNNで識別~
〃 をスパースなフィルタを用いたCNNで識別~
◎課題~
CNNの三次元への拡張~
** 9/30 [#r06524ec]
◎進捗~
・文献~
Tiled convolutional neural networks
・実装~
白黒比に大きな偏りのない二値パターン画像の識別~
今回の二値画像の点線幅を大きくした場合の画像識別~
◎課題~
疎なフィルタを用いたCNNによる回転普遍性獲得のための識別実験~
** 9/16 [#r06524ec]
◎進捗~
・文献~
平井雄三 著 “はじめてのパターン認識” 森北出版株式会社
・実装~
新しい深層学習環境の構築（OSとフレームワークの乗り換え）~
二次元空間の点群をニューラルネットで識別~
◎課題~
白黒比に大きな偏りのない二値パターン画像の識別~
今回の二値画像の点線幅を大きくした場合の画像識別~
** 9/1 [#r06524ec]
◎進捗~
・文献~
DeepFace: Closing the Gap to Human-Level Performance in Face Verification
・実装~
ノイズ付き入力の自己符号化器による学習実験~
三次元空間上の特徴点情報を入力としたニューラルネットの構築~
◎課題~
AEの中間層重み調整時、突き合わせる正解データを変更し、検証~
二次元画像上マーカ座標を入力としたNNの実装~
平行移動や回転等を同定するような最小単位のニューラルネットを考える~
GPUクラスタ~
** 8/25 [#r06524ec]
◎進捗~
・文献~
連載解説:Deep Learning (第2/3/4回)
Maxout Networks
・実装~
GPU環境への移行~
入力画像を回転・拡大縮小・平行移動させたときの 自己符号化器の学習~
入力を2次元画像に変更したNN学習~
◎課題
デデンネを識別しうるAE＋NN実装~
三次元形状上マーカ座標を入力としたNNの実装~
GPUクラスタ~
** 8/11 [#r06524ec]
◎進捗~
・文献~
Deep Learning Representation using Autoencoder for 3D Shape Retrieval （再読）
Backpropagation Applied to Handwritten Zip Code Recognition
ImageNet Classification with Deep Convolutional Neural Network
Rectified Linear Units Improve Restricted Boltzmann Machines
・実装
対象データセットの変更~
GPU設定(途中…)~
◎課題
GPU環境の構築の続き~
PSBを使ったNN学習実験の続き~
平行移動・拡大縮小ノイズを加えたAEの実行
** 8/4 [#r06524ec]
◎進捗
・文献~
Efficient Learning of Sparse Representations with an Energy-Based Model
Object Recognition from Local Scale-Invariant Feature
Gradient ベースの特徴抽出 -SIFT と HOG-
・実装
３次元形状の透視投影(修正)~
自己符号化器による2層間の重み学習(修正)~
学習器全体の識別実験~
◎課題
テストデータ・訓練データの正解ラベルの修正~
深度マップの距離計算部分修正~
パラメタチューニングによる精度向上~
RGB付き3Dデータセットでの認識~
GPU~
** 7/28 [#r06524ec]
◎進捗
・文献~
Spatio-Temporal Convolutional Sparse Auto-Encoder for Sequence Classification
Unsupervised Learning of Invariant Feature Hierarchies with Applications to Object Recognition
・実装
多層ニューラルネットの構築・学習~
多層NN用自己符号化器の構築~
３次元形状の透視投影~
◎課題
自己符号化器の修正~
透視投影修正~
NN＋自己符号化器による学習~
Note:~
OpenGLの深度バッファの精度が原因？→Configで変更できる？
** 7/21 [#r06524ec]
◎進捗
・文献~
Deep Learning Representation using Autoencoder for 3D Shape Retrieval
・実装
三次元形状データセットの取得、可視化~
二次元深度画像への透視投影(途中…)~
識別器を深度画像用に再構成(途中..)~
◎課題~
・三次元形状データを入力とするNNの実装(自己符号化器→多層NNによる認識)
** 7/14 [#r06524ec]
◎進捗
・文献~
Tiled convolutional neural networks
Building High-level Features Using Large Scale Unsupervised Learning
ニューロコンピューティングの数学的基礎
・実装
自動符号化器の試験的実装
◎課題~
・回転不変性を獲得できるNNの調査~
** 6/30 [#r06524ec]
◎進捗
・論文~
Kernel Descriptors for Visual Recognition
Depth Kernel Descriptors for Object Recognition
◎課題~
・三次元空間上の物体の回転・平行移動を非線形な関数で表現する~
・ニューラルネットの数理的な表現について学び、理論を再現するニューラルネットを構築できるようにする~
** 6/23 [#r06524ec]
◎進捗
・論文~
A Learned Feature Descriptor for Object Recognition in RGB-D Data
Depth Kernel Descriptors for Object Recognition
・CNNの実装(Python)&br;
・CNNの実装(C++)&br;
◎疑問点
・三次元を使った物体認識
１，入力が三次元モデルデータ→３次元のRGB畳み込み&br;
２，入力が深度画像→２次元のRGBD畳み込み&br;
１，は、深度カメラで他視点で撮影して合成したモデルや、モデリングソフトで作成した3dCGデータなどが対象&br;
２，は、kinectなどの深度カメラで撮影した深度画像や、 RGB特徴などから深度を推定した深度画像などが対象~
→対象となるデータによって、扱う畳込みアルゴリズムを変える必要がある
◎課題~
・ニューラルネットに投げるデータ形式を考える~
・カーネルディスクリプタについて調べよう~
ページ名:
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
