ニューラルネットワークからの数式抽出

入力と出力のデータを沢山得ることが入出力関係を数式でモデル化することよりも比較的簡単な時，ニューラルネットワーク（NN）を用いて入出力関係を近似することが選択肢の一つとされます． しかし，NNを使うとき，「近似された入出力関係が具体的にどのような数式になるのか？」という点については，「良く分からない」とされることが一般的でした． 私たちは，「活性化関数としてReLU やLeaky ReLU などの区分線形な関数を用いる場合，NNそのものが区分線形な関数になる」という特徴に着目して，その時の入力に応じてNNが近似する関係と等価な線形モデルを抽出する簡単な方法を提案しています． この方法を使うことで，ニューラルネットワークでロボットの動力学を近似しつつも，その結果に基づいて制御理論に則った制御をすることが可能になると考えられます．

Reference

• Shuhei Ikemoto, Kazuma Takahara, Taiki Kumi, and Koh Hosoda, "Neural Model Extraction for Model-Based Control of a Neural Network Forward Model", SN Computer Science, Vol. 2, Issue 1, Pages 54, 2021.
• Duan Yu, Shuhei Ikemoto, and Koh Hosoda, "Optimal Feedback Control based on Analytical Linear Models extracted from Neural Networks trained for Nonlinear Systems", IEEE/RSJ International Conference on Intelligent Robots and Systems, 2018.

NNによる動力学モデリングと抽出された数式に基づく最適制御

深層学習により画像そのものをNNへ入力することが極一般的なことになりました．これにより，動画像から，そこに映った対象の動力学モデルを近似することも可能になりつつあります． 私たちは，畳み込みオートエンコーダを用いて動画から状態ベクトルとして使える特徴ベクトルに低次元化し，NNによる動力学の近似・数式の抽出を経ることで，画像のみを入力としつつも，その制御を最適制御から求めることができることを示しました．

Reference

• Shuhei Ikemoto, Kazuma Takahara, Taiki Kumi, and Koh Hosoda, "Neural Model Extraction for Model-Based Control of a Neural Network Forward Model", SN Computer Science, Vol. 2, Issue 1, Pages 54, 2021.
• Kazuma Takahara, Shuhei Ikemoto, and Koh Hosoda, “Reconstructing State-space from Movie using Convolutional Autoencoder for Robot Control", International Conference on Intelligent Autonomous Systems, 2018.

冗長系のための順・逆運動学モデリング

入力の持つ次元よりも出力の次元が小さい場合（冗長系である場合），異なる入力で同じ出力が得られる部分空間（零空間）が生じます． この時，出力から入力への逆変換をしようとしても，零空間を満たすことはできません． 私たちは，ずん胴な形をしたオートエンコーダを使い，順・逆変換を近似する過程で「入力から零空間」，「零空間から入力」の関係も同時に得られる手法を提案しています．

Reference

• Hiroaki Masuda, Arne Hitzmann, Koh Hosoda, and Shuhei Ikemoto, "Common Dimensional Autoencoder for Learning Redundant Muscle-Posture Mappings of Complex Musculoskeletal Robots", IEEE/RSJ International Conference on Intelligent Robots and Systems, 2019.
• Hiroaki Masuda, Shuhei Ikemoto, and Koh Hosoda, “Common Dimensional Autoencoder for Identifying Agonist-Antagonist Muscle Pairs in Musculoskeletal Robots", International Conference on Intelligent Autonomous Systems, 2018.

同一次元AEによる筋骨格ロボットの順・逆動力学モデリング

我々は，腕の姿勢・手の位置を変えず，筋肉にぐっと力を入れることが出来ます．筋肉の力の入れ具合を入力とし，腕の姿勢・手の位置を出力とすれば，これは正に前項の冗長系となります． 開発した筋骨格ロボットは，この特徴を持っているため，提案した手法を使って順・逆運動学モデリングを行い，その妥当性を検証しました． 動画では，同じように手先で円軌道を描いていますが，空気圧人工筋の引張具合，手首の角度など，零空間に属する異なる入力のバリエーションが再現できています．

Reference

• Hiroaki Masuda, Arne Hitzmann, Koh Hosoda, and Shuhei Ikemoto, "Common Dimensional Autoencoder for Learning Redundant Muscle-Posture Mappings of Complex Musculoskeletal Robots", IEEE/RSJ International Conference on Intelligent Robots and Systems, 2019.