| Item type |
Trans(1) |
| 公開日 |
2018-07-11 |
| タイトル |
|
|
タイトル |
モデル圧縮におけるクラス不均衡に着目した疑似データ生成手法の提案 |
| タイトル |
|
|
言語 |
en |
|
タイトル |
Proposal of Synthetic Data Generation Method Focusing on Class Imbalance in Model Compression |
| 言語 |
|
|
言語 |
jpn |
| キーワード |
|
|
主題Scheme |
Other |
|
主題 |
[研究論文] モデル圧縮，データ生成，疑似データ，機械学習，アンサンブル，ニューラルネット，分類，不均衡学習 |
| 資源タイプ |
|
|
資源タイプ識別子 |
http://purl.org/coar/resource_type/c_6501 |
|
資源タイプ |
journal article |
| 著者所属 |
|
|
|
筑波大学情報学群知識情報・図書館学類 |
| 著者所属 |
|
|
|
筑波大学図書館情報メディア系 |
| 著者所属(英) |
|
|
|
en |
|
|
College of Knowledge and Library Sciences, School of Informatics, University of Tsukuba |
| 著者所属(英) |
|
|
|
en |
|
|
Faculty of Library, Information and Media Science, University of Tsukuba |
| 著者名 |
河野, 晋策
若林, 啓
|
| 著者名(英) |
Shinsaku, Kono
Kei, Wakabayashi
|
| 論文抄録 |
|
|
内容記述タイプ |
Other |
|
内容記述 |
機械学習による分類において，精度の高い手法として複数の分類モデルの結合であるアンサンブルがよく用いられるが，アンサンブルは多大な計算資源を必要とするため，携帯端末など計算資源の限られた環境で用いるのが難しい．この問題に対して，アンサンブルを小さなニューラルネットワークで近似するモデル圧縮の手法が提案されている．モデル圧縮では，オリジナルデータを基に大量の疑似データを生成して近似モデルの学習に用いるが，この疑似データ生成において真のデータ分布をよく近似した疑似データ分布を得ることが，近似モデルの性能を元のアンサンブルに近づけるために重要である．本研究では，分類クラスごとの分布の偏りを考慮することで，既存手法よりも近似モデルの学習に有効な疑似データを高速に生成するAdaptive MUNGEを提案する．実験により，提案手法は既存手法と比較して高速に疑似データを生成することができ，かつ，より精度を保つモデル圧縮が実現できることを示す． |
| 論文抄録(英) |
|
|
内容記述タイプ |
Other |
|
内容記述 |
In classification by machine learning, an ensemble method that is a combination of multiple classification models is often highly accurate. However, since an ensemble method require a large amount of computational resources, it is difficult to use it in an environment with limited computing resources such as mobile phones. To solve this problem, model compression that approximates an ensemble with a small neural network has been proposed. In model compression, a large amount of synthetic data is generated based on the original data and used for learning of the approximate model. It is important to obtain a synthetic data distribution that closely approximates the true data distribution in this synthetic data generation in order to bring the performance of the approximate model closer to the original ensemble. In this study, we propose Adaptive MUNGE which generates synthetic data which is effective for learning of approximate model faster than existing method by considering the distribution bias of each classification class. Experimental results show that the proposed method can generate synthetic data at high speed compared with the existing method and can realize model compression that maintains more accuracy. |
| 書誌レコードID |
|
|
収録物識別子タイプ |
NCID |
|
収録物識別子 |
AA11464847 |
| 書誌情報 |
情報処理学会論文誌データベース（TOD）
巻 11,
号 2,
p. 7-15,
発行日 2018-07-11
|
| ISSN |
|
|
収録物識別子タイプ |
ISSN |
|
収録物識別子 |
1882-7799 |
| 出版者 |
|
|
言語 |
ja |
|
出版者 |
情報処理学会 |
IPSJ-TOD1102003.pdf (2.0 MB)
