韓国の漢陽大学校(Hanyang University)のコンピューターサイエンス学科(School of Computer Science)のソ・ジウォン(Seo Ji-won)教授が率いる研究チームが、ディープラーニングモデルの「ドロップアウト」アルゴリズムを改善することで学習を効率化する技術を開発した。2月6日付け発表。

チームはこのアルゴリズムと関連する研究成果を機械学習・システムに関する国際会議「MLSys」で発表した。

既存のドロップアウトアルゴリズムは、ディープラーニングモデルのサブネットワークをランダムに学習することで、全体のネットワークの正確性を高めていく。このプロセスでは、各サブネットワークは1回ずつしか学習されない。同研究チームは、学習するサブネットワーク数を減らし、サブネットワーク1つあたりの学習回数を増やすことで、学習の効率性と汎化(generalization)が改善することを確認し、最適化のための「Gyro Dropout」アルゴリズムを設計した。

ソ教授らはGyro Dropoutの発表後に米シリコンバレーのスタートアップ企業「モザイクML」(MosaicML)と協業を開始し、同社の人工知能(AI)学習用オープンソースシステム「Composer」のバージョン0.12にこのアルゴリズムを組み込んでリリースした。

サイエンスポータルアジアパシフィック編集部