少量の計算資源でも利用可能な自然言語処理モデルを目指して 

第27回ステアラボ人工知能セミナー (2021年5月28日)
【講演スライド】
www.slideshare...
【講演者】
東京工業大学 情報理工学院 助教 高瀬 翔 先生
takase.github.io/
【講演タイトル】
少量の計算資源でも利用可能な自然言語処理モデルを目指して
【講演概要】
自然言語処理分野において、深層ニューラルネットワークによる性能向上が目覚ましい。近年では特に、大量のラベルなしデータ上で学習したモデルを用いることにより、翻訳や要約、文間の意味的類似度計算や質問応答において、高い性能が達成されたと報告されている。一方で、これらのモデルは多量のパラメータを含んでいるため、計算資源に乏しい環境では利用することが難しい状況となっている。本講演では、近年の自然言語処理における深層ニューラルモデルの発展を概観し、さらに、少量の計算資源でこれらのモデルが利用可能となるような、パラメータ数削減の試みや、計算量削減の手法について紹介する。
【開催報告】
stair.center/a...