LSTMを用いた日本語形態素解析

要旨

日本語の処理において形態素解析は機械翻訳,対話などの後段の処理のために必要となる基本的なタスクである.日本語の形態素解析では,主な処理として,単語分割と品詞タグ付けが行われるのが一般的である.日本語,中国語のようなスペースなどの区切り文字のない言語においては,形態素解析のエラーによる後段のタスクへの影響は無視できない.形態素解析は教師データを用いた系列ラベリングによる手法や条件付き確率場を用いた手法が主流であるが,素性を人手で作成する必要がありコストがかかり,素性がスパースになりやすい傾向がある.最近の研究では,自然言語処理のタスクに対して,ニューラルネットワークのモデルの適用が盛んに研究されている.ニューラルネットワークのモデルは,隠れ層の数やベクトルの次元といったハイパーパラメータのチューニングの問題を伴うが,以前のような素性エンジニアリングによる手間を軽減し,高次元でスパースな素性ではなく,低次元で密な素性による学習を実現している.中国語の単語分割においては,ニューラルネットワークを利用した単語分割がstate-of-the-artを記録した.この要因として,Long Short-Term Memory(LSTM)により系列全体の情報や複数の文字から作られる文字のN-gramなどのスパースな素性をうまく扱えるようになった点が考えられる.日本語の形態素解析では,リカレントニューラルネットワーク言語モデル(RNNLM)を利用した研究があるものの,ニューラルネットワークの構造を用いた形態素解析の研究はなされていない.このような背景から,本論文では深層ニューラルネットワークを利用した日本語形態素解析に関しての分析を行った.本研究では,深層ニューラルネットワークによる手法を日本語に適用するために,ひらがな,カタカナ,漢字といった日本語特有の入力情報と日本語形態素解析で広く用いられる辞書を組み込む手法を提案した.本研究では,先行研究に従い,初めに単語分割を行い,その後に分割された単語の品詞を推定するというカスケード方式で形態素解析を実現した.これらの2つのステップでは,どちらも系列ラベリングによる手法を採用した.つまり,単語分割においては,それぞれの文字に,B(Begin),I(Inside),E(End),S(Single)のいずれかのラベルを付与するタスクを解き,品詞付与においては,単語分割後のそれぞれの単語に,名詞,動詞,形容詞などの品詞を付与するタスクを解くことで形態素解析を実現した.実験において,データとしては,日本語解析で広く用いられている日本語書き言葉均衡コーパス(BCCWJ)と京大コーパスを使用した.BCCWJは日本語の様々なジャンルのテキストに,京大コーパスは毎日新聞に,単語境界と品詞情報等がそれぞれアノテーションされたコーパスである.単語分割に関しては,単語の適合率と再現率によるF値,品詞付与に関しては,単語/品詞のペアに対しての適合率と再現率によるF値で評価した.すなわち,品詞付与の評価では,単語分割があっていてかつ品詞付与が正しくなければ正解にならない.また,先行研究の手法と本手法の違い,入力情報の比較,BCCWJのジャンルによる比較,実際の出力から考察を行った.本論文の構成は以下のようになっている.第1章では本研究全体の提案,貢献,概要を述べる.第2章では深層ニューラルネットワークを利用した単語分割,品詞タグ付け(POS付与)についての関連研究について述べる.第3章では深層ニューラルネットワークを利用した日本語形態素解析を単語分割,品詞付与に分けて解く手法について述べる.第4章では単語分割と品詞付与の実験結果と考察を行う.第5章では本研究の結論と今後の展望について述べる.

主題