• 検索結果がありません。

ニューラル言語モデルの研究動向

N/A
N/A
Protected

Academic year: 2021

シェア "ニューラル言語モデルの研究動向"

Copied!
1
0
0

読み込み中.... (全文を見る)

全文

(1)Vol.2019-NL-240 No.4 2019/6/13. 情報処理学会研究報告 IPSJ SIG Technical Report. ニューラル言語モデルの研究動向 高瀬 翔1. 概要:言語モデルは与えられた系列の尤もらしさを計算するモデルであり、機械翻訳や音声認識など、応 用範囲は多岐にわたる。とりわけ、近年のニューラル言語モデルの発展は目覚ましく、ベンチマークとし て用いられることの多い Penn Treebank コーパスにおいて、劇的な性能向上が報告されている。本講演で は、これら最新のニューラル言語モデルの研究動向を概観する。特に、トップスコアを達成したと謳う研 究では、どの要因が性能向上に寄与したか判然としないものもあるため、力の及ぶ限りで整理を行いたい。 さらに、ニューラル言語モデルの発展として、ELMo や BERT のような埋込表現にもふれた上で、今後の 方向性について議論を行う。. 1. 東京工業大学. ⓒ 2019 Information Processing Society of Japan. 1.

(2)

参照

関連したドキュメント

語基の種類、標準語語幹 a語幹 o語幹 u語幹 si語幹 独立語基(基本形,推量形1) ex ・1 ▼▲ ・1 ▽△

2021] .さらに対応するプログラミング言語も作

日本語で書かれた解説がほとんどないので , 専門用 語の訳出を独自に試みた ( たとえば variety を「多様クラス」と訳したり , subdirect

 “ボランティア”と言えば、ラテン語を語源とし、自

②上記以外の言語からの翻訳 ⇒ 各言語 200 語当たり 3,500 円上限 (1 字当たり 17.5

自然言語というのは、生得 な文法 があるということです。 生まれつき に、人 に わっている 力を って乳幼児が獲得できる言語だという え です。 語の それ自 も、 から

話題提供者: 河﨑佳子 神戸大学大学院 人間発達環境学研究科 話題提供者: 酒井邦嘉# 東京大学大学院 総合文化研究科 話題提供者: 武居渡 金沢大学

この場合,波浪変形計算モデルと流れ場計算モデルの2つを用いて,図 2-38