NAACL2018参加報告
|
|
|
- れいが おおばま
- 5 years ago
- Views:
Transcription
1 NAACL2018 参加報告 東京工業大学上垣外英剛 1
2 NAACL2018 自己紹介 上垣外英剛 ( かみがいとひでたか ) 東工大高村研で博士取得 (2017/3) 昨年まで NTT コミュニケーション科学基礎研究所でポスドク (2017/4~2018/3) 現在東工大奥村研助教 (2018/4~) 今まで行ってきた研究機械翻訳 自動要約 句構造解析 2
3 NAACL2018 自己紹介 上垣外英剛 ( かみがいとひでたか ) 東工大高村研で博士取得 (2017/3) 昨年まで NTT コミュニケーション科学基礎研究所でポスドク (2017/4~2018/3) 現在東工大奥村研助教 (2018/4~) NAACL2018 では下記論文を発表 Hidetaka Kamigaito, Katsuhiko Hayashi, Hirao Tsutomu and Masaaki Nagata. Higher-order Syntactic Attention Network for Long Sentence Compression (long paper) 3
4 NAACL2018 Annual Conference of the North American Chapter of the Association for Computational Linguistics 略称 NAACL 北米で開催される自然言語処理分野のトップ国際会議の一つ 他には ACL や EMNLP 等が存在 4
5 NAACL2018 NAACL2018 (6/1~6/6) 16 回目となる NAACL 5
6 NAACL2018 NAACL 回目となるNAACL 開催地はニューオーリンズ 6
7 NAACL2018 NAACL 回目となるNAACL 開催地はニューオーリンズ 歓楽街 7
8 NAACL2018 NAACL 回目となるNAACL 開催地はニューオーリンズ 歓楽街 音楽 お酒 8
9 NAACL2018 NAACL 回目となるNAACL 開催地はニューオーリンズ海産物 9
10 NAACL2018 NAACL 回目となるNAACL 開催地はニューオーリンズ会場はHyatt Regency New Orleans 10
11 NAACL2018 NAACL 回目となる NAACL 開催地はニューオーリンズ 会場は Hyatt Regency New Orleans 会場の朝食 11
12 NAACL2018 投稿数 採択率 Long Paper 投稿数 :647 採択数 :207 採択率 :32% Short Paper 投稿数 :425 採択数 :125 採択率 :29% 合計投稿数 :1072 採択数 :332 採択率 :31% 12
13 NAACL2018 投稿数 採択率 Long Paper 投稿数 :647 採択数 :207 採択率 :32% Short Paper 投稿数 :425 採択数 :125 採択率 :29% 合計投稿数 :1072 採択数 :332 採択率 :31% 参考 NAACL2016 Long Paper 投稿数 :396 採択数 :100 採択率 :25% Short Paper 投稿数 :284 採択数 :82 採択率 :29% 合計投稿数 :680 採択数 :182 採択率 :27% 13
14 NAACL2018 投稿数 採択率 Long Paper 投稿数 :647 採択数 :207 採択率 :32% Short Paper 投稿数 :425 採択数 :125 採択率 :29% 合計投稿数 :1072 採択数 :332 採択率 :31% 投稿数は約 1.5 倍に! 参考 NAACL2016 Long Paper 投稿数 :396 採択数 :100 採択率 :25% Short Paper 投稿数 :284 採択数 :82 採択率 :29% 合計投稿数 :680 採択数 :182 採択率 :27% 14
15 NAACL2018 投稿数 採択率 Long Paper 投稿数 :647 採択数 :207 採択率 :32% Short Paper 投稿数 :425 採択数 :125 採択率 :29% 合計投稿数 :1072 採択数 :332 採択率 :31% 参考 NAACL2016 採択率は上昇 Long Paper 投稿数 :396 採択数 :100 採択率 :25% Short Paper 投稿数 :284 採択数 :82 採択率 :29% 合計投稿数 :680 採択数 :182 採択率 :27% 15
16 NAACL2018: Outstanding Paper タスク 手法ともに多様実用性が高い ELMo が Best Paper に選ばれる Deep Contextualized Word Representations. Matthew Peters, Mark Neumann, Mohit Iyyer, Matt Gardner, Christopher Clark, Kenton Lee and Luke Zettlemoyer Best Paper Learning to Map Context-Dependent Sentences to Executable Formal Queries. Alane Suhr, Srinivasan Iyer and Yoav Artz Neural Text Generation in Stories using Entity Representations as Context. Elizabeth Clark, Yangfeng Ji and Noah A. Smith Recurrent Neural Networks as Weighted Language Recognizers. Yining Chen, Sorcha Gilroy, Andreas Maletti, Jonathan May and Kevin Knight
17 NAACL2018 NAACL2018 以降で感じた最近の自然言語処理 ( 手法 ) 分散表現 定着 ニューラル 定着 RNN 定着 Seq2Seq 定着 End-to-End 定着 強化学習 成長中 伝統的な手法 復活中? 特性を調べる等の研究が増加 複雑なモデルが増加 省リソース設定 データの作成などの研究が増加 複数のタスクで使用 探索 枝刈り クラスタリング等 17
18 NAACL2018 NAACL2018 以降で感じた最近の自然言語処理 ( 手法 ) 分散表現 定着 ニューラル 定着 RNN 定着 Seq2Seq 定着 End-to-End 定着 強化学習 成長中 伝統的な手法 復活中? 特性を調べる等の研究が増加 複雑なモデルが増加 省リソース設定 データの作成などの研究が増加 複数のタスクで使用 探索 枝刈り クラスタリング等 18
19 NAACL2018 NAACL2018 以降で感じた最近の自然言語処理 ( 手法 ) 分散表現 定着 ニューラル 定着 RNN 定着 Seq2Seq 定着 End-to-End 定着 強化学習 成長中 今回の紹介対象 伝統的な手法復活中? 特性を調べる等の研究が増加 複雑なモデルが増加 省リソース設定 データの作成などの研究が増加 複数のタスクで使用 探索 枝刈り クラスタリング等 19
20 NAACL2018 今回紹介する論文 Deep contextualized word representations Best paper 大規模コーパスによる精度向上を複数タスクで実現 Recurrent Neural Networks as Weighted Language Recognizers Outstanding paper RNN の理論限界を明らかに Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 小規模コーパスで学習するための手法を検証 20
21 Deep contextualized word representations Matthew E. Peters, Mark Neumann, Mohit Iyyer, Matt Gardner, Christopher Clark, Kenton Lee, Luke Zettlemoyer 21
22 Deep contextualized word representations 概要 単語ベクトルで文脈情報を考慮可能な事前学習手法 ELMo を提案 ELMo: Embeddings from Language Models 両方向の LSTM 言語モデルを使用 自然言語処理の複数タスクで大幅な性能の改善を報告 22
23 Deep contextualized word representations 複数タスクで最高精度を達成 ELMo 未使用 より引用 23
24 Deep contextualized word representations 複数タスクで最高精度を達成 ELMo 未使用 ELMo 使用 24
25 Deep contextualized word representations 複数タスクで最高精度を達成 大幅な精度向上を達成 25
26 Deep contextualized word representations ELMo の構成 基本的には両方向の LSTM 言語モデル 目的関数 is fine today Softmax Softmax Softmax 順方向言語モデル LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 逆方向言語モデル 26
27 Deep contextualized word representations ELMo の構成 基本的には両方向の LSTM 言語モデル 目的関数 未知語に対処するため単語ベクトルは文字 CNN で学習 is fine today Softmax Softmax Softmax 順方向言語モデル LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 逆方向言語モデル 27
28 Deep contextualized word representations ELMo の構成 基本的には両方向の LSTM 言語モデル 目的関数 両方向モデルでパラメータをシェア is fine today Softmax Softmax Softmax 順方向言語モデル LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 逆方向言語モデル 28
29 Deep contextualized word representations ELMo の構成 基本的には両方向の LSTM 言語モデル 目的関数 is fine today Softmax Softmax Softmax 両方向モデルでパラメータをシェア LSTM はそれぞれ別 順方向言語モデル LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 逆方向言語モデル 29
30 Deep contextualized word representations ELMo の学習 言語モデルなのでラベル付きデータは不要 目的関数 is fine today Softmax Softmax Softmax 順方向言語モデル LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 逆方向言語モデル 30
31 Deep contextualized word representations ELMo の学習 言語モデルなのでラベル付きデータは不要 目的関数 大規模データを利用可能 is fine today Softmax Softmax Softmax 順方向言語モデル LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 逆方向言語モデル 31
32 Deep contextualized word representations ELMo の利用 単語ベクトルと対応する LSTM の隠れ層を重み付け加算して利用 is fine today Softmax Softmax Softmax LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 32
33 Deep contextualized word representations ELMo の利用 単語ベクトルと対応する LSTM の隠れ層を重み付け加算して利用 is fine today Softmax Softmax Softmax LSTM LSTM LSTM LSTM LSTM LSTM 単語ベクトルも含む Emb Emb Emb Emb Emb Emb It fine is today fine. 33
34 Deep contextualized word representations ELMo の利用 単語ベクトルと対応する LSTM の隠れ層を重み付け加算して利用 ハイパーパラメータタスクに応じて調整 is fine today Softmax Softmax Softmax LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 34
35 Deep contextualized word representations ELMo の利用 単語ベクトルと対応する LSTM の隠れ層を重み付け加算して利用 is fine today Softmax Softmax Softmax LSTM LSTM LSTM LSTM LSTM LSTM Softmax 層で重み付け自動調整 Emb Emb Emb Emb Emb Emb It fine is today fine. 35
36 Deep contextualized word representations ELMo の利用 ELMo の単語表現ベクトルは RNN に基づくモデルの入力や隠れ層に結合して利用 is fine today Softmax Softmax Softmax LSTM LSTM LSTM LSTM LSTM LSTM Emb Emb Emb Emb Emb Emb It fine is today fine. 36
37 Deep contextualized word representations 再掲 : 複数タスクで最高精度 37
38 Deep contextualized word representations モデルとコードは公開中 入手は容易 今年度からの標準的な事前学習法になる? 38
39 Recurrent Neural Networks as Weighted Language Recognizers Recurrent Neural Networks as Weighted Language Recognizers Yining Chen, Sorcha Gilroy, Andreas Maletti, Jonathan May, Kevin Knight 39
40 Recurrent Neural Networks as Weighted Language Recognizers RNN の特性を証明 1-layer で ReLU と Softmax 層から構成される RNN: is fine today Softmax Softmax Softmax RNN RNN RNN Emb Emb Emb It を対象に RNN の特性を証明 is fine 40
41 Recurrent Neural Networks as Weighted Language Recognizers RNN の特性を証明 1-layer で ReLU と Softmax 層から構成される RNN: is fine today Softmax Softmax Softmax RNN RNN RNN Emb Emb Emb It を対象に RNN の特性を証明 is fine 本発表では証明された事実のみを紹介 41
42 Recurrent Neural Networks as Weighted Language Recognizers 証明された特性 1-layer の RNN を確率オートマトンと考え理論限界を調査以下を明らかに (LSTM でも成立すると考えられる ) 1. 導出規則の総和が 1 にならない 一貫性を持たない RNN が存在 2. この RNN の一貫性は保証できない 3. 任意の RNN において 最も高い重みを持つ文字列を探し出すことは非決定的 42
43 Recurrent Neural Networks as Weighted Language Recognizers 証明された特性 1-layer の RNN を確率オートマトンと考え理論限界を調査以下を明らかに (LSTM でも成立すると考えられる ) 1. 導出規則の総和が 1 にならない 一貫性を持たない RNN が存在 2. この RNN の一貫性は保証できない 3. 任意の RNN において 最も高い重みを持つ文字列を探し出すことは非決定的 任意の RNN を用いて文字列を生成する場合には近似解法やヒューリスティックな手法が必要 43
44 Recurrent Neural Networks as Weighted Language Recognizers 証明された特性 1-layer の RNN を確率オートマトンと考え理論限界を調査以下を明らかに (LSTM でも成立すると考えられる ) 1. 導出規則の総和が 1 にならない 一貫性を持たない RNN が存在 2. この RNN の一貫性は保証できない 3. 任意の RNN において 最も高い重みを持つ文字列を探し出すことは非決定的 任意の RNN を用いて文字列を生成する場合には近似解法やヒューリスティックな手法が必要 一貫性が保証された場合は? 44
45 Recurrent Neural Networks as Weighted Language Recognizers 証明された特性 1-layer の RNN を確率オートマトンと考え理論限界を調査以下を明らかに (LSTM でも成立すると考えられる ) 1. 導出規則の総和が 1 にならない 一貫性を持たない RNN が存在 2. この RNN の一貫性は保証できない 3. 任意の RNN において 最も高い重みを持つ文字列を探し出すことは非決定的 4. 一貫性が保証された RNN で最も高い重みを持つ文字列を探し出すことは決定的 一貫性が保証されていれば RNN で最も高い重みを持つ文字列を探し出すことは可能 45
46 Recurrent Neural Networks as Weighted Language Recognizers 証明された特性 1-layer の RNN を確率オートマトンと考え理論限界を調査以下を明らかに (LSTM でも成立すると考えられる ) 1. 導出規則の総和が 1 にならない 一貫性を持たない RNN が存在 2. この RNN の一貫性は保証できない 3. 任意の RNN において 最も高い重みを持つ文字列を探し出すことは非決定的 4. 一貫性が保証された RNN で最も高い重みを持つ文字列を探し出すことは決定的 において探索する長さの計算量の上界はその他の上界を上回る 6. 解空間が多項式長に制限された場合に最も高い重みを持つ文字列を探し出すことは NP 完全 一貫性が保証されていれば RNN で最も高い重みを持つ文字列を探し出すことは可能だが計算量的に困難 46
47 Recurrent Neural Networks as Weighted Language Recognizers 証明された特性 1-layer の RNN を確率オートマトンと考え理論限界を調査以下を明らかに (LSTM でも成立すると考えられる ) 1. 導出規則の総和が 1 にならない 一貫性を持たない RNN が存在 2. この RNN の一貫性は保証できない 3. 任意の RNN において 最も高い重みを持つ文字列を探し出すことは非決定的 4. 一貫性が保証された RNN で最も高い重みを持つ文字列を探し出すことは決定的 において探索する長さの計算量の上界はその他の上界を上回る 6. 解空間が多項式長に制限された場合に最も高い重みを持つ文字列を探し出すことは NP 完全 さらに RNN の等価性についても証明 47
48 Recurrent Neural Networks as Weighted Language Recognizers 証明された特性 1-layer の RNN を確率オートマトンと考え理論限界を調査以下を明らかに (LSTM でも成立すると考えられる ) 1. 導出規則の総和が 1 にならない 一貫性を持たない RNN が存在 2. この RNN の一貫性は保証できない 3. 任意の RNN において 最も高い重みを持つ文字列を探し出すことは非決定的 4. 一貫性が保証された RNN で最も高い重みを持つ文字列を探し出すことは決定的 において探索する長さの計算量の上界はその他の上界を上回る 6. 解空間が多項式長に制限された場合に最も高い重みを持つ文字列を探し出すことは NP 完全 7. RNN の等価性 ( 同じ文字列に同じ重みを与えること ) は非決定的 8. 等価な RNN を最小のニューロンで構成することは非決定的 対象のRNNの挙動を保存しつつよりコンパクトなモデルにするには近似解法やヒューリスティックな手法が必要 48
49 Recurrent Neural Networks as Weighted Language Recognizers まとめ 以下の事実が理論的に示された RNN を用いて文字列を生成する場合に近似解法やヒューリスティックな手法が必要とされる 対象の RNN の挙動を保存しつつよりコンパクトなモデルにするには近似解法やヒューリスティックな手法が必要 49
50 Recurrent Neural Networks as Weighted Language Recognizers まとめ 以下の事実が理論的に示された RNN を用いて文字列を生成する場合に近似解法やヒューリスティックな手法が必要とされる 対象の RNN の挙動を保存しつつよりコンパクトなモデルにするには近似解法やヒューリスティックな手法が必要 今後もデコーダー周りの探索法の研究は続く? 50
51 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages Katharina Kann, Manuel Mager, Ivan Meza-Ruiz, Hinrich Schütze 51
52 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 抱合語 長い複合動詞を多く含む言語 持ち上げる 持ち 上げる 日本語の複合動詞の例 52
53 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 抱合語 長い複合動詞を多く含む言語 持ち上げる 持ち 上げる 日本語の複合動詞の例 onemococowaya o ne mo cocowa ya 抱合語の複合動詞の例 53
54 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 対象とする抱合語 本論文では 4 つの言語を扱う下記の例はそれぞれの言語での I was sick の表現 Mexicanero u ni ye MALO スペイン語の語彙が含まれる Wixarica ne p+ ti kuye kai 長音 短音の母音を含む 語順は SOV Nahuatl o ne mo cocowa ya Yorem Nokki ko kore ye ne 語順は SOV 複雑な動詞が多い 54
55 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 抱合語の形態素解析 抱合語の形態素解析データセットは少数しか存在しない データ分割と含まれる文数の内訳 55
56 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 抱合語の形態素解析 抱合語の形態素解析データセットは少数しか存在しない データ分割と含まれる文数の内訳 少資源コーパスでも学習可能な手法を提案 56
57 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 使用するモデル を用いたEncoder-Decoder I I O 出力ラベル列 Softmax Softmax Softmax Decoder w/ Attention Encoder Emb Emb Emb O n e 入力文字列 57
58 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 手法 1: マルチタスクラーニング 教師ありと教師なしの二種類の手法を提案 58
59 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages マルチタスクラーニング 教師あり : 同一エンコーダで複数言語を学習 I O I I Softmax Softmax Softmax Softmax 共有 Emb Emb Emb Emb 59 Mexicanero Wixarica
60 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages マルチタスクラーニング 教師なし : 同一エンコーダで疑似正解と同時に学習 I O n e Softmax Softmax Softmax Softmax 共有 Emb n Emb e Emb n Emb e 60
61 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages マルチタスクラーニング 教師なし : 同一エンコーダで疑似正解と同時に学習 I O n e Softmax Softmax Softmax Softmax 共有 Emb n Emb e Emb n Emb e 61
62 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 手法 2: 疑似正解の作成 I 入力列を出力列にする O n e Softmax Softmax Softmax Softmax 共有 Emb n Emb e Emb Emb n e 62
63 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 手法 2: 疑似正解の作成 単語内の文字列を入れ替えてデータを増加 I O I I Softmax Softmax Softmax Softmax 共有 Emb n Emb e ne p Emb Emb p p n e p ne 63
64 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 実験結果 先ほど紹介した Encoder- Decoder ( ベースライン ) 入力と出力が同じ + マルチタスク学習 入力をランダム入れ替え 入力をランダム入れ替え + マルチタスク学習 入力と出力が同じ 64
65 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 実験結果 先ほど紹介した Encoder- Decoder ( ベースライン ) Nahuatl を除いて CRF( 素性ベース ) に勝利 入力と出力が同じ + マルチタスク学習 入力をランダム入れ替え 入力をランダム入れ替え + マルチタスク学習 入力と出力が同じ 65
66 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 実験結果 さすがに効果はない 先ほど紹介した Encoder- Decoder ( ベースライン ) 入力と出力が同じ + マルチタスク学習 入力をランダム入れ替え 入力をランダム入れ替え + マルチタスク学習 入力と出力が同じ 66
67 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 実験結果 以外にも効果的 先ほど紹介した Encoder- Decoder ( ベースライン ) 入力と出力が同じ + マルチタスク学習 入力をランダム入れ替え 入力をランダム入れ替え + マルチタスク学習 入力と出力が同じ 67
68 Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages まとめ Seq2Seq において少数のデータセットから抱合語 ( 長い複合動詞を多く含む言語 ) の形態素解析を学習する手法を提案 マルチタスク学習 データの増加法 小規模データでは強力なベースラインである素性に基づく CRF を超える性能を実現 68
69 NAACL2018 今回紹介した論文 Deep contextualized word representations Best paper 大規模コーパスによる精度向上を複数タスクで実現 Recurrent Neural Networks as Weighted Language Recognizers Outstanding paper RNN の理論限界を明らかに Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages 小規模コーパスで学習するための手法を検証 ご清聴ありがとうございました 69
70 参考文献 Matthew Peters, Mark Neumann, Mohit Iyyer, Matt Gardner, Christopher Clark, Kenton Lee, Luke Zettlemoyer, Deep contextualized word representations, In Proc of NAACL 2018 Yining Chen, Sorcha Gilroy, Andreas Maletti, Jonathan May, Kevin Knight, Recurrent Neural Networks as Weighted Language Recognizers, In Proc of NAACL 2018 Katharina Kann, Manuel Mager, Ivan Meza-Ruiz, Hinrich Schütze, Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal- Resource Languages, In Proc of NAACL
71 参考文献 Alane Suhr, Srinivasan Iyer and Yoav Artz, Learning to Map Context-Dependent Sentences to Executable Formal Queries, In Proc of NAACL2018 Elizabeth Clark, Yangfeng Ji and Noah A. Smith, Neural Text Generation in Stories using Entity Representations as Context, In Proc of NAACL
72 参考文献
概要 単語の分散表現に基づく統計的機械翻訳の素性を提案 既存手法の FFNNLM に CNN と Gate を追加 dependency- to- string デコーダにおいて既存手法を上回る翻訳精度を達成
Encoding Source Language with Convolu5onal Neural Network for Machine Transla5on Fandong Meng, Zhengdong Lu, Mingxuan Wang, Hang Li, Wenbin Jiang, Qun Liu, ACL- IJCNLP 2015 すずかけ読み会奥村 高村研究室博士二年上垣外英剛 概要
Outline ACL 2017 ACL ACL 2017 Chairs/Presidents
ACL 2017, 2017/9/7 Outline ACL 2017 ACL ACL 2017 Chairs/Presidents ACL ACL he annual meeting of the Association for Computational Linguistics (Computational Linguistics) (Natural Language Processing) /
1. はじめに 2
点予測と能動学習を用いた効率的なコーパス構築 形態素解析における実証実験 京都大学情報学研究科 Graham NEUBIG 1 1. はじめに 2 形態素解析 べた書きの文字列を意味のある単位に分割し 様々な情報を付与 品詞 基本形 読み 発音等を推定 農産物価格安定法を施行した 価格 / 名詞 / 価格 / かかく / かかく安定 / 名詞 / 安定 / あんてい / あんてー法 / 接尾辞 /
自己紹介 名前 : 竹田卓也 年齢 : 20 歳 ( 大学生 ) 経歴 : 人工知能歴 1ヶ月プログラミング歴 5 年くらい 言語 : PythonとかJavaとかGoとか 趣味 : オンライン オフラインゲーム 2
リカレントニューラルネットワークの概要と動作原理 竹田卓也 後援 : ドワンゴ 1 自己紹介 名前 : 竹田卓也 年齢 : 20 歳 ( 大学生 ) 経歴 : 人工知能歴 1ヶ月プログラミング歴 5 年くらい 言語 : PythonとかJavaとかGoとか 趣味 : オンライン オフラインゲーム 2 アウトライン Feed forward neural network Recurrent neural
Haiku Generation Based on Motif Images Using Deep Learning Koki Yoneda 1 Soichiro Yokoyama 2 Tomohisa Yamashita 2 Hidenori Kawamura Scho
Haiku Generation Based on Motif Images Using Deep Learning 1 2 2 2 Koki Yoneda 1 Soichiro Yokoyama 2 Tomohisa Yamashita 2 Hidenori Kawamura 2 1 1 School of Engineering Hokkaido University 2 2 Graduate
一般社団法人電子情報通信学会 THE INSTITUTE OF ELECTRONICS, INFORMATION AND COMMUNICATION ENGINEERS THE INSTITUTE OF ELECTRONICS, INFORMATION AND COMMUNICATION ENGIN
一般社団法人電子情報通信学会 THE INSTITUTE OF ELECTRONICS, INFORMATION AND COMMUNICATION ENGINEERS THE INSTITUTE OF ELECTRONICS, INFORMATION AND COMMUNICATION ENGINEERS 信学技報 IEICE Technical Report SP2019-12(2019-08)
Computational Semantics 1 category specificity Warrington (1975); Warrington & Shallice (1979, 1984) 2 basic level superiority 3 super-ordinate catego
Computational Semantics 1 category specificity Warrington (1975); Warrington & Shallice (1979, 1984) 2 basic level superiority 3 super-ordinate category preservation 1 / 13 analogy by vector space Figure
WHITE PAPER RNN
WHITE PAPER RNN ii 1... 1 2 RNN?... 1 2.1 ARIMA... 1 2.2... 2 2.3 RNN Recurrent Neural Network... 3 3 RNN... 5 3.1 RNN... 6 3.2 RNN... 6 3.3 RNN... 7 4 SAS Viya RNN... 8 4.1... 9 4.2... 11 4.3... 15 5...
PowerPoint プレゼンテーション
自然言語処理分野の 最前線 進藤裕之奈良先端科学技術大学院大学 2017-03-12 第五回ステアラボ AI セミナー 進藤裕之 (Hiroyuki Shindo) 所属 : 奈良先端科学技術大学院大学自然言語処理学研究室 ( 松本研 ) 助教 専門 : 構文解析, 意味解析 @hshindo (Github) 1 これまでの取り組み 文の文法構造 意味構造の導出 構文解析 複単語表現解析 述語項構造解析
No. 3 Oct The person to the left of the stool carried the traffic-cone towards the trash-can. α α β α α β α α β α Track2 Track3 Track1 Track0 1
ACL2013 TACL 1 ACL2013 Grounded Language Learning from Video Described with Sentences (Yu and Siskind 2013) TACL Transactions of the Association for Computational Linguistics What Makes Writing Great?
ニュラールネットに基づく機械翻訳 ニューラルネットに 基づく機械翻訳 Graham Neubig 奈良先端科学技術大学院大学 (NAIST)
ニューラルネットに 基づく機械翻訳 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 205-9-5 I am giving a talk at Kyoto University 私 は 京都 大学 で 講演 を しています ( 終 ) 2 次の単語確率を推測 F = I am giving a talk P(e= 私 F) = 0.8 P(e= 僕 F) = 0.03 P(e=
自然言語処理24_705
nwjc2vec: word2vec nwjc2vec nwjc2vec nwjc2vec 2 nwjc2vec 7 nwjc2vec word2vec nwjc2vec: Word Embedding Data Constructed from NINJAL Web Japanese Corpus Hiroyuki Shinnou, Masayuki Asahara, Kanako Komiya
Microsoft PowerPoint - mp11-06.pptx
数理計画法第 6 回 塩浦昭義情報科学研究科准教授 shioura@dais.is.tohoku.ac.jp http://www.dais.is.tohoku.ac.jp/~shioura/teaching 第 5 章組合せ計画 5.2 分枝限定法 組合せ計画問題 組合せ計画問題とは : 有限個の もの の組合せの中から, 目的関数を最小または最大にする組合せを見つける問題 例 1: 整数計画問題全般
NLP プログラミング勉強会 5 HMM による品詞推定 自然言語処理プログラミング勉強会 5 隠れマルコフモデルによる品詞推定 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 1
自然言語処理プログラミング勉強会 5 隠れマルコフモデルによる品詞推定 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 1 品詞推定 文 X が与えられた時の品詞列 Y を予測する Natural language processing ( NLP ) is a field of computer science JJ -LRB- -RRB- VBZ DT IN 予測をどうやって行うか
21 Pitman-Yor Pitman- Yor [7] n -gram W w n-gram G Pitman-Yor P Y (d, θ, G 0 ) (1) G P Y (d, θ, G 0 ) (1) Pitman-Yor d, θ, G 0 d 0 d 1 θ Pitman-Yor G
![21 Pitman-Yor Pitman- Yor [7] n -gram W w n-gram G Pitman-Yor P Y (d, θ, G 0 ) (1) G P Y (d, θ, G 0 ) (1) Pitman-Yor d, θ, G 0 d 0 d 1 θ Pitman-Yor G](/thumbs/89/99361107.jpg "21 Pitman-Yor Pitman- Yor [7] n -gram W w n-gram G Pitman-Yor P Y (d, θ, G 0 ) (1) G P Y (d, θ, G 0 ) (1) Pitman-Yor d, θ, G 0 d 0 d 1 θ Pitman-Yor G")
ol2013-nl-214 No6 1,a) 2,b) n-gram 1 M [1] (TG: Tree ubstitution Grammar) [2], [3] TG TG 1 2 a) ohno@ilabdoshishaacjp b) khatano@maildoshishaacjp [4], [5] [6] 2 Pitman-Yor 3 Pitman-Yor 1 21 Pitman-Yor
nlp1-12.key
自然言語処理論 I 12. テキスト処理 ( 文字列照合と検索 ) 情報検索 information retrieval (IR) 広義の情報検索 情報源からユーザの持つ問題 ( 情報要求 ) を解決できる情報を見つけ出すこと 狭義の情報検索 文書集合の中から ユーザの検索質問に適合する文書を見つけ出すこと 適合文書 : 検索質問の答えが書いてある文書 テキスト検索 (text retrieval)
_314I01BM浅谷2.indd
587 ネットワークの表現学習 1 1 1 1 Deep Learning [1] Google [2] Deep Learning [3] [4] 2014 Deepwalk [5] 1 2 [6] [7] [8] 1 2 1 word2vec[9] word2vec 1 http://www.ai-gakkai.or.jp/my-bookmark_vol31-no4 588 31 4 2016
Microsoft PowerPoint SIGAL.ppt
アメリカン アジアンオプションの 価格の近似に対する 計算幾何的アプローチ 渋谷彰信, 塩浦昭義, 徳山豪 ( 東北大学大学院情報科学研究科 ) 発表の概要 アメリカン アジアンオプション金融派生商品の一つ価格付け ( 価格の計算 ) は重要な問題 二項モデルにおける価格付けは計算困難な問題 目的 : 近似精度保証をもつ近似アルゴリズムの提案 アイディア : 区分線形関数を計算幾何手法により近似 問題の説明
オートマトン 形式言語及び演習 1. 有限オートマトンとは 酒井正彦 形式言語 言語とは : 文字列の集合例 : 偶数個の 1 の後に 0 を持つ列からなる集合 {0, 110, 11110,
オートマトン 形式言語及び演習 1 有限オートマトンとは 酒井正彦 wwwtrscssinagoya-uacjp/~sakai/lecture/automata/ 形式言語 言語とは : 文字列の集合例 : 偶数個の 1 の後に 0 を持つ列からなる集合 {0, 110, 11110, } 形式言語 : 数学モデルに基づいて定義された言語 認識機械 : 文字列が該当言語に属するか? 文字列 機械 受理
10 1 1 (1) (2) (3) 3 3 1 3 1 3 (4) 2 32 2 (1) 1 1
10 10 1 1 (1) (2) (3) 3 3 1 3 1 3 (4) 2 32 2 (1) 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 (2) 1 (3) JI S JI S JI S JI S 25 175 J AS 3 (1) 3 70 (2) (3) 100 4 (1)69 (2) (3) (4) (5) (6) (7) (8)70 (9) (10)2 (11)
dlshogiアピール文章
第 28 回世界コンピュータ将棋選手権 dlshogi アピール文章 山岡忠夫 2018 年 5 月 1 日更新 下線部分は 第 5 回将棋電王トーナメントからの差分を示す 1 特徴 ディープラーニングを使用 指し手を予測する Policy Network 局面の勝率を予測する Value Network 入力特徴にドメイン知識を活用 モンテカルロ木探索 並列化 自己対局による強化学習 既存将棋プログラムの自己対局データを使った事前学習
音響モデル triphone 入力音声 音声分析 デコーダ 言語モデル N-gram bigram HMM の状態確率として利用 出力層 triphone: 3003 ノード リスコア trigram 隠れ層 2048 ノード X7 層 1 Structure of recognition syst
1,a) 1 1 1 deep neural netowrk(dnn) (HMM) () GMM-HMM 2 3 (CSJ) 1. DNN [6]. GPGPU HMM DNN HMM () [7]. [8] [1][2][3] GMM-HMM Gaussian mixture HMM(GMM- HMM) MAP MLLR [4] [3] DNN 1 1 triphone bigram [5]. 2
オートマトン 形式言語及び演習 3. 正規表現 酒井正彦 正規表現とは 正規表現 ( 正則表現, Regular Expression) オートマトン : 言語を定義する機械正規表現 : 言語
オートマトン 形式言語及び演習 3. 酒井正彦 www.trs.css.i.nagoya-u.ac.jp/~sakai/lecture/automata/ とは ( 正則表現, Regular Expression) オートマトン : 言語を定義する機械 : 言語を記号列で定義 - 記述しやすい ( ユーザフレンドリ ) 例 :01 + 10 - UNIX の grep コマンド - UNIX の
スライド 1
ディープラーニングへの Ruby 適用試行に関する報告 2017 年 2 月 15 日 Japan OSS Promotion Forum アプリケーション部会 サイオステクノロジー株式会社 手塚拓 0 目次 1. ディープラーニングとは 2. ディープラーニングに Ruby を利用する価値 3. Ruby でディープラーニング の問題点 4. 現状報告 I. 予備知識 II. 検証 III. 報告
スライド 1
CNN を用いた弱教師学習による画像領域分割 下田和, 柳井啓司 電気通信大学 大学院情報理工学 研究科 総合情報学専攻 c 2015 UEC Tokyo. Convolutional Neural Network CNN クラス分類タスクにおいてトップの精度 CNN の応用 ( 物体位置の認識 ) 物体検出 物体に BB を付与 領域分割 ピクセル単位の認識 CNN を用いた領域分割 CNN による完全教師ありのセグメンテーション
Slide 1
ハンズオン受講の為の準備講座 これから始める人の為の ディープラーニング基礎講座 村上真奈 NVIDIA CUDA & Deep Learning Solution Architect NVIDIA Corporation 1 機械学習とディープラーニングの関係 AGENDA ディープラーニングとは? ニューラルネットワークの構造 ディープラーニングの学習とは 畳み込みニューラルネットワーク 午後に予定しているハンズオンの為の基礎講座ディープラーニングをこれから始める方を対象に基礎概念や用語の解説を行います
taro.watanabe at nict.go.jp
taro.watanabe at nict.go.jp https://sites.google.com/site/alaginmt2014/ ... I want to study about machine translation. I need to master machine translation. machine translation want to study. infobox infobox
_DeepLearning.key
応 用編 : C++ による ニューラル機械翻訳モデル 東京 大学鶴岡研 D2 江 里里 口瑛 子 自 己紹介 江 里里 口瑛 子 ( えりぐちあきこ ) 鶴岡研究室博 士後期課程 2 年年 お茶茶の 水 女女 子 大学 東京 大学 http://www.logos.t.u- tokyo.ac.jp/~ eriguchi/ 研究興味 : ニューラル機械翻訳, トピックモデル 本 日の内容 応 用編
スライド 1
知識情報演習 Ⅲ( 後半第 2 回 ) 辻慶太 http://tsujikeita.hp.infoseek.co.jp/cje3 1 情報検索システムの世界観 情報の生産者研究者, 作家, 記者など 情報の最終利用者 ( エンドユーザ ) 生産 情報の登録者 DB 登録者, 分類者, 索引作成者など 登録 検索 計算機上のシステム 検索エンジン,DB, インタフェースなど 支援 蓄積される情報図書,
Kumamoto University Center for Multimedia and Information Technologies Lab. 熊本大学アプリケーション実験 ~ 実環境における無線 LAN 受信電波強度を用いた位置推定手法の検討 ~ InKIAI 宮崎県美郷
熊本大学アプリケーション実験 ~ 実環境における無線 LAN 受信電波強度を用いた位置推定手法の検討 ~ InKIAI プロジェクト @ 宮崎県美郷町 熊本大学副島慶人川村諒 1 実験の目的 従来 信号の受信電波強度 (RSSI:RecevedSgnal StrengthIndcator) により 対象の位置を推定する手法として 無線 LAN の AP(AccessPont) から受信する信号の減衰量をもとに位置を推定する手法が多く検討されている
2
NTT 2012 NTT Corporation. All rights reserved. 2 3 4 5 Noisy Channel f : (source), e : (target) ê = argmax e p(e f) = argmax e p(f e)p(e) 6 p( f e) (Brown+ 1990) f1 f2 f3 f4 f5 f6 f7 He is a high school
機械学習 ハンズオン-チュートリアル
機械学習 ハンズオン - チュートリアル 初めてのペアモニター研究 はじめに このチュートリアルは機械学習の環境を構築し ニューラルネットワークが実行できるようになるところまで行います チュートリアルの流れ 1. 環境構築 2. 機械学習用プログラム実装 & 実行 3. プログラムの改良 ( 精度向上のため ) 4. 機械学習についてより深く理解するために 2 y[mm] y[mm] 機械学習 ヒット分布
Microsoft PowerPoint - 3.ppt [互換モード]
![Microsoft PowerPoint - 3.ppt [互換モード]](/thumbs/95/124643964.jpg "Microsoft PowerPoint - 3.ppt [互換モード]")
3. プッシュダウンオートマトンと文脈自由文法 1 3-1. プッシュダウンオートマトン オートマトンはメモリがほとんど無かった この制限を除いた機械を考える 理想的なスタックを利用できるようなオートマトンをプッシュダウンオートマトン (Push Down Automaton,PDA) という 0 1 入力テープ 1 a 1 1 0 1 スタッb 入力テープを一度走査したあと ク2 入力テプを度走査したあと
sequence to sequence, B3TB2006, i
B3TB2006 2017 3 31 sequence to sequence, B3TB2006, 2017 3 31. i A Study on a Style Control for Dialogue Response Generation Reina Akama Abstract We propose a new dialogue response generation model combining
Microsoft PowerPoint - H17-5時限（パターン認識）.ppt
パターン認識早稲田大学講義 平成 7 年度 独 産業技術総合研究所栗田多喜夫 赤穂昭太郎 統計的特徴抽出 パターン認識過程 特徴抽出 認識対象から何らかの特徴量を計測 抽出 する必要がある 認識に有効な情報 特徴 を抽出し 次元を縮小した効率の良い空間を構成する過程 文字認識 : スキャナ等で取り込んだ画像から文字の識別に必要な本質的な特徴のみを抽出 例 文字線の傾き 曲率 面積など 識別 与えられた未知の対象を
Coding theorems for correlated sources with cooperative information
グラフコストの逐次更新を用いた映像顕著領域の自動抽出 2009 年 5 月 28 日 福地賢宮里洸司 (2) 木村昭悟 (1) 高木茂 (2) 大和淳司 (1) (1) 日本電信電話 ( 株 )NTT) コミュニケーション科学基礎研究所メディア情報研究部メディア認識研究グループ (2) 国立沖縄工業高等専門学校情報通信システム工学科 背景 ヒトはどのようにして もの を認識する能力を獲得するのか?
14 化学実験法 II( 吉村 ( 洋 mmol/l の半分だったから さんの測定値は くんの測定値の 4 倍の重みがあり 推定値 としては 0.68 mmol/l その標準偏差は mmol/l 程度ということになる 測定値を 特徴づけるパラメータ t を推定するこの手
14 化学実験法 II( 吉村 ( 洋 014.6.1. 最小 乗法のはなし 014.6.1. 内容 最小 乗法のはなし...1 最小 乗法の考え方...1 最小 乗法によるパラメータの決定... パラメータの信頼区間...3 重みの異なるデータの取扱い...4 相関係数 決定係数 ( 最小 乗法を語るもう一つの立場...5 実験条件の誤差の影響...5 問題...6 最小 乗法の考え方 飲料水中のカルシウム濃度を
言語モデルの基礎 2
自然言語処理プログラミング勉強会 1 1-gram 言語モデル Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 1 言語モデルの基礎 2 言語モデル 英語の音声認識を行いたい時に どれが正解 英語音声 W1 = speech recognition system W2 = speech cognition system W3 = speck podcast histamine
ボルツマンマシンの高速化
1. はじめに ボルツマン学習と平均場近似 山梨大学工学部宗久研究室 G04MK016 鳥居圭太 ボルツマンマシンは学習可能な相互結合型ネットワー クの代表的なものである. ボルツマンマシンには, 学習のための統計平均を取る必要があり, 結果を求めるまでに長い時間がかかってしまうという欠点がある. そこで, 学習の高速化のために, 統計を取る2つのステップについて, 以下のことを行う. まず1つ目のステップでは,
VOLTA TENSOR コアで 高速かつ高精度に DL モデルをトレーニングする方法 成瀬彰, シニアデベロッパーテクノロジーエンジニア, 2017/12/12
VOLTA TENSOR コアで 高速かつ高精度に DL モデルをトレーニングする方法 成瀬彰, シニアデベロッパーテクノロジーエンジニア, 2017/12/12 アジェンダ Tensorコアとトレーニングの概要 混合精度 (Tensorコア) で FP32と同等の精度を得る方法 ウェイトをFP16とFP32を併用して更新する ロス スケーリング DLフレームワーク対応状況 ウェイトをFP16で更新する
名称未設定
NAACL-HLT 2012, 1 2012 6 3 8 NAACL-HLT 2012 (North American Chapter of ACL: Human Language Technologies) ACL Anthology 1 2 NAACL ACL (Association for Computational Linguistics) 2000 2001 2 ACL HLT 2003
Deep Learning によるビッグデータ解析 ~ 手法や CUDA による高速化 2014 年 9 月 5 日 G-DEP ソリューションパートナー株式会社システム計画研究所奥村義和
Deep Learning によるビッグデータ解析 ~ 手法や CUDA による高速化 2014 年 9 月 5 日 G-DEP ソリューションパートナー株式会社システム計画研究所奥村義和 目次 DeepLearning と GPU G-DEP テストドライブ ビッグデータ GPU DeepLearning の接点 目次 DeepLearningとGPU DeepLearningとは 仕組みと計算
言語資源活用ワークショップ 2019 発表論文集 半教師あり語義曖昧性解消における各ジャンルの語義なし用例文の利用 谷田部梨恵 ( 茨城大学大学院理工学研究科 ) 佐々木稔 ( 茨城大学工学部情報工学科 ) Semi-Supervised Word Sense Disambiguation Usin
半教師あり語義曖昧性解消における各ジャンルの語義なし用例文の利用 谷田部梨恵 ( 茨城大学大学院理工学研究科 ) 佐々木稔 ( 茨城大学工学部情報工学科 ) Semi-Supervised Word Sense Disambiguation Using Unlabeled Examples of Each Genre Rie Yatabe (Ibaraki University) Minoru Sasaki
[1] B =b 1 b n P (S B) S S O = {o 1,2, o 1,3,, o 1,n, o 2,3,, o i,j,, o n 1,n } D = {d 1, d 2,, d n 1 } S = O, D o i,j 1 i
![[1] B =b 1 b n P (S B) S S O = {o 1,2, o 1,3,, o 1,n, o 2,3,, o i,j,, o n 1,n } D = {d 1, d 2,, d n 1 } S = O, D o i,j 1 i](/thumbs/79/79671767.jpg "[1] B =b 1 b n P (S B) S S O = {o 1,2, o 1,3,, o 1,n, o 2,3,, o i,j,, o n 1,n } D = {d 1, d 2,, d n 1 } S = O, D o i,j 1 i")
1,a) 2,b) 3,c) 1,d) CYK 552 1. 2 ( 1 ) ( 2 ) 1 [1] 2 [2] [3] 1 Graduate School of Information Science, Nagoya University, Japan 2 Information Technology Center, Nagoya University, Japan 3 Information &
An Automated Proof of Equivalence on Quantum Cryptographic Protocols
量子暗号のための プロトコル等価性検証ツール 久保田貴大 *, 角谷良彦 *, 加藤豪, 河野泰人, 櫻田英樹 * 東京大学情報理工学系研究科, NTT コミュニケーション科学基礎研究所 背景 暗号安全性証明の検証は難しい 量子暗号でもそうである 検証のための形式体系が提案されているが, 実際には, 形式体系の適用は手作業では非常に煩雑である 形式検証のためには, 検証ツールが開発されることが望ましい
nlp1-04a.key
自然言語処理論 I. 文法 ( 構文解析 ) その 構文解析 sytctic lysis, prsig 文の構文的な構造を決定すること句構造文法が使われることが多い文法による構文木は一般に複数ある 構文木の違い = 解釈の違い 構文解析の目的 句構造文法の規則を使って, 文を生成できる構文木を全て見つけだすこと 文法が入力文を生成できるかどうかを調べるだけではない pro I 構文解析とは 構文木の違い
自然 言語処理理分野における ディープラーニングの現状 渡邉陽太郎郎東北北 大学 大学院情報科学研究科 IBIS2013 企画セッション 2: ディープラーニング 2013/11/12
自然 言語処理理分野における ディープラーニングの現状 渡邉陽太郎郎東北北 大学 大学院情報科学研究科 IBIS2013 企画セッション 2: ディープラーニング 2013/11/12 NLP におけるディープラーニング 言語モデルの構築 言語解析 ( 構造予測 ) RBM (Minh and Hinton 2007) Feed-forward Deep NN (Bengio et al., 2003,
HIGIS 3/ﾌﾟﾚｾﾞﾝﾃｰｼｮﾝ資料/J_GrayA.ppt
電子情報通信学会シンポジウムセッションもっと知りたい! Deep Learning 基礎から活用まで 音声認識分野における ディープラーニングの基礎と最新動向 217/3/22 神田直之 ( 株 ) 日立製作所研究開発グループシステムイノベーションセンタメディア研究部 自己紹介 : 神田直之 26 年 4 月 ( 株 ) 日立製作所中央研究所入社 音声認識 大規模音声データからのキーワード検出の研究開発
Microsoft PowerPoint - sakurada3.pptx
チュートリアル :ProVerif による結合可能安全性の形式検証 櫻田英樹日本電信電話株式会社 NTT コミュニケーション科学基礎研究所 アウトライン 前半 :ProVerif の紹介 後半 :ProVerifを用いた結合可能安全性証明 [Dahl Damgård, EuroCrypt2014, eprint2013/296] の記号検証パート 2 ProVerif フランス国立情報学自動制御研究所
memo
数理情報工学特論第一 機械学習とデータマイニング 4 章 : 教師なし学習 3 かしまひさし 鹿島久嗣 ( 数理 6 研 ) kashima@mist.i.~ DEPARTMENT OF MATHEMATICAL INFORMATICS 1 グラフィカルモデルについて学びます グラフィカルモデル グラフィカルラッソ グラフィカルラッソの推定アルゴリズム 2 グラフィカルモデル 3 教師なし学習の主要タスクは
Twitter Twitter [5] ANPI NLP 5 [6] Lee [7] Lee [8] Twitter Flickr FreeWiFi FreeWiFi Flickr FreeWiFi 2. 2 Mikolov [9] [10] word2vec word2vec word2vec k
![Twitter Twitter [5] ANPI NLP 5 [6] Lee [7] Lee [8] Twitter Flickr FreeWiFi FreeWiFi Flickr FreeWiFi 2. 2 Mikolov [9] [10] word2vec word2vec word2vec k](/thumbs/91/107370538.jpg "Twitter Twitter [5] ANPI NLP 5 [6] Lee [7] Lee [8] Twitter Flickr FreeWiFi FreeWiFi Flickr FreeWiFi 2. 2 Mikolov [9] [10] word2vec word2vec word2vec k")
DEIM Forum 2018 H1-3 700-8530 3-1-1 E-mail: {nakagawa, niitsuma, ohta}@de.cs.okayama-u.ac.jp Twitter 3 Wikipedia Weblio Yahoo! Paragraph Vector NN NN 1. doc2vec SNS 9 [1] SNS [2] Twitter 1 4 4 Wikipedia
A Japanese Word Dependency Corpus ÆüËܸì¤Îñ¸ì·¸¤ê¼õ¤±¥³¡¼¥Ñ¥¹
A Japanese Word Dependency Corpus 2015 3 18 Special thanks to NTT CS, 1 /27 Bunsetsu? What is it? ( ) Cf. CoNLL Multilingual Dependency Parsing [Buchholz+ 2006] (, Penn Treebank [Marcus 93]) 2 /27 1. 2.
スライド 1
知識情報演習 Ⅲ( 後半第 3 回 ) 辻慶太 http://slis.sakura.ne.jp/cje3 1 索引付けの手順概要 ( 復習 ) (1) 索引語の抽出 文字バイグラム, 単語, フレーズなど (2) 不要語の削除 (3) 接辞処理 (4) 索引語の重み付け 検索手法 ( 検索モデル ) によっては不要例えば, 論理式によるブーリアンモデルでは不要 (5) 索引ファイルの編成 extract.prl
スライド 1
知識情報演習 Ⅲ( 前半第 2 回 ) 辻慶太 http://slis.sakura.ne.jp/cje3 1 情報検索システムの世界観 情報の生産者研究者, 作家, 記者など 情報の最終利用者 ( エンドユーザ ) 生産 情報の登録者 DB 登録者, 分類者, 索引作成者など 登録 検索 計算機上のシステム 検索エンジン,DB, インタフェースなど 支援 蓄積される情報図書, 雑誌, 画像, 音声など
一般社団法人 電子情報通信学会 THE INSTITUTE OF ELECTRONICS, 社団法人 電子情報通信学会 INFORMATION AND COMMUNICATION ENGINEERS 信学技報 IEICE Technical Report NLC ( ) 信学
一般社団法人 電子情報通信学会 THE INSTITUTE OF ELECTRONICS, 社団法人 電子情報通信学会 INFORMATION AND COMMUNICATION ENGINEERS 信学技報 IEICE Technical Report NLC2017-17(2017-09 信学技報 TECHNICAL REPORT OF IEICE. THE INSTITUTE OF ELECTRONICS,
( )
B4IM2035 2017 2 10 ( ) (e.g., eat ) (e.g., arrest ),,, 10., B4IM2035, 2017 2 i 1 1 2 3 2.1................. 3 2.2........ 3 3 5 3.1.... 5 3.2 DCS Vector.............................. 6 3.3 DCS Vector.......
ビッグデータ分析を高速化する 分散処理技術を開発 日本電気株式会社
ビッグデータ分析を高速化する 分散処理技術を開発 日本電気株式会社 概要 NEC は ビッグデータの分析を高速化する分散処理技術を開発しました 本技術により レコメンド 価格予測 需要予測などに必要な機械学習処理を従来の 10 倍以上高速に行い 分析結果の迅速な活用に貢献します ビッグデータの分散処理で一般的なオープンソース Hadoop を利用 これにより レコメンド 価格予測 需要予測などの分析において
コーパスを用いた中国語ネット語の判定システム 竇梓瑜 ( 東京農工大学工学府情報工学専攻 ) 古宮嘉那子 ( 東京農工大学工学研究院先端情報科学部門 ) 小谷善行 ( 東京農工大学工学研究院先端情報科学部門 ) A Detection System of Chinese Netspeak Using
コーパスを用いた中国語ネット語の判定システム 竇梓瑜 ( 東京農工大学工学府情報工学専攻 ) 古宮嘉那子 ( 東京農工大学工学研究院先端情報科学部門 ) 小谷善行 ( 東京農工大学工学研究院先端情報科学部門 ) A Detection System of Chinese Netspeak Using Text Corpus Ziyu Dou(Graduate School of Engineering,
ニューラル機械翻訳における 脈情報の選択的利 藤井諒 東北大学工学部電気情報物理工学科 1 はじめに近年, ニューラル機械翻訳 (NMT) の登場および発展により翻訳品質は劇的に向上してきた. しかし, 大量のデータに基づくニューラルネットワークの学習をもってしてもなお, 代名詞の誤訳や省略, 生成
ニューラル機械翻訳における 脈情報の選択的利 藤井諒 東北大学工学部電気情報物理工学科 1 はじめに近年, ニューラル機械翻訳 (NMT) の登場および発展により翻訳品質は劇的に向上してきた. しかし, 大量のデータに基づくニューラルネットワークの学習をもってしてもなお, 代名詞の誤訳や省略, 生成文間の語彙の一貫性などから生じる不適切な訳出が問題視されている. これらの多くは, 現在の翻訳システムの多くが
NLP プログラミング勉強会 6 かな漢字変換 自然言語処理プログラミング勉強会 6 - かな漢字変換 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 1
自然言語処理プログラミング勉強会 6 - かな漢字変換 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 1 かな漢字変換のモデル 日本語入力でひらがな列 X をかな漢字混じり文 Y へ変換 かなかんじへんかんはにほんごにゅうりょくのいちぶ かな漢字変換は日本語入力の一部 HMM や単語分割と同じく 構造化予測の一部 2 選択肢が膨大! かなかんじへんかんはにほんごにゅうりょくのいちぶ
ACL2017-suzukake_MIURA
ACL2017 読み会 @ すずかけ台 三浦康秀, 2017/9/19 富 ゼロックス株式会社 東京 業 学 紹介する論 Semantic Parsing for Question Answering 従来 い複雑な質問 紹介論 単純な関連する複数の質問 データセットの作成 + ニューラルモデルの提案 選択理由 Deep Reinforcement Learning Atari のゲームを対象とした
ニューラルネットワーク 自然言語処理 機械翻訳 対話 画像キャプション生成 質問応答 ゲーム AI 囲碁 Aari 2600 Games 概要 2
電気系同窓会講演会 深層学習をとりまく技術展望 2016.10.15 自然言語処理と ゲーム AI における深層学習 東京大学大学院工学系研究科電気系工学専攻鶴岡慶雅 1 ニューラルネットワーク 自然言語処理 機械翻訳 対話 画像キャプション生成 質問応答 ゲーム AI 囲碁 Aari 2600 Games 概要 2 深層学習のための 3 つの技術 Deep Neural Nework RNN Recurren
センサーデータのためのニューラルネット
センサーデータのためのニューラルネットワーク ~ 時系列データの分類と異常検知 ~ MathWorks Japan アプリケーションエンジニアリング部テクニカルコンピューティング 太田英司 2017 The MathWorks, Inc. 1 Agenda ニューラルネットの基礎 時系列データの分類 - 部分時系列 - 自己符号化器 / 積層自己符号化器 - LSTM(Long Short Term
PowerPoint プレゼンテーション
Chinese Zero Pronoun Resolution with Deep Neural Networks Chen Chen and Vincent Ng 紹介する人 : 萩行正嗣 ( ウェザーニューズ ) Anaphoric Zero Pronoun Resolution の用語 Zero pronoun (ZP): ゼロ代名詞 省略された代名詞 ( ここでは ) 現実世界の何らかの Entity
CLEFIA_ISEC発表
128 ビットブロック暗号 CLEFIA 白井太三 渋谷香士 秋下徹 盛合志帆 岩田哲 ソニー株式会社 名古屋大学 目次 背景 アルゴリズム仕様 設計方針 安全性評価 実装性能評価 まとめ 2 背景 AES プロジェクト開始 (1997~) から 10 年 AES プロジェクト 攻撃法の進化 代数攻撃 関連鍵攻撃 新しい攻撃法への対策 暗号設計法の進化 IC カード, RFID などのアプリケーション拡大
it-ken_open.key
深層学習技術の進展 ImageNet Classification 画像認識 音声認識 自然言語処理 機械翻訳 深層学習技術は これらの分野において 特に圧倒的な強みを見せている Figure (Left) Eight ILSVRC-2010 test Deep images and the cited4: from: ``ImageNet Classification with Networks et
PowerPoint プレゼンテーション
復習 ) 時系列のモデリング ~a. 離散時間モデル ~ y k + a 1 z 1 y k + + a na z n ay k = b 0 u k + b 1 z 1 u k + + b nb z n bu k y k = G z 1 u k = B(z 1 ) A(z 1 u k ) ARMA モデル A z 1 B z 1 = 1 + a 1 z 1 + + a na z n a = b 0
コ2 343 NEW EDITION UNICORN English Communication 2
27-228 高等学校外国語科 コミュニケーション英語 Ⅱ 109 文英堂コ Ⅱ 343 NEW EDITION UNICORN English Communication 2 1 TARGET 3 2 1 Accessibility for Everyone 8 21 1 2 The Problem We All Live With 1960 3 Eat the Ugly Carrot, Save
自己紹介 : 村脇有吾 京都大学大学院情報学研究科知能情報学専攻助教工学部電気電子工学科兼担 専門 : 計算言語学と自然言語処理 表の仕事は普通のテキスト処理 単語分割 ゼロ照応解析 常識的知識の獲得ほか 今日お話も裏の仕事 言語の研究ですが テキストは直接扱いません 2
潜在表現に基づく 言語構造の史的変化の分析 京都大学 村脇有吾 機構間連携 文理融合プロジェクト 言語における系統 変異 多様性とその数理 シンポジウム 2018 年 2 月 2 日 TKP 東京駅大手町カンファレンスセンター 自己紹介 : 村脇有吾 京都大学大学院情報学研究科知能情報学専攻助教工学部電気電子工学科兼担 専門 : 計算言語学と自然言語処理 表の仕事は普通のテキスト処理 単語分割 ゼロ照応解析
24 SPAM Performance Comparison of Machine Learning Algorithms for SPAM Discrimination
24 SPAM Performance Comparison of Machine Learning Algorithms for SPAM Discrimination 1130378 2013 3 9 SPAM SPAM SPAM SPAM SVM AdaBoost RandomForest SPAM SPAM UCI Machine Learning Repository Spambase 4601
卒論 京極健悟
学科名 Department 研究指導名 Research guidance 研究題目 Title 情報通信 オーディオビジュアル情報処理研究 卒業論文概要書 Summary of Bachelor s Thesis 氏名 Name 学籍番号 Student ID number 機械翻訳におけるドメイン変換に関する研究 Research on Domain Transfer in Machine Translation
スライド 1
知識情報演習 Ⅲ( 後半第 3 回 ) 辻慶太 http://slis.sakura.ne.jp/cje3 1 索引付けの手順概要 ( 復習 ) (1) 索引語の候補の抽出 文字バイグラム, 単語, フレーズなど (2) 不要語の削除 (3) 接辞処理 (4) 索引語の重み付け 検索手法 ( 検索モデル ) によっては不要例えば, 論理式によるブーリアンモデルでは不要 (5) 索引ファイルの編成 stopword.prl
IPSJ-TOD
Vol. 3 No. 2 91 101 (June 2010) 1 1 1 2 1 TSC2 Automatic Evaluation of Text Summaries by Using Paraphrase Kazuho Hirahara, 1 Hidetsugu Nanba, 1 Toshiyuki Takezawa 1 and Manabu Okumura 2 The evaluation
単語の分散表現と構成性の計算モデルの発展
自然言語処理における深層ニューラルネットワーク 東北大学大学院情報科学研究科岡崎直観 (okazaki@ecei.tohoku.ac.jp) http://www.chokkan.org/ @chokkanorg 2016-06-09 言語処理における深層ニューラルネットワーク 1 自然言語処理とは 言葉を操る賢いコンピュータを作る 応用 : 情報検索, 機械翻訳, 質問応答, 自動要約, 対話生成,
Microsoft PowerPoint - 13.ppt [互換モード]
![Microsoft PowerPoint - 13.ppt [互換モード]](/thumbs/98/134838862.jpg "Microsoft PowerPoint - 13.ppt [互換モード]")
13. 近似アルゴリズム 1 13.1 近似アルゴリズムの種類 NP 困難な問題に対しては多項式時間で最適解を求めることは困難であるので 最適解に近い近似解を求めるアルゴリズムが用いられることがある このように 必ずしも厳密解を求めないアルゴリズムは 大きく分けて 2 つの範疇に分けられる 2 ヒューリスティックと近似アルゴリズム ヒュ- リスティクス ( 発見的解法 経験的解法 ) 遺伝的アルゴリズム
IPSJ SIG Technical Report Vol.2017-CVIM-207 No /5/10 GAN 1,a) 2,b) Generative Adversarial Networks GAN GAN CIFAR-10 10% GAN GAN Stacked GAN Sta
1,a) 2,b) Generative Adversarial Networks CIFAR-10 10% Stacked Stacked 8.9% CNN 1. ILSVRC 1000 50000 5000 Convolutional Neural Network(CNN) [3] Stacked [4] 1 2 a) y.kono@chiba-u.jp b) kawa@faculty.chiba-u.jp
研究背景 センサなどによって観測される情報の多くは時系列列データ たくさんの時系列列データの中から有益な情報を取得し その内容を理理解する 手法の開発が重要 取得された情報をより抽象度度の 高いレベルで表現 時系列列データの振る舞いを 言語で説明する 手法の開発 HandRight_x HandRi
高次元の時系列列データの潜在意味 解析に基づく 言語化 手法の開発 小林林 一郎郎 お茶茶の 水 女女 子 大学 研究背景 センサなどによって観測される情報の多くは時系列列データ たくさんの時系列列データの中から有益な情報を取得し その内容を理理解する 手法の開発が重要 取得された情報をより抽象度度の 高いレベルで表現 時系列列データの振る舞いを 言語で説明する 手法の開発 HandRight_x
数理言語
人工知能特論 II 二宮崇 1 今日の講義の予定 CFG 構文解析 教科書 北研二 ( 著 ) 辻井潤一 ( 編 ) 言語と計算 4 確率的言語モデル東大出版会 C. D. Manning & Hinrich Schütze FOUNDATIONS OF STATISTICAL NATURAL LANGUAGE PROCESSING MIT Press, 1999 D. Jurafsky, J. H.
共有辞書を用いた 効率の良い圧縮アルゴリズム
大規模テキストに対する 共有辞書を用いた Re-Pair 圧縮法 Variable-to-Fixed-Length Encoding for Large Texts Using Re-Pair Algorithm with Efficient Shared Dictionaries 関根渓, 笹川裕人, 吉田諭史, 喜田拓也 北海道大学大学院情報科学研究科 1 背景 : 巨大なデータ 計算機上で扱うデータの巨大化.
If(A) Vx(V) 1 最小 2 乗法で実験式のパラメータが導出できる測定で得られたデータをよく近似する式を実験式という. その利点は (M1) 多量のデータの特徴を一つの式で簡潔に表現できること. また (M2) y = f ( x ) の関係から, 任意の x のときの y が求まるので,
If(A) Vx(V) 1 最小 乗法で実験式のパラメータが導出できる測定で得られたデータをよく近似する式を実験式という. その利点は (M1) 多量のデータの特徴を一つの式で簡潔に表現できること. また (M) y = f ( x ) の関係から, 任意の x のときの y が求まるので, 未測定点の予測ができること. また (M3) 現象が比較的単純であれば, 現象を支配 する原理の式が分かることである.
( : A9TB2096)
2012 2013 3 31 ( : A9TB2096) Twitter i 1 1 1.1........................................... 1 1.2........................................... 1 2 4 2.1................................ 4 2.2...............................
--
機械学習シリーズ :k-means 原文はこちら k-means クラスタリングとは? k 平均クラスタリングは 教師なし学習アルゴリズムであり 類似性に基づいてデータをグループにクラスタ化します k-means を使用すると 重心で表される k 個のデータクラスタを見つけることができます ユーザーは クラスタ数を選択します たとえば 購買履歴に基づいて顧客をグループに分けて 異なるグループにターゲットを絞った電子メールを送信したいとします
Jupyter Notebook を活用したプログラムライブラリ構築の検討 吹谷芳博 1, 藤澤正樹 1 ( 1 あすか製薬株式会社 ) Examination of the program library construction using Jupyter Notebook ASKA Pharm
Jupyter Notebook を活用したプログラムライブラリ構築の検討 吹谷芳博 1, 藤澤正樹 1 ( 1 あすか製薬株式会社 ) Examination of the program library construction using Jupyter Notebook ASKA Pharmaceutical Co., Ltd. 要旨 : PC SAS での Jupyter Notebook
untitled
DEIM Forum 2019 I2-4 305-8573 1-1-1 305-8573 1-1-1 305-8573 1-1-1 ( ) 151-0053 1-3-15 6F 101-8430 2-1-2 CNN LSTM,,,, Measuring Beginner Friendliness / Visiual Intelligibility of Web Pages explaining Academic
8. 自由曲線と曲面の概要 陽関数 陰関数 f x f x x y y y f f x y z g x y z パラメータ表現された 次元曲線 パラメータ表現は xyx 毎のパラメータによる陽関数表現 形状普遍性 座標独立性 曲線上の点を直接に計算可能 多価の曲線も表現可能 gx 低次の多項式は 計
8. 自由曲線 曲面. 概論. ベジエ曲線 曲面. ベジエ曲線 曲面の数学. OeGLによる実行. URS. スプライン関数. スプライン曲線 曲面. URS 曲線 曲面 4. OeGLによる実行 8. 自由曲線と曲面の概要 陽関数 陰関数 f x f x x y y y f f x y z g x y z パラメータ表現された 次元曲線 パラメータ表現は xyx 毎のパラメータによる陽関数表現 形状普遍性
NLP プログラミング勉強会 4 単語分割 自然言語処理プログラミング勉強会 4 - 単語分割 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 1
自然言語処理プログラミング勉強会 4 - 単語分割 Graham Neubig 奈良先端科学技術大学院大学 (NAIST) 1 単語分割とは 日本語や中国語 タイ語などは英語と違って単語の間に空白を使わない 単語分割を行う 単語分割は単語の間に明示的な区切りを入れる 単語分割を行う 2 必要なプログラミング技術 : 部分文字列 文字列の一部からなる部分文字列を作る方法 $./my-program.py
混沌系工学特論 #5
混沌系工学特論 #5 情報科学研究科井上純一 URL : htt://chaosweb.comlex.eng.hokudai.ac.j/~j_inoue/ Mirror : htt://www5.u.so-net.ne.j/j_inoue/index.html 平成 17 年 11 月 14 日第 5 回講義 デジタルデータの転送と復元再考 P ({ σ} ) = ex σ ( σσ ) < ij>
日本語と中国語の受動文に見られる類～ 久／Ｐ．４１～６３ 王 亜新
affective passive affectee topic-prominent language topic-comment sentence argument structure topic She was told a long story. The students were asked a very difficult question. asahi.com asahi.com *
自然言語処理23_175
2 Sequence Alignment as a Set Partitioning Problem Masaaki Nishino,JunSuzuki, Shunji Umetani, Tsutomu Hirao and Masaaki Nagata Sequence alignment, which involves aligning elements of two given sequences,
人工知能学会インタラクティブ情報アクセスと可視化マイニング研究会 ( 第 7 回 ) SIG-AM-7-04 model with 9 weight layers(vgg9) の学習済みモデルを用いる.LSTM では, 本研究で作成した学習データセットの訓練データから言語モデルを生成する. 図 De
人工知能学会インタラクティブ情報アクセスと可視化マイニング研究会 ( 第 7 回 ) SIG-AM-7-04 深層学習による日本語キャプション生成システムの開発 Development of Japanese caption generation system by deep learning 小林豊 鈴木諒 谷津元樹 原田実 Yutaka Kobayashi, Ryo Suzuki, Motoki
( : A8TB2163)
2011 2012 3 26 ( : A8TB2163) ( A B [1] A B A B B i 1 1 2 3 2.1... 3 2.1.1... 3 2.1.2... 4 2.2... 5 3 7 3.1... 7 3.2... 7 3.3 A B... 7 4 8 4.1... 8 4.1.1... 9 4.1.2... 9 4.1.3... 9 4.1.4... 10 4.2 A B...
生命情報学
生命情報学 5 隠れマルコフモデル 阿久津達也 京都大学化学研究所 バイオインフォマティクスセンター 内容 配列モチーフ 最尤推定 ベイズ推定 M 推定 隠れマルコフモデル HMM Verアルゴリズム EMアルゴリズム Baum-Welchアルゴリズム 前向きアルゴリズム 後向きアルゴリズム プロファイル HMM 配列モチーフ モチーフ発見 配列モチーフ : 同じ機能を持つ遺伝子配列などに見られる共通の文字列パターン
AI技術の紹介とセンサーデータ解析への応用
AI を活用したセンサーデータ解析 MathWorks Japan アプリケーションエンジニアリンググループアプリケーションエンジニア吉田剛士 2018 The MathWorks, Inc. 1 AI を活用したセンサーデータ解析 11:20-11:50 MATLAB による AI 作成 アプリを使った簡易的な解析 学習モデルのパラメータ自動調整 学習モデルのスタンドアロン化 2 課題 : ターボファンエンジンの予知保全
このように,ニュースメディアは,SNS 上 でニュース 記 事 が 拡 散 されるために,ニュース 説 明 文 の 構 成 に 様 々な 工 夫 を 行 っているが, 依 然 として 編 集 者 が 経 験 と 勘 を 駆 使 し て 行 っており,どのような 構 成 が SNS 上 で 訴 求 す
DEIM Forum 2016 B6-3 SNS 上 での 拡 散 を 考 慮 したニュース 記 事 中 重 要 文 の 自 動 選 択 永 山 孝 太 木 村 昭 悟 藤 代 裕 之 法 政 大 学 社 会 学 部 194-0298 東 京 都 町 田 市 相 原 町 4342 日 本 電 信 電 話 ( 株 ) コミュニケーション 科 学 基 礎 研 究 所 243-0198 神 奈 川 県 厚
2017 (413812)
2017 (413812) Deep Learning ( NN) 2012 Google ASIC(Application Specific Integrated Circuit: IC) 10 ASIC Deep Learning TPU(Tensor Processing Unit) NN 12 20 30 Abstract Multi-layered neural network(nn) has
スライド 1
NTT Information Sharing Platform Laboratories NTT 情報流通プラットフォーム研究所 セマンティック Web 技術を用いた社内情報の連携 森田大翼 飯塚京士 ( 日本電信電話株式会社 NTT 情報流通プラットフォーム研究所 ) セマンティック Web コンファレンス 2012 2012 年 3 月 8 日 ( 木 ) 2012 NTT Information
WBT [6] [7] [8] [9] Web [1] WBT [2] [3] ipad PC ipad ipad ipad [4] QR QR [5] IC IC PDA IC PDA US-ASCII 4,296 QR IC IC IC QR QR QR 3. 3. 1 A BB A A CC
![WBT [6] [7] [8] [9] Web [1] WBT [2] [3] ipad PC ipad ipad ipad [4] QR QR [5] IC IC PDA IC PDA US-ASCII 4,296 QR IC IC IC QR QR QR 3. 3. 1 A BB A A CC](/thumbs/39/20475274.jpg "WBT [6] [7] [8] [9] Web [1] WBT [2] [3] ipad PC ipad ipad ipad [4] QR QR [5] IC IC PDA IC PDA US-ASCII 4,296 QR IC IC IC QR QR QR 3. 3. 1 A BB A A CC")
DEIM Forum 2015 D7-3 432 8011 3-5-1 / PD 191 0065 6-6 191 0065 6-6 432 8011 3-5-1 E-mail: cs11077@s.inf.shizuoka.ac.jp, hirota-masaharu@tmu.ac.jp, ishikawa-hiroshi@tmu.ac.jp, yokoyama@inf.shizuoka.ac.jp,
Machine Learning for NLP
自然言語処理におけるディープラーニングの発展 Yuta Tsuboi IBM Research Tokyo yutat@jp.ibm.com 2015-03-16 出版予定のサーベイ論文の内容を元にお話します 坪井祐太, 自然言語処理におけるディープラーニングの発展, オペレーションズ リサーチ, Vol.60, No.4 (In press) 自然言語処理 (Natural Language Processing;
nlp1-05.key
実用的な構文解析 自然言語処理論 I 今までの例に挙げた文法は非常に単純 実用的な文法 いろいろな文に対応しなければならない それだけ規則の数も増える 5. 文法 3( 素性構造と ) 規則を効率的に管理する必要がある 1 2 一致の例 英語における一致 (agreement) 数 ( 単数形, 複数形 ) 人称 (1 人称,2 人称,3 人称 ) 名詞句の例 a desk the desks a