arXivTimesで話したDeepTypeの解説

1. DeepType: Multilingual Entity Linking by
Neural Type System Evolution
@Hironsan
2018/02/21

2. アブストラクト
多言語で使えるエンティティリンキング(EL)手法を提案
特徴は以下の2点
エンティティのタイプ情報を使用
WikipediaとWikidataを用いて教師データを自動生成
結果として、一部データセットにおいて、
ELの性能(F1)が10ポイント以上の向上

3. 用語の説明

4. 用語の説明
以下の用語について説明する
エンティティリンキング(Entity Linking)
メンション(Mention)
エンティティ(Entity)
タイプ(Type)

5. エンティティリンキング(EL)
メンションを知識ベースのタイトル(エンティティ)に
結びつけるタスク
メンションはエンティティへの言及のこと
例はWikification and Beyond: The Challenges of Entity and Concept Groundingより

6. タイプ(Type)
タイプとはエンティティについているラベルのことで、
上位概念やエンティティのトピックを表す
DeepTypeではWikipediaの記事に付与されたカテゴリか
ら100カテゴリほど選択して用いている
例: Jaguar_Carsという記事のカテゴリ
a

7. 手法の説明

8. 手法の概要
大きくは以下の2つの処理に分けられる
タイプ分類(Type Classifier)
曖昧性解消(Disambiguation)
タイプ分類 曖昧性解消
メンション
周辺文脈 エンティティ

9. タイプ分類
タイプ分類とはメンションをタイプに分類すること
分類には長期の依存性を捉えるためにBi-LSTMを使用
各単語ごとにタイプを出力

10. タイプ分類が役に立つ理由
タイプがわかるとエンティティを絞りこめる
Discovering Types for Entity Disambiguationから画像引用

11. タイプ分類における問題点
タイプ数(Wikipediaのカテゴリ数)が多すぎる
英語版Wikipediaのカテゴリ数は約1.7×106
タイプ数が多いことによるデメリット
学習に時間がかかる
概念が細かすぎる
解決策: 100種類程度のタイプを選んで使う

12. タイプをどう選ぶか?
以下のスコアを最大化するようにタイプを選ぶ
|A|・λはタイプ数が多くなりすぎないようにしている
Soracle、Sgreedy、Learnabilityは後述
ここでAはタイプの集合

13. SoracleとSgreedy
Soracle: タイプの解決が100%上手くできたときの
曖昧性解消の性能
Sgreedy:リンクカウント情報だけ使ったときの
曖昧性解消の性能
(Soracle - Sgreedy)が大きくなるようにする
タイプが100%解決できたときにELの性能が
高くなるようなタイプを選ぶ

14. Learnability
他のタイプとの区別が容易なタイプを選択したい
そのために、AUCの平均値が大きくなるようにしたい
分類器には以下のFFNNを使う

15. 曖昧性解消(Disambiguation)
曖昧性解消では、タイプ分類の結果を用いてELする
Pi,*(ti|m, D)は文書Dに出現したメンションmが
タイプtiである確率
メンションは複数単語から構成されるが、
タイプの出力は単語ごとなので、
max-over-timeでまとめあげる

16. 実験概要

17. 検証内容
以下の性能を測定する
タイプ選択
固有表現認識
エンティティリンキング

18. 実験結果

19. タイプ選択
タイプ選択の手法を変更したときのELの性能
計算量が少ない手法でもそれなりのAccuracyを達成

20. 固有表現認識
文字と単語を入力として取り、タイプを出力する
分類器(Bi-LSTM-CNN)を事前学習
その後、最終層をCRFに変えて固有表現認識
あんまりよくないのはWikipediaのカテゴリがエンティ
ティの上位概念を表すとは限らないからだと思われる

21. エンティティリンキング
以下のデータセットを用いてELの性能を検証
Wikipedia、WKD30、CoNLL、TAC 2010
Wikipediaに対してはaccuracy約11%の改善
他のデータセットに対しては、1.5〜3.3%の改善

22. エンティティリンキング
以下のデータセットを用いてELの性能を検証
Wikipedia、WKD30、CoNLL、TAC 2010
Wikipediaに対してはaccuracy約11%の改善
他のデータセットに対しては、1.5〜3.3%の改善
リンクカウントのみの性能が上がっているのは、リンク付の質が
上がったことと量が増えたことに起因する

23. まとめ

24. まとめ
多言語で使えるエンティティリンキング(EL)手法を提案
特徴は以下の2点
エンティティのタイプ情報を使用
WikipediaとWikidataを用いて教師データを自動生成
結果として、一部データセットにおいて、
ELの性能(F1)が10ポイント以上の向上

25. 参考文献
DeepType: Multilingual Entity Linking by Neural Type
System Evolution
Discovering Types for Entity Disambiguation
Wikification and Beyond: The Challenges of Entity and
Concept Grounding
【統計学】ROC曲線とは何か、アニメーションで理解
する。