説明可能AIチーム オンラインセミナー.
Speaker:
Andrew Shin / アンドリュー シン
Title:
グラフアテンションネットワークと個別化ページランクを用いた法律文章処理
Abstract:
大規模言語モデルは高品質なテキスト生成能力によって注目を集めているが、法的文書のように微細な構造的理解を要する分野への適用可能性にはまだ限界が大きい。本研究では、関係情報をモデル化し、適応的なアテンション機構によって重要ノードに焦点を当てるグラフアテンションネットワーク(Graph Attention Networks)が、法的言語理解における言語モデルの性能を向上させうることを示す。さらに、個別化ページランク(Personalized PageRank)と確率的サンプリングを統合することで、性能が一層向上することを示す。本提案手法は、追加の法的テキストによるファインチューニングやスケールアップを行うことなく、LexGLUEベンチマークデータセットにおいて最先端の結果を達成している。
使用言語:
日本語