目次 概要 提案手法の内容 Digit Tokenization(DT) Random Shift(RS) pre-training用のNumerical Data (ND)の生成 pre-training用のTextual Data (TD)の生成 追加pre-trainingの方法 数値実験 ND・TDによる追加pre-trainの効果 Digit Tokenizationの効果 言…

概要 COLING2020に採択BERT-based similarity learning for product matching - ACL Anthology 著者 Janusz Tracz (ML Research at Allegro.pl) Piotr Wojcik (ML Research at Allegro.pl) Kalina Jasinska-Kobus (ML Research at Allegro.pl, Poznan Univer…

概要 問題設定 contribution 提案手法 Encoder Product Attention Prediction Product Value Extraction Multitask Learning 実験 Ablation Study Low-Resource Evaluation 概要 ECの商品情報のテキストに含まれるAttributeとその値の抽出を行う。テキストの…

概要 問題設定 提案手法 Architecture 実験 既存手法との比較 ロバストネスの評価 予測結果のサンプル Ablation Study アンサンブルの効果検証 概要 レビューの様な自然文からtarget, opinion, sentimentのtriplet( 例=(“salmon”, “fresh”, positive)）をEnd…

概要 リンク INTRODUCTION Related work Adversarial Transfer Learning OUR PROPOSED METHOD Modality Embedding Layer Item Modality Embedding Behavior Property Embedding Multimodal Attention Network Multimodal Adversarial Network Cross-Modal Ad…

概要 リンク 用語 背景 提案手法(LM-based method) 検証結果 Human-based methodとLM-based methodの比較 検証用のデータ作成 評価方法 Data-driven methodsとLM-based methodの比較 目的語が2つある場合 その他の場合 概要 日本語の語順の評価をLanguage Mo…

概要 リンク pre-training用のデータセット(LAIT)の作成 data collection pipeline Architecture Pre-training Pre-training task Multi-stage Pre-training 検証結果 画像検索のタスクでの検証 Ablation Studies 概要 テキストと画像のマルチモーダルBERTの…

概要 リンク Architecture 結果 検証用データセット Baseline 検証用データセットでの精度 Hard Subsetsでの検証 weightのfreezing 概要 BERTをベースにしたテキストと画像のマルチモーダルネットワークを提案。画像をResNet-152でベクトルに変換した後に、a…