1．は
じ め に
推薦システムの研究は，1994 年に R. Agrawal によっ て提案された相関ルール抽出，およびそのアルゴリズ ムである Apriori [Agrawal 94] によって本格的に開始 された．それ以降，高速化を実現させた頻出アイテム セット抽出アルゴリズムが数多く提案されたり [Han 00, Minato 07]，頻出アイテムセット抽出を拡張させ，アイ テムの順序列，部分木構造，部分グラフ構造を抽出対象 とした，頻出順序列発見 [Pei 00, Srikant 96]，頻出順 序木抽出 [Asai 02, Zaki 05]，頻出サブグラフ抽出 [浅井 04, Yan 02]などが提案されるなど，主に理論的な方面で の研究が盛んに行われていった [宇野 08]． 2000年に入り，E-Commerce が人々の生活に浸透し てくるにつれ，購買履歴データ，閲覧履歴データなど， 大量のユーザ行動データが容易に取得できるようにな り，E-Commerce サービス上での推薦システムの導入が 急速に進んでいった．現在，ユーザの利便性を上げるた め，あるいはより多くの購買を促すために，ほぼすべて の E-Commerce サイトにて推薦システムが稼働してお り，商品の推薦，クーポン配信の最適化，コンテンツの パーソナライズなどに活用されている．本稿では，商品 推薦システムをはじめとする E-Commerce での推薦シ ステムの活用例，推薦システムのアルゴリズム，および その実装方法について紹介していく．2．EC での
商品推薦システムの活用
E-Commerce（EC）における商品推薦システムは多 様化してきており，複数の手法を適用させ，多角的に商 品をユーザに推薦している．図 1 は 2019 年 1 月時点の 楽天市場の Top ページ＊1であるが，Top ページの中に も複数の商品推薦パーツが含まれている． 図 1 の（1）は，リターゲティングと呼ばれる機能で あり，ユーザの商品閲覧履歴データを参照し，直近に参 照した商品をユーザに提示する機能である．商品をユー ザに提示するということから，広義の意味での商品推薦 と捉えることができる．リターゲティングは，一般的な 商品推薦システムよりも CTR＊2/CVR＊3において，高い パフォーマンスを示す． 図 1 の（2）は，ユーザの過去に購買した商品の中から， 定期的に購入されやすい商品を抽出し，ユーザに提示す る機能である．米・ミネラルウォータなどの食料品，洗 剤などの日用品などが定期的に購入される確率が高いた め，定期購入をするユーザをターゲットとし，商品を推 薦する．定期的に購入されやすい商品は，購買履歴を参 照し，自動的に検知する． 図 1 の（3）は，商品のディスカウントクーポンを配 布する機能である．この機能の裏側には，商品推薦シス商品推薦システム
─ E-Commerce サービスでの推薦システムの活用─
Item Recommender System
─ Use Cases of Recommender Systems in E-Commerce Service ─
平手 勇宇
楽天株式会社楽天技術研究所Yu Hirate Rakuten Institute of Technology, Rakuten, Inc.
[email protected], http://rit.rakuten.co.jp/
Li Tianyu
（同 上）Tianyu Li [email protected], http://rit.rakuten.co.jp/
Le Phuc
楽天株式会社 EC データアナリティクス部Phuc Le EC Data Analytics Department, Rakuten, Inc.
[email protected], https://www.rakuten.co.jp/
Keywords:
e-commerce, recommender system, content-based recommender, collaborative filtering, deep learning. 「推薦システム」＊1 https://www.rakuten.co.jp ＊2 Click Through Rate：クリック率 ＊3 Conversion Rate：コンバージョン率
テムが走っており，ユーザへの推薦商品の中から，クー ポンが有効となっている商品を抽出したうえで，ユーザ に提示している． 図 1 の（4）は，いわゆる一般的な商品推薦システム であり，過去に閲覧した商品を入力とし，当該商品に関 連のある商品を提示している． 楽天 Top ページ以外でも，図 2 に示すように，商品 ページに，「この商品を買った人は，こんな商品にも興 味を持っています」といった Item2Item の商品推薦パー ツを提示したり，ユーザ会員ページ上に，過去に購入し た商品と関連のある商品を，「あなたにおススメの商品」 といった形でユーザに提示している（User2Item の商品 推薦）．
3．
商品推薦アルゴリズム
現在の E-Commerce ではさまざまな商品推薦シス テムを適用させているが，ここでは，最も基本的な User2Itemの商品推薦システム＊6を例にとり，それに 適用されているアルゴリズムについて紹介する． 商品推薦システムを構築するためのアルゴリズムは， 一般的に，コンテンツベースの手法，協調フィルタリン グの手法が存在する．また，近年，幅広い分野において 深層学習アルゴリズムが活用されているが，商品推薦シ ステムにおいても同様であり，深層学習を用いた手法の 活用が始まっている．さらに，近年の傾向として，各ア ルゴリズムの欠点を補うことを目的とし，複数のアルゴ リズムを組み合わせたハイブリッドなアプローチも提案 されている． 3･1 コンテンツベースの手法 コンテンツベースの手法は，ユーザが過去に興味を もった商品のコンテンツ（商品タイトル，商品説明文， 商品画像などが含まれる）とよく似たコンテンツの商品 を当該ユーザに推薦する手法である．具体的には，ある ユーザが過去に購入した商品あるいは閲覧した商品のコ ンテンツを解析し，ユーザの嗜好を表現する商品の特徴 量を生成する．そのうえで，候補となる商品の中から， 類似する特徴量をもつ商品をユーザに提示する． 商品の特徴量生成にあたっては，次に示すようなさま ざまな手法が存在する． 1．商品カテゴリー，ブランド，サイズ，価格帯と いった商品の属性値をあらかじめ抽出 [Charron 16, Shinzato 13]し，抽出した商品の属性値を商品の特 徴量として扱う方法． 2． 商 品 コ ン テ ン ツ 中 に 含 ま れ る 単 語 を も と に， TF-IDFなどの手法を適用して単語に重みを加え た後に，キーワードベクトル空間に射影する方法 ＊6 入力が「ユーザ」，出力が「当該ユーザに関連する商品集合」 の推薦システムのことを指す． ＊4 https://www.rakuten.co.jp（2019/1/10 参照） ＊5 2019/1/10 参照． 図 1 楽天市場 Top ページにおける商品推薦パーツ＊4 図 2 商品ページにおける商品推薦パーツ＊5[Lieberman 95]．
3．商品コンテンツを一つの文書と見立て，Word2Vec [Mikolov 13]，Doc2Vec [Le 14] などの Embedding アルゴリズムを適用し，単語や商品にベクトルを与 え，これをもとに商品に特徴量を与える方法． 4．CNN などの深層学習アルゴリズムを適用すること で，商品の特徴量を与える方法 [Zheng 17]．テキス ト情報だけではなく商品画像などのバイナリデータ も特徴量の対象とすることができる． コンテンツベースの手法は，後述するコールドスター ト問題に非依存であるという利点があるため，商品デー タベースに登録されたばかりの商品を推薦できるという 利点が存在する．そのため，現在の商品推薦システムお いても，幅広く活用されている．一方で，推薦結果のク オリティが商品コンテンツに大きく依存する点や，複数 ユーザを独立して扱うため，推薦結果の多様性が低くな るなどの欠点が存在する． 3･2 協調フィルタリングの手法 協調フィルタリング手法は，「自分と似たユーザが高 く評価した商品は，自分も高く評価するであろう」とい う仮説のもとでユーザの行動データをもとにして商品を 推薦する手法である．ここで，「高く評価する」というユー ザの嗜好は，商品レビューの評点などの明示的な評価情 報から獲得する場合もあるが，多くの場合には，豊富な 評価情報を得るために，ユーザの商品購買履歴データや 商品閲覧履歴データなどに含まれる暗示的な評価情報か ら獲得する． 協調フィルタリングの手法の基本的な考え方は，ユー ザの評価情報を，図 3 に示すようなユーザと商品の行 列にて表現し，評価行列をもとにユーザの類似性を定義 し，推薦する商品を決定する．評価行列とは，ユーザ i （0 ≤ i＜ m）の商品 j（0 ≤ j＜ n）に対する評価情報を r（i, j）とした，m×n の行列のことを指す．考え方はシン プルであるが，登録ユーザ数，取扱い商品数が増えてい くとともに，この行列のサイズも巨大化していくため， メモリ上に展開して短時間で計算するアプローチ（メモ リベース）を取ることが困難となる．したがって，バッ チプロセスなどで事前にモデル構築をしておくアプロー チ（モデルベース）をとることが一般的である． モデルベースの協調フィルタリングのアルゴリズム は，クラスタモデル [Breese 98]，SVD による次元削減 など，数多くの手法が存在するが，現在，最も一般的に 採用されているアルゴリズムは，Matrix Factorization （MF）[Koren 09] である． Matrix Factorizationは，図 4 に示すように m×n の 評価行列 R ∈ Rm×nを，0 ＜ d m, n を満たす m×d の 行列 U ∈ Rm×d，および n×d の行列 V ∈ Rn×dを用い て以下のように近似する手法である． R ≈ UT V （1） ここで，評価値 ri, jは，uiTvjとして表現することがで
きる（ui∈ Rd, vj∈ Rd）．Matrix Factorization は，実
際の評価行列 R から，下記の最適化関数を用いることで， ui, vjを学習するアルゴリズムである． minu （ri, j－ uiTvj）2＋λ（｜｜ui｜｜2＋｜｜vj｜｜2） i, vj i, j （2） 協調フィルタリングの手法のよく知られた問題点とし て，コールドスタート問題＊7がある．新しく商品データ ベースに登録されたばかりの商品は，ユーザからほぼ購 買・閲覧されていないため，ユーザからの評価情報が不 足している．その結果，協調フィルタリングの手法では， このような商品を推薦対象として抽出することはまれで ある．同様のことは，新規ユーザについても該当する． このように，新しく登録された商品が推薦されにくい， 新規ユーザに推薦する商品が抽出されにくい現象のこと をコールドスタート問題と呼ぶ． 3･3 深層学習アルゴリズムベースの手法 近年，深層学習アルゴリズムの適用がさまざまな分野 において行われているが，商品推薦システムの分野にお いても同様である．ここでは，再帰型ニューラルネット ワーク（Recurrent Neural Network：RNN）ベースの 手法，および Autoencoder（AE）ベースの手法につい て紹介する． RNNは，自己回帰型の構造をもつニューラルネット ワークのことを指し，時系列・順序列の概念をもつデー タのモデル化を行う際に，高い性能を示すことが知られ ている．商品推薦システムにおいても，過去のセッショ ンで購買・閲覧した商品集合を考慮したうえで，現セッ ＊7 スタートアップ問題とも表現される． 図 3 協調フィルタリングの評価行列
ションで推薦する商品を決定することは重要であるの で，RNN との親和性が高いと考えられる．こうした考 えから，RNN のモデルを適用した，セッションベース の商品推薦システムがいくつか提案されている [Hidasi 15, Loyola 17, Wu 16a]． Autoencoder（AE）は，入力層，隠れ層，出力層の 3層で構成されており，隠れ層で次元を削減しつつ入力 と出力を一致させるように学習するモデルである．推 薦システムへの適用にあたっては，評価行列に含まれ るユーザベクトルを入力とし，低次元ベクトル（隠れ 層）にエンコードしたうえで，出力層に向けてベクトル を再構成するように学習していく．複数ユーザのベクト ルを同一の AE に学習させることで，さまざまなユーザ の嗜好を反映させていく．AE の商品推薦システムへの 適用の初期取組みとしては，川上らの手法 [川上 14] や， AutoRec [Sedhain 15]がある．また発展形として，AE の代わりに Denoising Autoencoder（DAE）を適用した 手法 [Wu 16b]，Stacked Denoising Autoencoder（SDAE）
[Strub 15]を適用した手法などが提案されている．
RNN，AE 以外にも，例えば Multilayer Perception （MLP）[Cheng 16] を適用した手法，制約付きボルツマ ンマシン（Restricted Boltzmann Machine：RBM）を 適用した手法 [Salakhutdinov 07] など，さまざまな手法 が提案されている． 3･4 ハイブリッドの手法 おのおののモデルの欠点を相互に補完し合うことで， 優れたモデルを構築するというアイディアのもとで，複 数のモデルを結合させるハイブリッドの手法も数多く提 案されている． § 1 コンテンツベースの手法×協調フィルタリングの 手法 コンテンツベースの手法，協調フィルタリングの手法 には，それぞれ推薦結果の多様性が低いという問題点， コールドスタート問題が存在する．そこで，両者の欠点 を補うために，両者の手法を組み合わせるアプローチが 効果的である．最もナイーブな実現方法として，コンテ ンツベースの手法，協調フィルタリングの手法を独立し て適用し，それらの出力を組み合わせることで最終的な 推薦結果とする方法があげられる． また，単一のモデルの中に両方のアプローチを組み込 むということもなされている．例として Melville らの手 法 [Melville 02] を以下に示す． 1．ユーザの評価情報を観測済みの既知の部分と，未 観測の未知の部分に分割する． 2．コンテンツ情報を用いて未知の部分の評価情報を 予測する． 3．予測した評価情報を元の評価情報行列に反映させ， 新たな評価行列を生成する． 4．当該評価行列を対象として，協調フィルタリング のアルゴリズムを適用する． § 2 深層学習アルゴリズムベースの手法×協調 フィルタリングの手法 深層学習アルゴリズムベースの推薦手法の高い性能を 示していることから，深層学習アルゴリズムのモデルを 組み込むことで，協調フィルタリング手法の欠点（コー ルドスタート問題）を補おうとする取組みが数多く実施 されている． 代表的なものとして，MLP のモデルと Generalized Matrix Factorization（GMF）のモデルを組み合わせ た Neural Collaborative Filtering（NCF）[He 17]， Autoencoderの一種である SDAE のモデルと Probabilistic Matrix Factorization（PMF）のモデルを組み合わせた Deep Collaborative Filtering（DCF）があげられる [Li 15]． NCFは，図 5 に示すようにユーザの Embedding と 商 品 の Embedding の 両 者 を，GMF と MLP に 与 え， GMFと MLP 双方で学習する．最後に両者の出力を結 合し，最終的な評価行列を予測するモデルである．ま た，DCF は，図 6 に示すようにユーザベクトル，商品 ベクトルを対象とした SDAE を構築し，その隠れ層を Matrix Factorizationの Latent Factor とするモデルで ある．DCF をさらに発展する形で，著者らは，商品レ
図 5 Neural Collaborative Filtering（NCF）の構造
ビュー，商品説明文，ユーザプロファイルなどのさまざ まな形式のデータをモデルに取り込めるモデルを提案し ている [Li 18]．
4．
商品推薦システムのアーキテクチャ
本章では，商品推薦システムをどのようにして大規模 サービスを実装しているかについて，楽天市場での事例 を利用して紹介する．図 7 は，楽天市場における商品推 薦システムのアーキテクチャである．以下では，図 7 の 付番に対応して説明する． （1）商品推薦アルゴリズムの適用 商品データ，商品購買履歴データ，商品閲覧履歴デー タをもとにして，3 章で示したような商品推薦リスト を生成する．このプロセスはバッチプロセスによって 実行されデイリーで更新される．通常，複数のアルゴ リズムが適用されているため，アルゴリズムごとに商 品推薦リストの生成を行う． （2）キャンペーン情報，ビジネスルールの適用 セールスイベント，「父の日」などの特集イベント など，イベントに関連のある特定の商品，あるいはキャ ンペーン対象の商品を，他の商品よりも優先的にユー ザに提示したいという事業要件が存在する．また，薬 品やコンタクトレンズに属する商品を推薦してはいけ ないといった，ビジネスルールも存在する．（1）で生 成した商品推薦リストに対して，これらの条件を適用 することで，加工済みの商品推薦リストを生成する． （3）商品推薦パーツの Call フロントエンド側から，商品推薦パーツの読込みを 実施 . デリバリーシステム側に，対象となるユーザ ID と，商品推薦パーツの提示場所（URL など）を渡す． （4）適用アルゴリズムの決定 デ リ バ リ ー シ ス テ ム に て AB テ ス ト や，Multi-armed Banditアルゴリズムを適用し，商品推薦シス テム全体のパフォーマンスを向上させている．具体的 には，各推薦アルゴリズムの直近のパフォーマンスを 計測し，パフォーマンスに応じてユーザトラヒック割 合を動的に決定する． この仕組みのもとで，商品推薦パーツを Call した ユーザに対し，どの推薦アルゴリズムの結果を適用す るのかを決定する． （5）キャッシュの問合せ レイテンシーを下げるために，商品推薦システムに もキャッシュ機構を採用している．キャッシュには， ユーザをキーとした推薦商品群，および商品をキーと した推薦商品群（関連する商品群）などを保持してお く．キャッシュ機構は，一定時間＊8経過したエントリ を削除する機能を付与する． （6）直近のユーザの行動を反映 （2）で生成してある加工済みの商品推薦リストは， バッチプロセスで生成されたリストであり，直近の ユーザの行動が反映されていない．そこで，直近で購 入した商品やそれに類似する商品を推薦結果から省い たり，直近で閲覧した商品や，それに類似する商品を 追加したりすることで，直近のユーザの行動を商品推 薦結果に反映させる． （7）商品の在庫を確認 在庫のない商品を推薦することは，単純に機会ロス であるため，推薦商品を提示する前に，在庫があるか どうかを API 経由で確認をする． 図 7 商品推薦システムのアーキテクチャ ＊8 セール期間中などユーザからのトラヒックが膨大になるタイ ミングでは，キャッシュ保持期間を長めに設定し，キャッシュ ヒット率を上げていく．ユーザからのトラヒックが落ち着いて いるタイミングでは，キャッシュ保持期間を短めに設定し，推 薦結果の鮮度を上げるようにする．（8）商品推薦パーツの提示 生成した商品推薦結果をキャッシュに保存したうえ で，フロントエンド側で表示する． （9）アルゴリズムのパフォーマンスの更新 推薦結果を提示したうえで，実際にユーザがクリッ ク・購入したかは，すべて閲覧履歴データ・購買履歴 データに保存されている．これらのデータを参照しな がら，推薦アルゴリズムのパフォーマンスを更新し， デリバリーシステムで動かしている最適化のプロセス にフィードする．
5．その
他の推薦システム
3章では，ユーザに対する商品推薦（User2Item の推 薦システム）について述べてきたが，E-Commerce では， それ以外にもさまざまな推薦システムが存在する．通常 E-Commerceでは，図 8 に示すように，「商品」，「ユーザ」， 「商品カテゴリー」という概念が存在しており＊9．それ ぞれの概念間の関連性を定義することで，さまざまな推 薦システムを定義できる．表 1 に，それぞれの概念間の 推薦システムの代表的な用途を示す． さらには，近年，E-Commerce で購入した商品の受 取り方法が多様化しており，自宅への配送以外にも，コ ンビニエンスストアでの受取り，駅などに設置されて いる受取ボックスなどを選択できるようになっている． E-Commerceで購入した商品の配送効率化が喫緊の課題 となっている中で，例えば，商品を購入した際に，当該 ユーザにとって利便性の高い，受取り方法，受取り時間 帯を推薦することで，再配達率を低減させるような推薦 システムも存在する．6．
課題点と今後の方向性
商品推薦システムは多くの E-Commerce サイトに採 用され，推薦アルゴリズムの改良により，効果を上げて きているものの，下記に示すような課題点が存在しする ため，アルゴリズムのさらなる改善が期待されている． E-Commerceサイト上でのユーザの行動は多くの事象 に影響を受けている．例えば，ユーザの商品閲覧の多く は，検索結果ランキングページからのクリックによって 発生しているため，商品検索エンジンのランキングに大 きく依存している．また，テレビ番組で紹介された商品， SNS上のインフルエンサによって紹介された商品など は，一時的に閲覧数が急上昇する．このように，商品閲 覧データは，さまざまな事象の影響を受けているため， ＊9 楽天市場のビジネスモデルでは，それに加えて「販売店舗」と いう概念も存在する． 表 1 E-Commerce における推薦システムの例 図 8 中の番号 推薦システムの種類 代表的な用途 （1） Item2Item 商品推薦（この商品を買ったユーザはこの商品も買う）：対象商品に関連のある商品集合を提示する．通常は商品ページにて利用される． （2） User2Item 商品推薦・クーポン配信・リターゲティング（あなたにおすすめの商品）：対象ユーザに推薦する商品集合を抽出．Top ページや個人ページ，あるいはディスカウントクーポンを提示 する場合に利用される． （3） Item2User 潜在顧客抽出（この商品を購入しそうなユーザ）：対象商品を購入する確率が高いユーザを抽出し，商品販売側に潜在顧客として提示する． （4） User2User （2）の商品推薦・クーポン配信や（3）の潜在顧客抽出に活用される．類似ユーザ抽出，潜在顧客抽出：対象ユーザに似た行動をするユーザ集合を抽出する機能． （5） User2Category 商品カテゴリー推薦，検索ランキングへの反映：対象ユーザが興味があると思われる商品カテゴリーを推定する．商品カテゴリーナビゲーションに応用したり，商品検索の検索結果ラ ンキングに反映させる． （6） Category2User イベントキャンペーン通知：商品カテゴリー特有の特集やキャンペーンをユーザに提示する． （7） Category2Category 類似カテゴリー（ナビゲーション）：併売されやすい商品カテゴリーや，比較検討されやすい商品カテゴリーをユーザに提示することで，ユーザナビゲーションの最適化を図る． （8） Item2Category カテゴリー推定：商品登録時に商品タイトル．商品説明文，商品画像から当該商品の商品カテゴリーを推定し，商品登録をアシストする． （9） Category2Item カテゴリー内のおすすめ商品：カテゴリートップページなどのページにて，当該カテゴリーのおすすめ商品としてユーザに提示する． 図 8 E-Commerce における概念と推薦システムその中から，純粋なユーザの嗜好によって発現したユー ザ行動を抽出することは困難である． また，ユーザにとっての商品の魅力度は時間を追う ごとに変化する．例えば，テレビ番組や SNS 上で紹介 された商品は，その直後から注目度が向上する．商品レ ビューに登録されているレビュー集合も時間を追うごと に変化しているため，例えば肯定的な商品レビューが投 稿され，それが見えやすい位置に表示されている期間は， 当該商品の魅力度は向上する．このように，商品の魅 力度は刻々と変化をしているため，商品推薦システムの CTR，CVR もその影響を受ける．このため，過去のデー タを対象としたオフラインテストでの性能結果と，オン ラインで適用したときの性能結果が大きく異なるといっ た事象が頻繁に発生する． これらの問題に対する現状の対応手段は，4 章で示し たように，多種のデータを対象とした商品推薦アルゴリ ズムを複数個用意し，それらを同時に本番環境にて適用 させ，パフォーマンスをリアルタイムに計測しながら， 適用するアルゴリズムの優先度を動的に変更する [Zhao 18]ことである．このような事象もモデル化することが 可能になれば，商品推薦システムのアーキテクチャがシ ンプルになると考えられる．
◇ 参 考 文 献 ◇
[Agrawal 94] Agrawal, R. and Srikant, R.: Fast algorithms for mining association rules in large databases, Proc. 20th Int.
Conf. on Very Large Data Bases（VLDB’94）, pp. 487-499（1994） [Asai 02] Asai, T., Abe, K., Kawasoe, S., Arimura, H., Sakamoto, H. and Arikawa, S.: Efficient substructure discovery from large semi-structured data, Proc. 2nd SIAM Data Mining（SDM’02）,
pp. 158-174（2002）
[浅井 04] 浅井達哉，有村博紀：半構造データマイニングにおけ るパターン発見技法，データ工学論文特集，信学論（D），Vol. J87-D-I, No. 2, pp. 79-96（2004）
[Breese 98] Breese，J. S., Heckerman, D. and Kadie, C.: Empirical analysis of predictive algorithms for collaborative filtering, Uncertainty in Artificial Intelligence, Vol. 14, pp. 43-52（1998）
[Charron 16] Charron, B., Hirate, Y., Purcell D. and Rezk, M.: Extracting semantic information for e-commerce, Proc. 15th
Int. Semantic Web Conf., pp. 273-290（2016）
[Cheng 16] Cheng, H.-T., et al.: Wide deep learning for recommender systems, Proc. 1st Workshop on Deep Learning
for Recommender Systems（2016）
[Han 00] Han, J., Pei, J. and Yin Y.: Mining frequent patterns without candidate generation, Proc. Int. Conf. on Management
of Data（SIGMOD’00）, pp. 1-12（2000）
[He 17] He, X., Liao, L., Zhang, H., Nie, L., Hu, X. and Chua, T.-S.: Neural collaborative filtering, Proc. 26th Int. Conf. on World
Wide Web（WWW 2017）, pp. 173-182（2017）
[Hidasi 15] Hidasi, B., Karatzoglou, A., Baltrunas, L. and Tikk, D.: Session-based recommendations with recurrent neural networks, arXiv preprint arXiv:1511.06939（2015）
[川上 14] 川上和也，松尾 豊：Deep collaborative filtering deep learning技術の推薦システムへの応用，人工知能学会全国大会 論文集，Vol. 28, pp. 1-4（2014）
[Koren 09] Koren, Y., Bell, R. and Volinsky, C.: Matrix factorization techniques for recommender systems, IEEE
Computer Society, Vol. 42, pp. 30-37（2009）
[Le 14] Le, Q. and Mikolov, T.: Distributed representations of sentences and documents, Proc. 31st Int. Conf. on Machine
Learning（ICML 2014）, pp. 1188-1196（2014）
[Li 15] Li, S., Kawale, J. and Fu, Y.: Deep collaborative filtering via marginalized denoising auto-encoder, Proc. Int. Conf. on
Information and Knowledge Management（CIKM’15）, pp. 811-820（2015）
[Li 18] Li, T., Ma, Y., Xu, J., Stenger, B., Liu, C. and Hirate Y.: Deep heterogeneous autoencoders for collaborative filtering,
Proc. Int. Conf. on Data Mining（ICDM 2018）, pp. 1164-1169 （2018）
[Lieberman 95] Lieberman, H.: Letizia: An agent that assists web browsing, Proc. Int. Joint Conf. on Artificial Intelligence （IJCAI’95）, pp. 924-929（1995）
[Loyola 17] Loyola, P., Liu, C. and Hirate, Y.: Modeling user session and intent with an attention-based encoder-decoder architecture, Proc. 11th ACM Conf. on Recommender Systems （RecSys 2017）, pp. 147-151（2017）
[Melville 02] Melville, P., Mooney, R. J. and Nagarajan, R.: Content-boosted collaborative filtering for improved recommendations, Proc. 18th National Conf. on Artificial
Intelligence, pp. 187-192（2002）
[Mikolov 13] Mikolov, T., Chen, K., Corrado, G. and Dean, J.: Efficient estimation of word representations in vector space,
CoRR, abs/1301.3781（2013）
[Minato 07] Minato, S., Arimura, H.: Frequent pattern mining and knowledge indexing based on zero-suppressed BDDs,
PostProc. 5th Int. Workshop on Knowledge Discovery in Inductive Databases, LNAI（2007）
[Pei 00] Pei, J., Han, J., Mortazavi-Asl, B., Pint, H., Chen, Q., Dayal, U. and Hsu, M.-C.: PrefixSpan: Mining sequential patterns efficiently by Prefix-projected pattern growth, Proc.
17th Int. Conf. on Data Engineering（ICDE 2001）, pp. 215-224 （2001）
[Salakhutdinov 07] Salakhutdinov, R., Mnih, A. and Hinton, G.: Restricted Boltzmann machines for collaborative filtering,
Proc. 24th Int. Conf. on Machine Learning（ICML’07）, pp. 791-798（2007）
[Sedhain 15] Sedhain, S., Menon, A. K., Sanner, S. and Xie L.: AutoRec: Autoencoders meet collaborative filtering, Proc. 24th
Int. Conf. on World Wide Web, pp. 111-112（2015）
[Shinzato 13] Shinzato, K. and Sekine, S.: Unsupervised extraction of attributes and their values from product description, Proc. 6th Int. Joint Conf. on Natural Language
Processing（IJCNLP 2013）, pp. 1339-1347（2013）
[Srikant 96] Srikant R. and Agrawal R.: Mining sequential patterns: Generalizations and performance improvements,
Proc. Int. Conf. on Extending Database Technology（EDBT ’96）, pp. 1-17（1996）
[Strub 15] Strub, F. and Mary, J.: Collaborative filtering with stacked denoising autoencoders and sparse inputs, Proc. NIPS
Workshop on Machine Learning for eCommerce（2015） [宇野 08] 宇野毅明，有村博紀：頻出パターン発見アルゴリズム入
門─アイテム集合からグラフまで─，人工知能学会全国大会 AI レクチャー，3M1-1（2008）
[Wu 16a] Wu, S., Ren, W., Yu, C., Chen, G., Zhang, D. and Zhu, J.: Personal recommendation using deep recurrent neural networks in NetEase, Proc. 32nd Int. Conf. on Data
Engineering（ICDE 2016）, pp. 1218-1229（2016）
[Wu 16b] Wu, Y., DuBois, C., Zheng, A. X. and Ester, M.: Collaborative denoising Auto-encoders for Top-N recommender system, Proc, 9th Int. Conf. on Web Search and Data Mining （WSDM 2016）, pp. 153-162（2016）
[Yan 02] Yan, X., Han, J.: gSpan: Graph-based substructure pattern mining, Proc. Int. Conf. on Data Mining（ICDM 2002）, pp. 721-724（2002）
[Zaki 05] Zaki, M. J.: Efficiently mining frequent trees in a forest: Algorithms and applications, IEEE Trans. on Knowledge and
Data Enginnering, Vol. 17, Issue 8, pp. 1021-1035（2005） [Zheng 17] Zheng, Z., Noroozi, N. and Yu, P. S.: Joint deep
Proc. 10th Int. Conf. on Web Search and Data Mining（WSDM
2017）, pp. 425-434（2017）
[Zhao 18] Zhao, C., Watanabe, K., Yang, B. and Hirate, Y.: Fast converging multi-armed bandit optimization using probabilistic graphical model, Proc. Pacific-Asia Conf. on
Knowledge Discovery and Data Mining（PAKDD 2018）, pp. 115-127（2018） 2019年 2 月 25 日 受理
![図 4 Matrix Factorization 手法 [Koren 09]](https://thumb-ap.123doks.com/thumbv2/123deta/8196918.1278110/3.892.458.807.681.802/図4MatrixFactorization手法Koren9.webp)
