IPSJ SIG Technical Report Vol.2017-CSEC-77 No.4 Vol.2017-IOT-37 No /5/25 1,a) 1,b) 1,2,c) 1,d) BtoC EC EC EC EC ImageNet Inception-v3 EC A searc

Transcription

1 1,a) 1,b) 1,2,c) 1,d) BtoC EC EC EC EC ImageNet Inception-v3 EC A search system of retrieving images of the similar products without the requirement of the training of feature extractor and the purchase history Yusuke Miyake 1,a) Ryosuke Matsumoto 1,b) Kenji Rikitake 1,2,c) Kentaro Kuribayashi 1,d) Abstract: Electronic Commerce (EC) sites show items of the user s interest following the flow for efficient browsing of the products. For enabling to choose the related products without the activity record of the users, methods using the metadata and the images of the products to suggest a highly accurate choice by deep learning with convolution neural networks have been proposed. Those methods, however, require the large amount of training data and calculation time with a properly structured product metadata, which results in the impediment to the production system deployment. In this report, we propose a search system of retrieving images of the similar products without the requirement of the training of feature extractor and the purchase history, by comparing the similarity with the approximate nearest neighbor search based on the features from the pooling layer before the identification layer, using the Inception-v3 model which claims a good result on ImageNet, an academic benchmark of image classification similar to that of EC site product image characteristics. We implement this system to an EC site and measure the clickthrough rate of the image for each product category to evaluate the effectiveness of directing the user flow by showing the related products by similar images. 1 GMO Pepabo R&D Institute, GMO Pepabo, Inc., Tenjin, Chuo ku, Fukuoka Japan 2 Kenji Rikitake Professional Engineer s Office, Toyonaka City, Osaka Japan a) miyakey@pepabo.com b) matsumotory@pepabo.com c) kenji.rikitake@acm.org d) antipop@pepabo.com c 2017 Information Processing Society of Japan 1

2 1. BtoC EC [23] EC EC EC Amazon EC [9] EC [2] EC [18] [21] [5], [14] [4] [16] EC [11] [3] EC EC ImageNet Inception-v3 [5] Inception-v3 EC [12] EC [3] EC Inception-v3 EC c 2017 Information Processing Society of Japan 2

3 [10] EC EC 2.3 [7] [1] [18] [5], [14] [8], [21] Inception-v3 ILSVRC[14]2014 GoogLeNet[4] ILSVRC Top-5 GoogLeNet 6.67% 3.46% 5.1% *1 [4] [16] [11] [3] EC EC 3 ( 1 ) EC ( 2 ) ( 3 ) *1 c 2017 Information Processing Society of Japan 3

4 ( 1 ) EC ( 2 ) 2 EC EC EC ImageNet ,841 14,197,122 ILSVRC [14] ImageNet ILSVRC EC ILSVRC Inception-v3 [8], [21] [12] # with tf.gfile.fastgfile(flags.classify_net, rb ) as f: graph_def = tf.graphdef() graph_def.parsefromstring(f.read()) _ = tf.import_graph_def(graph_def, name= ) with tf.session() as sess: 1 Fig. 1 # pool3 = sess.graph.get_tensor_by_name( pool_3:0 ) jpeg_data = tf.placeholder(tf.string) with file_io.fileio(input_csv(), r ) as f: with file_io.fileio(output_csv(), w ) as output: writer = csv.writer(output, lineterminator= \n ) for line in f: product_id, image = image_from_line(line) input_name = DecodeJpeg/contents:0 results = sess.run(pool3, {input_name: image}) features = [ {:.18e}.format(f) for f in results[0][0][0]] writer.writerow([product_id] + features) TensorFlow Python Implementation examples of extracting features using Python and TensorFlow. Inception-v3 Pool3 EC Inception-v3 TensorFlow[19] TensorFlow Python EC EC Annoy [20] c 2017 Information Processing Society of Japan 4

5 category_ids.each do c annoy = AnnoyIndex.new(2048) File.foreach("features/features_#{c}.csv") do line Fig. 2 features = line.chomp.split(, ) annoy.add_item(i, features[1..-1].map(&:to_f)) annoy.build(10) annoy.save("ann/category_#{c}.ann") 2 mruby annoy Implementation examples of building database using mruby annoy. Annoy B [17] EC HTTP API API nginx[13] ngx mruby[24] mruby-annoy ngx mruby nginx mruby[22] mruby-annoy Annoy C++ API mruby ngx mruby API mruby-annoy OSS *2 3.1 Annoy mruby-annoy 2 mrubyuserdata ngx mruby mruby init 3 ID ID *2 userdata = Userdata.new "annoy_data_key" ann_dir = /etc/nginx/conf.d/ann Dir.foreach(ann_dir) do ann next unless ann._with?(.ann ) category_id = ann.split( _ )[1] annoy = AnnoyIndex.new(2048) annoy.load("#{ann_dir}/#{ann}") userdata.s("category_#{category_id}=", annoy) Fig. 3 class NNS def call(env) 3 mruby init Configuration examples of mruby init. params = env[ QUERY_STRING ].split( & ).map { kv kv.split( = ) }.to_h category_id = params[ category_id ].to_i product_id limit = params[ product_id ].to_i = (params[ limit ] 10).to_i userdata = Userdata.new "annoy_data_key" annoy = userdata.s("category_#{category_id}") return not_found unless annoy nns = annoy.get_nns_by_item(product_id, limit) [200, content_type, [nns.to_json]] private def not_found return [404, content_type, def content_type run NNS.new Fig. 4 [{ error => not_found }.to_json]] { Content-Type => application/json;charset=utf-8 } 4 mruby content handler Configuration examples of mruby content handler. % curl [233,234,127,235,223] Fig. 5 5 ngx mruby mruby annoy Execution examples of mruby annoy on ngx mruby. 4 5 c 2017 Information Processing Society of Japan 5

6 情報処理学会研究報告 4. 実験と考察 提案手法の有効性を検証するため 3 章で構築したデー タベース並びに類似特徴量検索サーバーを EC サイトの プロダクション環境に導入した 導入した EC サイト上で は 商品詳細画面にて関連商品を 12 点表示する欄を設け ており これらの関連商品のクリック数を計測している 本研究では 類似画像検索の有効性を検証するため 今回 提案した手法により選定する商品と EC サイトの既存の 手法で選定する商品間でのクリック率の差を計測した な お EC サイトの既存手法は 独自に運用していた簡易的な ユーザーベースの協調フィルタリングにあたる 具体的に 図 6 対象商品 は 該当商品を評価している他の利用者群を類似ユーザー Fig. 6 Target product. とみなし それぞれの利用者が評価している商品に対して 評価の新しさに重みをつけて一定数取得した後 該当商品 と重複商品を除いたものを関連商品として選定する 実験の手法として まず既存手法により選定した商品を A パターン 提案手法により選定した商品を B パターンと して 両パターンのクリック率を比較検討するため 表示 機会が均等になるよう乱数によりおよそ 50%の確率で表示 のパターンを判定している しかし 3.1 節で構築した時点 以降に登録された商品については 提案手法による選定が 行えないため その場合は既存手法で選定した商品を表示 し 既存手法側のクリック率計測対象とした これは検証 期間中の EC サイトの機会損失を減らす必要から取った措 置である なお 既存手法が協調フィルタリング手法であ る以上 商品に対する情報が蓄積されていない場合は 既 存手法でも選定が行えない場合があるが その場合は 該 当する関連商品なしとして計測の対象から除外している 提案手法の対象となる商品数は約 380 万点であり 検証期 間中の各手法の利用割合は 既存手法 68.57% 提案手法 31.43%であった 図 7 既存手法による選定商品 Fig. 7 Selected products by existing method. また 提案手法のうち 商品特性による有効性の比較を 表 1 クリック率とコンバージョン率の比較 行うため EC サイトに既にあるカテゴリ区分に従い ク Table 1 Comparison of CTR and CVR. リック率を計測して比較 考察を行った 対象のカテゴリ 数は 120 である なお 検証にあたり類似特徴量検索サーバーは これが 参照するデータベースファイルを全てページキャッシュす るのに十分な量のメモリを搭載している必要があった こ れは近似近傍探索の際に木構造を辿る処理がデータベース ファイルの広範囲に渡るランダムアクセスとなり キャッ シュされていない場合に都度ディスクへのアクセスが発生 して 応答時間の遅延が発生し 導入先の EC サイトから の想定要求数を処理できないことが事前の性能評価で確認 されたためである 既存手法 提案手法 クリック率 0.51% 0.76% コンバージョン率 クリック数 0.21% 0.28% 4.1 類似画像検索の評価と考察 対象商品図 6 に対して 既存手法 提案手法によって選 定された関連商品の例をそれぞれ図 7 図 8 に示す 提案 手法において 対象商品の形状や特徴を掴み 類似した商 品を選定できていることがわかる これらの選定した商品 に対するクリック率とコンバージョン率の比較を表 1 に 示す クリック数は閲覧数に対するクリック数から コン バージョン率はクリック数に対する購入回数から求めた 既存手法に比べて提案手法のクリック率が改善しており 提案手法による選定商品が 関連商品としてより興味を引 c 2017 Information Processing Society of Japan 6

7 2 5 Table 2 Top 5 categories which existing method is effective. / 1.20% 0.40% / 0.76% 0.36% / 0.45% 0.20% / 0.50% 0.28% / 0.56% 0.38% 3 5 Table 3 Top 5 categories which proposed method is effective. 8 Fig. 8 Selected products by proposed method EC % / 0.26% 1.25% 1% / 1.20% 0.40% EC / 0.26% 1.25% / 0.47% 1.46% / 0.53% 1.33% / 0.40% 1.17% / 0.37% 1.07% 5. EC EC EC EC c 2017 Information Processing Society of Japan 7

8 [15] [1] Andrew McCallum, Information Extraction: Distilling Structured Data from Unstructured Text, Queue - Social Computing Volume 3 Issue 9, pp , November 2005 [2] J. Ben Schafer, Joseph Konstan, John Riedl, Recommer systems in e-commerce, Proceedings of the 1st ACM conference on Electronic commerce, pp , November 03-05, 1999 [3] Bolei Zhou, Agata Lapedriza, Jianxiong Xiao, Antonio Torralba, and Aude Oliva, Learning Deep Features for Scene Recognition using Places Database, In Proc. NIPS, [4] Christian Szegedy, Wei Liu, Yangqing Jia, Pierre Sermanet, Scott Reed, Dragomir Anguelov, Dumitru Erhan, Vincent Vanhoucke, Andrew Rabinovich, Going Deeper with Convolutions, The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2015 [5] Christian Szegedy, Vincent Vanhoucke, Sergey Ioffe, Jon Shlens, Zbigniew Wojna, Rethinking the Inception Architecture for Computer Vision, The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp , 2016 [6] David Goldberg, David Nichols, Brian M. Oki, and Douglas Terry, Using collaborative filtering to weave an information tapestry. Commun. ACM 35, 12, pp , December 1992 [7] Dieter Fensel, Ying Ding, Borys Omelayenko, Ellen Schulten, Guy Botquin, Mike Brown, Alan Flett, Product Data Integration in B2B E-Commerce, IEEE Intelligent Systems Volume 16, Issue 4, pp , Jul-Aug 2001 [8] K. Fukushima. Neocognitron: a self organizing neural network model for a mechanism of pattern recognition unaffected by shift in position, Biological Cybernetics, 36(4):93202, 1980 [9] Greg Linden, Brent Smith, Jeremy York, Amazon.com Recommations: Item-to-Item Collaborative Filtering, IEEE Internet Computing Volume 7 Issue 1, pp , January 2003 [10] Hyung Jun Ahn, A new similarity measure for collaborative filtering to alleviate the new user coldstarting problem, Information Sciences 178, pp , 2008 [11] Jeff Donahue, Yangqing Jia, Oriol Vinyals, Judy Hoffman, Ning Zhang, Eric Tzeng, Trevor Darrell, DeCAF: A Deep Convolutional Activation Feature for Generic Visual Recognition. In Proc. ICML, 2014 [12] Matthew D. Zeiler, Rob Fergus, Visualizing and Understanding Convolutional Networks, In Proc, Computer VisionECCV, pp , 2014 [13] Nginx, Nginx, [14] Olga Russakovsky, Jia Deng, Hao Su, Jonathan Krause, Sanjeev Satheesh, Sean Ma, Zhiheng Huang, Andrej Karpathy, Aditya Khosla, Michael Bernstein, Alexander C. Berg, and Li Fei-Fei ImageNet Large Scale Visual Recognition Challenge. Int. J. Comput. Vision 115, 3, pp , December 2015 [15] Paolo Ciaccia, Marco Patella, and Pavel Zezula, M-tree: An Efficient Access Method for Similarity Search in Metric Spaces, In Proceedings of the 23rd International Conference on Very Large Data Bases (VLDB 97), pp , 1997 [16] Pulkit Agrawal, Ross Girshick, Jitra Malik, Analyzing the Performance of Multilayer Neural Networks for Object Recognition, In Proc. ECCV, 2014 [17] Sanjoy Dasgupta, Kaushik Sinha, Randomized partition trees for exact nearest neighbor search, JMLR: Workshop and Conference Proceedings vol 30, 121, 2013 [18] Shinzato Keiji, Satoshi Sekine, Unsupervised Extraction of Attributes and Their Values from Product Description., IJCNLP, 2013 [19] Martn Abadi, Ashish Agarwal, Paul Barham, Eugene Brevdo, Zhifeng Chen, Craig Citro, Greg S. Corrado, Andy Davis, Jeffrey Dean, Matthieu Devin, Sanjay Ghemawat, Ian Goodfellow, Andrew Harp, Geoffrey Irving, Michael Isard, Yangqing Jia, Rafal Jozefowicz, Lukasz Kaiser, Manjunath Kudlur, Josh Levenberg, Dan Mane, Rajat Monga, Sherry Moore, Derek Murray, Chris Olah, Mike Schuster, Jonathon Shlens, Benoit Steiner, Ilya Sutskever, Kunal Talwar, Paul Tucker, Vincent Vanhoucke, Vijay Vasudevan, Fernanda Viegas, Oriol Vinyals, Pete Warden, Martin Wattenberg, Martin Wicke, Yuan Yu, Xiaoqiang Zheng, TensorFlow: Large- Scale Machine Learning on Heterogeneous Distributed Systems, Software available from tensorflow.org [20] Wen Li, Ying Zhang, Yifang Sun, Wei Wang, Wenjie Zhang, Xuemin Lin, Approximate Nearest Neighbor Search on High Dimensional Data Experiments, Analyses, and Improvement (v1.0), In Proc [21] Y. Lecun, L. Bottou, Y. Bengio, P. Haffner, Gradientbased learning applied to document recognition, Proc. IEEE, vol. 86, no. 11, pp , Nov [22] NPO Ruby, org/. [23], 27, 2016 [24],, mod mruby Web,, Vol.55, No.11, pp , [25],, CVIM, 2009-CVIM-169(13), 1-12, c 2017 Information Processing Society of Japan 8