20201125 EC Solution Seminar Fraud Detection

1. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Kazuya Iwami, Solutions Architect
Amazon Web Services Japan K.K
2020.11.25
EC向けML/Analyticsソリューション
不適切コンテンツ・不正⾏動検知

2. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
⾃⼰紹介
⽯⾒ 和也 - Iwami Kazuya
• Internet Media Solution Architect
• 機械学習関連のお客様も担当
• 好きなAWSサービス
• Amazon SageMaker
• Amazon Chime SDK
• AWS Fargate

3. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Agenda
EC事業における
• 不適切コンテンツ検知への取り組み⽅
• 不正⾏動検知への取り組み⽅
※本日話さないこと
• 各AWSサービスの詳細な説明
• 機械学習の最先端のモデルの話など

4. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
不適切なコンテンツ投稿の検知
ヌード、暴力、飲酒などの画像 NGワードを含んだ投稿コメント

5. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
想定されるシナリオ
• ECサイトによっては、ユーザーが⾃由に商品を出品したり
コメントを記載できる機能が存在する
• それらの中に不適切な情報が含まれいるか確認し・除去する
作業はユーザー体験に⼤きな影響を与えるため⼤切になる
• ⼤抵はカスタマーサポートチームが⽬視で確認するところか
ら始め、将来的には⼀部の⾃動化を検討されることが多い
カスタマーサポート/自動化サービスユーザー
投稿 内容確認

6. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
対象となるデータ
画像 テキスト

7. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon Rekognition
• 深層学習に基づく画像認識サービス
• 画像に関するさまざまな認識機能を API で提供し、アプリケーションに簡単に追加
物体・シーン検出 顔認識・顔検索 顔分析
不適切画像検知 有名⼈認識 画像内のテキスト認識
簡単

8. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon Rekognition - 不適切画像検知
• 多数の不適切な画像カテゴリを⽤意
• 画像を送ると、各カテゴリに当てはまる確信度を返してくれる
不適切画像検知
検出可能なカテゴリの例
• ヌード
• ⽔着や下着
• 暴⼒・武器
• 死体
• ドラッグ
• タバコ
• 飲酒
• ギャンブル等々
簡単

9. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon Rekognitionを利⽤した簡単な実装イメージ
Amazon Rekognition
画像を送信
結果を返却
(JSON)Web App
（ECサイト）
（例）
• ユーザーの画像投稿時に裏でRekognitionを呼び出し
• 特定カテゴリの検出結果の確信度が90以上なら投稿させない

10. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
導⼊についての補⾜
• AWSのリサーチャーが開発した機械学習モデルを利⽤できるので、
お客さま側で機械学習の知⾒は不要
• 既存のシステムからAPIを呼ぶだけなので実装は⾮常に楽
• 料⾦は画像1000枚あたり1.3USD (東京リージョン)
• ⾃前で独⾃のモデルを構築する際も、ベースラインのモデルとして
合わせてご利⽤頂く形がハマるケースも多いです。
Amazon Rekognition
で上⼿くいくカテゴリ +
⼀部のカテゴリのみ
独⾃モデルを開発

11. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
テキストデータにおける不適切コンテンツ検知
⼈が明⽰的に指定したルールベースでの不適切検知
• まず取り組むのであればこちらから
• 不適切コメントのボキャブラリーリストを作成し、投稿⽂章中に⼀致す
るものがあればメッセージを表⽰しつつ投稿拒否
ルールベースに機械学習も組み合わせた不適切検知
• ルールベースではカバーできないケースを機械学習で⼀部補完するとい
う考え⽅
• まずは⼈⼿で投稿されたテキストに対して不適切かどうかのラベルを付
ける必要がある（CSチームとの協業）
• Amazon SageMakerを利⽤して独⾃の機械学習モデルを構築
• ここに取り組む場合は是⾮SAまでご相談下さい︕
簡単
普通-難しい
〜

12. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
不正検知

13. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
詐欺は⼤きなビジネスに
120%
2017年のアカウント乗っ取り損
失は51億ドルに達し
2015年の成長率は280％
- Javelin Research
113%
2016年にアプリケーション詐欺の
増加
- Forester
$70B+
今後5年間でカード不在の小売業者
による予想損失
- Juniper Research
53%
詐称者詐欺の増加
- FTC
28%
2019年のグローバルな
新規口座詐欺は28％増加
- Jumio
$5.1T
全世界の詐欺におけるコスト
- Crowe

14. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
想定されるシナリオ
• ECサイトにおいて、チャージバック対策のための不正注⽂
検知や不正なアカウント作成検知の取り組みを検討している
• ⼤抵はCustomer Supportチームが⽬視で確認するところか
ら始め、将来的には⼀部の⾃動化を検討されることが多い
カスタマーサポート/自動化サービスユーザー
注文 内容確認

15. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Confidential and Trademark.
不正検知の自動化の流れ
• クレジットカードの不正利用を予測し、業務フローの中で防止する
• ユーザがシステムを操作すると、アクセス情報を解析し、不正なトランザク
ション発生前に異常なアクティビティを検知し保留
不正スコア
0.9
と予測
不正利用と予測された利用
について自動で保留し
人手で調査するなど 悪意あるユーザ
不正検知システム
オペレーター
調査

16. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Confidential and Trademark.
機械学習による不正検知
• 多くの場合、大半は正常なデータで不正はごく僅かとなる、不均衡なデータ
• 機械学習の適用にあたってはこの不均衡性を考慮した手法が必要
• 不正を見逃さないと同時に、正常なデータを誤って不正と予測してしまう間
違い（偽陽性）を抑える必要
IPアドレス メールアドレス タイムスタンプ
203.0.112.*** Normal***@exm
aple.com
2018/11/30
169.255.33.** Ok***@example.
jp
2018/12/7
192.119.44.** fake@example.
org
2018/12/19
不正スコア
0.03
0.04
0.91

17. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Confidential and Trademark.
AWSでの不正検知
• Amazon Fraud Detectorで不正検知
• 不正検知に特化したAIサービス
• データを用意しモデルを学習させた後、不正検知ルールを定義、API
で組み込み
• 不正検知ルール：不正スコアに基づいてアクションを定義
• データの不均衡性への対処も自動で行う
• 自分でモデルを構築する必要もなく開発や運用のコストを抑えられる
• SageMakerのビルトインアルゴリズムで不正検知
• XGBoostやRandom Cut Forestを活用しモデルを構築、エンドポイン
トを構築し運用
• XGBoostでは不均衡データへの対処が必要であれば別途行って頂く
• IPアドレスから不正を検知したい場合は、IP Insightsも検討
普通
難しい
〜
問題やデータによってどの手法がフィット
するか変わるので実際に検証いただくこと
が望ましいです
普通

18. 18© 2020 Amazon Web Services, Inc. or its affiliates. All rights reserved |
Amazon Fraud Detector の紹介
ビジネスユーザー向けオンライン不正検知サービス。
機械学習を使用して、大規模かつリアルタイムに、
簡単に不正検知を実現する。
Amazon Fraud Detector
入力 出力

19. 19© 2020 Amazon Web Services, Inc. or its affiliates. All rights reserved |
Amazon Fraud Detectorの機能
1 2 4 5
Amazon S3 へ学習
データを置く
63

20. 20© 2020 Amazon Web Services, Inc. or its affiliates. All rights reserved |
Amazon Fraud Detectorの活用イメージ
• カスタマーサポートチームが対応した不正決済情報を十分に蓄積する
• Amazon Fraud Detectorに過去の不正決済情報を入力し、
数クリックでお客様の状況に適した不正決済APIを構築する
• ECサイトのアプリケーションを一部修正する
• 決済時にFraud Detectorに決済情報を送信
• その結果に基づいて一部の決済を保留し、CSチームに連絡する
Web App Fraud Detector
決済情報
不正スコア

21. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
導⼊にあたっての補⾜
• Amazon Fraud Detectorは現時点では東京リージョンにないため、海
外リージョンで⽴てる必要がある点に注意

22. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
まとめ
• 不適切な画像検知を⾃動化する場合、まずはAmazon Rekognitionの活⽤
が⾮常に簡単なのでおすすめ
• 不適切なテキスト検知を⾃動化する場合は、まずは不適切な単語が含まれ
ていないかルールベースで確認する仕組みを導⼊するところから始める
• 不正検知には不正決済の情報を⼗分に蓄積した上で、Amazon
Fraud Detectorの検証から始める
• 上記を適応した上で、更にAIエンジニアの⽅が独⾃の機械学習モデルに取
り組む場合はAWSの機械学習SAとお話させて下さい。
SageMakerを活⽤した仕組みづくりをご⽀援します︕

23. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Thank you

24. © 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
参考資料
AWS Black Beltオンラインセミナー動画 AWS AI Services
https://www.youtube.com/watch?v=xvUyKjuv-Z4
Amazon SageMaker体験ハンズオン
https://aws.amazon.com/jp/blogs/news/amazon-sagemaker-handson-
20190517/