1. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
1
『逆転オセロニア』における、機械学習モデルを用いた
デッキのアーキタイプ抽出とゲーム運用への活用
CEDEC 2019
Sep. 5, 2019
安達 涼 / 岩城 惇
DeNA Co., Ltd.
2. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
自己紹介
❏ 安達 涼
- DeNA ゲーム事業部 分析部
❏ 行動・脳データから、人間の意思決定を研究 (PhD@Caltech)
❏ 2018年4月 DeNA入社
❏ ゲームデータを統計・機械学習手法を用いて分析
❏ プレイサイクル分析
❏ ネットワーク分析
❏ Metal Gear Solid、Splinter Cell、FIFA、Falloutが好き
2
3. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
DeNA ゲーム事業部 分析部について
■ 分析組織としては2011年から継続しており、現在はゲーム事業に
100%コミットしている
■ 各ゲームタイトルに専属アナリストをアサインする体制
参考:CEDEC 2017「一周年で爆発した「逆転オセロニア」における、
ゲーム分析の貢献事例 〜開発・運営の意思決定を全力でサポートする、DeNAのゲーム分析体制〜」
https://www.youtube.com/watch?v=bcCiRqmvR2o
■ 行動ログ分析、ユーザー調査等、様々な分析手法を用いて分析に
取り組んでいる
■ 新たな分析手法や、機械学習等の高度な技術を活用したR&Dにも
トライしており、今回の発表はその文脈での実践例
3
4. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
自己紹介
❏ 岩城 惇
- DeNA ゲーム事業部 企画部
❏ 『逆転オセロニア』プランナー
❏ 2018年11月 DeNA入社
❏ 分析ツールを用いて、キャラクター設計バランス調整
❏ Call of Duty、F1、Winning Post、Dominion、Splender
4
5. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
逆転オセロニアにおけるAI・機械学習の活用
● ゲーム内での活用
対戦AI、デッキのレコメンデーション
https://www.slideshare.net/juneokumura/cedec2018ai (CEDEC 2018)
https://www.slideshare.net/juneokumura/applying-ai-in-games-gdc2019 (GDC 2019)
● ゲーム外 (運営) での活用
デッキのアーキタイプ抽出、and more...
5
14. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
デッキアーキタイプ把握の重要性
14
A
B C
対戦環境
● アーキタイプの相互関係は
対戦環境に大きな影響を及ぼす
● アーキタイプバランスを保つことが大切
15. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
● アーキタイプの相互関係は
対戦環境に大きな影響を及ぼす
● アーキタイプバランスが崩れると...
○ プレイヤー体験に影響
(e.g. 特定のアーキタイプが強すぎてつまらない)
○ 中長期の継続率に大きな影響
● バランスの把握&メンテナンスが重要
デッキアーキタイプ把握の重要性
15
A
B
C
対戦環境
16. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
アジェンダ
1. 逆転オセロニアとデッキアーキタイプ
2. 運用上の問題点と既存手法の限界
3. 機械学習モデルの概要
4. 可視化ツールの紹介
5. ゲーム運用への活用
6. まとめと展望
16
18. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
定性情報に基づいたプランニングとその問題点
18
A
B C
対戦環境
?
?
● 定性 = 人力
○ プランナーがクラスマッチを徹底的にプレイ+プレイヤーの声
○ 蓄積した定性意見を元にプランニング
プランナー
19. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
19
A
B C
対戦環境
?
?
● 定性 = 人力
○ プランナーがクラスマッチを徹底的にプレイ + プレイヤーの声
○ 蓄積した定性意見を元にプランニング
問題点1
プレイング
習熟まで時間が
必要
定性情報に基づいたプランニングとその問題点
20. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
20
A
B C
対戦環境
?
?
● 定性 = 人力
○ プランナーがクラスマッチを徹底的にプレイ + プレイヤーの声
○ 蓄積した定性意見を元にプランニング
問題点1
プレイング
習熟まで時間が
必要
定性情報に基づいたプランニングとその問題点
問題点2
客観的に判断を
する難易度が高い
21. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
21
A
B C
対戦環境
?
?
● 定性 = 人力
○ プランナーがクラスマッチを徹底的にプレイ + プレイヤーの声
○ 蓄積した定性意見を元にプランニング
問題点1
プレイング
習熟まで時間が
必要
定性情報に基づいたプランニングとその問題点
問題点3
増え続ける
アーキタイプ数への
対応が難しい
問題点2
客観的に判断を
する難易度が高い
22. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
22
A
B C
対戦環境
?
?
● 定性 = 人力
○ プランナーがクラスマッチを徹底的にプレイ + プレイヤーの声
○ 蓄積した定性意見を元にプランニング
問題点1
プレイング
習熟まで時間が
必要
定性情報に基づいたプランニングとその問題点
問題点2
客観的に判断をす
る難易度が高い
問題点3
増え続ける
アーキタイプ数への
対応が難しい
定量的に対戦環境を把握することが必要不可欠
23. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
これまでの定量分析とその問題点
● ログデータから分析
○ リーダー駒の編成率
○ リーダー駒ごとの勝率
● これらの分析の課題点
○ デッキアーキタイプという抽象度でデータを解釈することが難しい
■ 意図せず対戦環境のバランスを崩してしまう可能性
23
24. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
これまでの定量分析とその問題点
24
リーダーa
勝率: 35%
リーダーb
勝率: 50%
デッキ デッキ
※ 数値は仮のものです
25. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
これまでの定量分析とその問題点
25
リーダーa
勝率: 35%
リーダーb
駒を追加
勝率: 50%
デッキ デッキ
※ 数値は仮のものです
26. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
これまでの定量分析とその問題点
26
リーダーa リーダーb
勝率: 50% 勝率: 65%
???
デッキ デッキ
※ 数値は仮のものです
27. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
これまでの定量分析とその問題点
27
アーキタイプA
リーダーa リーダーb
勝率: 50% 勝率: 65%
アーキタイプレベルでのプランニングが重要
デッキ デッキ
※ 数値は仮のものです
59. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
改善アクション1〜対戦環境のバランス平均化
運用上の課題:特定のアーキタイプが強すぎる
● アーキタイプの強さが偏重すると、ゲームが単調になる
59
A
B C
D
F
E
理想
アーキタイプ同士の
相性が拮抗していることで、
選択肢が多様な状態
60. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
運用上の課題:特定のアーキタイプが強すぎる
● アーキタイプの強さが偏重すると、ゲームが単調になる
発生した事例
Aが一強であることで、
ほとんどのユーザーがAに流れて
しまい対戦環境が固定化する
改善アクション1〜対戦環境のバランス平均化
60
A D A
B C
F
E
D
F
E
B C
理想
アーキタイプ同士の
相性が拮抗していることで、
選択肢が多様な状態
61. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
改善アクション1〜対戦環境のバランス平均化
運用上の課題:特定のアーキタイプが強すぎる
● アーキタイプの強さが偏重すると、ゲームが単調になる
61
A D A
B C
F
E
D
F
E
B C
理想
アーキタイプ同士の
相性が拮抗していることで、
選択肢が多様な状態
発生した事例
Aが一強であることで、
ほとんどのユーザーがAに流れて
しまい対戦環境が固定化する
同じ相手とばかり
当たる = 飽き
中長期継続率に悪影響
プレイヤー
64. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
アクション:適切な抑止力の選定と対戦環境への配慮
● プランニングプロセス
OLDツール
アーキタイプ間の勝率%(対戦表)
クラス:*
月:2019/03
補正:神H1.1 A0.9 竜H1.1 A0.9
ラニトップと貫通速攻と魔バランス
A
A
C
B
C B OLDツール
ユニークなデッキ数分布(グラフ)
クラス:*
月:2019/03
補正:神H1.1 A0.9 竜H1.1 A0.9
ラニトップと貫通速攻と魔バランス
A
B C
改善アクション1〜対戦環境のバランス平均化
64
対戦成績の比較 アーキタイプ使用率の比較
A
B
C
Aに相性の良いBを選出
Bに相性の良いCを選出
強化
使用率が低い
アーキタイプに
駒追加
全ての勝率が
拮抗する属性補正
65. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
改善アクション1〜対戦環境のバランス平均化
結果:突出したアーキタイプのバランスを対戦環境を配慮しつつ行えた
適切な属性補正を特定し、スムーズに調整を行えた
抑止力となるアーキタイプの選定がピンポイントに行えた
65
OLDツール
各アーキタイプ勝率グラフ
クラス:*
月:2019/03
補正:魔H1.1 A0.9 竜H1.1 A0.9
NEWツール
各アーキタイプ勝率グラフ
クラス:ダイマス
月:2019/06
補正:竜H1.2 魔H1.2 竜H1.2
魔バランス、貫通速攻、代償が 1,2,3のグラフ
勝率 (アクション後)
A B C A
勝率(アクション前)
3ヶ月後
B
66. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
改善アクション2〜勝てるアーキタイプの選択肢を増やす
66
運用上の課題:アーキタイプ間の優劣が固定化
● 対戦環境の放置は、ゲームの「単調さ」につながる
A
B C
D
F
E
理想
アーキタイプ同士の
相性が拮抗していることで、
選択肢が多様な状態
67. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
改善アクション2〜勝てるアーキタイプの選択肢を増やす
67
運用上の課題:アーキタイプ間の優劣が固定化
● 対戦環境の放置は、ゲームの「単調さ」につながる
A
B C
D A
B C
F
E
D
F
E
理想
アーキタイプ同士の
相性が拮抗していることで、
選択肢が多様な状態
発生した事例
A、B、Cの関係が徐々に突出し
て、選択肢が少なくなる状態
68. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
改善アクション2〜勝てるアーキタイプの選択肢を増やす
68
運用上の課題:アーキタイプ間の優劣が固定化
● 対戦環境の放置は、ゲームの「単調さ」につながる
A
B C
D A
B C
F
E
D
F
E
理想
アーキタイプ同士の
相性が拮抗していることで、
選択肢が多様な状態
発生した事例
A、B、Cの関係が徐々に突出し
て、選択肢が少なくなる状態
選択肢が少ない =
飽き
中長期継続率に悪影響
プレイヤー
69. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
運用上の課題:アーキタイプ間の優劣が固定化
● 実際に、アーキタイプ分析ツールでアーキタイプ間の優劣
が固定化していることを確認した
改善アクション2〜勝てるアーキタイプの選択肢を増やす
69
OLDツール
各アーキタイプ勝率グラフ
クラス:*
月:2018/12
補正:all 1.0
OLDツール
各アーキタイプ勝率グラフ
クラス:ダイマス
月:2019/03
補正:all 1.0
3ヶ月後
上位の序列に大きな
変化がない
A B C A B C D E F F D E
70. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
OLDツール
アーキタイプ間の勝率(対戦表)
クラス:*
月:2019/02
補正:all HP1.1
アクション:分析を用いた強化対象アーキタイプ掘り起こしと適切な追加
● プランニングプロセス
改善アクション2〜勝てるアーキタイプの選択肢を増やす
70
OLDツール
代表駒と使用率
アーキタイプ:代償
クラス:*
月:2019/02
補正:all 1.1
使用率の比較
E
A
B C
勝率は悪くないが、
使用率の低いEを選出
E
E
勝率(対戦成績)の比較
71. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
E
アクション:分析を用いた強化対象アーキタイプ掘り起こしと適切な追加
● プランニングプロセス
改善アクション2〜勝てるアーキタイプの選択肢を増やす
71
OLDツール
アーキタイプ間の勝率(対戦表)
クラス:*
月:2019/02
補正:all HP1.2
勝率は悪くないが、
使用率の低いEを選出
E
A
B C
強化/普及
必要な駒の普及
できるガチャ
E
勝率の高くなる属
性補正を追加
勝率(対戦成績)の比較
デッキの核となる駒
の追加
使用率の比較
72. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
結果:ユーザーがよりアーキタイプを選択するようになった
ピンポイントでキャラクターの設計ができた
アーキタイプ追加に比較して1/5以下のキャラクター追加数で対応できた
OLDツール
ユニークなデッキ数分布
クラス:*
月:2019/02
補正:all 1.0
改善アクション2〜勝てるアーキタイプの選択肢を増やす
72
NEWツール
ユニークなデッキ数分布
クラス:*
月:2019/05
補正:神H1.1 A0.9 魔H0.9 A1.1 竜H0.9
A1.1
3ヶ月後
E
使用率(アクション前)
E
使用率(アクション後)
73. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
改善アクション3〜新しいアーキタイプの検知と使用率向上
73
運用上の課題:アーキタイプ間の優劣が固定化
● 運営で想定していないアーキタイプが生まれることがある
A
B C
D
E
NEW
想定外の
アーキタイプ
74. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
運用上の課題:アーキタイプ間の優劣が固定化
● 実際に、アーキタイプ分析ツールで新たなアーキタイプ「NEW」を検知
改善アクション3〜新しいアーキタイプの検知と使用率向上
74
OLDツール
各アーキタイプ勝率グラフ
クラス:*
月:2019/03
補正:all 1.0
NEW3
使用率
NEW
75. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
OLDツール
使用率
クラス:ダイマス
月:2019/03
補正:神H1.1 A1.1 魔H1.1 A1.1 竜H1.1 A1.1
OLDツール
各アーキタイプの勝率%(対戦表)
クラス:*
月:2019/03
補正:神H1.1 A1.1 魔H1.1 A1.1 竜H1.1 A1.1
アクション:アーキタイプ間の優劣が固定化
● プランニングプロセス
改善アクション3〜新しいアーキタイプの検知と使用率向上
75
対戦成績の比較 アーキタイプ使用率の比較
A
B C
新しいアーキタイプ
「NEW」を検知
NEW
NEW
NEW
76. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
アクション:アーキタイプ間の優劣が固定化
● プランニングプロセス
OLDツール
各アーキタイプの勝率%(対戦表)
クラス:*
月:2019/03
補正:神H1.1 A1.1 魔H1.1 A1.1 竜H1.1 A1.1
OLDツール
各アーキタイプの勝率%(グラフ)
クラス:*
月:2019/03
補正:神H1.1 A1.1 魔H1.1 A1.1 竜H1.1 A1.1
改善アクション3〜新しいアーキタイプの検知と使用率向上
76
対戦成績の比較 アーキタイプ使用率の比較
A
B C
新しいアーキタイプ
「NEW」を検知
アーキタイプ?の
勝率が高い属性補正
使用率向上
NEW
他のアーキタイプとの
差分は何か
NEW
NEW
77. Copyright (C) 2019 DeNA Co.,Ltd. All Rights Reserved.
結果:新しいアーキタイプの使用率が向上する状態を生み出せた
運営が想定していないアーキタイプの検知ができた
想定していないアーキタイプの属性補正を適切に追加できた
NEWツール
各アーキタイプ使用率グラフ
クラス:ダイマス
月:2019/06
補正:神A1.1 魔A1.1 竜A1.1
77
改善アクション3〜新しいアーキタイプの検知と使用率向上
使用率(アクション後) 使用率(検知)
2ヶ月
後
1ヶ月
後
使用率(アクションなし)
検知せず 再検知
NEW NEW