SlideShare a Scribd company logo
1 of 14
主に変更した点 サバフェス 表彰式 LT
2015/03/26
誰
❖ いとう ひろゆき
❖ Team-S(MySQL Clusterクラスタ)
❖ サーバ運用/保守が仕事
❖ ネットワークからOS、ミドルウェアまでアプリケーシ
ョン以外はなんでも面倒を見ないといけない(程度の差
はあります)
❖ MySQL好き。酒好き。
お題
❖ OS側変更点
❖ MySQL側変更点
❖ なんか変だったところ
OS側変更点
❖ NICのRingBufferを最大に変更
❖ /sbin/ethtool -G eth0 rx 2047
❖ /sbin/ethtool -G eth1 rx 2047
❖ Bondingのactive/backupだったので片方でも良かった
❖ 変更時は Link down/up が発生
❖ 最大値は ethtool –g eth0 とかで確認する
❖ 経験無いけどtx queueを増やしておいた
❖ /sbin/ifconfig eth0 txqueuelen 10000
❖ /sbin/ifconfig eth1 txqueuelen 10000
❖ 割り込み処理のCPU割り当て
❖ irqbalanceに任せると変な割り当てになる事がある
❖ irqbalance停止後、tunaコマンドで再設定
❖ 対象はNICとiodriveの割り込み処理が使うCPU
❖ tuna --irqs='iodrive-0000:07:00.0-0' --cpus=‘1’ --move
❖ tuna --irqs=‘eth0-TxRx-[0-5]’ --cpus=‘2-6’ --move
❖ メモ忘れたのでethの名称はsvfesサーバでは異なります
❖ cat /proc/interrupts を参照(またはtuna –Q)
❖ 上記はIntelのI350でigbドライバ(ver 5.0.5-k)の場合
❖ ベンチのサーバではドライバtg3だったはず
❖ ファイルシステム
❖ xfsも試したけどext4のままの方が性能出たのでext4使用
❖ マウントオプションはRHEL6からrelatimeになったため、
nobarrierのみでnoatime, nodiratimeは付けませんでした(cat
/proc/mounts)
❖ https://access.redhat.com/documentation/ja-
JP/Red_Hat_Enterprise_Linux/6/html/Power_Management_Gu
ide/Relatime.html
MySQL側変更点
❖ 方針1(バッファはとにかく多く)
❖ ib_logfileのためのシステムキャッシュにすらメモリを割きたくな
い
❖ innodb_flush_method = ALL_O_DIRECT を使うため
Percona(5.6)を採用
❖ innodb_buffer_pool_size = 28G
❖ TPCC-MySQLのワークロードではスワップしないぎりぎり
のようでした。
❖ innodb_buffer_pool_instances = 28
❖ innodb_lru_scan_depth 調整しやすいのとmutexの競合削減
❖ 方針2(I/Oは極力減らす)
❖ innodb_log_file_size=1G
❖ innodb_log_files_in_group=16 (8でも十分だったかも)
❖ innodb_adaptive_flushing_lwm=50
❖ ib_logfileを大きくしてテーブルの実データへの反映を遅らせ
つつ、 lwm増やしてwrite combined狙いでwrite量を削減
❖ innodb_read_ahead_threshold=0
❖ innodb_flush_neighbors=0
❖ 方針3(領域拡張のI/O待ちは小さく)
❖ innodb_autoextend_increment = 8
❖ その他
❖ performance_schema = OFF
❖ query_cache_type = 0
❖ query_cache_size = 0
❖ innodb_checksums = 1
❖ 性能目指すならOFFの方が良かったかも
❖ innodb_checksum_algorithm = crc32
❖ CPU支援が効く場合 InnoDB: Using CPU crc32 instructions
❖ CPU支援が無い場合 InnoDB: Not using CPU crc32
instructions
❖ その他(mysqld_safeセクション)
❖ malloc-lib=/usr/lib64/libjemalloc.so.1
❖ numa-interleave=1
❖ flush_caches=1
なんか変だったところ
❖ メモリ
❖ dmidecode --type memory
❖ numactl --hardware
❖ CPU0が16GBと8GB、CPU1が8GB
❖ これはNUMAと呼んで良いの?
❖ NIC
❖ CPUのコア数とか考えるとIntelのI350とかキューがもっと多いほ
うが性能が伸びそう
❖ 個人的にはサーバスペック考えるとBroadcomはちょっと。。。
せめてbnx2(NetXtreme II BCM5709)あたりなら

More Related Content

What's hot

innodb_thread_concurrencyとtransparent hugepageの影響
innodb_thread_concurrencyとtransparent hugepageの影響innodb_thread_concurrencyとtransparent hugepageの影響
innodb_thread_concurrencyとtransparent hugepageの影響hiroi10
 
仮想ネットワーク構築8枚slide
仮想ネットワーク構築8枚slide仮想ネットワーク構築8枚slide
仮想ネットワーク構築8枚slidek009c1271
 
Trema での Open vSwitch
Trema での Open vSwitchTrema での Open vSwitch
Trema での Open vSwitchkazuyas
 
Crooz meet fusion io3 open
Crooz meet fusion io3 openCrooz meet fusion io3 open
Crooz meet fusion io3 opentakaoka susumu
 
徳丸本VMに脆弱なWordPressを導入する
徳丸本VMに脆弱なWordPressを導入する徳丸本VMに脆弱なWordPressを導入する
徳丸本VMに脆弱なWordPressを導入するHiroshi Tokumaru
 
はじめてのReleaseブランチ運用(svn編)
はじめてのReleaseブランチ運用(svn編)はじめてのReleaseブランチ運用(svn編)
はじめてのReleaseブランチ運用(svn編)将 高野
 
Shared Nothing Live Migration で重要な「委任」について
Shared Nothing Live Migration で重要な「委任」についてShared Nothing Live Migration で重要な「委任」について
Shared Nothing Live Migration で重要な「委任」についてjunichi anno
 
Yamaguchi webgroup06 subversion
Yamaguchi webgroup06 subversionYamaguchi webgroup06 subversion
Yamaguchi webgroup06 subversionOhishi Mikage
 
ファイルサーバー移行方法の調査
ファイルサーバー移行方法の調査ファイルサーバー移行方法の調査
ファイルサーバー移行方法の調査Naoyuki Sano
 
Cost of ovs receiving process
Cost of ovs receiving processCost of ovs receiving process
Cost of ovs receiving processTakuya ASADA
 
SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出
SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出
SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出Masakazu Kishima
 
20121217 jawsug-yokohama
20121217 jawsug-yokohama20121217 jawsug-yokohama
20121217 jawsug-yokohamaTetsuya Chiba
 
Cygwin 1.7 の紹介
Cygwin 1.7 の紹介Cygwin 1.7 の紹介
Cygwin 1.7 の紹介fd0
 
qpstudy05 lignhing talk - virtio
qpstudy05 lignhing talk - virtioqpstudy05 lignhing talk - virtio
qpstudy05 lignhing talk - virtioTakeshi HASEGAWA
 
Jcsug21 20140912
Jcsug21 20140912Jcsug21 20140912
Jcsug21 20140912hirokihojo
 
JBoss AS7
JBoss AS7JBoss AS7
JBoss AS7nekop
 
OSvのご紹介 in 
Java 8 HotSpot meeting
OSvのご紹介 in 
Java 8 HotSpot meetingOSvのご紹介 in 
Java 8 HotSpot meeting
OSvのご紹介 in 
Java 8 HotSpot meetingTakuya ASADA
 

What's hot (20)

innodb_thread_concurrencyとtransparent hugepageの影響
innodb_thread_concurrencyとtransparent hugepageの影響innodb_thread_concurrencyとtransparent hugepageの影響
innodb_thread_concurrencyとtransparent hugepageの影響
 
仮想ネットワーク構築8枚slide
仮想ネットワーク構築8枚slide仮想ネットワーク構築8枚slide
仮想ネットワーク構築8枚slide
 
Trema での Open vSwitch
Trema での Open vSwitchTrema での Open vSwitch
Trema での Open vSwitch
 
Crooz meet fusion io3 open
Crooz meet fusion io3 openCrooz meet fusion io3 open
Crooz meet fusion io3 open
 
徳丸本VMに脆弱なWordPressを導入する
徳丸本VMに脆弱なWordPressを導入する徳丸本VMに脆弱なWordPressを導入する
徳丸本VMに脆弱なWordPressを導入する
 
はじめてのReleaseブランチ運用(svn編)
はじめてのReleaseブランチ運用(svn編)はじめてのReleaseブランチ運用(svn編)
はじめてのReleaseブランチ運用(svn編)
 
Shared Nothing Live Migration で重要な「委任」について
Shared Nothing Live Migration で重要な「委任」についてShared Nothing Live Migration で重要な「委任」について
Shared Nothing Live Migration で重要な「委任」について
 
Yamaguchi webgroup06 subversion
Yamaguchi webgroup06 subversionYamaguchi webgroup06 subversion
Yamaguchi webgroup06 subversion
 
ファイルサーバー移行方法の調査
ファイルサーバー移行方法の調査ファイルサーバー移行方法の調査
ファイルサーバー移行方法の調査
 
OpenvswitchでVPS
OpenvswitchでVPSOpenvswitchでVPS
OpenvswitchでVPS
 
Cost of ovs receiving process
Cost of ovs receiving processCost of ovs receiving process
Cost of ovs receiving process
 
SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出
SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出
SCVMM2008 と SCDPM 2008 と Hyper-V(2008)の思い出
 
20121217 jawsug-yokohama
20121217 jawsug-yokohama20121217 jawsug-yokohama
20121217 jawsug-yokohama
 
Cygwin 1.7 の紹介
Cygwin 1.7 の紹介Cygwin 1.7 の紹介
Cygwin 1.7 の紹介
 
OSv噺
OSv噺OSv噺
OSv噺
 
qpstudy05 lignhing talk - virtio
qpstudy05 lignhing talk - virtioqpstudy05 lignhing talk - virtio
qpstudy05 lignhing talk - virtio
 
Jcsug21 20140912
Jcsug21 20140912Jcsug21 20140912
Jcsug21 20140912
 
JBoss AS7
JBoss AS7JBoss AS7
JBoss AS7
 
Mercurial入門(前半)
Mercurial入門(前半)Mercurial入門(前半)
Mercurial入門(前半)
 
OSvのご紹介 in 
Java 8 HotSpot meeting
OSvのご紹介 in 
Java 8 HotSpot meetingOSvのご紹介 in 
Java 8 HotSpot meeting
OSvのご紹介 in 
Java 8 HotSpot meeting
 

Similar to サバフェスLT

MySQL Clusterを運用して10ヶ月間
MySQL Clusterを運用して10ヶ月間MySQL Clusterを運用して10ヶ月間
MySQL Clusterを運用して10ヶ月間hiroi10
 
Debian Update: ~ Jessie, Stretch, Buster ~
Debian Update: ~ Jessie, Stretch, Buster ~Debian Update: ~ Jessie, Stretch, Buster ~
Debian Update: ~ Jessie, Stretch, Buster ~Youhei SASAKI
 
100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ-
100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ- 100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ-
100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ- Naoto MATSUMOTO
 
自動でできるかな?
自動でできるかな?自動でできるかな?
自動でできるかな?_norin_
 
まずやっとくPostgreSQLチューニング
まずやっとくPostgreSQLチューニングまずやっとくPostgreSQLチューニング
まずやっとくPostgreSQLチューニングKosuke Kida
 
OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)
OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)
OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)Satoshi Shimazaki
 
Cloud stack徹底入門7章 20130514
Cloud stack徹底入門7章 20130514Cloud stack徹底入門7章 20130514
Cloud stack徹底入門7章 20130514samemoon
 
私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...
私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...
私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...yoshimotot
 
PostgreSQL V9 レプリケーション解説
PostgreSQL V9 レプリケーション解説PostgreSQL V9 レプリケーション解説
PostgreSQL V9 レプリケーション解説Masao Fujii
 
ニフティクラウドアップデート in クラウドごった煮@青森
ニフティクラウドアップデート in クラウドごった煮@青森ニフティクラウドアップデート in クラウドごった煮@青森
ニフティクラウドアップデート in クラウドごった煮@青森亮介 山口
 
MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)
MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)
MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)wind06106
 
Mvp road show_0830_rev1
Mvp road show_0830_rev1Mvp road show_0830_rev1
Mvp road show_0830_rev1Takano Masaru
 
lilo.linux.or.jp を wheezy から jessie にあげた話
lilo.linux.or.jp を wheezy から jessie にあげた話lilo.linux.or.jp を wheezy から jessie にあげた話
lilo.linux.or.jp を wheezy から jessie にあげた話Kazuhiro Nishiyama
 
Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf)
Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf) Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf)
Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf) VirtualTech Japan Inc.
 
【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介
【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介
【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介Juniper Networks (日本)
 

Similar to サバフェスLT (20)

MySQL Clusterを運用して10ヶ月間
MySQL Clusterを運用して10ヶ月間MySQL Clusterを運用して10ヶ月間
MySQL Clusterを運用して10ヶ月間
 
Debian Update: ~ Jessie, Stretch, Buster ~
Debian Update: ~ Jessie, Stretch, Buster ~Debian Update: ~ Jessie, Stretch, Buster ~
Debian Update: ~ Jessie, Stretch, Buster ~
 
Xen Nic
Xen NicXen Nic
Xen Nic
 
100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ-
100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ- 100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ-
100GbE NICを使ったデータセンター・ネットワーク実証実験 -メモ-
 
自動でできるかな?
自動でできるかな?自動でできるかな?
自動でできるかな?
 
まずやっとくPostgreSQLチューニング
まずやっとくPostgreSQLチューニングまずやっとくPostgreSQLチューニング
まずやっとくPostgreSQLチューニング
 
OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)
OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)
OSC 2011 Tokyo/Fall 自宅SAN友の会 (Infinibandお試し編)
 
lilo.linux.or.jp の話
lilo.linux.or.jp の話lilo.linux.or.jp の話
lilo.linux.or.jp の話
 
Cloud stack徹底入門7章 20130514
Cloud stack徹底入門7章 20130514Cloud stack徹底入門7章 20130514
Cloud stack徹底入門7章 20130514
 
私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...
私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...
私はここでつまづいた! Oracle database 11g から 12cへのアップグレードと Oracle Database 12c の新機能@201...
 
PostgreSQL V9 レプリケーション解説
PostgreSQL V9 レプリケーション解説PostgreSQL V9 レプリケーション解説
PostgreSQL V9 レプリケーション解説
 
ニフティクラウドアップデート in クラウドごった煮@青森
ニフティクラウドアップデート in クラウドごった煮@青森ニフティクラウドアップデート in クラウドごった煮@青森
ニフティクラウドアップデート in クラウドごった煮@青森
 
InfiniBand on Debian
InfiniBand on DebianInfiniBand on Debian
InfiniBand on Debian
 
MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)
MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)
MVPComCamp2015:Hyper-V仮想スイッチのTipsとTo Be(仮)
 
20120525 mt websocket
20120525 mt websocket20120525 mt websocket
20120525 mt websocket
 
Mvp road show_0830_rev1
Mvp road show_0830_rev1Mvp road show_0830_rev1
Mvp road show_0830_rev1
 
lilo.linux.or.jp を wheezy から jessie にあげた話
lilo.linux.or.jp を wheezy から jessie にあげた話lilo.linux.or.jp を wheezy から jessie にあげた話
lilo.linux.or.jp を wheezy から jessie にあげた話
 
Parity ethereum
Parity ethereumParity ethereum
Parity ethereum
 
Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf)
Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf) Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf)
Havana版 RDO-QuickStart-2 (140421-Havana-RDO-QuickStart-2.pdf)
 
【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介
【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介
【ジュニパーサロン】データセンタに特化した新しい経路制御技術 RIFTの紹介
 

サバフェスLT