qpstudy 2014.04 ミドルウェア設計の勘所
386 Views
April 19, 14
スライド概要
qpstudy 2014.04 ミドルウェア設計の勘所
秋葉原生まれ大手町育ちの歌って踊れる江戸っ子インフラエンジニア。 0と1が紡ぐ「ゆるやかなつながり」に魅せられ早20年、 SNSとCGMの力で世界を幸福にするのがライフワーク。 市民、幸福は義務です。 あなたは幸福ですか？
関連スライド
各ページのテキスト
qpstudy 2014.04 ミドルウェア設計の勘所 qpstudy 2014-04-19 @nekoruri
Who are you, @nekoruri ? 秋葉原生まれ大手町育ちの歌って踊れる 江戸っ子インフラエンジニア。 0と1が紡ぐ「ゆるやかなつながり」に魅せられ早20年、 SNSとCGMの力で世界を幸福にするのがライフワーク。 市民、幸福は義務です。あなたは幸福ですか？ http://twitter.com/nekoruri http://facebook.com/masapon http://d.hatena.ne.jp/nekoruri/
IaaSシステム構築/管理ガイド 第4章 クラウド環境の運用における監視と可視化 ・安定運用のための運用監視 ・運用監視の方法 ・ニフティクラウドとOSの標準機能で サーバー監視 ・Muninでかんたんリソース監視 ・統合監視ツールZabbixによる監視基盤 の構築 ・その他の監視ツール ・メトリクス収集・解析サービス ・クラウドと監視とDevOps
なかやま まさひろ アメーバ事業本部 クロスイノベーション室 Ameba全体の「横軸」改善チーム ・ゲーム共通のランキング ・サービス間の回遊
「ミドルウェア」 ？
「ミドルウェア」 コンピュータの基本的な制御を 行うオペレーティングシステム (OS)と、各業務処理を行う アプリケーションソフトウェア との中間に入るソフトウェア http://ja.wikipedia.org/wiki/ミドルウェア
「ミドルウェア」 コンピュータの基本的な制御を 行うオペレーティングシステム (OS)と、各業務処理を行う アプリケーションソフトウェア との中間に入るソフトウェア http://ja.wikipedia.org/wiki/ミドルウェア
おさらい：Web三層モデル Web AP DB
おさらい：Web三層モデル Web AP DB • クライアント との接続を捌 く • 業務ロジック 処理 • データの保存 と管理 • 動的データの 生成 • データの整合 性の保証 • 静的なデータ 配信
ミドルウェアの範囲 Web Web サーバ AP アプリ ケーション AP サーバ DB DB サーバ OS OS OS ハード ウェア ハード ウェア ハード ウェア
ミドルウェアの範囲 Web Web サーバ AP アプリ ケーション AP サーバ DB DB サーバ OS OS OS ハード ウェア ハード ウェア ハード ウェア
ミドルウェアの範囲 Web Web サーバ OS ハード ウェア AP アプリ ケーション AP サーバ OS ハードウェア、OS、アプリケーション以外の ハード すべて ウェア DB DB サーバ OS ハード ウェア
アプリケーション Web Web サーバ OS ハード ウェア AP アプリ ケーション AP サーバ OS ビジネスの価値そのもの ハード ウェア DB DB サーバ OS ハード ウェア
アプリケーション Web AP アプリ ケーション Web サーバ OS ハード ウェア AP サーバ OS ビジネスの価値そのもの 機能要件 ハード ⇒ウェア アプリの機能 DB DB サーバ OS ハード ウェア
ミドルウェアの範囲 Web Web サーバ OS ハード ウェア AP アプリ ケーション AP サーバ OS ハードウェア、OS、アプリケーション以外の ハード すべて ウェア DB DB サーバ OS ハード ウェア
ミドルウェア ＝ OSの上で アプリケーションを動かすために 必要なすべてのソフトウェア
ミドルウェアの設計 ＝ アプリケーションを動かすために 必要なすべてのソフトウェアを 「どのように」 組み合わせるか決める
ミドルウェアの設計 ＝ アプリケーションを動かすために 必要なすべてのソフトウェアを 「どのように」 組み合わせるか決める 要件を満たすシステムを作る
ミドルウェアの選択
ミドルウェアの選択 1. 機能要件によるもの ○○がしたい ⇒ その実現に□□が最適 1. 非機能要件によるもの 障害復旧は××時間以内にしたい ⇒ その実現に△△が最適
今回の採用アーキテクチャ スケールアウト Load Balancer Web AP HAクラス タ Web AP DB DB Web AP 監視 サーバ
今回の採用アーキテクチャ スケールアウト Load Balancer ① ② Web AP HAクラス タ Web AP DB DB Web AP ③ 監視 サーバ
今回の採用アーキテクチャ スケールアウト Load Balancer ① ② Web AP HAクラス タ Web AP DB DB Web AP ③ 監視 サーバ
Web+AP層のインフラ設計 • 保持データ – Web: 静的データ、一時データ – AP: アプリケーションコード、一時データ • 基本特性 – データロストしても再構築可能 – スケールアウト容易 – 負荷分散と冗長化が一体
APサーバの役割 • アプリケーションを動かす – 業務ロジック処理 – 動的データの生成 • 何らかの言語によるプログラムを動かす – Webからのリクエストに応える – 必要に応じてDBにアクセスする
APサーバの選択 • 言語環境による縛り（機能要件） ⇒ 言語ごとのAPサーバ – Java: – Ruby: – PHP: – Perl: Tomcat, Glassfish, Jetty Unicorn, Puma, Phusion Passenger mod_php5, php-fpm Starman, Twiggy, mod_perl
APサーバの選択？ • 言語環境による縛り（機能要件） ⇒ 言語ごとのAPサーバ – Java: – Ruby: – PHP: – Perl: Tomcat, Glassfish, Jetty Unicorn, Puma, Phusion Passenger mod_php5, php-fpm Starman, Twiggy, mod_perl • Webサーバ(Apache, nginx) の一部となっ て動くAPサーバがある ⇒ 実質的にWebサーバの選択も縛る
Webサーバの役割 • クライアントとの接続を捌く – 時間の掛かる処理のAPサーバ応答待ち • 静的なデータ配信 – 3G回線のスマホがちんたら長時間接続 ⇒ 豊富な同時接続数 – LAN接続のPCが大量の画像を取得 ⇒ 高速なスループット
C10K（同時接続数の爆発）問題 • 大量のクライアントからの同時接続 – 何も考えないApache(prefork設定)では無理 – nginxやApache event_mpmの検討 • node.jsでAPサーバを直に公開 – 非同期モデルならば直接C10Kが扱える – 静的データは別ドメインのWebサーバ
HTTP KeepAlive • ブラウザーWeb間は有効が望ましい – TCPやSSLのハンドシェークにかかる時間 – TCP接続中のパケット落ちのリカバリ時間 （1秒〜3秒） ⇒ スループットに影響 • WebーAP間は無効が望ましい – KeepAlive = 処理が終わった後も接続を残す – APサーバの同時接続数を無駄に消費
Web+AP層のインフラ設計 • 保持データ – Web: 静的データ、一時データ – AP: アプリケーションコード、一時データ • 基本特性 – データロストしても再構築可能 – スケールアウト容易 – 負荷分散と冗長化が一体
Web+AP層はStatelessに保つ • データを持たない – データは全てDBに保存 – ログも全てDB等に送信 • データの同期なくサーバを追加できる – 非機能要件：性能・拡張性 同時接続数増加に無停止で対応できること • いつサーバが壊れてもなにも失わない
今回の採用アーキテクチャ スケールアウト Load Balancer ① ② Web AP HAクラス タ Web AP DB DB Web AP ③ 監視 サーバ
DB層のインフラ設計 • 保持データ – 永続データ – トランザクションデータ • 基本特性 – データロストするとシステム崩壊 – データ整合性確保のため分散困難 – HAクラスタで冗長化
DB層のインフラ設計 • 保持データ – 永続データ – トランザクションデータ 死ぬ気でデータを守れ • 基本特性 – データロストするとシステム崩壊 – データ整合性確保のため分散困難 – HAクラスタで冗長化
HAクラスタ • DBサーバの冗長化手法の一つ – 複数台（通常は2台）でペアを組む – 通常はその片方（サーバA）が仕事をする – もう片方（サーバB）は仕事をしない代わり に、サーバAが動いているか延々とチェック – サーバAが突然の死 10分程度 – サーバBがAの死に気付く – サーバBが仕事を始める
データの同期 • Shared disk model – ハードウェアレベルで高度に冗長化された 頑丈な共有ディスクにA/Bともに接続 – サーバAが死んだらサーバBが読みに行く サーバA サーバB
データの同期 • Shared nothing model – サーバAは、処理の結果変更された内容を ずっとサーバBに送り続ける – 十分に速ければ、サーバAと同じデータを サーバB上でも持っていることになる サーバA サーバB
ボトルネックとの闘い • CAP定理：以下の3つは両立しない 1. 一貫性 2. 可用性 3. 分断耐性 • 一般的なDBでざっくりいうと 1. 一貫性と 2. 可用性を求めると、 3. 複数台に分散させることができない
CAP定理の抜け道 • どうしても1台じゃ厳しいヽ(;´Д`)ﾉ – キャッシュ、レプリケーション ⇒ 一貫性への影響 – 機能分割（機能分割）、水平分割 ⇒ 開発効率や一貫性への影響 – 一貫性を捨て、結果整合性で妥協 ⇒ 分散DBの活用
分散DB（NoSQL）の活用 • 「サーバを増やすほど速くなる」 – そんな銀の弾丸があったらOracleが買収し(略 • 分散DBの「性質」を深く理解 – どんなアクセスに向いているのか – どんなデータに向いているのか – 合わないものを使うと不幸になります(断言)
今回の採用アーキテクチャ スケールアウト Load Balancer ① ② Web AP HAクラス タ Web AP DB DB Web AP ③ 監視 サーバ
監視サーバの役割 1. 障害の発見、通知 – サービスの「生存」を監視、通知 – 冗長化サーバの一部だけの故障も検知 2. メトリクス（リソース状況等）の取得 – – – – CPUやメモリの利用率 ディスク空き容量 レスポンスを返し終わるまでの応答時間 どうもおかしい＝閾値を超えたら通知
ボトルネックの把握 • 様々なメトリクスの取得 – リクエスト数、ネットワークトラフィック – DBの内部パラメータ ⇒ ボトルネックの把握、解消
ボトルネックの把握 • 様々なメトリクスの取得 – リクエスト数、ネットワークトラフィック – DBの内部パラメータ ⇒ ボトルネックの把握、解消 推測するな 計測せよ
監視ツールの選択 • 生存監視 – Nagios、Mon、Sensu • メトリクス取得 – Munin、GrowthForecast、Cacti • 統合監視 – Zabbix
監視ツールの選択 • 生存監視 – Nagios、Mon、Sensu • メトリクス取得 – Munin、GrowthForecast、Cacti • 統合監視 とにかく手軽 – Zabbix 必要な機能が揃っている
ミドルウェアと生きる
インフラエンジニアの主戦場 • 下の層は手を動かすことが減った – ハードウェアの仮想化 – OSはRHEL/CentOS、Ubuntuに集約 • 最もエキサイティングな分野 – 新しいミドルウェアが毎年いくつも登場 – 性質を見抜き、最適な場所に投入 – ソフトウェア単位では数年で陳腐化
どうすればこの先生きのこれるか
どうすればこの先生きのこれるか • 人は考えることに注力しよう！ – 利用できることは利用しよう • IaaS、PaaS、BaaS • AWS等クラウド事業者の提供するコンポーネント – 自動化できることは自動化しよう • Puppet、Chef • Vagrant • 継続的デリバリー – 抽象化できることは抽象化しよう • IaaS • Docker
どうすればこの先生きのこれるか • ミドルウェアの「性質」をつかもう！ – データベースとか分散DBとかMQとか • 得意とするデータの形式 • 更新の方法・頻度、取得の方法・頻度 • ボトルネックはどこか – WebサーバとかAPサーバとか • キャッシュ • 接続の管理方法 • SSLアクセラレーション – 最適な場所に最適なものを！パズル！
どうすればこの先生きのこれるか • コンピュータサイエンスを学ぼう！ – 基礎を知っている人は強い – 新しいものが出てもすぐに順応できる – むしろ余計なことを覚えずに済む – 経験に理詰めを加えることで最強に見える 「推測するな、計測せよ」 １．経験から仮説をたてる ２．計測する ３．結果をもとに理詰めで対策する
どうすればこの先生きのこれるか • セキュリティの知識をつけよう – 情報セキュリティと、暗号化技術 – 脆弱性のリスク分析ができる – 私たちは、 何を 何から どのように 守りたいのか？
The Heartbleed Bug CVE-2014-0160 TLS heartbeat read overrun 2014-04-07(現地時刻) 脆弱性公表 2014-04-08 JPCERT/CC等から注意喚起 2014-04-13 OpenBSDチームがfork開始 2014-04-19 国内被害公表(三菱UFJニコス) http://www.cr.mufg.jp/corporate/info/pdf/2014/140418_01.pdf
The Heartbleed Bug CVE-2014-0160 TLS heartbeat read overrun 2014-04-07(現地時刻) 脆弱性公表 2014-04-08 JPCERT/CC等から注意喚起 2014-04-13 OpenBSDチームがfork開始 2014-04-19 国内被害公表(三菱UFJニコス) http://www.cr.mufg.jp/corporate/info/pdf/2014/140418_01.pdf
どうすればこの先生きのこれるか • セキュリティの知識をつけよう – 情報セキュリティと、暗号化技術 – 脆弱性のリスク分析ができる – 私たちは、セキュリティ技術を使って 何を 何から どのように 守りたいのか？
どうすればこの先生きのこれるか • 新しい情報へのアンテナを張り続けよう – 新しい脆弱性 • 極めて緊急性の高い脆弱性にもすぐ対応できる • 読み解くためにはセキュリティの知識が必須 • Heartbleedでも詳細解説出るには数日 – 新しい技術、ソフトウェア • 「使ってみた」系記事 • 「どう使ってみたい」系記事 • 公式ドキュメント、GitHub
!?
どうすればこの先生きのこれるか • 新しい情報へのアンテナを張り続けよう – 新しい脆弱性 • 極めて緊急性の高い脆弱性にもすぐ対応できる • 読み解くためにはセキュリティの知識が必須 • Heartbleedでも詳細解説出るには数日 – 新しい技術、ソフトウェア • 「使ってみた」系記事 • 「どう使ってみたい」系記事 • 公式ドキュメント、GitHub – 急に流行が来ても、嗅覚が効く。
どうすればこの先生きのこれるか • 情報交換をしよう – ブログを書こう • 突っ込まれる──だがそれが良い。 • リファラー見てニヤニヤできる。 – 技術の話ができる相手を見つけよう • Twitter、Facebook • エンジニア勉強会、セミナー、展示会 – 懇親会も機会の一つ • ちょっとウザイぐらいでも絡んで行っちゃおう • Twitterとかでも絡めるようになれば勝ち
まとめ • 「ミドルウェア」ってなによ？ – OSとアプリケーションの間のすべて • Web3層モデルで何考えればいいの？ – Web+APの中にデータを持たない – DBのデータを気合いで守る – 推測するな、計測せよ • ミドルウェアと付き合っていこう – 積極的に勉強しよう、アンテナ張ろう、 話し合おう！