コストモニタリングと最適化の運用サイクルを回してAWSコストを30％以上削減した話

24.3K Views

June 07, 23

#AWSコスト最適化 #コストモニタリング #SRE #円安 #Cloud Financial Management

スライド概要

【MIXI × Money Forward × NewsPicks共同開催】AWSコスト最適化夏祭りの発表資料です
https://mixi.connpass.com/event/283697/

Yuki Ando

@integrated1453

スライド一覧

経済ニュースアプリのSREの仕事をしています。

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

ダウンロード

ダウンロード(pdf - 2.95MB)

関連スライド

3年間運用したCDKの失敗から学ぶCDK開発のプラクティス

Yuki Ando 123.7K

意外とマネージドなECS on EC2の運用

Yuki Ando 111.9K

SREチームがNew Relicを使って AWSコスト最適化に貢献した話

Yuki Ando 70.4K

AWSコストを全体で43.75%削減するためのコストモニタリング技術

Yuki Ando 64.2K

プロダクト開発エンジニア全員で取り組むオブザーバビリティ

Yuki Ando 50.3K

最高の開発者体験を目指してAWS CDKでCI/CDパイプラインを改善し続けている話

Yuki Ando 46.6K

各ページのテキスト

コストモニタリングと最適化の運用サイクルを回してAWSコストを30％以上削減した話株式会社ニューズピックス安藤裕紀【MIXI × Money Forward × NewsPicks共同開催】AWSコスト最適化夏祭り - 2023.6.7(Wed)

01 ソーシャル経済メディア NewsPicksについてタイトルタイトルタイトルタイトルタイトルタイトルタイトルタイトルタイトルタイトルテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキストテキスト ©NewsPicks Inc. All Rights Reserved.

01 SREチームのミッションと、活動の4つの軸 Mission 誰もが安全かつ高速に開発できるインフラを提供することで、 NewsPicksの企業価値を継続的に向上させるユーザー体験を守る開発者体験を高める常にユーザー視点のモニタリングを行い、可用性やレイテンシーのSLO達成を通じて快適なユーザー体験を提供するメディアとしてニュースのスパイクアクセスを難なく捌くユーザーに価値を届けるプロダクト開発のパフォーマンスを最大化するため、開発者の負を取り除き快適・安全・高速に使える開発基盤サービスを提供するレガシーを捨てるセキュリティ・コストを適正化するレガシーなサーバーOSやミドルウェア、言語ランタイム、アーキテクチャーを継続的に刷新していくモダンな技術スタックによりエンジニア採用の競争力を高め、プロダクト開発組織の成長阻害要因を取り除く SNSの側面があるソーシャル経済メディアをユーザーが安心して利用できるセキュリティを確保するサービスの規模拡大に比例してサーバーのコストが増えないようにし、売上に対するコストの割合を低くする ©NewsPicks Inc. All Rights Reserved.

01 「サービスの規模拡大に比例してコストが増えないようにする」 Mission 誰もが安全かつ高速に開発できるインフラを提供することで、 NewsPicksの企業価値を継続的に向上させるユーザー体験を守る開発者体験を高める常にユーザー視点のモニタリングを行い、可用性やレイテンシーのSLO達成を通じて快適なユーザー体験を提供するメディアとしてニュースのスパイクアクセスを難なく捌くユーザーに価値を届けるプロダクト開発のパフォーマンスを最大化するため、開発者の負を取り除き快適・安全・高速に使える開発基盤サービスを提供するレガシーを捨てるセキュリティ・コストを適正化するレガシーなサーバーOSやミドルウェア、言語ランタイム、アーキテクチャーを継続的に刷新していくモダンな技術スタックによりエンジニア採用の競争力を高め、プロダクト開発組織の成長阻害要因を取り除く SNSの側面があるソーシャル経済メディアをユーザーが安心して利用できるセキュリティを確保するサービスの規模拡大に比例してサーバーのコストが増えないようにし、売上に対するコストの割合を低くする ©NewsPicks Inc. All Rights Reserved.

01 未曾有の円安によりSREチームの心は休まらない日々 USD/JPYの為替チャート(2022/1〜2023/6) 😱2022/10:150円(+30%) 😰2022/7:135円(+17%) 🤔2022/4:125円(+8.5%) 😀2022/1:115円(±0%) yahoo!finance https://finance.yahoo.com/quote/JPY=X 2023.6.7時点より ©NewsPicks Inc. All Rights Reserved.

https://finance.yahoo.com/quote/JPY=X

10.

01 未曾有の円安によりSREチームの心は休まらない日々 USD/JPYの為替チャート(2022/1〜2023/6) 😱2022/10:150円(+30%) 何もしなければコストが 30%増える 😰2022/7:135円(+17%) 🤔2022/4:125円(+8.5%) 😀2022/1:115円(±0%) yahoo!finance https://finance.yahoo.com/quote/JPY=X 2023.6.7時点より ©NewsPicks Inc. All Rights Reserved.

https://finance.yahoo.com/quote/JPY=X

11.

01 未曾有の円安によりSREチームの心は休まらない日々 USD/JPYの為替チャート(2022/1〜2023/6) 😱2022/10:150円(+30%) 何もしなければコストが 30%増える 1ドル115円→150円でAWS費用が30%アップ😱 「仮に」AWS費用が1億なら3000万の利益減少😭 😰2022/7:135円(+17%) 利益率15%の事業だとすると、追加で2億の売上を持ってこないと会社として当初の収益目標を達成できないことになります🥺（やばい） 🤔2022/4:125円(+8.5%) ※数字は、NewsPicks事業の数字ではなく架空のものです 😀2022/1:115円(±0%) yahoo!finance https://finance.yahoo.com/quote/JPY=X 2023.6.7時点より ©NewsPicks Inc. All Rights Reserved.

https://finance.yahoo.com/quote/JPY=X

12.

01 2023年は135円ラインで推移すると思いきや、余談を許さない上昇傾向 USD/JPYの為替チャート(2022/1〜2023/6) 😱2022/10:150円(+30%) 😰2022/7:135円(+17%) 🤔2022/4:125円(+8.5%) 😀2022/1:115円(±0%) yahoo!finance https://finance.yahoo.com/quote/JPY=X 2023.6.7時点より ©NewsPicks Inc. All Rights Reserved.

https://finance.yahoo.com/quote/JPY=X

13.

14.

15.

16.

https://www.amazon.co.jp/dp/4046053550

17.

https://tech.uzabase.com/entry/2022/07/26/153937

18.

02 AWSのマネコンだけ見てもコスト最適化のヒントはたくさん Savings Plans Compute Optimizer Cost Exproler カバレッジレポート /使用状況レポートで、利用するコンピューティングリソースに対する SP購入の推奨事項を出してくれるオンデマンド課金を最小限にするチューニングに使える EC2インスタンスに割り当てているリソースが、使用状況に対して過剰なプロビジョニングがあれば検出してくれる過剰な場合はスケールダウンを検討することができる DynamoDBのOn Demand / Reserved のキャパシティユニット使用量の比率を確認できるオンデマンド課金を最小限にするチューニングに使える ©NewsPicks Inc. All Rights Reserved.

19.

20.

02 AWSサービスごとにコスト変動要素を分類して優先度をつける AWSコスト変動要因とAWSサービスの例 ● ネットワークトラフィック・ビジネスの利用状況により変動 ○ ● エンジニアの人数・開発チームの稼働状況により変動 ○ ● CloudFront、WAF、ECS、Elemental MediaLive 開発環境のリソース、CodeBuild 固定費＋漸増するストレージ料金 ○ EC2(Savings Plans)、RDS(RI)、ElastiCache(RI)、DynamoDB(Reserved Capacity) ©NewsPicks Inc. All Rights Reserved.

21.

02 AWSサービスごとにコスト変動要素を分類して優先度をつける AWSコスト変動要因とAWSサービスの例 ● ネットワークトラフィック・ビジネスの利用状況により変動 ○ 優先度低：サービスが使われているというのは良いこと CloudFront、WAF、ECS、Elemental MediaLive ● エンジニアの人数・開発チームの稼働状況により変動 ○ 優先度中：開発組織の体制がスケールしてもそこまで増えないようにしたい開発環境のリソース、CodeBuild ● 固定費＋漸増するストレージ料金 ○ 優先度高：もっともコストが大きく、削減余地がある EC2(Savings Plans)、RDS(RI)、ElastiCache(RI)、DynamoDB(Reserved Capacity) ©NewsPicks Inc. All Rights Reserved.

22.

23.

24.

25.

03 固定費を削減する方法はいろいろ EC2/ECSのスケーリングコンピューティングリソースをサービスの使用量に合わせてスケーリングして無駄を減らす開発環境は平日日中のみ稼働するようにして無駄を減らす。祝日の停止を設定する RI/SP/Spotの活用 Savings Plansの推奨事項やカバレッジレポートを見てこまめに購入判断する。Fargate Spotを利用する Cost ExplorerでDynamoDBの Reserved Capacityの利用状況を確認してこまめに購入判断する ©NewsPicks Inc. All Rights Reserved. ストレージコスト削減 EBSのスナップショット世代数の見直しと過去の不要な手動スナップショットの消し込み S3ライフサイクルルールの見直しと適切なGlacier活用 Gravitonへの移行マネージドなデータベースサービス（Aurora,RDS,ElastiCache）のインスタンスタイプをGravitonに変更する（だけ）

26.

03 Gravitonへの移行は中でもおすすめ EC2/ECSのスケーリングコンピューティングリソースをサービスの使用量に合わせてスケーリングして無駄を減らす開発環境は平日日中のみ稼働するようにして無駄を減らす。祝日の停止を設定する RI/SP/Spotの活用 Savings Plansの推奨事項やカバレッジレポートを見てこまめに購入判断する。Fargate Spotを利用する Cost ExplorerでDynamoDBの Reserved Capacityの利用状況を確認してこまめに購入判断する ©NewsPicks Inc. All Rights Reserved. ストレージコスト削減 EBSのスナップショット世代数の見直しと過去の不要な手動スナップショットの消し込み S3ライフサイクルルールの見直しと適切なGlacier活用 Gravitonへの移行マネージドなデータベースサービス（Aurora,RDS,ElastiCache）のインスタンスタイプをGravitonに変更する（だけ） 2022年後半はGraviton移行祭り

27.

03 Gravitonはパフォーマンスの悪化もなくコスト削減ができた🥰 AWSサービスタイプコスト削減幅 (RI1年前払い) パフォーマンス影響 -10% 全体としてはパフォーマンスが改善💪 一部のテーブル・クエリは遅くなったものもあり Before After Amazon Aurora(MySQL) db.r5.large db.r6g.large Amazon RDS(PostgreSQL) db.t3.medium db.t4g.medium -2.5% 影響なし（元々のスループットが多くない） Amazon ElastiCache for Redis cache.r5.large cache.r6g.large -5% 影響なし（キャッシュは元々のレスポンスが爆速） ※ 上記RIを複数購入し実際は db.r6g.4xlargeを利用同じインスタンスファミリーはRI充当できるため →同じr5からr6gでもAuroraよりElastiCacheの方がコスト削減幅が小さく、t3からt4gなどバーストタイプでは更にコスト削減幅は小さい。バーストタイプやElastiCacheでは相対的にGravitonのメリットは小さくなる ©NewsPicks Inc. All Rights Reserved.

28.

https://tech.uzabase.com/entry/2023/02/21/135927

29.

30.

31.

https://www.amazon.co.jp/dp/4046053550

32.

03 まとめ ● AWSコスト最適化は可視化から始めるしかない ● 各サービスのコストが何によって変動するのかを理解して優先度をつけ、効果の大きい順に最適化する。その理解のためにコスト異常検知とCost Explorerと担当者確認を100本ノックする。 ● コスト最適化の施策を実行しながらもモニタリングを続け、最適化余地が大きい箇所が移ったら体重移動する ● Graviton移行と、dev環境のGoogleカレンダー制御はおすすめ ©NewsPicks Inc. All Rights Reserved.

33.