Amazon EventBridge おぼえがき

Amazon EventBridge って何?

Amazon EventBridge は、独自のアプリケーション、統合 Software-as-a-Service (SaaS) アプリケーション、および AWS のサービスからのデータを使用して、アプリケーションを簡単に接続することを可能にするサーバーレスイベントバス

aws.amazon.com

つまり?

SaaSとAWSのサービスをグルーコードなしで接続できるサービス

例えば、今までだったら Mackerel -> Webhook -> API Gateway -> lambda とかで実現していた処理を Mackerel -> EventBridge -> lambda とかでシンプルに実現できる

どんなSaaSと接続できるの?

ここから見れる

• https://ap-northeast-1.console.aws.amazon.com/events/home?region=ap-northeast-1#/partners

自分が使いそうなところだと

• PagerDuty
• Datadog
• New Relic
• Mackerel

どうやって連携するの?

例えばMackerelだと、ヘルプページに詳細が書かれてる

mackerel.io

これに沿って設定をすれば、例えばmackerelのアラート発生時に lambda を叩くみたいなのを、API Gatewayを経由せずに実行したりできる

Amazon EventBridge の特徴。イベントバス

イベントバスって?

要はこういうものらしい

• 送信者が受信者を意識せずに、イベントを送信できるサービス
• イベントバス管理者が、どのように誰が受信するかを制御する

AWSのアカウント毎にイベントバスが存在し、Amazon EventBridge はそこからイベントを取り出す

それって、Amazon SNSでよくない?

1つのアカウントでサービスが完了していたらSNSで良いはず

しかし、Amazon EventBridgeのイベントバスは他のアカウントにイベントを飛ばすことができる...! ので、こういった組織間でイベントを連携したい場合に使える

まとめ

• Amazon EventBridge はイベントバスを制御することで、イベントのやり取りを簡単にするサービス
• 送信側は最終的な受信先を意識する必要は無く、イベントバスに送るだけでよい
• イベントバスの管理者が、受けたイベントをどうするか管理する
• イベントバスでは、SaaS、アプリケーション(カスタムイベント)、CloudWatchEvent、他アカウントからのイベントなどを受けることができる
• 1アカウント単体で使用する場合も、SaaSとAWSの連携にグルーコードが不要となるというメリットがある(通常のwebサービスだとこっちがメインの使い方になるはず

参考

http://d1.awsstatic.com/webinars/jp/pdf/services/20200122_BlackBelt_EventBridge.pdf

• AWS BlackBelit の EventBridge 解説記事

SNSの代わりにEventBridgeを使用すべき5つの理由| ルミゴ

• SNSではなくEventBridgeをつかう5つの理由を解説

AWS Fargate のコスト削減アイデアいろいろ

AWS Fargate。便利だけど、EC2と比べるとコストも高いので、コスト削減の方法をいろいろまとめてみた

• 上から順に効果が高くて、適用コストも低いので、上から実施を検討すると良いです

Compute Savings Plans

• EC2やFargateやlambdaの利用について、1時間いくらで、1年 or 3年分契約することで割引が発生するプラン。前払いにすると更に割引
• 前払いならば、東京リージョンのfargeteで、 1年なら22%OFF、3年なら47%OFF
• インスタンスタイプなどに縛りはないので、一定額 EC2やFargateやlambda を使用するならば、入ったほうが得なことが多いハズ

構成変更も不要なので、まずはここから始めると良い

参考

dev.classmethod.jp

Fargate Spot

• 不意に中断することがある代わりに、70%OFF で Fargate が利用できるサービス
  • Compute Savings Plans との併用はできない
  • ほとんど中断することはない様子

とあえず、Fargate Spotの2台構成
1週間1度も落ちてない。

4とか5に上がったときは設定変更でServiceの強制deployしたときにhelthチェックが判定早すぎて次々コンテナが立ち上がっただけです#aws #fargate pic.twitter.com/CUFXQ05U5w

— hisayuki (@hisayuki_mori) 2019年12月28日

• Capacity provider strategy で、task の起動時のFargate Spotの割合を設定可能

つかいどころ

• 停止しても大きな問題が無い、QAやstaging環境
  • 自分の会社では、Spot にして、さらに土日深夜早朝停止することで、かなりの低コストでQA環境を運用できた

techblog.lclco.com

構成変更のコストも低く、停止することも今の所ほぼ無いので、stage環境があるならば、まずはSpotの利用をオススメ

あとは、失敗しても再実行すれば良いバッチ処理とか、Capacity provider strategyを使って本番の一部とか

参考

blog.kasei-san.com

メモリ、CPU、task数の調整

メトリクスを取っていることが前提

• ピークタイムでもメモリ、CPUに余剰があるならば、task数の削減を検討
• 最低維持task数 = AZの数 でもまだ余裕があるならば、メモリ、CPUの削減を検討
  • ただし、1個のAZが落ちても、余裕があるようにしておくこと
  • 2AZならば、maxでも50%にしておく
• ピークタイムとそれ以外でメモリ、CPUの使用量に大きな差があるのであれば、オートスケーリングを検討

半年に1回くらい状況を見て、メモリ、CPU、task数を調整するとハッピーかもしれない

リクエスト数をへらす

キャッシュが最適化されていないのであれば要検討

必要なCPUやtask数が削減されるはず

まとめ

もし、Fargate Spot化や メモリ、CPU、task数の調整がすぐできるのならば、Compute Savings Plansの適用はその後にした方が良いかも

bash にて、とあるドメインが存在するなら、環境変数にそのドメインを格納する、なければデフォルト値という処理を書いたときのメモ

コード

API_URL=https://example.com
BRANCH_API_URL=https://hoge.com
host ${BRANCH_API_URL#https://} && API_URL=${BRANCH_API_URL} || :

ポイント

• ${BRANCH_API_URL#https://} で、環境変数 BRANCH_API_URLの先頭の https:// を取り除いている
• host は引数のドメインが無い場合、異常終了するコマンド
• : は何もしないコマンド
• これにより、 以下のような処理が実現できる
  • host が正常終了すれば、 API_URL には、BRANCH_API_URL が格納される
  • host が異常終了すればなにもしない(結果として、API_URL はデフォルトの https://example.com のまま

参考

qiita.com

AWS Codebuild で dig とか host コマンドを使う方法

先に方法

buildspec に以下を追加

phases:
  install:
    commands:
      - yum -y install bind-utils

解説

• AWS Codebuild で動作させる、Amazon Linux 2 (centOSベース) には、host や dig コマンドがインストールされていない
• host や dig コマンド は、bind-utils でまとめてインストールされる
• buildspec にて、ビルド前になにかインストールしたい場合は、 install phase で実行する

Fargate Spot おぼえがき

先にまとめ

• コンテナが不定期に停止する代わりに 通常価格の70%OFF になるサービス
  • Savings Plansとの併用はできない。らしい (伝聞のためソースなし
• 雑に始めたければ、Capacity Provider を FARGATE SPOT のみにする
  • Fargete と Fargate Spot を併用したければ、Capacity provider strategy を設定する
• 停止の120秒前に Amazon EventBridge で通知がくる
  • ただし、2019/12月時点の東京リージョンでは、80H稼働し続けても特に死ぬことはなかったらしい

さっき止めるまで80時間ぐらい、10タスク中1つも落ちませんでした。FARGATE_SPOT、マジで今は東京リージョン使い放題です。 https://t.co/qDIX3vu2wo

— 濱田孝治（ハマコー） (@hamako9999) 2019年12月12日

想定される使いみち

• 中断しても困らない並列処理や分散処理
• QA環境などのテストサーバ
• 本番サーバのバッファ

Fargate Spotの雑なはじめかた

ECS の Capacity Provider を FARGATE SPOT のみにする

Capacity Provider って何?

ECSのクラスターの実行環境。Fargete ならば FARGATE と FARGATE SPOT がある

• FARGATE を消してしまえば、 Capacity Provider は FARGATE SPOT のみなので、全ての task が Fargate Spot で実行される
• 余談。ECS on EC2 ならば、ECS Cluster Auto Scaling も追加可能
  • これは、コンテナの増減に応じて、EC2のスケールイン/アウトを自動にしてくれるサービス
  • これまでは、個別に管理する必要があったので大変だった

Capacity provider strategy

もし、 FARGATE と FARGATE SPOT を併用したい場合、Capacity provider strategy という設定で、task実行時の Capacity Provider の配分を決めることができる

コンテナの停止を検知する方法

Amazon EventBridge を使う

Amazon EventBridge とは

AWSとSaaSを統合するために、AWSで発生するイベントを他のAWSサービスやSaaSと紐付けるサービス

Amazon EventBridge は、独自のアプリケーション、統合 Software-as-a-Service (SaaS) アプリケーション、および AWS のサービスからのデータを使用して、アプリケーションを簡単に接続することを可能にするサーバーレスイベントバスです。

aws.amazon.com

Amazon EventBridge と SNS ってどう違うの?

大規模に素早く pub/sub したい場合は SNS。いろいろなサービスと手軽に繋がりたい場合は、EventBridge という感じらしい

lumigo.io

参考

aws.amazon.com

dev.classmethod.jp

dev.classmethod.jp

blog.astj.space

GitHub Actions で Action に失敗した時にslackに通知を投げる方法

先に方法

    - name: Slack Notification when build failed
      if: failure()
      uses: rtCamp/action-slack-notify@master
      env:
        SLACK_CHANNEL: channel-name
        SLACK_COLOR: '#ff0000'
        SLACK_TITLE: ':fire::fire::fire: Build error! :fire::fire::fire:'
        SLACK_MESSAGE: "Build error! Please check github!"
        SLACK_USERNAME: GitHub Actions
        SLACK_WEBHOOK: ${{secrets.SLACK_WEBHOOK}}

実行結果

解説

• if: failure() で失敗した場合のみ起動するstepを設定できる
  • https://help.github.com/ja/actions/reference/context-and-expression-syntax-for-github-actions#failure
• rtCamp/action-slack-notify@master は、slack通知のGitHub Action
  • https://github.com/marketplace/actions/slack-notify

参考

tech.actindi.net

GitHub Actions で削除したブランチ名を取得する方法

課題

GitHub Actionsでは、ブランチ名は環境変数 GITHUB_REF から取ることができるが、ブランチ削除時には GITHUB_REF が refs/heads/master になってしまう

• なお、GitHub Actions で使用できる環境変数については、こちらを参照

help.github.com

解決方法

${{ github.event.ref }} から取得する

github.event とは

webhook event のペイロードがすべて格納されているところ

ブランチ削除の場合のペイロードはこちらを参照

• https://developer.github.com/v3/activity/events/types/#deleteevent

参考

• https://help.github.com/en/actions/reference/context-and-expression-syntax-for-github-actions#github-context

検証コード

name: delete_branch

on: [delete]

jobs:
  build:
    runs-on: ubuntu-latest
    steps:
    - uses: actions/checkout@v2
    - name: Echo branch name
      run: echo ${GITHUB_REF}
    - name: Echo commit hash
      run: echo ${GITHUB_SHA}
    - name: Echo github.event.ref
      run: echo "${{ github.event.ref }}"