インターネットに晒されているWebサービスでは
など、本来想定していた以上のトラフィックが来ることはよくあります。
単純にシステムを構築すると大規模トラフィックに対応できずシステムがスローダウンしてしまうため、何かしらrate limitをかけておいた方が良いです。
ただしrate limitと一口に入っても色々あるため、今回は主なrate limitアルゴリズムを紹介します。
Leaky bucketはデータ転送レートを一定にする（＝上限を設定する）アルゴリズムです。
下の図のように、様々な流量の水流がそのバケツに流れ込んでも小さな穴からは一定の水流が流れ出す仕組みです。
ref: What is the difference between token bucket and leaky bucket algorithms? - Quora
続きを読むIdle connectionをプールするkeep-aliveの仕組みですが、Goで適切に使用するためにはいくつか注意があります。
例えば以下のようにDefaultTransportの一部の設定（①、②）をイジってリクエストを送ると
client = &http.Client{
Transport: &http.Transport{
DialContext: (&net.Dialer{
Timeout: 30 * time.Second,
KeepAlive: 10 * time.Second, // ①
DualStack: true,
}).DialContext,
ForceAttemptHTTP2: true,
MaxIdleConns: 100,
IdleConnTimeout: 60 * time.Second, // ②
TLSHandshakeTimeout: 10 * time.Second,
ResponseHeaderTimeout: 10 * time.Second,
ExpectContinueTimeout: 1 * time.Second,
},
Timeout: 20 * time.Second,
}
以下のようにレスポンスが返ってからもIdle connectionを保持し続ける挙動がwiresharkのパケット解析で分かります。
続きを読む気づいたらMongoDBも4.2になっていました。
以前に
DockerでMongoDBのレプリカセットを構築 - Carpe Diem
でレプリケーションを、
でシャーディングを構築しましたが、設定項目が代わっていたりしたので復習がてらdocker上で構築検証しました。
大まかな流れは変わらないため、↑の記事を読んでおくとスムーズに進められます。
| 種類 | レプリカ名 | 台数 |
|---|---|---|
| config | configRepl | 3 |
| mongod shard | shardRepl_1 | 3 |
| mongod shard | shardRepl_2 | 3 |
| mongod shard | shardRepl_3 | 3 |
| mongos | - | 1 |
の計13台です。
続きを読むAbemaTVの合同誌にHashiCorp Vaultについて執筆しました。
基本的にはこの技術ブログで紹介した内容を体系的にして、最新バージョンで改めて動作確認した感じにしています。
初めてHashiCorp Vaultを使う人にとって読みやすくなっていると思います。逆にすでにここの記事を読んでいた人には物足りないと思います(^_^;)
僕以外にも12人もの執筆者が各々の内容で執筆しており、かなりボリュームがある本だと思います。
当日は見本誌もありますので、是非手にとって内容をチェックしてみてください。
以前
こちらの記事で、アプリケーション内でのレイヤ間のエラーハンドリングについてまとめました。
ではマイクロサービス間でそのエラーコードを伝播していくのはどうすれば良いのか、というのが今回の主題です。
gRPCはレスポンスコードを持っています。
しかしこれだけでは下記のようなケースをハンドリングできません。
このような詳細なエラーをクライアントに伝えられない場合、クライアントは抽象的なエラー文言しかユーザに出せず、結果としてユーザは問題を解決することができなくなります。
続きを読む
