logging
/kawasima/ロギング設計大全
アクセスログ集計環境の選定 - Qiita
(2016)
クックパッドのログをいい感じにしているアーキテクチャ / Logging architecture at Cookpad - Speaker Deck
(2017)
アグリゲーションは
Fluentd
長期的な分析は
RedShift
を使う
S3上のログをバッチで食べてる
全ログが入っている
もっと短期間の分析(ストリーム集計)は
Kinesis stream
でうけて
Lambda
で集約して
DynamoDB
に保存
集計やダッシュボードには
Elasticsearch
ログはサンプリングして量を減らす
サービスでは利用しない
10年戦えるデータ分析入門
にこのあたりの話がある
本自体は
SQL
をつかった分析が主眼