logging
/kawasima/ロギング設計大全
アクセスログ集計環境の選定 - Qiita(2016)
クックパッドのログをいい感じにしているアーキテクチャ / Logging architecture at Cookpad - Speaker Deck(2017)
アグリゲーションはFluentd
長期的な分析はRedShiftを使う
S3上のログをバッチで食べてる
全ログが入っている
もっと短期間の分析(ストリーム集計)は Kinesis streamでうけてLambdaで集約してDynamoDBに保存
集計やダッシュボードにはElasticsearch
ログはサンプリングして量を減らす
サービスでは利用しない
10年戦えるデータ分析入門にこのあたりの話がある
本自体はSQLをつかった分析が主眼