急にリクエストが1.5倍に増えてクソデカJSONと戦った

こんにちは

shokaiですshokai.icon

scrapboxのプロダクトオーナーです

機能の取捨選択や設計・運用に責任を持つ役割

Nota Tech Conf 2021 Spring day2 (2021/3/10) の発表資料です

今日の話

1. Scrapboxとは

2. 最近作った機能をざっと紹介

2020年はscrapbox drinkupができなかった

3. クソデカJSONとの闘い

https://gyazo.com/20a9067673477fc3130a336462bf52ae

サーバー負荷が右肩上がり

動画

https://youtu.be/1-5-Ry9njjI?t=2277

Scrapboxとは

ページをリンクさせてウェブを軽快に作れるWiKi

（ここでデモ。ページを作ってみる）

技術スタック

React、Socket.IO、WebWorker、ServiceWorker

Google Cloud Storage、Cloud Functions

他のNotaプロダクトとの関係

Gyazoで画像や動画をキャプチャし、Scrapboxに埋め込める

Scrapbox projectを変換すると、Helpfeelになる

まさにツールボックスアプローチだ

リモート開発

横浜shokai.icon

フルリモートワーク、年2,3回泥酔する為に出社していた

長崎balar.icon

フルリモートワーク、社内留学制度でやってきた

京都rakusai.icondaiiz.icontakeru.iconTiro.iconben.icon

気分でリモートワーク

鎌倉増井俊之.icon

原作者、無茶な使い方開拓者

ScrapboxをScrapboxで開発している

機能設計、相談など

ページ間リンクが便利shokai.icon

用語・概念に、別ページで定義を好きなだけ書ける

格言・スローガンの様なページを作る

影響しあう機能の設計時に、リンクで説明できる

つまり曖昧さが減り、文脈が作れる

理解・考察が足りていない事をScrapboxで書く

書くとだんだんわかってくる

クソデカ感情を持っている人が直してくれるyosider.icon

通話なし、ドキュメントで相談する

Scrapboxをゴリゴリ書いていくスタイル

/remote/コミュニケーションを減らそう

/remote/リモートで信頼をどう発生させるか (shokai)

プルリクをぶつけあう

プルリク返し

開発者同士で言葉を尽くして説明しあう

動くプロトタイプを触る

こうだね（確認）、を繰り返す

書くとわかってくる

例：増井俊之.iconが最初こんな感じで雑に書く

内部仕様に詳しくなくても、とにかく書く

不満に思った時点で書けばいい。わかる相手には伝わる

https://gyazo.com/8298a3470b2f4d941142a8125ea98507

詳しい人が手直しすれば良い

https://gyazo.com/59d3d480c8d687ca94c5e8246af65154

直してる側も、説明（対話）を通してようやく言語化できる事がよくある

意味が変わらなければ、他人の発言を添削・修正してもぜんぜんok

文中の専門用語を、別ページへのリンクにする

タイトルも変える

発言者を明確にしたい場合はアイコン記法を使うshokai.iconshokai.icon*5yuiseki.icon*5

共通言語ができる

https://gyazo.com/ccc910c7407405dc3839793aca4fe8c2 https://twitter.com/mineiyuki/status/1065911937685286912

人に聞くのはコスト高いけど自分で見られるから良いyosider.icontakker.icon

何度も説明する手間が省ける

試行錯誤が引き継がれる

https://twitter.com/Taku17_h/status/1367744547942330371 https://gyazo.com/34c3ab5b43fb76c636b6838c5762a4e6

最近の機能をざっと紹介

カラーテーマ追加 by Takeru.iconTiro.icon

https://gyazo.com/0301264793025906a49fe0921b6f32cf

エディタ背景が黒いテーマもあります

DarkとMinimal、愛してますshio.icon

テーブル記法が見ずらいのが欠点かもですtakker.icon

Dark使わせてもらってますyamanoku.iconmonotony.iconyosider.icontakker.icon

ファイルアップロード

1ファイル100MB

1アカウント合計1GBまでアップロードできる

https://scrapbox.io/files/5f2e56050f9d7c002465d037.mp4

/help-jp/ファイルアップロード

GCSのsigned URLとGoogle Cloud Functionsで実装した

nintendo switchの30秒録画をアップロードするのに便利shokai.icon

削除したページの復活

30日以内ならProject Updates Stream画面から復活できる

便利kuuote.icon*10takker.icon*6wakuwakup.icon*4monotony.iconshio.icon*5

これでproject削除以外の操作を戻せるようになった。最高takker.icon*3

https://gyazo.com/20fac1dae8f647e42fbaf4d252252b36.mp4

ただしpage historyは無理

これはなぜでしょうか？

実装できてないからですshokai.icon

Microsoft認証、メール認証

business plan(有料)専用の機能

Azure Active Directory等でログインできる

https://gyazo.com/6eee266ef1ca656f29720a2ad26dc811

/help-jp/Googleアカウント以外でのログイン

監査ログ

business plan(有料)専用の機能

直近3ヶ月分のイベントが見れる

誰がどのページにアクセスした、ファイルアップロードした

招待URLが使われた

project memberの追加・削除

admin任命・解任など

IPアドレスも見れる

https://gyazo.com/9182356bd7fc5c4eeec9ecffa4b119cd

/help-jp/監査ログ

全文検索の高速化 by balar.icon

Elasticsearchになった

検索結果を30→100件に増やした

ありがたいです!!shio.icontakker.iconmonotony.icon

リンク貼っていないやつを探すのに便利ですtakker.icon

検索して、下までスクロールでProject横断検索もできる

https://gyazo.com/abf75d03590f28018fd00ef04c697140.mp4

スクロールすれば勝手に横断検索してくれるのとっても良いUIだtakker.icon

実はソートがpage rank(仮)

被リンク数が多いページからの被リンク数が多いページほど、上にソートされる

/icons/知らんかった.iconyosider.icon

クソデカJSONとの戦い

急に1.5倍ぐらいリクエストが跳ね上がった

2020年4月頭

新年度、新学期

Covid-19の緊急事態宣言、リモートワーク需要

急激にリクエストが増えると

これまで問題として現れていなかった不具合が表面に出てくる

人が多い時間帯で、急にDBのCPUが90%に張り付いたりする

サービスが30分ほど不調になった事が3日間、合計5回ほどあった

胃が痛くなった

かわいそう

重いところを見つける方法

Newrelicで見る

特定のURLパスが遅いのがわかる

appの計算待ちか？DB待ちか？もわかる

https://gyazo.com/3921865b9a3105ed12a2c81f9167b4bd

5秒以上レスポンスがかかったリクエストを全てslackに通知

特定のscrapbox projectが遅いのがわかる

めちゃうるさくなる。静かになるまでがんばる

数ヶ月〜年単位のグラフでも見る

1週間単位で見てると今日も横ばいだ、異常ナシ！と油断してたらこれ

年単位で見ると超右肩上がりだったりする

https://gyazo.com/e52d9e4ede3ef26e9131d5e93ec6855e

サーバーのmetricsは貯めておく

重くなった時、何をどこまで戻せば元気になるのかわかる

危機が迫っているのもわかる

⇡の画像はmLab（サービス終了してMongoDB Atlasに移行したけど）

2020春急に重くなった主な原因

index効いてないDBアクセス1つ

巨大なJSONの生成コスト4つ