Nani翻訳
catnose
Zenn開発者catnoseが語る「個人開発で勝てる3つのパターン」と、作り続ける理由|TECH WORLD
@市川: その②のパターンで生まれた最新作が、AI翻訳ツールの「Nani!?」ですね。
@catnose: はい。これも「僕が欲しかったから」作りました。 ChatGPTで翻訳は便利になりましたが、毎回コピペして「もっとカジュアルに」「日本語に訳して」とプロンプトを打つのが面倒くさい。その「10秒かかる作業を2秒にする」ことにとことんこだわっています。
@市川: 実際に使ってみると爆速で驚きました。技術的に何か秘密があるんですか?
@catnose: 0.1秒でも速くするために、サーバーのリージョンをLLM(AI)に近いUS-East(米国東部)に置いたり、余計なリクエストを飛ばさないようにクライアント側(PC側)で処理を完結させたりと、地味ですが徹底的なチューニングをしています。 「AIチャット」のど真ん中をやるとGoogleやOpenAIに飲み込まれますが、こういう「翻訳作業の効率化」というニッチな領域なら、彼らも入ってこない。そこを突き詰めたいですね。
余計なリクエストを飛ばさないようにクライアント側(PC側)で処理を完結
最近考えていたクライアントに処理させる事例だSummer498.icon