Perplexityは裏側でClaudeを使っている
https://scrapbox.io/files/6699d6e0858f510022122f23.png
ポイント
PerplexityはAmazon Bedrockを使用して、無料版と有料版の両方の検索エンジンでClaudeモデルを提供しており、Perplexity内部で開発されたLLMと並行して使用している
Perplexityは、無料ユーザーには、Claude 3 Haikuを使用している
有料ユーザーに対して、PerplexityはClaude 3 OpusとClaude 3.5 Sonnetの選択肢を提供している。
Anthropicの最先端のClaudeモデルを私たちのRAGシステムと統合することで、無料ユーザーと有料ユーザーのニーズを満たす勝利の方程式を見出した、とのこと
関連
概要
2022年に設立されたこのスタートアップは、LLMをインターネット上の情報と統合し、ユーザーの問い合わせに対して包括的かつ文脈に応じた関連性の高い回答を提供しています。これらの回答には、ユーザーがチャットボットの情報源の事実性を確認できるよう、引用が含まれています。
Perplexityのチームは、コストとパフォーマンスのバランスを取りながら、ユーザーに可能な限り最高のAI駆動の検索体験を提供することを目指しています。立ち上げ以来、PerplexityはユーザーがClaudeモデルを使用して検索できるようにしてきました。新しいClaudeモデルが市場に登場すると、PerplexityはAIワークフローを迅速に更新し、Claude 3.5 Sonnetを含む最新のモデルを統合しています。
Claude 3.5 Sonnet、Claude 3 Opus、Claude 3 Haikuの能力により、彼らのチームはコストを犠牲にすることなく、プラットフォームに新機能を追加することができました。
精度とパフォーマンスの向上
PerplexityのインフラストラクチャはAWS上に構築されています。彼らはデータベースやコンテナサービスなどの基本的なクラウドサービスにAWSを使用し、また Amazon Bedrock を通じてAI開発のためのインフラストラクチャも利用しています。PerplexityはAmazon Bedrockを使用して、無料版と有料版の両方の検索エンジンでClaudeモデルを提供しており、Perplexity内部で開発されたLLMと並行して使用しています。Claudeは、関連性が高く簡潔な回答を提供する素晴らしいユーザー体験をプラットフォームが実現する上で重要な役割を果たしています。
Claudeモデルは様々なユースケースで異なる役割を果たしています。Perplexityは、無料層でClaudeモデルファミリーの中で最も高速かつコスト効率の高いモデルであるClaude 3 Haikuを使用しています。Haikuはグラフやチャートを含む密度の高い研究論文を3秒未満で読み取ることができ、Perplexityが財務的な持続可能性に影響を与えることなく、無料ユーザーに高品質な体験を提供することを可能にしています。
有料ユーザーに対して、PerplexityはClaude 3 OpusとClaude 3.5 Sonnetの選択肢を提供しています。これらのモデルは、最も高度な推論能力を必要とし、最高のパフォーマンスを求めるユーザーに対応しています。Claude 3 OpusはAIシステムの一般的な評価ベンチマークのほとんどで同等のモデルを上回り、Claude 2.1よりも2倍正確です。Claude 3.5 Sonnetは同様の知能を提供し、Claude 3 Opusよりも2倍速くなっています。このパフォーマンス向上とコスト効率の良い価格設定により、Claude 3.5 Sonnetは複雑で文脈に敏感なタスクに理想的です。これらの高度なモデルを提供することで、Perplexityは有料ユーザーにより高級な体験を提供しています。
Perplexityのインフラストラクチャエンジニアであるアーラシュ・ヘイダリ氏は次のように述べています。「Claudeは一貫して推論能力に優れており、バランスの取れた回答を提供します。ユーザーはClaudeが回答を提供する際のトーンを好んでいます。私たちは、理想的な回答の提示方法に合わせてこれらの出力を調整できるようClaudeをカスタマイズしました。しかし、そのままでもClaude 3 Opusの回答は優れており、ユーザーは満足しています。」
未来を見据えて
Claudeモデルファミリーを使用することで、Perplexityは正確で包括的、そして信頼性の高い検索体験をユーザーに提供し続けることができます。ヘイダリ氏は次のように述べています。「私たちの目標は、ユーザーに一貫して卓越した質問応答サービスを提供することです。Anthropicの最先端のClaudeモデルを私たちのRAGシステムと統合することで、無料ユーザーと有料ユーザーのニーズを満たす勝利の方程式を見出しました。」
今後、PerplexityはAnthropicと協力して、AI駆動の検索の境界を押し広げていく予定です。同社はClaudeの能力を基に新しい方法を探求し、ユーザーがより効率的に事実に基づいた文脈に応じた関連情報を発見できるよう支援していきます。
ヘイダリ氏は次のように述べています。「私たちは最高のAIを提供し、ユーザーに他では得られない体験を提供したいと考えています。Anthropicと協力してClaude 3モデルをさらにカスタマイズし、私たちのサービスに特化した動作をさせることに興奮しています。Claudeをベースモデルとして使用し、ユーザーに最高のサービスを提供する可能性は計り知れません。」