OpenRouter
OpenRouterとは
複数の大規模言語モデル(OpenAI のGPTやAnthropicのClaude など)を、ひとつの統一された API で利用できるようにするサービス
これによって、開発者はサービスごとに個別の実装や認証を行わなくても、同じ仕組みを通してさまざまな AI モデルを切り替えたり比較・テストしたりすることができる
複数の AI を簡単に使い分けられるためのハブ的なイメージ
LLMの利用頻度や、LLMがどのアプリで使われているかのランキングが見れて、リサーチ用としてもおもしろい https://scrapbox.io/files/6797213613e697c9693ef52f.png
使い方
クレジットの追加
OpenRouter側で、クレジットを追加する
https://scrapbox.io/files/67971f5d8f2e7acac6bbcb2e.png
APIKeyの発行
https://scrapbox.io/files/67971f780e2f13785e4e8d6c.png
実装方法
OpenRouterは、OpenAI互換のAPIを提供しているため、OpenAI SDKを使って実装することができる モデルの指定
openai/gpt-3.5-turboのように、プロバイダとモデル名を組み合わせて指定する必要がある
Google Gemini: gemini/gemini-1
OpenAI GPT: openai/gpt-4
Anthropic Claude: anthropic/claude-v1
code:typescript
import OpenAI from "openai"
const openai = new OpenAI({
apiKey: "<OPENROUTER_API_KEY>", // APIKeyの指定
})
async function main() {
const completion = await openai.chat.completions.create({
model: "openai/gpt-3.5-turbo",
messages: [
{
"role": "user",
"content": "What is the meaning of life?"
}
]
})
}
メモ
OpenRouter経由で、GPTを使うほうが安くなるという記事もある