LiteLLM
https://github.com/BerriAI/litellm
Call all LLM APIs using the OpenAI format
LiteLLMを実プロダクトで使ってはなりません。必ず後悔します…
Issuesにバグ報告がたくさんある通り、使っているとしばしば痛い目を見ます。
IMO:
Building effective agents
でも指摘されていた、直接APIを呼び出しなさいという話?