Anthropic
Anthropicは、AIの安全性と研究を重視しながら、信頼できて、動作を理解しやすく、意図どおりに制御しやすいAIシステムを作る企業です。対話AI「Claude」や関連する開発・業務向け製品を提供しており、AIの利点を広げつつリスクを減らすことを目的にしています。Anthropic自身も、AI safety and research company であり、公益性を重視する public benefit corporation だと説明しています。 かみ砕くと、Anthropicは「高性能なAIを作る会社」であると同時に、「そのAIを危なくならないように研究する会社」でもあります。ChatGPTに対するClaudeの開発元、と考えるとイメージしやすいです。安全性の考え方としては、Claude’s Constitution などを通じて、役に立ちながらも unsafe, unethical, or deceptive な行動を避ける方針を示しています。 要するに、Anthropicは「安全性を重視してClaudeを開発しているAI企業」です。