Constitutional AI

コンスティチューショナルAI

Constitutional AIとは、AIにあらかじめ決めた「原則」や「ルール」に従って回答を改善させるAI学習手法です。人間がすべての回答を細かく評価するのではなく、AI自身が憲法のような基準に照らして、より安全で望ましい応答へ修正します。主にAIの安全性や一貫性を高めるために使われます。

ここでいう「Constitutional」は、国の憲法そのものではなく、AIが守るべき基本ルールという意味です。たとえば「危険な助言を避ける」「差別的な表現をしない」といった原則をもとに、回答を見直す仕組みです。

要するに、Constitutional AIはAIに守るべき原則を与えて、安全で一貫した回答をさせるための手法です。