アラインメント
Alignment
アラインメントとは、AIの判断や行動を、人間の意図・価値観・安全上の目的に合うように調整することです。特にAI分野では、AIが「指示どおりに動く」だけでなく、「人間にとって望ましい結果」を出すようにする考え方を指します。AIの誤作動、危険な出力、意図しない行動を減らすために重要です。 簡単に言うと、AIの向いている方向を人間の望む方向にそろえることです。高性能なAIほど、能力だけでなく「何を目的に動くか」を正しく合わせる必要があります。
要するに、アラインメントとは、AIを人間の意図や安全な目的に合うように調整することです。