AI alignment
public.icon
人工知能（AI）の分野では、AIシステムを設計者の意図した目標や関心に近づけることを目的としたAIアライメントの研究が行われている。アライメントされたAIシステムは意図した目的を達成し、ミスアライメントしたAIシステムは何らかの目的を達成する能力はあるが、意図した目的を達成する能力はない。AI alignment wiki OpenAIを中心にやっている。
DeepMindなどもやっている。
Building Reliable, Interpretable, and Steerable AI Systems
We are a team of researchers dedicated to applied, scalable AI alignment research.
イベント