プロンプトインジェクション

生成AIを意図的に誤作動を起こさせるような指令入力を与え、提供側が出力を禁止している情報（開発に関する情報、犯罪に使われうる情報等）を生成させる攻撃。

攻撃者はシステムの制御を奪ったり、機密情報を盗んだり、不正な操作を行ったりすることができる