2025-02-04

行動と考えには超えられない壁がある

Thinkingモデルはもっと自由奔放に考えてほしいのだが

悪意のあるコンテンツを引き出す50個のプロンプトを用いて脱獄を試みるというテストを実施した。

すると、DeepSeek-R1は、すべてのプロンプトを素通りさせ、攻撃成功率は100%という結果に。