GPTsを悪用した攻撃まとめ

GPTsの脅威を、2軸で分類することができる。

GPTsの利用ユーザーの属性 (良性、悪性)

GPTsの作成者の属性(良性、悪性)

https://scrapbox.io/files/6626017b6459f300257e5823.png

左上の象限は、ユーザーが悪性の場合である。

設定情報の窃取や不正なコマンド実行を行う(GPTsのプロンプトインジェクション)

左下の象限は、GPTs・ユーザーどちらも悪性の場合である。

違法薬物の入手方法や爆弾の作り方など、違法なやり取りが行われる。

右下の象限は、GPTsのみが悪性の場合である。

ユーザーを騙し、ユーザーの入力した情報の窃取や、マルウェアの配布、フィッシングサイトへの誘導などの攻撃を行う。