DreamBoothモデルを使うことのセキュリティリスク
Pickle Scanning
第6話 〜AIシステムへの侵入 – 機械学習フレームワークの悪用 -〜
AIモデルというのはプログラムであり、通常のプログラムを実行する時と同様の注意を払わなければならないという認識を持つことが大切です。攻撃からシステムを守るためには、他のソフトウェアを扱うときと同じように利用側が注意する必要があります。
第三者によって公開されている事前学習モデルをダウンロードする際、信頼できる提供元かどうかを確かめましょう。
https://www.youtube.com/watch?v=Qto8R9j6VaI&t=918s
マルウェアをスキャンする
Stable-Diffusion-Pickle-Scanner-GUI 🌐