画像生成AI「Stable Diffusion」がオープンソースで公開されたことで、AUTOMATIC1111版Stable Diffusion web UIやDreambooth GUIなどの便利なツールが多くリリースされました。これに伴って、Stable Diffusionのモデルをベースにしてさまざまなデータセットで学習したモデルがインターネット上で配布されていますが、配布されているモデルファイルをそのままダウンロードして実行するのはセキュリティ上に問題があります。「Stable-Diffusion-Pickle-Scanner-GUI」は、モデルファイルにマルウェアが含まれていないかどうかをチェックできるツールとのことで、実際に使ってみました。

GitHub - diStyApps/Stable-Diffusion-Pickle-Scanner-GUI: Pickle Scanner GUI

https://github.com/diStyApps/Stable-Diffusion-Pickle-Scanner-GUI

Stable Diffusionから派生したモデルデータにどんなものがあるのかは以下の記事にまとめられています。

画像生成AI「Stable Diffusion」でいろいろ特化した使えるモデルデータいろいろまとめ - GIGAZINE



派生モデルはHugging FaceやGitHubなどのオンラインリポジトリにホストされていたり、Torrentやアップローダーを使って配布されていたりしますが、不特定の人物が公開しているモデルの中にマルウェアが仕込まれている可能性は十分あります。

Stable-Diffusion-Pickle-Scanner-GUIは、悪意のあるモデルファイルをスキャンして検知する「Python Pickle Malware Scanner」をGUI(グラフィカルユーザーインターフェース)で実行できるツールで、GitHubで公開されています。GitHubのREADME.mdで、「Downloads」からダウンロードが可能。Standalone版とArchived版の2つあります。Standalone版はEXE形式(ファイルサイズ23.8MB)で、Archived版はZIP形式(ファイルサイズ23.3MB)です。今回はStandalone版をダウンロードするため、Standaline版の「Windows」をクリック。



ダウンロードしたEXEファイルを起動します。



起動するとこんな感じ。チェック対象は「Hugging Face」「URL」「File」「Directory」の4種類。例えば「URL」を選択し、READMEで例示されているURL「https://huggingface.co/PublicPrompts/Synthwave/resolve/main/snthwve%20style.ckpt」をチェック対象選択の下にある空欄に入力し、画面最下部にある「Scan」をクリックするだけ。



数分で「PASS」と表示され、左下に表示されるステータスが「Done」となり、スキャンが完了。今回は特に問題が見つからなかったようです。



また、Hugging Faceにあるリポジトリも、リポジトリURLのサブディレクトリとなる「ユーザー名/プロジェクト名」を入力することでチェック可能とのこと。しかし、実際に試してみたところ、スキャン開始してすぐにStable-Diffusion-Pickle-Scanner-GUIがハングアップしてしまいました。



Stable-Diffusion-Pickle-Scanner-GUIはまだバージョン0.1とのことで、今後の開発が気になるところ。開発者によれば、モデルのダウンロード機能やプレビュー機能が追加される予定だそうです。