AI VTuber絵藍ミツア(以下、ミツアちゃん)の応援をいただき、ありがとうございます。

現在、パブリックドメイン/CC0および許諾を得た画像(学習参加者以外)のみを用いてゼロから学習した画像生成AIモデル「Mitsua Diffusion One」をミツアちゃんのベースモデルとして公開しております。本ページでは以下をご説明します。

• モデル公開の理由
• 悪用リスクについての考え方
• 公開停止をする場合について

モデル公開の理由

1. 倫理的な画像生成AIという選択肢の提供 (既存画像生成AIへのカウンター)
   • 現在、主要な画像生成AIモデルは、学習時に著作物の無断使用をしています。
   • このことに問題意識を持ち、仮に性能が低くてもより倫理的なモデルがあれば使用したいと考えている方々に対して、その手段を提供したいと考えました。
   • Mitsua Diffusion Oneの性能は低いものの、クリエイターが新しい着想を得るためのツールとして考えれば、十分に使用用途があると考えています。
2. 研究コミュニティへの貢献
   • モデルを公開することで、倫理的画像生成AIの開発が加速することを期待しています。
3. プロジェクトの透明性の確保
   • モデルを公開することで、実際に使用したり、コサイン類似度を検証することで、CC0のみでゼロから学習を行っていることをある程度は証明できます。
   • 学習へのご参加を検討いただく方々のために、ベースモデルが問題ないことをご確認いただくことは重要だと考えています。

悪用リスクについての考え方

モデル公開には一定の悪用リスクがあるものの、Stable Diffusionと比較して、以下の理由で悪用リスクは非常に限定的だと考えられます。

1. Mitsua Diffusion OneはStable Diffusionと比較して性能が非常に低く、追加学習したとしても画風コピーができる十分な性能はありません。写実表現も苦手なので、ディープフェイクやNSFW、犯罪利用も困難です。
2. 更に、Mitsua Diffusion Oneでは、Stable Diffusionと異なり、利用規約で以下の問題行為を明示的に禁止しています。
   1. 無断i2i・無断追加学習
   2. AI生成画像をAI生成ではないと偽る行為

※規約違反の無断追加学習は技術的には可能ですが、規約を違反してまで悪用を考える人は、より高性能で規約上の問題がない別の画像生成AIモデルを使うと考えられます。

また、悪用リスクは、モデルの性能次第であると考えられます。 現状の画像生成AIが問題視されている理由は、例えば従来のツールよりも簡単に高品質なフェイク画像が作れるからでしょう。仮にMitsua Diffusion Oneと従来の写真編集ソフトウェアしかない世界があったと仮定します。そのような世界で、犯罪者がフェイク画像を作ろうとする場合、間違いなく写真編集ソフトウェアで写真を加工するでしょう。何故ならば、写真編集ソフトウェアで写真を加工をする方が、Mitsua Diffusion Oneで画像を生成するより圧倒的に品質の高いフェイク画像が作れるからです。それでは、そのような世界で写真編集ソフトウェアというツール自体を規制する必要があるかというと、決してそのような議論にはならないでしょう。正しく使えば非常に便利なツールであり、悪用するのは使う側のモラルの問題であると考えて問題がないからです。

また、ミツアちゃんの学習参加者の画像を含む本プロジェクトの最終モデルは公開いたしません。ですから、仮にオプトインで100万枚集まり性能が大幅に向上することがあっても、そのモデルは公開されないためリスクは極めて限定的です。仮にMitsua Diffusion Oneに規約違反の無断追加学習をしたモデルが公開された場合は、速やかに公開停止を請求します。

公開停止をする場合について

現時点でMitsua Diffusion Oneの公開停止の予定はありません。他のより高性能な画像生成AIモデルが公開されている限り、根本的な問題は解決しないからです。このような状況でMitsua Diffusion Oneだけ公開停止すると、逆に倫理的画像生成AIへのアクセスをなくすことになってしまいます。

しかし、他のより高性能な画像生成AIモデルが公開停止したら、Mitsua Diffusion Oneはカウンターとしての役割を終えるため、その段階での国内・国外での規制や法整備の状況・悪用リスク等を総合的に判断し、公開停止を検討致します。

引き続き、ミツアちゃんの応援の程よろしくお願いいたします。

2023年4月5日 株式会社アブストラクトエンジン