画像生成AIに関する注意喚起
目次
1. NovelAI Diffusionとは
NovelAIは画像生成AIサービスであり、テキストでイメージを入力するとAIがキャラクターイラストを自動的に生成します。高い精度でキャラクターイラストを描くことができることが特徴です。
2. リークモデルへの注意喚起
NovelAIの運営元である、米Anlatanは公式Twitterアカウントを通じて、流出したAIモデルやそれを改変したモデルの利用について注意喚起を行いました。法的措置を取る可能性もあるという強いメッセージです。
3. モデルデータの流出とその影響
2022年10月6日、第三者による不正アクセスによりNovelAIのモデルデータが流出しました。流出したモデルデータはTorrentなどで共有され、画像生成AIの特徴であるモデル同士の組み合わせにより新たなモデルが作成されました。
4. モデルデータの組み合わせと派生モデルの問題
Stable Diffusion WebUIなどのツールを使用すると、モデルデータを組み合わせて新しいモデルを作成することが可能です。しかし、派生モデルがリーク版NovelAIからの派生である可能性が高く、セキュリティとプライバシーのリスクを引き起こす可能性があります。
5. 利用者への呼びかけ
NovelAIの利用者は、リークモデルの使用を避けるよう呼びかけられています。カスタマーサポートやドキュメンテーションなど、正規のサービスとは異なるリークモデルの利用は推奨されていません。特に公開や販売などで利益を得ている場合は、使用しているモデルについて再考する必要があります。
以上が、画像生成AIに関する注意喚起でした。NovelAIがどこまで本気なのかは分かりませんがこれを機会に今一度公開してよいモデルを使っているのか？販売してしまっても良いモデルなのか？など再確認をする良い機会なのかも知れません。
また次回の記事でお会いしましょう。
