企業が画像生成AIを使う際の注意点。ホントにそれ商用可能？

こんにちは！Webデザイナーのショウです。

最近、画像生成AIが盛り上がっていますよね。
上の画像の女性もStableDiffusionのBRAモデルで生成しました。

簡単に写真やイラストが生成できる画像生成AIですが、生成した画像は商用利用が可能なのでしょうか？

先に結論から言うと、現時点では「企業はAI生成画像をかなり慎重に使った方がいい」です。商用利用OK！を謳っているAI画像生成サービスが多いですが、実際のところは法的＆倫理的にグレーな面が多いからです。

AI画像の商用利用については、以下の12個の観点が極めて重要です。それぞれを見出しにして解説します。商用利用を検討している場合は、必ず頭の中に入れておきましょう。

1. 「Stable Diffusion」と「Midjourney」を知っておく
2. フォトリアル系で商用利用可能なのは「chilled_remix」と「BRA」
3. 日本の法律では著作権を含む画像の学習自体はOK
4. そもそも「商用」とは何を指すのかが曖昧な状況
5. イラスト系モデルは絵師からの批判が強い
6. 【重要】イラスト系モデルにはNovelAIリークモデルが混入されている可能性が高い
7. 普通にコラージュのような画像を生成してしまい著作権や肖像権に触れるケースがある
8. 【重要】AI画像生成サービスにはNovelAIリークモデルが混入されている可能性あるので要注意
9. 比較的安全なAI画像生成のサービスとモデル
10. すでにPIXTAやPhotoACにはAI生成画像が投稿されているので知らないうちに使用しないように注意
11. 高額なセミナーや情報商材に騙されないようにする
12. 使用する場合は「この画像はAIで生成しています」と併記しておくのが無難

この記事で「画像生成AI」と表記する際は、主に「Stable Diffusion」と「Midjourney」を指しています。

AIの情勢は絶えず変化している点や、あくまで個人の見解のため、本記事の内容は参考程度に留めておいてください。

「Stable Diffusion」と「Midjourney」を知っておく

現在、「Stable Diffusion」と「Midjourney」が一番有名な画像生成サービスです。

StableDiffusionはオープンソースで無料で使える

StableDiffusionはオープンソースで開放されており、個人が自分のPCあるいはGoogle Colaboratoryといったクラウド開発環境で画像生成ができます。以下の悠々ログさんの記事でGoogle ColaboratoryでStableDiffusionを動かす方法が紹介されています。

【2023年】美少女AIコスプレイヤーをStable Diffusionで生成する方法についてまとめていく！【ChilloutMix】

私もこの記事で紹介されている方法でStableDiffusionを使用しています。最近は「AI画像生成の方法教えます！」という高額なセミナーや情報商材が出てきたので騙されないように注意してください。基本的にはこの悠々ログさんの記事を読めばStableDiffusionで画像生成は可能です。

StableDiffusionをPCで動かすには高性能なGPUが必要です。メモリを多く積んだ高性能なグラフィックボードが必要です。自分のPCで動かすメリットは電気代を除けば無料でStableDiffusionをいくらでも利用できる点です。
一方でGoogle Colaboratoryであればクラウド開発環境なので非力なPCでも十分に動かせます。しかしGoogle Colaboratoryは無料プランでStableDiffusionを動かすとアカBAN（Googleアカウント停止）をくらいます。必ず月額約1000円のProアカウントを契約するようにしましょう。

これがStableDiffusionの画面です。
プロンプト（呪文）を入力する箇所が２箇所あります。「ポジティブプロンプト」に生成したい内容を入れ、「ネガティブプロンプト」には画像には含めないでほしい内容を入れます。

StableDiffusionの特徴は、StableDiffusionにさらに実装するCheckpointと呼ばれるモデルが無料で公開されている点です。AIコスプレイヤーというワードで話題になったChilloutMixのように実写の美女画像の生成が得意なモデル、Anythingのように神絵師が描くようなイラストが生成できるモデルなど、無数のモデルがCivitai（シビットエーアイ）やHuggingFace（ハギングフェイス）といったサイトで公開されています。

StableDiffusionは個人のPCや開発環境で動かせるため、基本的には生成する画像に規制が全く無いためどんな画像でも生成できてしまいます。

生成した画像が商用利用可能かどうかはモデル（Checkpoint）に従うケースが多いです。まぎらわしいのですが、StableDiffusionのデフォルトモデルであるStableDiffusionモデルは商用可能なのですが、Checkpoint（モデル）ごとにそのCheckpointの制作者が利用規約を設けているのが現状です。後ほどその利用規約の確認方法を紹介します。

MidjourneyはDiscordで画像を生成する

私がMidjourneyはあまり使用したことがないのでざっくりとした説明のみになります。

MidjourneyはDiscordというチャットアプリを利用して画像を生成します。Discord上で生成したい画像の内容をプロンプトとして入力することで、返信の形で生成画像が表示されます。

Midjourneyが凄いのは、StableDiffussionのようにCheckpoint（モデル）を変えることなく、高品質なフォトリアル系やイラスト系の画像を書き分けて生成する点です。ただMidjounery特有の作風がなんとなくあり、フォトリアル系の人物画像によっては「あ、この人物の顔を見る限りおそらくこれはMidjouneryで生成したな」というのがわかったりします。

また、画像生成の方法が簡単なのも魅力です。StableDiffusionのように開発環境を用意することなく、DiscordのMidjourneyのサーバーにログインするだけで画像を生成できてしまいます。そのため日本でも多くのユーザーがいます。

MidjourneyはStableDiffusionと違ってNSFW（Not Safe For Work / 職場で見るには不適切）な画像は生成できないといった制限があります。

無料プランの場合は商用利用が不可です。月額10ドル以上のプランに入れば生成した画像を商用利用できます。

フォトリアル系で商用利用可能なのは「chilled_remix」と「BRA」

「AIコスプレイヤー」とか「AIグラビア」といったワードがネットで流行りましたが、AIでかわいい女性の画像が簡単に生成できるようになりました。この美女画像生成の人気の火付け役となったのがStableDiffusionのモデルの一つの「ChilloutMix」です。

Chilloutmixとは？

ChilloutMix（チルアウトミックス）は様々なモデルをマージ（合体）したマージモデルで、日本人によって制作されました。アジア人の美女の画像が簡単に作れることで大きな話題になり、今も世界中で使用されている大人気モデルです。制作者のTASUKU2023さんはワイドナショーにも出演しました。

ChilloutMixが商用不可となりchilled_remixが人気に

これはchilled_remixで生成した画像です。

詳しい事情はわかりませんが、様々な経緯があり元々は商用利用OKだったChilloutMixは商用利用不可になりました。その後、鎖城郎郭さんによってChilloutMixに近い画像を生成できるジェネリックモデルのchilled_re_genericが登場しました。

しかしさらにchilled_re_genericのマージ元であるbasil_mixの制作者が商用利用不可を突然発表したことで、chilled_re_genericも商用不可となりました。そこで再び鎖城郎郭さんが制作したのがchilled_remixです。HuggingFaceのこちらで公開されています。chilled_remixはChilloutMixと作風は異なるものの、商用利用OKの童顔で可愛らしい女性画像を生成してくれるため多くのユーザーがいます。上の画像はchilled_remixで生成した画像です。

このようにフォトリアル系界隈では、人気のモデルが商用利用不可になると有志の誰かが商用利用OKのモデルを制作して無料で公開してくれる状況になっています。

BRAも人気

2023年5月現在はフォトリアル系モデルはchilled_remixとBRAの２つが人気です。BRAはCivitaiのこちらで公開されています。BRAはBeautiful Realistic Asiansの略です。制作者はシンガポール人のPleaseBankaiさんです。上の画像はBRAで生成した画像です。BRAはマージモデルではなく、PleaseBankaiさんゼロから大量の画像を学習して制作しているモデルです。

日本の法律では著作権を含む画像の学習自体はOK

一応、日本の法律では著作権を含む画像をAIが学習することは法的にOKだそうです。AIと法律の問題については、AI事情に詳しい弁護士の柿沼太一先生のブログやTwitterでの発言に注目しておきましょう。

生成AIの猛烈な進化と著作権制度～技術発展と著作権者の利益のバランスをとるには～

ただ、法的にOKなのと倫理的にOKなのは別問題です。自分が描いた絵を勝手に学習されてそれと似た絵柄の画像を生成して公開されてしまうことは法的にOKでも感情的に倫理的に問題がありますよね。AI画像生成の問題について語る時は、法律と倫理の両面で語る必要があります。AIで生成した画像に対してイラストレーターの方が「これ私の絵とそっくりだよ！」と意義を唱えれば、法的にOKでも炎上するリスクがあるのです。企業としてはAI生成画像を使うとこういったリスクや倫理的問題を考えておく必要があります。

また、現時点では日本では著作権を含む画像を学習することは法的に問題ありませんが、海外では訴訟になっているケースがあります。

米アーティストがStable Diffusionなど画像生成AIに集団訴訟　「作者に無断で作品を学習に使用」と訴え【ねとらぼ】

AI生成画像を扱うにはつねに現在の法整備の状況を確認しておく必要があります。

そもそも「商用」とは何を指すのかが曖昧な状況

AI画像生成に関して「商用利用」という言葉が、具体的にどんな商用を指しているのかが現在も曖昧な状況です。

生成した画像を販売することは「商用」に当たりそうです。営利目的のサイトや商品のバナーの素材として使用するのも商用になりそうです。

しかし、ブログやYouTubeで生成画像を紹介することは商用なのかは微妙です。ブログもYouTubeも営利目的で運営しているとしたら厳密に言えば商用かもしれませんが、それを不可にしてしまうと紹介することすらできなくなります。

このように「商用利用OK」とか「商用利用不可」という言葉は頻繁に使われるのですが、実際に何がOKで何がダメなのかが明確な線引きが曖昧な状況であることは理解しておく必要があります。StableDiffusionのモデルであればCivitaiのモデル配布ページに「生成画像の販売は不可」と掲載されていることがあるので、最低限それには従うようにしたいところです。

イラスト系モデルは絵師からの批判が強い

AI画像生成は大きくフォトリアル系とイラスト系に分けられますが、イラスト系はよく議論の的になります。はっきり言って、イラスト系の画像生成は絵師やイラストレーターから嫌われている状況です。「AI絵師」という表現が「絵師じゃないだろ！」等と批判されたり、今もAIで画像生成することを「描く」と言うと「描いてないだろ！」と強い批判にされされる状況です。

それももっともで、一生懸命描いた絵をAIが勝手に学習して、他人がAIで一瞬でそっくりな絵を生成するのだから感情的にも倫理的にも許せるはずがないです。イラスト系で画像生成をする場合は、絵師やイラストレーターたちのこの気持ちや状況を十分に理解しておく必要があります。

また、つねにAIに付きまとう問題ですが、「そもそも無断学習はOKなのか！？」という感情も根強くあります。法的にはOKでも勝手にイラストを学習する行為が倫理的に許されるのかどうか、この問題はこれからも議論され、法改正などにも繋がる可能性はあります。

私も個人的には「法的にOKだからいいじゃん！」という態度はかなり違和感があります。学習にイラストを使う場合はそのイラストの制作者が何らかの利益を得られるような仕組み作りが今後は必要だと考えています。

最近はpixivでAI生成イラストが投稿禁止になりました。

「AI生成に関わる問題と、対応についてご報告」を公開いたしました。

詳細はこちらをご確認ください。https://t.co/Ic9kOsPgeB

— pixiv (@pixiv) May 9, 2023

「pixivリクエスト」もAI作品当面禁止　「大量取引目的」増加など受け【ITmedia News】

これはAI生成イラストがあまりに氾濫してしまい、通常のイラストが埋もれてしまったり、元のイラストの絵柄を再現するLoRA（追加学習データのことで微調整を加えることで既存のキャラや顔を再現することができる）を使いお金を稼ごうとする悪質な流れがあったりと、様々な被害が発生してきたためです。pixivに続きpixiv FANBOXもAI生成画像は投稿禁止になりました。さらにDLsiteでもゲームと小説カテゴリは除き、投稿が禁止になりました。

このようにAI生成画像は特にイラスト界隈ではあまり歓迎されていないのが現状です。もちろんAIをうまく活用されている絵師やイラストレーターの方もいます。

【重要】イラスト系モデルにはNovelAIリークモデルが混入されている可能性が高い

「NovelAI」というAIイラスト生成サービスがあります。そのサービスで利用されていたデータセットが盗難されてしまい、そのNovelAIリークモデルをマージしたモデルが氾濫している（と言われている）のが今のイラスト系モデルの状況です。「と言われている」と書くのは、実際には盗難されたかどうかもいまいちはっきりしていないからです。ただ、その可能性が濃厚であることはAI画像界隈では常識になっています。

個人が趣味で使う分には良いかもしれませんが、盗難されたデータがマージされているモデルを企業が使用するのはリスクがあるように思います。炎上のリスクもありえます。

残念ながら、かなり多くのStableDiffusionのイラスト系モデルにはNovelAIリークモデルがマージされている（という噂）なので、企業がイラスト系モデルを使用するのはかなり慎重になるべきと考えています。比較的安全に使えるイラスト系モデルを後ほど紹介します。

普通にコラージュのような画像を生成してしまい著作権や肖像権に触れる可能性もある

AIで画像を生成するとまったくオリジナルな画像が生成されると思うかもしれませんが、意外にコラージュ写真のように元の学習画像に近いものを貼り合わせて生成しているだけ（のように見える）の時があります。

これはStableDiffusionのBRAモデルで生成した画像ですが、画像の隅に何かコピーライトのような表記が見えますよね。このような表記がたまに生成されるのですが、これを見つけると正直ゾッとします。

この画像も右下にアルファベットと数字らしきものが写っています。

元の学習画像の何らかの表記が多少崩れてはいるものの、ほぼそのまま表示されちゃってるんですよね。つまり、著作権を持つ画像をほぼそのまま生成してしまう可能性がありえます。私は法律の専門家ではないので詳しくはわかりませんが、何らかの法的なリスクがあるように思います。

また、あまり無いかもしれませんが、実際に存在している人物の顔を出してしまう可能性もありえます。その場合はもしかしたら肖像権に触れる可能性があります。まったく偶然に生成した場合は法的にどうなるかはおそらくまだ判例が無いためなんとも言えません。

「あれ？なんか隅っこに表記があるぞ」「この顔…どこかで見たことあるな」そんな画像が生成されたらとりあえずは使わないようにしましょう。つねに生成した画像が著作権や肖像権に触れていないかは注意する必要があります。

【重要】AI画像生成サービスにもNovelAIリークモデルが混入されている可能性あるので要注意

StableDiffusionとMidjourney以外にも、AI画像生成サービスはどんどん登場しています。LINEでプロンプトを打てば、生成された画像が返ってくるサービスもあります。

しかし、実は内部では結局はStableDiffusionを使っているサービスが多く、使用しているモデル（Checkpoint）を公開していないケースを見かけるので要注意です。特に注意すべきがイラスト系画像の生成で、上で紹介したNovelAIリークモデルをマージしたモデルを使用している可能性があります。「商用利用OK！」と謳っているので、てっきりオリジナルのイラストモデルを使用していると思っていたら、実は内部ではNovelAIリークモデルをマージしたモデルを使用しているという危険なケースがあるのです。

StableDiffusionとMidjourney以外のAI画像生成サービスを利用する際は、内部で何のモデルを使用しているかを確認するようにしましょう。

比較的安全なAI画像生成のサービスとモデル

さんざんAI生成画像はリスクがあるという論調で書いてきましたが、比較的、法的にも倫理的にも安全と言えるモデルやサービスを紹介します。

フォトリアル系はBRAとchilled_remix

BRAはマージモデルではなくゼロから学習しているのでNovelAIリークモデルが混入されている可能性はほぼ無く安全と言えます。

chilled_remixは複数のモデルのマージモデルであるため、遡れば何らかの怪しいモデルが含まれている可能性はあるものの、ライセンス表記や利用規約がしっかりしているので商用利用は問題ないと言える状況です。

イラスト系はWaifuDiffusion・Repricant・Dreamshaper

イラスト系はNovelAIリークモデルを含まないWaifuDiffusionと、WaifuDiffusionをベースにさらに学習を加えたRepricant、イラスト系といっても2.5〜2.8次元のテイストですがDreamshaperが比較的安全と考えています。

WaifuDiffusion

WaifuDiffusionで生成したイラストです。

WaifuDiffusionはNovelAIリークモデルを使わずに質の高いアニメ系イラストを再現しようとしているモデルです。以前はクオリティが低かったのですが、最近は良い絵を生成するようになってきました。Civitaiの配布ページはこちらです。

Repricant

WaifuDiffusionをベースに改良したRepricantも注目されています。WaifuDiffusionよりもクオリティの高いイラストが生成できます。Civitaiの配布ページはこちらです。

Dreamshaper

Dreamshaperはこのように非常に緻密で質の高いイラストを生成してくれます。Civitaiの配布ページはこちらです。

DreamshaperはCivitaiの配布ページでこのように「CHECKPOINT TRAINED」と記載があり、マージモデルではなく一応ゼロから学習したモデルです。結局は無断で著作権を含む画像を学習はしているでしょうが、何か怪しいモデルが混入されているリスクは少なそうです。

Midjouneryで生成された画像はよく見かける

これは私の印象ですが、いま世の中でよく見かける商用されているAI生成画像の多くがMidjouneryで生成されています。

「サイバーパンク桃太郎」はMidjouneryで生成した画像を使用しており、当時話題になりました。普通にamazonで販売しており、「あ、売ってもいいんだ！」という驚きと発見がありました。

また、現在ではPhotoACやPIXTAなどの素材サイトでも普通にAI生成画像が投稿されており、テイストを見る限りどうやらMidjouneryで生成されているようです。

Midjouneryは明確に「商用利用可能」と記載していることもあり、AI画像生成サービスの中では断トツに商用利用OKという認識が広がっているようです。一方でStableDiffusionは各モデルによって利用規約があったり、NovelAIリーク問題もあるため、商用利用がややしづらい現状があります。

Civitaiで商用利用OKかを確認する方法

Civitaiで配布されているStableDiffusionのモデルの場合は、モデルの配布ページのここでそのモデルの利用規約が確認できます。生成した画像を使う場合は特に上の２個の項目を確認します。

いちばん重要なのが２行目の「Sell images they generate」です。これに緑のチェックが付いていれば、生成した画像を販売できます。Sellなので果たして例えばバナーの素材として使えるのか？など詳しくはわかりませんが、「売れるのであれば商用利用はもろもろOKだろう…」という認識です。

次に、１行目の「Use the model without crediting the creator」はクレジット表記をすべきかどうかと認識しています。これに緑のチェックが付いている場合は、生成した画像を使用する際はモデル名を併記する必要があります。

しかし、実際にはこの項目もモデル配布者のさじ加減、つまりテキトーに設定しているだけの場合もあります。他人が制作したモデルを勝手にアップロードしているケースすらあります。Civitaiのこの項目を信じすぎないようにしましょう。自分自身でこのモデルは安全なのかを調べる必要もあります。

すでにPIXTAやPhotoACにはAI生成画像が投稿されているので知らないうちに使用しないように注意する

これはPhotoACで見つけたAI生成画像です。

実はもうすでに「PIXTA」「PhotoAC」「AdobeStock」といった素材サイトでは、AI生成画像が素材として投稿されています。つまり、知らないうちにダウンロードしてしまうことがあるのです。Webデザイナーの場合、知らないうちにサイトの素材としてAI生成画像を利用してしまうことがありえます。お客さんによってはAI生成画像の利用をNGにしていたり嫌悪感を示すケースもありうるので十分に気をつけたいところです。

高額なセミナーや情報商材に騙されないようにする

最近は、「AI生成画像セミナー」とか「AI美女の作り方」といった高額なセミナーや情報商材を見かけるようになりました。上でも説明した通り、基本的にはほぼ無料で生成できます。どうか騙されないように気をつけてください。

まとめ：使用する場合は「この画像はAIで生成しています」と併記しておくのが無難

これまで説明してきた通り、AI生成画像はまだまだグレーな部分が多いです。とはいえ尻込みしすぎて全然使わないのももったいないですよね。ある程度は積極的に活用していきたいところです。

これからAIとゼロからの創作物との垣根が曖昧になっていきます。AIが制作物に自然に活用されていきます。AdobeのFireflyではAI学習許諾済みの画像で画像生成ができるようになったり、Photoshopの画像修正機能ではテキストを入力するだけで本来そこに無いものを生成できるようになりました。つまり、AIを使っているかどうかさえもはやわからない状況になっていくのです。

ただ、現時点では無用なトラブルや混乱を避けるためにも、AI生成画像を使用する際は念のため画像の横などに「この画像はAIで生成しています」と併記しておくのが無難かと思っています。画像生成AIを積極的かつ慎重に活用していきたいところです。