2023/9/6、各業界団体の生成AIに対する見解発表が乱立する中、WAN-IFRA(世界新聞・ニュース発行者協会)らが中心となって「Global AI Principles(世界AI原則)」を発表。
「Principles(原則)」という大仰な名前を付けているが、ただの見解発表であり、「ニュースメディア業界が自分らで勝手に決めて自分らの発表したいタイミングで勝手に発表しただけの俺ルール」である。どの程度影響力があるかは不明。
ただの俺ルールを「原則」と命名してしまう辺りに、この業界の驕りが出てしまっている感もなくはない。
主張内容は例によって「30条の4を潰せ」…ではない。先日の国内の見解発表ラッシュとは異なり、特定の国の法律をターゲットにしていないため、内容はより観念的で具体性に乏しい物になっている。
AIに限らずIT全般の傾向として「規制しすぎた国から順番に負ける」という現実があるため、舵取りは難しい。
https://wan-ifra.org/2023/09/global-principles-for-artificial-intelligence-ai/
2023/9/4、中国の江娯互動科技有限公司が開発し、G123.jpが日本向けにローカライズ・運営しているブラウザゲーム「ビビッドアーミー」が、web広告において、石恵氏(著名なイラストレータ)のイラストに非常によく似た画風の、おそらくAIで生成したと思われる画像を使用していると、石恵氏本人がTwitterで訴える。さらにその後、石恵氏が「弁護士と相談している」と発言した事で、この事例が日本における対生成AI裁判第1号になる可能性が生じ、にわかに注目を集める。
この事例は手塚憲一事件等とは異なり、「明らかに特定作家の画像でファインチューニングしているが、low strength i2iではないので1:1対応する元絵が存在しない」ケースとみられるため、仮に係争となった場合、判例としての価値は大きい。
一方で、これはAI特有の問題というわけではなく、例によって手描きでも普通に犯罪になるケースなので、この事例を利用して生成AIだけを選択的に攻撃する事は難しい。同じ理由で「制作に生成AIを使用したかどうか」も(手描きでも犯罪なので)争点になりにくいし、「手描きでも犯罪だが生成AIを使ったので特に悪質だ」とゲタを履かせる事も難しい。
なお、ビビッドアーミーは「ゲーム中に出てこないキャラクターをイラストに使ったゲーム内容と全く関係ない広告」、いわゆる釣り広告で有名で、今回問題となっているキャラクターもゲーム中には一切出てこない。
2023/9/4、NURO光のweb広告が、minamo氏(Twitter ID: minamo_614)のイラストを改竄・無断使用しているとして炎上しかかる。
しかしその後、単純にNURO光がminamo氏のイラストを改竄・無断使用したのではなく、何者かがminamo氏のイラストを自分の絵だと偽ってShutterstock(Bigstock?)に登録し、それをNURO光が正規品だと思って購入・使用した(つまりNURO光も被害者)という流れである事が判明。炎上は免れた。
これは「有料で販売していた画像アセットが、実は他人の絵を色調補正・左右反転した程度の盗品だった」という話なので、AIは直接関係ない。しかしこの事例は、今後個人や法人が「ストック系サービスの画像は、どんなにそれらしく置かれていたとしても、常に盗品という可能性があるので、実は毎回自力でAI生成した方が安全なのではないか」と考える可能性を残した。
2023/9/3、「Steam(世界で最大手のゲーム配信プラットフォーム)にChatGPTを用いたゲームを提出したら審査で落とされた」という話題を受けて、Epic Games CEOのTim Sweeneyが、「Epic Games Storeは生成AIを用いたゲームをbanしない」と、Steamとは真逆の方針を発表。
また同じ文脈で、「違法かどうかは最終生成物の類似性で判断すべきで、学習が無断だから生成物が全部違法というのはナンセンス、そんな判決はどこの裁判所も出していない」という、ほぼ文化庁と同じ見解を述べた。
「SteamがAI生成素材を含むゲームを審査で落としている」という噂は以前からある。これはSteamが反AI主義だからというよりは、単に「裁判に巻き込まれて変な露出をしたり責任を取らされたくない」というビジネス的な判断からだとみられているが、Steam自身は何も公式発表していないうえ、そもそも「ゲームを完成させてSteamに登録する」という経験をする人間の絶対数が圧倒的に少ないため、真偽不明のままとなっている。
https://twitter.com/WaifuverseAI/status/1697764665521295838
https://twitter.com/TimSweeneyEpic/status/1698028441994506322
https://twitter.com/TimSweeneyEpic/status/1698318849643249963
2023/8/2、SnackTime社が、システムレベルでMist(Glazeとは別の機械学習阻害ツール)を組み込んだイラスト投稿サービス「emamori」を開始。…というより、「9月頭ぐらいになって始まっていた事が判明」した。最初の1ヶ月はほとんど存在を知られていなかった。
現時点で完全招待制で、アカウントがないと閲覧すらできないため、内情は不明。Mist処理された画像が本当に機械学習を阻害する効果があるかどうかも不明(これはGlazeも同様)。処理された画像を見る限り、Mistが付与する機械学習阻害ノイズは初期Glazeと同等かそれ以上に強く、かなりの画質低下を伴う。
アップロードと同時に必ずMist処理されるので、「Mist処理されていない画像をemamoriに置く」事はできない。
Glazeと同様、Mistも内部にStable Diffusionそのものを内蔵している。学習データはいわゆる無断学習によって作成されたものである。またMistの処理もGlazeと同じく結局は生成AIによるリドローなので、処理された画像は「生成AIを使用した画像」という事になる。
https://impartial-quarter-31c.notion.site/AI-emamori-76022ef5982145f399cb93981ea1fede
i2i(image to image / img2img)とは、「AIに画像を参照させながら別の画像を描かせる」という技術である。主に、画像全体の高解像度化や、手描き修正した部分を周囲に馴染ませる用途に使う。
よく勘違いされるが、これは学習ではない。i2iに画像を渡しても、その時1回だけ色情報を参照するだけで、AIは何も学ばない。もちろん「無断学習」とも関係がない。そもそも学習していないので。
i2iを実行するとき、AIにどの程度元絵の形状を残すか指示できる。もちろん「ほぼ変更するな」と指示する事もできる。その場合、AIは当然ほぼ元絵そのままの絵を出してくる。これがlow strength i2iである。
手塚憲一の版権絵トレスや、AI素材.comへのジバニャン登録等の、反AI主義者がはしゃぎそうなどうでもいい事例で活用されている。「違法な画像が出てしまう」というような言い方もされるが、前述の通り出そうとしたから出ているだけの話で、特に驚くべき事ではない。誰も擁護できない正真正銘の「悪用」であり、文化庁見解でも完全に黒とされている。
これは人間が悪意を持って元データを用意し、意図的にAIに指示を出さなければ実行されない。よってlow strength i2i問題の主体はAI側にはない。手塚憲一事件は、「AIによる被害」でも、「無断学習による被害」でもなく、「手塚憲一による被害」だという事である。
「そんなトレスにしか使い道がない機能を実装するなよ」と思う人もいるかもしれないが、トレス以外にも使い道はある。話が逸れるので本文でその説明はしない。
