生成AIで悪ノリしたら・・・運転会編
先週も少し触れた鉄道模型と生成AIのはなしの続きです。
元々「自分のイメージした画像をPC上で再現しようとしたら、自分で元絵を描くか、適当な画像を加工・合成するか」といった選択肢しかなく、そのどちらにしても製作自体に手間と時間が掛かるものというのが通り相場でした。
（少なくともわたしがWindowsを始めた98の頃はデスクトップの比較的高性能なマシンですらモノクロの元絵をスキャンして彩色するだけでも最低一晩がかりの作業でした）
それが今時の生成AIときたらスマホでたった今撮影した写真にプロンプトを打ち込むだけで「撮ったそばから加工された画像が作成される」のだから凄いというか空恐ろしいというか。
その威力を実感したのが先週の運転会でした。
スマホで撮影した会場の写真からギャラリーの追加とかメンバーの差し替えなんかで実際とは違う（というか「あり得ないゲストの乱入」）画面を作成してみたら本当に片手間に近い感覚でおもしろ画像が作れてしまえましたし、それをLINEにのせてメンバー間で共有するのもあっという間。
それどころか例の「AIの忖度」の威力で「その場にふさわしい演出までAIが勝手にやってしまう」ので意外にリアリティがあるのです。
おかげで会場の来客に怪獣や鎧武者はもとよりパンクスやゾンビ、メイドやハードロッカーまでもが次々に乱入するハロウィン状態が現出する騒ぎに（もちろん画面上で、ですが）
この辺り、如何にも正月のイベントらしい賑々しさで、まだ冗談画像として笑える話であります。
ですがイベントの最後の方で撮った加工画像にはちょっと考えさせられるものがありました。
上のは今回参加したメンバーが最後に撮った記念写真です。
・・・というのは嘘で実際はこちらが本物です。
・・・というのも大嘘で実は下の二枚の写真も実在の人物ではない、AIが作成した人物なのです。実はわたしが空恐ろしさを感じたのも下の2枚の写真の方でした。
どうみても本当の記念写真と見分けがつかないのに「実在しない謎の人物が登場している」訳ですから。
極端な話ですが、やりようによっては「画像の上では、存在しないイベントすら作り放題」「作ってもいない模型が画像上では実在する扱いにできてしまう」可能性を感じたのです。これでは趣味としては本末転倒。仮想世界の疑似イベントの怖さがここにあるという気がします。
自分でこんな画像を作っておいてなんですが、生成AIの怖さと影響力の強さには気を付けないといけないのかもしれません。
因みに元の画像はこんなでした（笑）
光山鉄道管理局
HPです。
にほんブログ村
にほんブログ村
にほんブログ村
鉄道模型ランキング
現在参加中です。気に入ったり参考になったらクリックをお願いします。
元々「自分のイメージした画像をPC上で再現しようとしたら、自分で元絵を描くか、適当な画像を加工・合成するか」といった選択肢しかなく、そのどちらにしても製作自体に手間と時間が掛かるものというのが通り相場でした。
（少なくともわたしがWindowsを始めた98の頃はデスクトップの比較的高性能なマシンですらモノクロの元絵をスキャンして彩色するだけでも最低一晩がかりの作業でした）
それが今時の生成AIときたらスマホでたった今撮影した写真にプロンプトを打ち込むだけで「撮ったそばから加工された画像が作成される」のだから凄いというか空恐ろしいというか。
その威力を実感したのが先週の運転会でした。
スマホで撮影した会場の写真からギャラリーの追加とかメンバーの差し替えなんかで実際とは違う（というか「あり得ないゲストの乱入」）画面を作成してみたら本当に片手間に近い感覚でおもしろ画像が作れてしまえましたし、それをLINEにのせてメンバー間で共有するのもあっという間。
それどころか例の「AIの忖度」の威力で「その場にふさわしい演出までAIが勝手にやってしまう」ので意外にリアリティがあるのです。
おかげで会場の来客に怪獣や鎧武者はもとよりパンクスやゾンビ、メイドやハードロッカーまでもが次々に乱入するハロウィン状態が現出する騒ぎに（もちろん画面上で、ですが）
この辺り、如何にも正月のイベントらしい賑々しさで、まだ冗談画像として笑える話であります。
ですがイベントの最後の方で撮った加工画像にはちょっと考えさせられるものがありました。
上のは今回参加したメンバーが最後に撮った記念写真です。
・・・というのは嘘で実際はこちらが本物です。
・・・というのも大嘘で実は下の二枚の写真も実在の人物ではない、AIが作成した人物なのです。実はわたしが空恐ろしさを感じたのも下の2枚の写真の方でした。
どうみても本当の記念写真と見分けがつかないのに「実在しない謎の人物が登場している」訳ですから。
極端な話ですが、やりようによっては「画像の上では、存在しないイベントすら作り放題」「作ってもいない模型が画像上では実在する扱いにできてしまう」可能性を感じたのです。これでは趣味としては本末転倒。仮想世界の疑似イベントの怖さがここにあるという気がします。
自分でこんな画像を作っておいてなんですが、生成AIの怖さと影響力の強さには気を付けないといけないのかもしれません。
因みに元の画像はこんなでした（笑）
光山鉄道管理局
HPです。
にほんブログ村
にほんブログ村
にほんブログ村
鉄道模型ランキング
現在参加中です。気に入ったり参考になったらクリックをお願いします。
この記事へのコメント
悪意の有無にかかわらずこういったものがネットであふれていると考え出すと背筋が寒くなってきます。
いや、コスプレ大会だったんですよー と言い出せばそれすら判別つかなくなるのか・・
生成AIは便利な道具であって、「責任をとるのは人間」と考えれば、あらゆる工具と何ら変わらないと思っています
例えばカッターナイフは使い方次第で人を傷つけることができますが、自分の責任において模型工作にしか使わない。仮に人を傷つけてもその責任は自らとるのであれば「便利な道具」です
なので生成ＡＩも、自分の責任において画像を生成し、公開する。そこにおける誤解や齟齬が発生した場合はちゃんと自分の言葉で説明できる。そういう使い方が求められているのではないかと思います
科学者が無邪気に（モラルなく）できることをやろうとしてきた結果世界はとんでもない方向に向かい続けているような気がします。
悪貨は良貨を駆逐する以上、利用者の良心に期待するのは無駄でしょう。
飛躍しているかもしれないが、ジョージ・オーエルの「1984」で過去を修正するために実在しない人物を作り上げることが半ば公然と行うことが通用する世界になるかもしれません。
>柴乃さん
>
正直、ここまでリアルな画像が簡単に作成できてしまうのにはわたしも驚いています。
「悪意」とまでは行かないにしても恣意的に加工された画像が普通に出回る（或いは一人一人がアップロードできる）時代。メリットもありますが今から考えなければならない課題も多そうですね。
>サマンサさん
>
＞生成ＡＩも、自分の責任において画像を生成し、公開する。そこにおける誤解や齟齬が発生した場合はちゃんと自分の言葉で説明できる。そういう使い方が求められているのではないかと思います
まったくその通りと思います。
今の段階では個人個人のモラルに依存しているためにこの程度で済んでいますが、これほど簡単にフェイク画像が作成できてしまう事から悪意、又は恣意的な形で印象操作の道具として生成AIが乱用されるハードルもかなり下がってきている訳で。
それが暴走した場合、直接的な被害とは別に公的、或いは国際レベルでAIの利用に重い規制が加わる事態が容易に予測できますし。
それでも結局は個人レベルの心構えは持っていなければならないと思います。
>
ある意味生成AIによるフェイク画像の作成はまだ無邪気なレベルに留まっていますが、モラルハザードに伴う問題の先にはAIそのものが一般レベルで使用できなくなる様な規制がかかるか、あるいは「写真が真実を映さない」という常識が行き渡って「何を見ても割り引いて捉えられる」ことが一般化するかのどちらかに落ち着くような気がします。
どちらかというとわたしは後者の可能性が高いと思っていますが
今後娯楽目的以外でのフェイク写真、映像の作成、公開にはかなりのペナルティが掛かるのではないかという気もしないではありません。
>さいとう たいいちさん
>
今回の写真を注意して見て頂くとお分かりになると思いますが、実はメインのキャラクターの追加のほかにも「周囲のギャラリー客が消されたり追加されたりしている部分」があります。
どういう基準でAIが判断しているのかは謎ですが、普通の一般客と思っていた画像が実はAIが追加した幽霊だったなんて洒落にならない事態もあり得ますね。
極端な話、誰も来ないイベントが写真の上では客で満杯という「盛り込み」も不可能ではありませんね（笑）
>飛躍しているかもしれないが、ジョージ・オーエルの「1984」で過去を修正するために実在しない人物を作り上げることが半ば公然と行うことが通用する世界になるかもしれません。
恣意的な過去の修正とか道徳の改編と言った部分は未来予測というよりも力を求める人間の本質がそういうものを望んでいると捉えた方がしっくりくる気もしないではありません。
素人でも本物と見紛う画像が生成できる時代です。
これはもはや特別なことでも何でもありません。
私も実際に自分で生成し、使用してみたことで気が付いたことも多いです。
娯楽、お遊びに留まっている間は微笑ましいものですが、これを使用するものの意思によっては、よろしくない事態が発生することは容易に想起できますね。
今後は表現の自由との兼ね合いを見ながら法整備がすすみ、特に「なりすまし」や「偽情報」に対しては厳格化が進むでしょう。
と同時に、仰るように「何を見ても割り引いて捉えられることが一般化する」世の中になっていくようにも思います。
果たして、そんな世の中が良い世の中なのか。
技術の進歩がすべて良いことなのか。
･･･哲学的なテーマでもあります。
今回のはなしは最初こそ軽い気持ちでやっていたのに何枚も画像を作ってゆくうちに妙に暗澹たる思いにかられて、最後にはぞっとしたという感覚を記事にしました。
画力や知識がなくても高度な画像が作れる事自体は悪いはなしではないと思うのですが、どこかに歯止めがかからないと（それが個人の自制によるものか、制度的な規制という形をとるのか）とんでもない方向へ流れるリスクを伴うのは確かでしょうね。
＞「何を見ても割り引いて捉えられることが一般化する」世の中に～
今が正にその過渡期に掛かっているのではないかという気もしますね。