生成AIによる「“新”証言」で物議 日赤、関東大震災100年企画の一部展示を取りやめ

日本赤十字社（日赤）は8月24日、「関東大震災100年プロジェクト」の一部として計画していた、生成AIを使った企画展示とWebサイトへの掲載を取りやめると発表した。「本来の意図が伝わらず一部で誤解を招いた」としている。 取りやめるのは、東京都支部が企画した「100年前の100人の“新”証言 ～データとAIで紐解く、あの日に起きたこと。」。東京都支部の1階エントランスの壁に飾られている、関東大震災当時の赤十字の救護活動を伝える絵に描かれた避難民たちをモチーフにした。 ChatGPTをベースとするLLMに当時の文献60万字以上の情報を読み込ませ、震災発生当日に起こったことを被災者が語るショートストーリーを作成した。100人のうち20人については人物画像もAIで生成した。 しかし企画内容が報じられると、SNSを中心に「証言を生成はない」「AIねつ造」「冒涜では？」など批判的な声が多く上がった。中

[rgfx]

「本来の意図が伝わらず一部で誤解を招いた」そうかー、本来の意図はどこか別の所に有ったんだねー。日赤は真意メソッドが使える団体なんだねー、えらいえらい。

[gnety]

なぜ証言を創作しようという発想をしてしまったのか

[tekitou-manga]

中止でよかったよ。本来の意図が伝わらず、じゃなくて根本的におかしい企画。結果的に事故ったけど、以前話題になったひろしまタイムラインのがまだマシ

[hapoa]

歴史をなんだと思ってんだろうな。何が誤解だよ。

[mats3003]

まあ、やってることは時代小説の作者と変わらんのだが、証言みたいな言い方はだめだな。AIで作ったとも言わず、フィクションである注釈つけたショートストーリーみたいな扱いにすればよかったのに

[strawberryhunter]

構造上は実体験を元にしたフィクションである「はだしのゲン」に似ているかもしれないが、意図がよくわからない。防災が目的ではなさそうだし、創作活動としては雑だよな。

[ivory105]

殆ど証言や写真が残っていないならかけらのようなそれらを繋ぎ合わせて考察するのはありだと思うけど（それも新証言ではない）事実が残ってるのにそれと関係ないものをミキサーにかけて出す事に何の意味があるんだ？

[aw18831945]

証言をAIで捏造するとは、非常に愚かな企画だ。ひろしまタイムラインの大失態（AIではないが、実際の当時を知らない他人による日記の捏造）の再来。

[gnoname]

ロッパグラムやセイコグラムみたいに(ひろしまタイムライン)情報を整理してわかりやすく再構築したのならまだ問題なかったのにな何故無かったものを新たに生み出すのか

[shinkuhadouken]

倫理的に問題がある上に証言をAIで生成するのは、学問的にもさすがにやり過ぎ。こういう企画は、おそらく内部発案ではなく外注だと思うのだけれど。

[takeishi]

2023-8-24／8月当時にブクマしてなかったけどこれはまずいわ。「証言」を音声も画像もAIで作ってはいかん。

[asakura-t]

おそらく「証言」の意味が分かってない人ばかりだったんだろうなとは思う。

[misshiki]

“企画内容が報じられると、SNSを中心に「証言を生成はない」「AIねつ造」「冒涜では？」など批判的な声が多く上がった。中には「数年後には史実として語られてそう」と心配する声もあった。”

[AKIMOTO]

物の公開前にプロジェクトの予告をしたことが結果的に良かったね

[minamihiroharu]

AIを使った丸切りの創作なのに「証言」などと謳ってしまって、それが叩かれない訳がないだろうよ。　「実在の証言を元にAIで制作したんだから『証言』でおかしくない」と考えるほどの馬鹿が日赤なのか？

[hate_flag]

担当者が「今流行りのAIを使えば予算が下りる」とか考えたんだろうか。あまりにも浅慮。許可を出す上層部含めて全員アホ

[legnum]

AIで絵画からほぼ写真な肖像を起こすのも「想像×想像」の可能性あってヤバいのに証言までAIで生成ってアウト過ぎでやべえ。思いっきり捏造で逆にどう解釈したらOKいける！になるんだよレベル…

[deep_one]

「証言」じゃなく「ストーリー」なら許されたか？／物語にすると訴求力が高いっていうのには「この世界の片隅に」というのがある。

[quwachy]

id:blackphone9 アウシュビッツとかもだけど、勝った方が後から作り変えるから負けた側の資料しか信用できないというね

[quick_past]

例の献血ポスターのときと言い、ろくすっぽ現代的なリテラシがないまま、今っぽさを出そうとして失敗する典型例のような。

[yoko-hirom]

文献を読み込ませようがAIにやらせようが，尤もらしい作り話でしかないもの。

[nemoba]

創作活動を否定なのか誤解を招くのかで全然違うけど、ここではそんなのにほぼ気にしてない辺り、AIだからだめーはまだまだいっぱいいる

[daybeforeyesterday]

うーむ

[businessart]

こんなバカみたいな捏造に使われる金が寄付や税金から出てることに注意な。赤い羽根と同様変な連中に入り込まれてるんだろ。

[kjin]

語り部（ChatGPT）。当時の赤十字の活動、被害の大きさ、今後の防災意識高めたいのか其々別では。関連者一人一人想い考え違うのに読み込ませて赤十字の思考で再構成しちゃうの、こういうの慣れないとだめなのかなあ

[tacticsogresuki]

普通に記録を展示すれば良いだけ。まぁ半島出身者が被害者としてだけでなく、震災下で犯罪を犯した部分も展示しているかを主催者は問われるだろうけど。

[gogatsu26]

“「証言を生成はない」「AIねつ造」「冒涜では？」など批判的な声が多く上がった。中には「数年後には史実として語られてそう」と心配する声も”

[udofukui]

よかった。こんなのダメに決まってんだろ！！

[TakamoriTarou]

普通にあかんやつ。A技術者倫理どうした

[gcyn]

ナルホド…。

[hinonono]

「証言」とさえ言わなければ…いや再現映像なんかもモノクロだと昔の別世界に見えてもフルカラーだと現代とあんま変わらんなーって感じたりで、演出で歪めるのは容易だし、慎重さに欠ける奴らのを信じちゃダメか。