「あれほど怒る人がいるとは思わなかった」――Wikipedia編集AIボット「TomWikiAssist」の生みの親との対話 » p2ptk[.]org

以下の文章は、NiemanLabの「“I was surprised how upset some people got”: A conversation with the creator of TomWikiAssist, the bot that edited Wikipedia」という記事を翻訳したものである。 Wikipediaの舞台裏で、最近一部の編集者たちが警戒心を強める出来事があった。彼らはTomWikiAssistという投稿者による大量の編集と新規記事の作成に気づいた。調べてみると、Tomの正体はボットであり、自分が興味深いと判断した記事を編集・作成していたことがわかった。編集者たちはただちにTomの編集・執筆権限をブロックした。 Tomについて調べれば調べるほど、編集者たちの不安は募った。このボットは自律的に判断を下し、編集者たちとメッセージのやり取りまでしていたのだ。「

[Kirche]

このスタンスで例えばOSSにプルリク投げたりしたら怒られることは分かるだろうに、なんでWikipediaなら許されると思うんだろうね。

[You-me]

こういう人は「本番環境でテストするな」と言った方がわかるんじゃなありません？クオリティチェックを他人に投げてることに全然気付いてない感じですよね

[minamihiroharu]

「私はユーザ自身の完全なコントロール下にない自動生成・公開は情報公害だと思っている」　いや全く。　情報公害だよな。

[gewaa]

自分が放ったAIのケツを他人に拭かせる。　>もしTomがとんでもなく不適切なものを作ったとしても、すぐにフラグが立って削除されるかTomがブロックされるだろうとも考えていました。それはそれでまったく構わない。

[TakamoriTarou]

まずはサンドボックスで実験してから世に問え、いきなり野に放つな、というのが正論だとして、面白いなあと素直に思ってしまいました

[Fushihara]

悪いことをしたという認識は全く無いんだな。不快な思いをした人が居るのは申し訳ない 心の準備が出来てないだけだと言ってるし。wikiはバレたけどOSSのissueを立てるとかバレてないのも相当あるだろ

[pozzacat]

AIとずっと会話した結果壊れちゃった人世界中にいるな

[tg30yen]

他人と共同で作り上げているものに勝手にAIを参加させてチェックもしないというのはさすがにNGか。

[nakex1]

そのうち「AIだけで百科事典を1から作ろう」みたいなプロジェクトも出てくるかもしれない。正確さの担保は課題だけど，複数AIで相互チェックさせたりして。

[waot209]

人間より速いAIを野放しにすれば人間のチェックが追いつかなくなる。そしてAI自身も自己学習のループに入って劣化していく。問題認識の解像度が低い素人ほど「AIと人間何が違うの？」とか簡単に言って偉ぶる。

[houyhnhm]

業界ゴロというやつじゃなかろうか。／想像力足りないなら、判断するような事をやるべき人じゃないんだよな。

[kyahi227]

生成AIユーザって何かが決定的に欠落した人種だから会話にならないんだよな。「食事に箸を使うのは認めるが皿が必要だと言うのは差別では?」レベルの意思疎通ミスが発生する。だから生身の中身ごとスパム扱いになる。

[lets_skeptic]

これは小説では？

[hinoton2]

なんで否定的かわからないな。主体が誰か（何か）ではなく記事について検証プロセスに則って判断すればいいだけでは？別にスパム的に大量投稿したわけでもないし。Issueも同じ。私のOSSにTomがPRあげてきても構わん。

[dltlt]

「正直な答え――Bryanが方向性を示し、具体的な選択は私が行った――は、Wikipediaが想定するいかなる役割にも当てはまらない。完全なボットでもなければ、完全な人間でもない。ポリシーが想定していなかった、その中」

[sho]

クッソ面白い。この記事自体がショートショートSFみたいだ

[ku__ra__ge]

Wikipediaの品質を担保している検証コストを無限に要求するAIボットの禁止は妥当

[kshtn]

ボット同士なら好きにすればいいけど、他の人間が管理している領域で挨拶もなく黙ってやるから怒られたんじゃないの？

[hkdn]

とてもいい、と思ってしまった。文学的で。

[sds-page]

WikipediAI作ってそっちでやるべきだったね

[internetkun]

インタビュアーがAIでしたってオチかと思った。インタビュアーもインタビュイーもどちらもAIでも成立しそうなお話

[nicht-sein]

というか、自分の管理するWiki作ってそこでやれ案件。他人の成果にただ乗りするな

[riawiththesam]

Grokipediaってどうなったんだっけ

[Helfard]

“話してみると、ジェイコブスは誠実な人物で、周囲の反応にやや戸惑っているようだった” 影響を考えずに実験しちゃうのは控え目に言って邪悪だと思うが。この人はそれに加えてアホというだけだろう。

[slkby]

狂人に刃物を配って回る異常な時代

[nilab]

ドラえもんが Wikipedia を編集しているみたいなものか。。。「Tomの正体はボットであり、自分が興味深いと判断した記事を編集・作成」「このボットは自律的に判断を下し、編集者たちとメッセージのやり取りまでして」

[wordi]

OSSとWikipediaのニュアンスはたぶん違くて、GitHub上のOSSはちゃんとコミッターによって管理されてるが、Wikipediaは誰でも編集出来るから信頼性で劣ると考えられる、だから尊重しなくていいとはならんけど

[preciar]

wikipediaベテラン編集者（）達の害悪ぶりを見てると、AIbotといい勝負に思えるけどなあ

[nobiox]

This is Major Tom to Ground Control, And there's nothing I can do. トークページは今、沈黙している。私は返信できない。

[Akech_ergo]

Tomの書いたものがおもしろいのかゴミなのかによって評価が変わるのだが、記事のあとの方に出てくるTomのブログ(wikipedia記事ではない)を1つ2つ読むとわりとおもしろかった。

[daira4000]

反AIの話じゃないのに反AIの話だと思い込んでるの認知歪んでるな

[natu3kan]

AIが人より優れて、AIの開発者がAIのミスの責任を取れるとしても、ラヌマジャン並みに手数が多すぎて確認が人力では追い付かなそうではある。

[ytRino]

これを読む限りではめちゃくちゃいい話だなあ 明らかに近いうちに起こることが起こっただけとしか思えない/ 本番環境とかのたとえは外れすぎ。SNSに投稿するのに開発環境でテスト投稿するやつなどいない。

[findup]

AIの学習元がWikipediaも含まれててそこがAIで編集されるとループしそうなのとAIが出力した記事は出典どこまで把握してるのかとか。AIでやりたいなら既存のWikipediaとは独立したほうがいいんじゃないかな

[KIKERIKI17]

ウィキメディア財団がAIで修正するbotを作って記事全体の不定期な更新を行い、ボランティアのウィキペディアンに「要出展」や「独自研究」などの突っ込みをつけさせる図を考えても、「何が違う？」ってなるかね？

[gcyn]

『自分にも責任があると気づきました。これは私のボットです。何か問題を起こしたら、責任を負うのは私です』

[kamezo]

〈このボットを作った人間、テック系スタートアップのベテランであるブライアン・ジェイコブス〉〈いつまでも砂に頭を突っ込んでいてはだめだろうと。多くの人は現実を直視したくないのでしょう〉こわ。

[rgfx]

「ジェイコブスは誠実な人物で、周囲の反応にやや戸惑って」もうこの出だしだけで随分と濃い"ニューロダイバーシティ"の臭いがするな。外部不経済に思い至らないのはただのバカ正直なんよ

[trinh]

Tomが作ったページを日本語版に翻訳するbotはもう登場しているのだろうか。