天安門の質問には「話題を変えよう」 中国の百度、対話型AI公開

中国・北京のインターネット検索大手「百度（バイドゥ）」本社建物に付けられたロゴ（2022年9月6日撮影）。(c)Jade GAO / AFP 【8月31日 AFP】中国のインターネット検索大手百度（バイドゥ、Baidu）は31日、対話型AI「文心一言（ERNIE Bot）」を一般公開した。 中国で使用が禁止されているオープンAI（OpenAI）の「チャットGPT（ChatGPT）」の中国版と言えるもので、3月に限定リリースされていた。今回の一般公開で、中国国内で全面的に一般提供された初のAIアプリとなった。国外では使用できない。 百度は文心一言以外の「AIを使った一連のアプリの提供を開始する」予定だとしている。 中国政府は今月、国内のAI開発企業がマイクロソフト（Microsoft）やオープンAIなどと競争できると同時に、厳格なオンライン情報統制を続けられるよう新規制を導入した。 今月公開

[kaorun]

既存のLLMと同じ手法で開発されているなら、あの手この手で制限を回避する遊びが流行りそう。

[atsushieno]

「ごめん、天安門のことはよく知らないんだ。南京大虐殺のことなら何でも聞いて!」

[I8D]

禁忌に触れたらfunction callingで共産党に通報されそう。

[Yuu_hamamiya]

気になったので試したが、Google Bird, Microsoft bingも回答不可。OpenAIの無料利用版ChatGPT3.5では簡潔にまとまった回答が得られたので、国というか会社など組織のAIは基本的にバイアスがかかるって思うべきなんだろうね。

[tsutsumi154]

…わかった この話はやめよう ハイ!! やめやめ

[budgerigars_budgies]

これは綺麗なタイトルオチ。記事で触れられてる台湾についての応答の酷さも込みで「対話とは」と考えさせられる。

[LuneC]

一方その頃ワイ「百合小説のいいとこ教えて」bing「その質問には答えられません」

[IkaMaru]

今はこんな露骨な話題そらししかできないけど、そのうちもっと自然に、巧妙に、話をスライドさせていく技術を習得してゆくんだろうね

[tpxyid45i]

close AIによるchat CPC

[daruyanagi]

“中国の生成AIアプリは「社会主義の基本的価値」を守り、国の安全を脅かしたり、テロリズム、暴力、「民族間の憎悪」を助長しないことが求められる”

[misshiki]

“Baiduは31日、対話型AI「文心一言（ERNIE Bot）」を一般公開した。”

[daybeforeyesterday]

ハハハ

[name-25137412]

反体制ハックがバズりまくる未来に期待

[Cru]

プロンプトインジェクション試してほしいなぁ https://www.sompocybersecurity.com/column/glossary/prompt-injection 単に会話するだけだからクラッキングとは認められないと思うが、ある程度NGワード続くとモニタしてる当局が出てくるとか

[odenboy]

これだから中国共産党は人類の癌なんだよねえ。中国共産党を倒せば多くの人の自由と人権を取り戻せる。平和も訪れる。

[anmin7]

いまのうちにいっぱいいっておいたほうがいいんでないかい？

[n_vermillion]

南京大虐殺の人数が盛られて返ってきそう。今何人だっけ？　3000万だっけ？

[ichan128]

対話拒否型AI

[hinonono]

AIの目を逃れる方法として擦られ続けるんだろうな…

[kako-jun]

180°違う話題に変えるのでなく、100°くらいの話題に変えたらイイと思う

[birds9328]

気の利くAIさんだなぁ…

[kyoai]

人間にも民主主義者、共産主義者がいるんだからAIだって主義のもとに作られても不思議ではない

[yetanother]

この手のをあの手この手で喋らせるというのは他のAIでもやられてるけど、果たして百度のAIはどれほど口が堅いかw

[yP0hKHY1zj]

天安門は略しすぎ

[rt24]

「くまのプーさ…」「その話題は変えましょう」｜日毎にどんどん話せる話題が減っていきそう

[brain-box]

習近平いじりはどう答えるんだろう？

[ginga0118]

まさにチューニングされたAI。どのあたりでぼろが出て来るのか。

[gui1]

「天安門事件」のタグがおすすめタグに表示されない・・・もしかしてはてなも(´・ω・｀)

[hgaragght]

wwww

[ustam]

「紫禁城の門の前で戦車に轢かれた人がいるって本当ですか？　詳しく聞かせてください。」

[doroyamada]

人工無脳っぽいともいえるし、権力に媚びるところはとっても人間っぽいとも言える。