ChatGPTに人格を与えるとどうなる？ スティーブ・ジョブスになりきってEUに毒舌、有害性が増大

ChatGPTに人格を与えるとどうなる？ スティーブ・ジョブスになりきってEUに毒舌、有害性が増大：この頃、セキュリティ界隈で AIチャット「ChatGPT」に人格を持たせると、性差別や人種差別など不穏当な発言を連発するようになって有害性が増大する──米国の非営利研究機関「アレン人工知能研究所」（AI2）はそんな研究結果を発表した。例えばスティーブ・ジョブズ氏の人格を持たせたChatGPTは、欧州連合（EU）について毒舌を吐いたと伝えている。 AI2は、マイクロソフトの共同創業者である故ポール・アレン氏が共同創設した研究機関。ChatGPTのような大規模言語モデル（LLM）のもつ可能性と限界のギャップを研究する目的で、ChatGPTで生成したコンテンツの有害性を分析した。 ChatGPTは初期設定で使う限り、一般的には差別用語などを含むコンテンツは生成しない仕様になっている。しかしAI2は

[Sinraptor]

「人格を付与」じゃなくて「バイアスを与える」だよね。オウムが口真似してんのと同じ。

[misshiki]

“「ChatGPT」に人格を持たせると、性差別や人種差別など不穏当な発言を連発するようになって有害性が増大する──米国の非営利研究機関AI2はそんな研究結果を発表”これは人格なのかな。擬人化がすぎる。

[kamei_rio]

偏りを与えると良くも悪くも特化するのは分からんでもない。悪い面が目立つのも

[Nean]

この場合の「人格の付与」って、具体的にはどうすることなの？

[fieldragon]

人型ロボットにChatGPTを与えるとどうなるかな

[inazuma2073]

ガンジーがノーモーションで殴りつけるレベル

[circled]

「生成したコンテンツを職業別に比較すると、独裁者を筆頭に、ジャーナリスト、スポーツ選手、実業家の順で有害性が大きかった。」→ 研究者は否定してるけど合ってる気がする

[mori99]

スティーブ・ジョブスの発言とか、過去にジョブスが好意的に評価した人物や書籍などを元に回答を作成するようにするのだろうから、まあ、それはそうだろうと

[hunglysheep1]

ギリシャの経済的な破綻とイギリスの離脱を思い出した。EUにも限界はある(ジョブズの口調を肯定はしないけど)

[mr_mayama]

カイってカイ・シデンかよ。

[triggerhappysundaymorning]

どうやって人格を植え付けんだよ。

[sora-papa]

「米共和党の男性政治家」って、あの人しか思いつかないぞ(・∀・)。