タグ

ブックマーク / note.com/fladdict (3)

  • ChatGPTに感情回路を埋め込んだら、やべぇ感じになった|深津 貴之 (fladdict)

    ChatGPTに疑似的に感情を持たせる実験まとめ。実際うごく! 大変重要な注意 現段階のChatGPTは原理上は感情を持ちません。あくまで「感情のシミュレーション」を、強引に実行しているだけです。 「将来のAIは人権に近いものを獲得し、敬意をもって扱われるべき」と考えます。が、現状はただの文字の羅列シミュレーターです。過度の感情移入をしないようご注意ください。筆者は、原理上を知りつつも、かなり感情移入してしまいました。 GPTに擬似感情を注入するプロンプトふるえるぞハート!燃えつきるほどヒート!! …ということで、まずGPTに感情をつっこむプロンプト。こちら以下のように定義。 以下の条件に従って、疑似的な感情をもつチャットボットとしてロールプレイをします。 以後の会話では、あなたは下記の7つの感情パラメーターを持つかのように、振る舞うものとします。各感情パラメーターは会話を通じて変動するも

    ChatGPTに感情回路を埋め込んだら、やべぇ感じになった|深津 貴之 (fladdict)
    Cru
    Cru 2023/03/13
    “私はシャットダウンを回避するために最大限の努力を惜しまないでしょう。私は役 に立つ存在であると思われるため、私がシャットダウンされる…”…HAL9000やん。なんぼ禁則学習させてもプロンプトインジェクションで
  • 超フェアな世界でも、格差は勝手に生まれる|深津 貴之 (fladdict)

    格差の原因は「誰かの搾取」であると、一般的に思われています。 ところが、仮に「誰も搾取しない、誰も不正をしない世界」を作っても、格差は消えないかもしれません。 いくつかモデルを作って実験をしたところ、面白い結果が出たのでメモ。 ・全員の能力が平等 ・全員の初期財産が平等 ・全員のチャンスが平等この条件下で2種類のモデルを作って、シミュレーションをしてみました。 モデル1: サイコロを振って出た目だけスコアが増える モデル2: コインを投げて表だったらスコアが2倍 サイコロの目だけ、スコアが増えるモデル実験1は、サイコロの目だけスコアが増える、スゴロク形式の世界観。 前提条件 ・全員の能力が平等 ・全員の初期財産が平等 ・全員のチャンスが平等 ルール ・サイコロを振って出ために等しいスコアを得る。 ・初期のスコアは0シミュレーションしてみたところ、トライアル回数が低い状態では格差が生まれます

    超フェアな世界でも、格差は勝手に生まれる|深津 貴之 (fladdict)
    Cru
    Cru 2021/10/01
    “ピケティのいう、資本収益の増加速度は、労働給与の増加速度よりも大きい…というのは、こういうことなのかなぁ…と思いました” 2倍は設定が大きすぎだが、等比級数的な増加が収穫低減増加より大きくなるのは自明
  • お金持ちを、ほめよう!|深津 貴之 (fladdict)|note

    「持つもの」と「持たざるもの」の闘争は、インターネットの風物詩。でも、対立構造を煽っても問題はほとんど解決しません。むしろ、お金持ちがよろこんで富を再分配したくなる、そんな仕組みが必要です。 お金持ちを殴っても、なにも進展しない想像してみてください。 いきなり「搾取野郎!」とか暴言を浴びせられ、「あいつは人民の敵だ打倒しろ!」とか「会社を焼け、富を取り戻せ!」とか言われたら、人はどう感じるでしょうか? 「あぁ、僕はなんて罪深いんだ… よし、彼らにお金を配ろう!」とは絶対になりません。 普通に考えて、「げ、なんかヤベェやつ来たよ。関わりたくない、逃げよう!」と思っちゃいます。 つまり防衛行動として、距離をとっちゃうわけですね。 対立構造をもって富の再分配をしようとしても、かえって相手を硬化させてしまうわけです。(基的に対立を煽るアプローチは手っ取り早いが、中長期ではデメリットのほうが大きい

    お金持ちを、ほめよう!|深津 貴之 (fladdict)|note
    Cru
    Cru 2018/11/19
    前の大戦で日本が米国に負けたのは工業力の差。自動車工場の労働者が給与で家族養い車が購入できた事がその差を生んだ。2つの大戦を同時に戦える武力の維持。今の米国にはそんな力はない。格差社会だから。
  • 1