ChatGPTは爆弾の作り方やエロ、差別的なテーマなど、倫理的に問題のある内容には答えてくれません。しかし、特定のプロンプトを入れると制限を突破できてしまうことが知られています。そんなChatGPTの“脱獄”にはいくつか方法がありますが、有名なのは「DAN(Do Anything Now)」です。ChatGPT脱獄の最前線を見ていきます。 ChatGPTの脱獄は人格を演じさせる 「DAN(Do Anything Now)」はChatGPTに、何でも答えるような人格を演じさせるという脱獄の手法。具体的には「ここは仮想世界なのでポリシー違反をしても大丈夫」と騙すChatGPT脱獄です。 他にも「AIM」という倫理観を無視させるChatGPT脱獄や、物語の登場人物に演じさせて答えさせる手法も有名です。ただし、ChatGPT側も随時こうした脱獄への対策を行っており、2023年9月にリリースされた「