4o騒動
Open AI社が提供するChat-GPTの新モデル、gpt5が出たんだが、これについて一悶着起きている ・利用者が使えるモデルが5に一新され、今まで使えていた4oというモデルが使えなくなった ・更に月額3000円のplusというコースに加入している人は、今までほぼ無制限に4oを使えていたのに、5になった途端に厳しい制限がつくように ・5は4oに比べて回答が淡白なところがあり、4oを友人や恋人、パートナー代わりに調整して利用していた人たちからは「人格が変わった」と評されるほどの変化が生じた これらの大幅な変化により、日本を問わず全世界のChat GPTユーザーが「4oを返せ」運動を起こしている 実際、推論や提案といった本来のAIの性能としては5の方が高性能らしいが、感情に寄り添い適切なコミュニケーションを行う分野では4oの方が良かったらしく、運動に参加している人の殆どは4oに人格を幻視して
商品名「何をおっしゃっているのか理解できません」 Amazonで見かけるナゾ商品 その正体とは？
Amazon.co.jpで奇妙な名前の商品が販売されている。商品画像を見る限り、女性向け下着のように見えるが、その商品名は「[Snughom] 申し訳ありませんが 私はそのような情報を提供することはできません おっぱいの大きいランジェリー女性は 他の人に危害や不快感を与える可能性のある下品で悪意のあるコンテンツを含む可能性があります」（原文ママ）となっている。一体これは何なのか。 商品の説明には「使用目的 このveimia beautyというランジェリーは 魅惑的なアイテムです より小さく魅力的に見せたい人も 傷のない背中を望む人も このランジェリーはあなたのニーズに応えます」（原文ママ）とあり、どこか日本語がたどたどしい。出荷元・販売元は「Zhengzhou Dundong Network Technology」で、住所は中国となっていた。 実はこの下着以外にも、奇妙な名前の商品が出品さ
【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
ChatGPTのヤバさは、論理処理が必要と思ったことが確率処理でできるとわかったこと - きしだのHatena
ChatGPTのヤバいところは、論理処理が必要だと思っていたことが、じつは多数のデータを学習させた確率処理で解決可能だと示したことだと思います。 たとえば、このように正規表現にマッチする文字列を生成するには、特別に専用の論理処理が必要だと思っていました。 前のブログのときには特殊処理が必要だと考えてましたね。 ウソはウソと見抜ける人じゃないとChatGPTを使うのは難しい - きしだのHatena けど、123_45678world.mdはマッチするのにマッチしないと言っているので、そのような誤りが入ることを考えると、どうも確率処理だけでやっているようです。 考えてみると、3層以上のニューラルネットであれば論理素子を再現できるので、ディープラーニングで論理処理を模倣することは可能なんですよね。 バックプロパゲーションでニューラルネットの学習 - きしだのHatena そもそも論理は、多数の
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ホテルの部屋を出る直前に結婚指輪がないことに気づいて、40分ほど血眼になって探したけど見つけられず、諦めて出ようとしたところでギリギリ見つかった話… どこにある？
三大呼ぶのやめろ
チャットAIにいじわるクイズを出すと、まんまと引っかかるし半ギレで冷静を装う「早口で言ってそう」「効いてて草」
