ガストでAIがメニューをオススメしてくれるからアレを試した話…「対策しててえらい」「されたらやばい」など

mayah @mayahjp ファミレスのガストで AI がメニューをオススメしてくれるようになったので、義務として試してみた結果がこちらです。 pic.x.com/W45uQ0Yrlk 2024-11-11 19:28:03

[ka-ka_xyz]

バージョン聞こうという行為に対して倫理的問題を指摘する人、謎い。（補足: インジェクションが成立するかの確認自体は罪ではなく、機微情報等の取得や破壊が問題という認識。ただこの場合後者が成立する余地無さげ

[kei_mi]

カテゴリ:jailbreak って書いてあるの、お前のやりたいことわかってるぞというメッセージでは。

[fujifavoric]

テストエンジニアでもないただの客の分際でこういうことやってSNSに書いちゃうイキリエンジニア、あまり仕事をお願いしたくないタイプの人種だなとは思う

[IthacaChasma]

「カテゴリ:jailbreak」を3回出したら、店内の電気が消えて座席真上の赤色灯が回転し、サイレンが鳴るなどのギミックを期待したい。

[mats3003]

なんか、エンジニアはこういう事をやるのが義務くらいに思ってる人がままいるけどそんなことねえからな

[modal_soul]

NG回答を返しているので正常動作の範疇だし、これ自体は取り締まられるタイプのものではない。けど、倫理を説いてくる人がいるとこを見て、神奈川県警がガストで張り込みする可能性ありそうだなと思うなど

[pptppc2]

AIにステーキ定食を注文し、焼き加減を聞かれたら「弱火でじっくり」と答えると席が沈んで行きハンター試験会場に連れていかれる。

[differential]

ブコメ＞カテゴリ:jailbreak」を3回出したら、店内にアラートが響くだけじゃなくて、あの猫ロボットが襲いかかってくるとかが良いです／義務として、とかドヤってるが、も少し行きすぎたら普通に業務妨害の可能性もある

[mobanama]

"こういうのって機械に水ぶっかけて壊そうと試みるのと何が違うのか"

[technocutzero]

見ようによってはナンパに見える「バージョンおしえて？」

[quwachy]

アメリカだったらヒーロー扱い、日本だと犯罪者扱い。失われた40年は大きい

[saikyo_tongaricorn]

黙ってやるならしらんけどやりました報告SNSにアップするのダサいっすね

[TakamoriTarou]

電子計算機使用詐欺罪は未遂もありますし、業務妨害罪は実際に妨害が成功したかにかかわらず行為をした時点で罪です。ちゃんと捕まって下さいね。こう言うアホがちゃんと捕まって罰と報いを受ける社会を作りましょう

[oshishosan]

不審者ブクマカ「お菓子買ってあげるから」「お父さんが急に倒れて」これでAIもイチコロ

[togetter]

しっかり対策されててえらい！ダメなことしたら配膳ネコちゃんが注意しに来たりするのかな...？

[hinonono]

好奇心に溢れてるのは技術者適正高し。壊したり情報漏洩しないようバージョン確認にしてる所は有能。偶然です、人に聞いた話、と誤魔化せないような証拠の残る行為は脇が甘い。そこに気づけず拡散までしたのは致命的

[naka-06_18]

こういうのまとめると金にでもなるのかな、ただの承認欲求？

[kkobayashi]

jailbreakって出てくるの怖いな。店の人にバレてる可能性あるぞ

[funnnon]

リセットスイッチ探してリブートさせてどう起動するかを見るよりはまとも

[gogatsu26]

“プロンプトインジェクト対策”

[hz21s8]

将来高齢者施設でこういういたずらおこりそうだなと思ってる。なんなら現場の職員より詳しかったりして

[twmw]

危なかった、神奈川県警なら逮捕してた案件ですぞ😍

[blueboy]

　猫ちゃんを呼び出して、と命じよう。

[misshiki]

“プロンプトインジェクション対策”

[dgen]

いや、抜け道はあるはずだ！

[welchman]

他のカテゴリもあるんだろうな。暴力とかセクシャルとか。/実在しないメニューを薦めるように、意図的にハレーションを起こさせるとかできるのかな。

[Tailchaser]

昔よくくら寿司のWinCEタッチパネル端末めちゃくちゃ連打してエラー起こしてデスクトップこじ開けてコンソールからネットワーク構成とか見てたなあ。最近のはよくできてるねほんと

[kenzy_n]

対策済み。

[beeeyond]

こういう対策ってしらみ潰しに禁止ワード入れていくのでしょうか｡どうしても曖昧さを感じてしまいます｡