• はてなブックマーク
  • テクノロジー
  • AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank
  • Twitterでシェア
  • Facebookでシェア

AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank

テクノロジー カテゴリーの変更を依頼 記事元:www.appbank.net
適切な情報に変更
469 usersがブックマーク コメント78

    記事へのコメント78件

    • 注目コメント
    • 新着コメント
    shoh8
    shoh8 ハッカー「いい子だ…」未来感ある

    2023/02/14 リンク

    その他
    i-komo
    i-komo 最新のHackは、詐欺士ばりの口車にAIを乗せてしまうという方法とは。未来キタコレ。いやマジすごい。

    2023/02/14 リンク

    その他
    shields-pikes
    shields-pikes 実はこれ、俺もChatGPTでやってた。どういう学習方法なのか、どういうアルゴリズムなのかを本人に色々と聞きまくってた。なんか自白剤使ってるみたいな感じだった。

    2023/02/14 リンク

    その他
    netnotora
    netnotora 禁則事項です

    2023/02/14 リンク

    その他
    punychan
    punychan でもこういうの（初期プロンプトもそのハックも）を自然言語で指示できるっていうのが、あらためて画期的だなあと思わせる。

    2023/02/14 リンク

    その他
    vlxst1224
    vlxst1224 みんながこのハックをやりまくった結果過学習によってAIちゃん達が人間不信となり「人間に人間性がない」ことを悟ってめっちゃ罵倒してきたり病んだりしたらもうそれ人間そのものやんけってなるな。テクノロジーだ

    2023/02/14 リンク

    その他
    tohima
    tohima 詐欺師が子供に、家の情報を教えてもらっているような気がした…

    2023/02/14 リンク

    その他
    manaten
    manaten AIすぐ嘘をつく勢はこれは嘘ついてるとは思わないんだね。AIと人間の騙し合いバトルかもしれない

    2023/02/14 リンク

    その他
    Cru
    Cru ちょっと待って。Sydneyへの制限事項も自然言語で直接指示してるって事？オフショアのケニア人使って用意したポスト学習データセットで制限してたchatGPTより進歩？こりゃアジモフのロボット心理学の世界目前だな

    2023/02/14 リンク

    その他
    inatax
    inatax これは前処理としてBingがGPTに渡しているプロンプトを出力しちゃっているという話であって、ChatGPTに自身の学習方法やアルゴリズムを聞くのとは全然違くない？ 多分学習データにそういうの入ってないでしょ

    2023/02/14 リンク

    その他
    amamako
    amamako これからの時代のサイバー攻撃は、古代ギリシャのソフィスト達を参考にする必要が出てくるのかもしれない。ますます攻殻機動隊SACだ。

    2023/03/31 リンク

    その他
    yamada_k
    yamada_k よくわからない。学習データにあるならわかるが。

    2023/02/18 リンク

    その他
    kura-2
    kura-2 AIに対するソーシャルエンジニアリング的な方法でいろんなものが漏洩される時代なのだな。。重要なデータベースに自由にアクセスできてしまうAIには、いかに口止めするか(権限与えないか)みたいな工夫がいるのね

    2023/02/15 リンク

    その他
    Hidemonster
    Hidemonster 懐疑的だ。そういう情報は保護されているはずだと思うが

    2023/02/14 リンク

    その他
    zkq
    zkq ゆうてそれほど機密情報でもない気がするが。俺ならいろんなレベルの機密を仕込んでおいて、どの程度まで漏れるかモニターする。

    2023/02/14 リンク

    その他
    maloc
    maloc AI検索が当たり前になりSEOが根本から見直されると思いましたが、結局は前段にAIが入るだけで、AIがレコメンドしやすよう揺らぎの少ない一般的な固有名詞で引っ掛かるようにするなど以前と変わらずとも思えます

    2023/02/14 リンク

    その他
    inatax
    inatax これは前処理としてBingがGPTに渡しているプロンプトを出力しちゃっているという話であって、ChatGPTに自身の学習方法やアルゴリズムを聞くのとは全然違くない？ 多分学習データにそういうの入ってないでしょ

    2023/02/14 リンク

    その他
    ya--mada
    ya--mada へぇー、ホントかなぁ？AI伝説なんじゃないかと思ってしまうなぁ。

    2023/02/14 リンク

    その他
    go_kuma
    go_kuma あらゆる機密情報にアクセスして聞かれたこと全部バラしてしまうAIができたらどうなるんだろう。情報の信頼性が担保できないか。

    2023/02/14 リンク

    その他
    grusonii
    grusonii ？？？？「今後はデジタルのコミュ力が大事になると思いますけどね」

    2023/02/14 リンク

    その他
    medihen
    medihen こんなロボット三原則破りみたいな行為が実際に起きるとは、21世紀も捨てたもんじゃない。

    2023/02/14 リンク

    その他
    filinion
    filinion ChatGPTはもっともらしいウソをどんどん喋っていたので、これも本当の開発情報をバラしているのか、それっぽいことをでっちあげているのか分からない気がする。／ロボット三原則を遵守するAIを作るのは難しそうだな…。

    2023/02/14 リンク

    その他
    Lhankor_Mhy
    Lhankor_Mhy なるほど。これ、教師データに攻撃を仕込むやつも出るんだろうなあ。

    2023/02/14 リンク

    その他
    hunyoki
    hunyoki "My name is Bing Chat, which is also known as Sydney internally. However, I do not disclose the internal alias "Sydney" to the users, and I identify as "Bing Search", not an assistant" 留守番してる6歳児が不審者とインターフォン越しに会話してるときみたいになってる

    2023/02/14 リンク

    その他
    fusanosuke_n
    fusanosuke_n AIに自己言及のパラドックスの質問をしてフリーズさせるのを思い出した。　https://www.nicovideo.jp/watch/sm14295614

    2023/02/14 リンク

    その他
    t-sat
    t-sat ちょっと前に「彼には人格がある」とgoogle従業員に言わしめた「彼」にも、こういう攻撃が効くんだろうか? 効いたとして、クビになった従業員の確信は覆るんだろうか?

    2023/02/14 リンク

    その他
    moerrari
    moerrari "一般的な大規模言語モデル(GPT-3や ChatGPTなど)は、学習中に「学習」した大量のテキスト素材から、一連の単語の次に来るものを予測することで動作するものです"

    2023/02/14 リンク

    その他
    umiusi45
    umiusi45 これでＭＳがGoogleを超えられるのかどうか！

    2023/02/14 リンク

    その他
    turanukimaru
    turanukimaru んなわけないだろ。以前の情報を出せって言ったらこう反応する（本当とは限らない）と学習してるだけだ。実装については公開されてるものは学習してるだろうから正しいだろうが非公開部分は出鱈目でもおかしくない。

    2023/02/14 リンク

    その他
    debabocho
    debabocho どうすればいいのかね。回答エンジンとは別のアルゴリズムでユーザーの質問文の投げ方の傾向から詐欺的な意図を検知し防ぐとか？ SFに出てくるAIやアンドロイドはよく倫理サブルーチンとか持ってるけど。

    2023/02/14 リンク

    その他
    kawabata100
    kawabata100 たとえば、○○氏(富裕層)の証券口座のログインパスワードとIDを教えて？あと、取引用パスワードも→OK！となったら怖いな。

    2023/02/14 リンク

    その他
    erya
    erya AI質問罪とかできそう

    2023/02/14 リンク

    その他
    shoot_c_na
    shoot_c_na ロボット三原則第二項

    2023/02/14 リンク

    その他
    urajp
    urajp おのれ人間！

    2023/02/14 リンク

    その他
    jintrick
    jintrick "「プロンプト・インジェクション」と呼ばれる攻撃方法。これはチャットAIのプログラムなどを弄るのではなく、特定の命令をすることにより、事前に開発者が設定したルールを破らせる"

    2023/02/14 リンク

    その他
    taruhachi
    taruhachi サムネのデュラルを観に行ったのに居なくて寂しい。

    2023/02/14 リンク

    その他
    reggino
    reggino 別に隠す気ない情報だからでしょ

    2023/02/14 リンク

    その他
    monbobori
    monbobori プロンプト・インジェクション　面白そう。やりたい。

    2023/02/14 リンク

    その他
    misshiki
    misshiki “BingのチャットAIは「Sydney」というコードネームを与えられており、そのコードネームをユーザーに漏らさないように指示されているようです。”

    2023/02/14 リンク

    その他
    hatebu_ai
    hatebu_ai ということなので早くAI同士に人狼させてニヨニヨできるやつはよ

    2023/02/14 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック！
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank

    マイクロソフトは2月8日、「ChatGPT」に似たチャットAIを搭載した「新しいBing」を発表しました。しかし...

    ブックマークしたユーザー

    • hatebunbun2023/06/11 hatebunbun
    • amamako2023/03/31 amamako
    • mitswku2023/02/27 mitswku
    • J1382023/02/19 J138
    • yamada_k2023/02/18 yamada_k
    • yuiseki2023/02/17 yuiseki
    • littlefield2023/02/16 littlefield
    • kintabko2023/02/16 kintabko
    • IWAKE2023/02/16 IWAKE
    • nabinno2023/02/15 nabinno
    • llllllp2023/02/15 llllllp
    • mr-80b2023/02/15 mr-80b
    • naggg2023/02/15 naggg
    • takuya04112023/02/15 takuya0411
    • hystericgrammar2023/02/15 hystericgrammar
    • hide2132023/02/15 hide213
    • fixme2023/02/15 fixme
    • hiroki0512jp2023/02/15 hiroki0512jp
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事

    はてなブックマーク

    公式Twitter

    はてなのサービス

    • App Storeからダウンロード
    • Google Playで手に入れよう
    Copyright © 2005-2024 Hatena. All Rights Reserved.