タグ

考え方と研究に関するkoKekkohのブックマーク (2)

  • 米OpenAI「公表しないで……」 ブラックボックスであるLLMの中身を“盗む”攻撃 米Googleらが発表

    このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: @shiropen2 米Google DeepMindなどに所属する研究者らが発表した論文「Stealing Part of a Production Language Model」は、米OpenAIのGPT-4や米GoogleのPaLM-2などのクローズドな大規模言語モデル(LLM)から、モデルの一部を盗み出す攻撃を提案した研究報告である。言語モデルのAPIへのクエリを通じて、低コストでモデルの内部構造に関する情報を抽出することに成功した。 GPT-4やPaLM-2などの最先端AIモデルは、APIを通じて一般ユーザーに提供されているが、内部構造や学習に使用され

    米OpenAI「公表しないで……」 ブラックボックスであるLLMの中身を“盗む”攻撃 米Googleらが発表
    koKekkoh
    koKekkoh 2024/03/14
    取り敢えず「隠れ層の次元数」から何の事だか分かりません‪ _:(´ཀ`」 ∠):‬
  • 地政学はなぜ批判されるのか?—古典理論を中心に―|永太郎(ながたろう)

    地政学、流行ってますよね。 書店にはだいたいどこでも地政学のが置いてありますし、Youtubeでも解説動画がたくさんUPされています。 地政学とは、「国の政策を、主として風土・環境などの地理的角度から研究する学問」(日国語大辞典)とされます。地理学と政治学を組み合わせたもの、という説明がされることもありますね。「地理が分かれば国際情勢が分かる!」という点が地政学の魅力としてよく語られます。 しかし一方で、地政学に対する批判も、(世間的な影響はともかく学術方面では)根強くあります。 「まあそうだよね」と思う人は、この記事は特に読まなくても大丈夫です。それほど目新しいことは書いていません。 この記事は、「あれ、地政学って面白そうなのになんで批判されてるの?」と思った人を想定読者としています。 いったい、地政学のどういうところが批判されてきたのでしょうか。今回はそれを解説していきます。 注意

    地政学はなぜ批判されるのか?—古典理論を中心に―|永太郎(ながたろう)
    koKekkoh
    koKekkoh 2023/06/17
    こういう記事は読み応えがあって良き。
  • 1