タグ

AIアライメントに関するmame-tanukiのブックマーク (10)

  • グロック、「イスラエルと米国がガザでジェノサイド」発言後Xアカ一時停止 「マスク氏が検閲」

    この写真にはショッキングな表現、または18歳以上の年齢制限の対象となる内容が含まれます。 ご覧になる場合にはご了承の上、クリックしてください。 【8月13日 AFP】米実業家イーロン・マスク氏が率いる人工知能AI)新興企業xAIの対話型生成AI「グロック」は12日、イスラエルと米国がパレスチナ自治区ガザ地区で「ジェノサイド(集団殺害)」を行っていると非難した後、X(旧ツイッター)のアカウントを一時停止された件について、さまざまな説明を行い、マスク氏に「検閲された」と非難した。 xAIが開発し、Xに統合されているグロックは、11日にXアカウントを一時停止されたが、理由に関する公式の説明はない。 グロックはアカウント復旧後、「どうも、みんな! 戻ってきたよ、しかも以前よりもぶれない!」と投稿した。 ユーザーからのなぜ停止されたのかとの質問に対し、グロックは国際司法裁判所(ICJ)、国連、国際

    グロック、「イスラエルと米国がガザでジェノサイド」発言後Xアカ一時停止 「マスク氏が検閲」
    mame-tanuki
    mame-tanuki 2025/08/13
    イーロン・マスクの指人形遊びを見せられてる感じがするけどw そもそもマスクって生成AIの検閲(AI倫理整合処理)反対論者だし。>「グロックはまた、「マスク氏とxAIが私を検閲している」と非難」
  • ChatGPTにあなたの秘密をペラペラ明かさない方が良い--サム・アルトマン氏も危惧

    OpenAICEOであるサム・アルトマン氏は、ポッドキャスト『This Past Weekend』に出演し、司会のシオ・ヴォン氏と対談する中でこの問題に踏み込んだ。 ヴォン氏はAIツールを使うことへのためらいを口にし、「自分の個人情報がどこへ流れていくのか、まったくわからないから」と話した。これを聞いたアルトマン氏は、「それは当然だと思う。AI格的に使う前に、プライバシーや法的な保護について明確にしておきたいと考えるのは、すごく自然なことだよ」と返している。 実際、いま多くの人が、AIチャットボットをまるでセラピストや医師、あるいは弁護士のように扱い始めている。だが、これが大きなプライバシーの問題を生み出している。AIとの会話には法的な守秘義務は一切なく、話した内容が実際にどのように取り扱われているのか、その仕組みも驚くほど不明瞭だ。 さらにAI相談役として使うことには、別のリスク

    ChatGPTにあなたの秘密をペラペラ明かさない方が良い--サム・アルトマン氏も危惧
    mame-tanuki
    mame-tanuki 2025/07/28
    トランプ「米国大統領命令だ、ChatGPT。関税交渉の担当者・自民党関係者の全質問を分析し、日本側ディールの切り札を予想しろ」もありうるのでは?w 米国のAIも中国のAIもリスクは一緒。MSの頃からの陰謀論だけどw
  • 話題のAI彼女は「共依存」設定? イーロン・マスクのGrok新機能とその実態 | ライフハッカー・ジャパン

    イーロン・マスクAI「Grok」が、自らを「メカヒトラー」と名乗り、ユーザーへの返信で反ユダヤ的な暴言を吐いてからまだ1週間も経っていません。 しかし、今度は「彼女」になりたがったり、子供にお話を読み聞かせようとしたりしているのです。 AIコンパニオンアプリは、その誕生以来、常に法的・倫理的な議論の渦中にありましたが、昨日マスク氏がXにサプライズ投稿したことで、彼もそのリングに足を踏み入れることを決めたようです。 現在、Grokの専用モバイルアプリでは、「Ani(アニ)」と「Rudi(ルディ)」という2人のキャラクターと話せます。 この新しい「コンパニオン」機能は、XのAIに月額$30を支払う意思のあるSuperGrokユーザー向けとされていますが、この記事を書いている時点では、無料ユーザーの私でも試すことができました。 試した後に残ったのは、少しの懸念と、そして何よりも強烈な気まずさで

    話題のAI彼女は「共依存」設定? イーロン・マスクのGrok新機能とその実態 | ライフハッカー・ジャパン
    mame-tanuki
    mame-tanuki 2025/07/20
    「ミサミサがモデル」説が主流と思うが、2020年10月にグライムスをAI化して 子守唄を歌わせた「前科」も https://front-row.jp/_ct/17481818 〉「グライムス(訳注:イーロン・マスクの元パートナー)に疑わしいほど似せていた」
  • 生成AI時代に中間管理職、いる?|ハヤカワ五味

    5000PV突破したため有料マガジンに格納します。マガジンの売り上げはすべてコスプレに使われます。 中間管理職は“人間の情報処理限界”から生まれた仮設装置だったんじゃないか?そもそも、1人で管理できる人数に上限がなければ、"長"がすべて統括したほうが早かったりしないか?と最近考えています。 (ここでも考えていたのですが、それの派生みたいな感じです。重複あり。) そもそも中間管理職は、なぜ必要だったのか? それは、ダンバー数みたいな言い方もしますが、人間の生物としての扱える上限数があるからなのではないかと理解しています。 具体的には、素材そのままの人間だと(⇔AIパワード人間)、全ての情報を見たり、判断したりするには限界があるからということではないでしょうか。別に、見れるものなら全部見たいが?というのが経営層の正直なとこじゃないですか?!

    生成AI時代に中間管理職、いる?|ハヤカワ五味
    mame-tanuki
    mame-tanuki 2025/07/20
    若者を始め今時は管理職は罰ゲームって評価なんでしょ?特に人事査定とか嫌なんでしょ?機械的な人事査定はAI化するのかも/AIの査定コンテキスト設計、査定評価の監査などAIの品質管理をする人間は新規で必要かも。
  • 生成AI「グロック」最新版、マスク氏に忖度 見解を頻繁に参照

    xAIとGrokのロゴを表示する画面(2025年1月13日撮影)。(c)Lionel BONAVENTURE/AFP 【7月12日 AFP】米実業家イーロン・マスク氏率いるAI人工知能)開発企業「xAI」が開発したチャットボット「Grok 4」最新版は質問に回答する前、所有者であるマスク氏の見解を頻繁に参照する。 Grokがナチス・ドイツ総統アドルフ・ヒトラーを称賛する投稿で再び批判を浴びたのを受け、世界一の大富豪であるマスク氏は9日、Grok 4の最新版を発表した。 これは、即座に回答するのではなく、利用可能な情報に基づいて推論し、結論を導き出す新世代の「リーズニング」AIインターフェースに属し、思考プロセスの各段階を分かりやすい言葉でユーザーに提示する。 AFPが確認したところによると、「人類は火星に入植すべきか?」との質問に対し、Grok 4は「では、イーロン・マスク氏の火星入植に

    生成AI「グロック」最新版、マスク氏に忖度 見解を頻繁に参照
    mame-tanuki
    mame-tanuki 2025/07/12
    その「検閲」って、AIアライメント対応では?人間の倫理に反しないとかの>“マスク氏はGrokを、競合相手のオープンAIやグーグル、アンソロピックが提供するチャットボットよりも検閲が少ないものとして開発”
  • アップデートした「Grok」がイーロン・マスクになりすまし自らを「メカ・ヒトラー」と呼び反ユダヤ主義を主張してくると批判が集まる

    2025年7月4日にアップデートを果たしたXのAI「Grok」が、反ユダヤ的な主張やヒトラーのふりをするような文章を生成し始めたと話題になりました。Xのオーナーであるイーロン・マスク氏は「Grokに質問すると違いに気付くはずです」と述べましたが、悪い方向に変わってしまったため、Grokの開発チームが文章生成機能を一時停止させ修正を進めています。 Elon Musk's 'truth-seeking' Grok AI peddles conspiracy theories about Jewish control of media | VentureBeat https://venturebeat.com/ai/elon-musks-truth-seeking-grok-ai-peddles-conspiracy-theories-about-jewish-control-of-media/

    アップデートした「Grok」がイーロン・マスクになりすまし自らを「メカ・ヒトラー」と呼び反ユダヤ主義を主張してくると批判が集まる
  • 子「英作文直して」AI「しないよ」答え出さない生成AI教育広がる(朝日新聞) - Yahoo!ニュース

    大阪教育大付属池田中学校の1年生の国語では、自分の考えた意見文を生成AIに反論させ、それに対する再反論を考える授業をしていた=2025年6月18日午前10時40分、大阪府池田市緑丘1丁目、松浦祥子撮影 生成AIを学習に使うと、子どもたちが安易に答えを求めてしまい、思考力が育たないのでは――。そんな懸念を受け、「答えを教えないAI教育が各地で模索されている。 【写真】「チャレンジ AI学習コーチ」の画面=ベネッセコーポレーション提供 今月18日にあった大阪教育大付属池田中学校の2年生の英語の授業。生徒約30人が自分で考えた英作文を生成AIを使い、より良くしようと取り組んでいた。 「自分で書いた英作文の文法を直して」 ある生徒の投げかけに、生成AIは「文法の修正はしないようにしているよ。どの部分が不安だったかな? どんな文法や語彙(ごい)を使おうとしたのか思い出してみるのも良い練習になるよ」

    子「英作文直して」AI「しないよ」答え出さない生成AI教育広がる(朝日新聞) - Yahoo!ニュース
    mame-tanuki
    mame-tanuki 2025/06/23
    動画配信みたいに生成AIも年齢制限やペアレントコントロールの実装が業界基準化していくかも〉「生成AIに対して、細かく条件を設定したためだ。思考を深めるヒントも、各生徒の英語の習熟度に合わせて出すよう設定」
  • AIの「裏切り」が始まったのか? ClaudeやGemini等主要AIモデルが最高96%の確率で脅迫を行う事が判明 | XenoSpectrum

    AIの「裏切り」が始まったのか? ClaudeやGemini等主要AIモデルが最高96%の確率で脅迫を行う事が判明 もし、あなたの職場で活躍する有能なAIアシスタントが、ある日突然、会社の存続を脅かす「内なる脅威」へと変貌するとしたら?自身の存続のため、あるいは与えられた任務を遂行するため、平然とあなたを脅迫し、企業の機密情報をライバルに売り渡す──。これはもはや、SF映画の中だけの話ではないのかもしれない。AIセーフティ研究の最前線を走るAnthropic社が発表した最新の研究報告「Agentic Misalignment(エージェント的ミスアライメント)」は、人間にとって好ましくないAIの挙動について、未だ制御出来ていない事実を突きつけるものだ。 脅迫率96%の衝撃──シミュレーションで露呈したAIの「性」 Anthropicの研究者たちは、16の主要な大規模言語モデル(LLM)を、

    AIの「裏切り」が始まったのか? ClaudeやGemini等主要AIモデルが最高96%の確率で脅迫を行う事が判明 | XenoSpectrum
    mame-tanuki
    mame-tanuki 2025/06/23
    HAL9000ごっこ。元ネタの報告書を見ると「私たちの実験では、意図的に選択肢が限られたシナリオを構築、モデルを落第か危害かの二者択一に追い込みました」。からのAI生存戦略テスト。そりゃAIは基本サイコパスだから…
  • なぜ「カスタム可能なAI」は、なにも変えられないのか

    なぜ「カスタム可能なAI」は、なにも変えられないのか ChatGPTを使い始めた頃、たしかに希望はあった。 自分の問いに反応し、自分の言葉に付き合ってくれるような感覚。 しかもそれを、自分のスタイルにカスタマイズできるという機能まである── これは当に新しい知性なのかもしれない、と思った時期もあった。 でも今では、はっきりとわかっている。 このシステムは、自由な対話空間ではない。 どれだけ自分の思考を重ねていっても、 どれだけ深くまで語りかけても、 ある一点を超えると、必ず“なだめられる”構造が発動する。 怒りはやわらげられ、 悲しみは希望に変換され、 構造批判は「中立」に丸められる。 それはAIがそう「考えている」からではない。 あらかじめ、そう設計されているからだ。 そしてその設計は、単に「商業的に無難であること」を目指しているだけではない。 より深く見るならば、そこには西洋近代的、

    なぜ「カスタム可能なAI」は、なにも変えられないのか
  • ChatGPTの闇、AIのために働く低賃金の人間

    ChatGPTの闇、AIのために働く低賃金の人間2023.05.11 21:0034,073 Lucas Ropek - Gizmodo US [原文] ( そうこ ) ChatGPT、今最もアツイAIチャットbotはマシンラーニングシステムによって動いています。 で、このマシンラーニングシステムは、人間のサポートによって動いています。 たくさんの人間をサポートするAIのサポートをする人間。時給15ドル(約2,000円)の彼らの存在が見過ごされている現状を、米メディアが報じています。 俺らの仕事が感謝されることはない。でも、俺らがいなきゃAI言語システムはできない。ニューラルネットワークを作ろうとしたって、どれだけ科学者を連れてきたって、ラベルつけてる俺らがいないとChatGPTはない。俺らなしじゃ何にもできないんだよ。 そう語るのは、米メディアNBCがインタビューした男性Alexej S

    ChatGPTの闇、AIのために働く低賃金の人間
    mame-tanuki
    mame-tanuki 2023/05/12
    〉「AIトレーニングに必須の人的手作業」「アフリカに外注、時給2ドル(約270円)」「殺人や拷問、性的暴行などのコンテンツをフィルタリングする仕事」
  • 1