ITに関するCobolerのブックマーク (349)

  • Appleの研究が暴くAIの「思考の幻想」、複雑性の壁に阻まれる根本的限界とは | XenoSpectrum

    AI当に「考えている」のだろうか? この数年、私たちの社会を席巻するこの問いに、Appleの研究チームが冷徹な光を当てた。2025年6月7日に公開された論文「The Illusion of Thinking(思考の幻想)」は、AIが複雑な問題に直面したとき、性能が突如として崖から転落するように崩壊するだけでなく、難問を前にして「考えることを放棄する」かのような不可解な振る舞いを見せることを示し、OpenAIの「o3-mini」やAnthropicの「Claude 3.7 Sonnet」といった最先端のAIが持つ「推論能力」に、これまで見過ごされてきた“根的な限界”が存在することを、緻密な実験によって暴き出したのだ。 なぜこの研究は重要なのか? AI評価の「汚染」からの脱却 近年のAI開発競争は、「推論(Reasoning)」を最大のテーマとしてきた。「思考の連鎖(Chain-of-T

    Appleの研究が暴くAIの「思考の幻想」、複雑性の壁に阻まれる根本的限界とは | XenoSpectrum
    Coboler
    Coboler 2025/06/08
    "半ば神話のように信じられてきた「スケール則」への疑問符だ。モデルを大きくし、データを増やし、計算力をつぎ込めばAIは無限に賢くなる、という考え方は、少なくとも単純な形では成り立たないのかもしれない"
  • マイクロソフトが打ち出した「オープン・エージェンティック・ウェブ」に潜むAIエージェントの深刻なリスク 【生成AI事件簿】AIエージェント時代のリスクをChatGPTによる短編SF小説で解説 | JBpress (ジェイビープレス)

    (小林 啓倫:経営コンサルタント) 2025年5月20日(日時間)、Microsoftの開発者向けイベント「Build」が米シアトルで始まった。そのキーノートスピーチで、MicrosoftCEO兼会長であるサティア・ナデラが、「オープン・エージェンティック・ウェブ(Open Agentic Web)」という新しいコンセプトを打ち出している。 これは「AIエージェント」(生成AIなど最先端のAI技術を駆使し、自律的に動作することが可能なアプリケーション)が、ユーザーや企業に代わってウェブを含むデジタル環境全般で自律的に活動し、目的を達成するという未来のビジョンだ。 オンラインショッピングを例に挙げよう。 現在のEコマースサイトを訪問しているのは、もちろん人間のユーザーだ。人間が検索エンジンなどを使ってサイトを選び、訪れ、そこに並べられた商品を見て、自分の好みや予算といった条件の中から目的

    マイクロソフトが打ち出した「オープン・エージェンティック・ウェブ」に潜むAIエージェントの深刻なリスク 【生成AI事件簿】AIエージェント時代のリスクをChatGPTによる短編SF小説で解説 | JBpress (ジェイビープレス)
    Coboler
    Coboler 2025/06/08
  • 学生がAIで「知性をサブスク」する。教育現場に混乱を巻き起こすAI

    学生がAIで「知性をサブスク」する。教育現場に混乱を巻き起こすAI2025.05.23 20:0012,719 Lucas Ropek - Gizmodo US [原文] ( Kenji P. Miyajima ) 生成AIってちゃんと使おうとするとかなり頭を使うはずなのだけど…。 AI業界は「社会を劇的に変える」と宣言してきましたが、アメリカ教育システムを見るとその気度は一目瞭然です。 アメリカ教育現場は、まさしく「破壊的」な変化にさらされています。しかもその影響はあまりに大きく深刻で、もはやこの先ちゃんと機能する社会が戻ってくるのかどうかすら怪しく思えてくるほどなのだとか。 AIに振り回される学生の知性高等教育の現場でいま起きている混乱を象徴する、もっとも情けなくて残念な出来事について、New York Magazine(ニューヨーク・マガジン)が紹介しています。多くの現役学生へ

    学生がAIで「知性をサブスク」する。教育現場に混乱を巻き起こすAI
    Coboler
    Coboler 2025/05/24
    "ここでサブスクしているのは知能そのもの。利用すればするほど、自分が本来持っている思考力はどんどん減っていくというわけです。"確かに、大学の課題を自分でやらずに人脈だけ作ったとしても、ねえ…とは思える
  • つながりのテクノロジーはまたしても我々を引き裂く

    つながりのテクノロジーはまたしても我々を引き裂く 2025.05.21 Updated by yomoyomo on May 21, 2025, 14:51 pm JST 歴史家のダニエル・イマーヴァールが、ニューヨーカー誌に寄稿した「テクノロジーによる「注意力の危機」を煽る“エリート”たちの音」に書くように、ニコラス・カーの『The Shallows: What the Internet Is Doing to Our Brains』(邦訳は『ネット・バカ インターネットがわたしたちの脳にしていること』)は、インターネットが我々の集中力と熟考する能力を奪っている、つまりは「インターネットが我々の能力を退化させる」ことを正面から論じた最初期のです。 発表当時、この主張には多くの反論が寄せられました。これは『The Shallows』の前段にあたるアトランティック誌への寄稿文のタイトル「

    つながりのテクノロジーはまたしても我々を引き裂く
    Coboler
    Coboler 2025/05/23
    "孤立した人ほどより信頼できる消費者になることを企業は知っているが、友情を収益化するには、まずは友情を解体しなければなりません。実にザッカーバーグは賢い。悪い意味で。"
  • サム・アルトマン、「ジブリ風」への批判に反論…生成AIアートを擁護 | Business Insider Japan

    OpenAI画像生成で作られた、ジブリ風のサム・アルトマンのイラスト。Effie Webb/OpenAI's 4o tool サム・アルトマンはAIについて、人々がアートを創造しやすくするものであり、それは社会にとって「純粋な勝利」だと語っている。OpenAICEOであるアルトマンは、ChatGPTのジブリ風画像生成に関する反発を受けて、生成AIツールを擁護した。彼はインタビューで、AIツールがクリエイティビティのハードルを低くすると語った。OpenAIの新しい画像生成ツールの発表は、スタジオジブリ風画像の津波を引き起こし、著作権に関する懸念を高めたが、サム・アルトマンはAIによるアートが社会にとって「純粋な勝利」だと考えている。 2025年4月6日にYouTubeで公開された、起業家でコンテンツクリエイターのヴァルン・マイヤ(Varun Mayya)によるインタビューで、アルトマンは

    サム・アルトマン、「ジブリ風」への批判に反論…生成AIアートを擁護 | Business Insider Japan
    Coboler
    Coboler 2025/05/16
    "OpenAIの広報は以前、同社のポリシーで「より幅広いスタジオスタイル」の画像生成は許可されているものの、「現役アーティストのスタイル」は許可されていないと語っていた。"ほんまかいな。
  • マーク・ザッカーバーグが「ソーシャルメディアは終わった」と発言

    アメリカ連邦取引委員会(FTC)は2020年12月にMeta(当時Facebook)を独占禁止法違反の疑いで提訴しています。この裁判の中で、Metaの創設者でCEOのマーク・ザッカーバーグ氏が「ソーシャルメディアは、以前ほどソーシャルではなくなってきている」と発言したことが報じられました。 Mark Zuckerberg Says Social Media Is Over | The New Yorker https://www.newyorker.com/culture/infinite-scroll/mark-zuckerberg-says-social-media-is-over FTCはMetaによる2012年のInstagram買収、および2014年のWhatsApp買収を、Metaが独占的地位を守るために競争相手をつぶす目的で行ったものだったと主張して訴訟を起こしています。訴訟

    マーク・ザッカーバーグが「ソーシャルメディアは終わった」と発言
    Coboler
    Coboler 2025/04/30
    "FTCによるソーシャルメディアの定義は、選挙において特定の政党や候補者に有利なように選挙区を区割りするゲリマンダーのようです。FTCの定義によればTikTokはFacebookと全く競合していないためMetaは独占的地位にいます。"
  • Qosmo Insights #4: AI生成楽曲かどうかを判別するWebサイト

    Qosmo in Progress: Spotifake 現在進行形の研究プロジェクトを紹介する「Qosmo in Progress」のコーナー。今回は、楽曲がAI生成かどうかを判定するWebサイトのご紹介です。 あなたがSpotifyで聞いてるその楽曲、実はAI生成かも! 前々回のニュースレターでも取り上げたように、テキスト・プロンプトから曲を丸ごと生成するAI音楽生成ツール (例えば、SunoやUdio) はすでに実用レベルに達したといえます。画像生成ツールと同様、一部のジャンルでは人間が作った音楽との区別が困難な音楽を生成するようになりました。 実はこれらのツールで生成された音楽が、「認証アーティスト」によるものとして、Spotifyなどのプラットフォームに流れ込んでいるのはご存じでしょうか。例えばこの認証アーティストの曲は12万回以上再生されていますが、昨年は100近く、今年に入っ

    Coboler
    Coboler 2025/04/24
    "音楽ジャーナリストLiz Pellyの著書 "Mood Machine"は、Ghost Artistとも呼ばれる架空のアーティストをでっちあげることで、ストリーミング収益を独占しようとするSpotifyの商慣行を暴きました"知りたくなかった事実…!!🫠
  • 「黒子のバスケ」被告人意見陳述に端を発する雑感 - Valdegamas侯日録

    「黒子のバスケ」脅迫事件の初公判で、被告人の読み上げた冒頭意見陳述全文(リンク1・リンク2)がインターネット上で評判になったが、これを読んでしばらくして、私は下記のようなツイートをした。 某意見陳述、くりかえされる自己の行動へのツッコミ、いかにもなネット的修辞、「自分がいかに消費されるか」を異常に意識した文章、何もかもがメタ的消費に飲み込まれた文章だという感じしかしなかったし、なんというかこういうストーリーに自分を固めたんだなという気持ち悪さしかなかった。— 侯爵 (@MValdegamas) 2014, 3月 17 あの文章に「時代の子」という性質を読み取る人もいるとは思うけれど、あれは「時代の子」を演じているようにしか思えなかった。まあそういうことを言うと何が演技でなにが実際なのか、という話なのだろうが。— 侯爵 (@MValdegamas) 2014, 3月 17 もちろん心なのか

    「黒子のバスケ」被告人意見陳述に端を発する雑感 - Valdegamas侯日録
  • AIショッピングアプリ「Nate」創業者、人間労働者をAIと偽り詐欺罪で起訴 | XenoSpectrum

    AI技術を活用したワンクリックショッピングを実現するとして5000万ドル以上の資金を集めたスタートアップ「Nate」の創業者Albert Saniger氏が、実際にはフィリピンとルーマニアの人間労働者がバックエンドで作業していた事実を隠蔽し、投資家を欺いたとして米司法省に詐欺罪で起訴された。この事件AI技術の誇張が問題視される業界において、投資家がほぼ全額の損失を被る結果となった。 「AI駆動型」の裏に隠された人海戦術 2018年に設立されたNateは、AI人工知能技術を用いて、あらゆる電子商取引(eコマース)サイトでの購入プロセスをワンクリックで完結させる「ユニバーサルチェックアウト」アプリを提供すると謳っていた。ユーザーが商品を選び「購入」をタップすれば、AIがサイズ選択、請求・配送先情報の入力、購入確定までを自動で行うという触れ込みだった。 しかし米司法省(DOJ)の調査による

    AIショッピングアプリ「Nate」創業者、人間労働者をAIと偽り詐欺罪で起訴 | XenoSpectrum
    Coboler
    Coboler 2025/04/13
    "Nateの事例は、AI技術の実態を偽って資金や注目を集めようとする、いわゆる「AIウォッシング」と呼ばれる問題の一例と言える"なるほど、そういう名前がついているのか。わかる。最近よくあるわな
  • 画像生成AIにとって一番嫌なノイズを探す -結論編- - Qiita

    Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 概要 生成AIが発展する一方で、権利者が望まない無断のAI学習が問題になってきています この記事では、学習用画像にノイズが入っていた場合、画像生成AIにどのような影響があるのかを調査しました ※この記事群は2024/10末時点の調査に基づいています 結論 根拠 綺麗な画像を投稿したい X (旧Twitter) では 2024/11/15 より利用規約が変更になるなど、SNSはノイズなしのオリジナル画像を投稿するのに不向きになってきています ニコニコ動画 明確な禁止ガイドラインは存在しません pixiv pixivおよびその関連サービスに

    画像生成AIにとって一番嫌なノイズを探す -結論編- - Qiita
  • NAIリークの歴史|NAILEAKPROBLEM

    はじめに 近年のAI画像生成は盗品の歴史である。danbooruという無断転載サイトから学習したNovelaiNovelaiのリークモデル。リークモデルを追加学習し、それを無断で転載したAnything。Anythingと、肖像権を無視して何万枚もの写真を無断で学習したinstagramモデルとのマージモデル(Orangemixシリーズ)。Orangemixを改造したabyss。どのモデルをとっても、それは盗品という負の要素が存在する。だから、近年のAI画像生成は盗品の歴史である。 AI絵師は、この事実を無視しつづけた。その理由はわからない。ただ、ある一つの推測を述べることはできる。「いいイラストが作れるから」という理由だ。NovelAIよりも、自分のパソコンで使えるリークモデルの方がアレンジが効いた。リークモデルよりも、anythingの方がいい絵が出た。anythingよりも、ora

    NAIリークの歴史|NAILEAKPROBLEM
    Coboler
    Coboler 2025/03/05
    Instagramの画像は生成AIの学習に使われている!という話の裏を取りたかったんだけど、ここ以外に情報を見つけられなかった。しかし他でもないmetaがオプトアウトすら許さない強硬手段に出てきてしまったのでね、はい
  • Developer Created Tarpit to Trap AI Training Bots

    Coboler
    Coboler 2025/03/05
    クローラーに余計なデータを与えるプログラム。悪意がありありだけど、クローラーのやってることも悪いからな〜
  • 「クリエイターとファンをSNSがつないで支援する構造」が破綻しつつあることがPatreonのレポート「State Of Create」で明らかに

    コンテンツクリエイターのファンディングプラットフォーム「Patreon」が、1000人以上のクリエイターと2000人以上のファンを対象に実施した調査のレポート「State Of Create」を発表しました。Patreonのレポートを受けて、アナリストのジュリア・アレキサンダー氏は「クリエイターエコノミーが根的な変化の時期を迎えている」という見方を示しています。 State Of Create https://www.stateofcreate.co/ Everything that Built the Creator Economy is Trying to Kill It https://postingnexus.substack.com/p/everything-that-built-the-creator Patreonのレポートでは、TikTokのユーザーが費やす時間の57%は

    「クリエイターとファンをSNSがつないで支援する構造」が破綻しつつあることがPatreonのレポート「State Of Create」で明らかに
    Coboler
    Coboler 2025/03/03
    "InstagramやXなどのプラットフォームはユーザーの関心を引き続けるために、アルゴリズムを用いてユーザーに最適化したページを重視し、本来ソーシャルメディアのコアとなるフォロー機能を軽視する傾向にあります。"
  • 「ウマ娘」と「馬」も区別できず…同じと思われがちな《機械学習と人工知能》が致命的に異なる「過学習」のメカニズム(現代ビジネス) - Yahoo!ニュース

    「いつの日かAIは自我を持ち、人類を排除するのではないか―」2024年のノーベル物理学賞を受賞した天才・ヒントンの警告を、物理学者・田口善弘は真っ向から否定する。 【写真】知能とはなにか…意外と知らない人工知能機械学習の「致命的な違い」 理由は単純だ。人工知能(AI)と人間の知能は質的に異なるからである。しかし、そもそも「知能」とは何なのだろうか。その謎を解くには、「知能」という概念を再定義し、人間とAIの知能の「違い」を探求しなくてはならない。生成AIをめぐる混沌とした現状を物理学者が鮮やかに読み解く田口氏の著書『知能とはなにか』より、一部抜粋・再編集してお届けする。 『人工知能研究が冬の時代に…革新的と思われた「ニューラルネットワークによる研究」に潜んでいたまさかの”落とし穴”』より続く。 20世紀のあいだはブレークスルーもなく低迷していた人工知能研究だったが、21世紀に入って10

    「ウマ娘」と「馬」も区別できず…同じと思われがちな《機械学習と人工知能》が致命的に異なる「過学習」のメカニズム(現代ビジネス) - Yahoo!ニュース
  • AIチョットワカル絵描きのイラストその他の生成AIに対する現在のスタンスと建設的な意見|natsuki

    以前こんな記事を書いたのですが、現在のスタンス等についてまた書きたいと思います。 結論から言うと、一部(というより一部以外と表現した方が良いかもしれない)の生成aiとその推進派のことを最低最悪だと思っています。 実は私も修士論文の研究で機械学習(最近aiと呼ばれている(後述しますがこの呼称も不愉快ですが))の一種を作っていました。 友人と話していて、専門に近い分野だからこそ見えていることもあるようでしたので、そういう点についても書いていきたいと思います。 現在の生成AIの問題点倫理観のめちゃくちゃさ、私の現在のスタンス以前、医療系のデータを研究のために使わせていただける機会がありました。 その際には事前に流出させないなどの同意に一筆書いた記憶があります。 データへのアクセスを受け取った時は緊張しましたし、細心の注意を払って扱いました。 「でかいデータで何かするぜ!」というタイプの機械学習

    AIチョットワカル絵描きのイラストその他の生成AIに対する現在のスタンスと建設的な意見|natsuki
    Coboler
    Coboler 2025/03/01
    "アート系のaiが出た時に情報系の知人が急に「芸術とは…」みたいな(中略)浅い芸術論を語り出すのを複数観測して、聞くだけで恥ずかしくて不快だった。あれを聞かされるストレスだけでも存在しないで欲しかった。"
  • Pinterest Is Being Strangled by AI Slop

    Coboler
    Coboler 2025/02/28
    "Right now, in Pinterest's case, the answer seems to be that it's for AI spammers, instead of users or good-faith creators — which in turn, means a worse internet for everyone."全体的に地獄的な内容だった。特にAIで儲けてると語るユーチューバーの話が酷い
  • 人の弱みに付け込むモンスターを生み出した —— 元フェイスブック社長らが語る後悔とは | Business Insider Japan

    Facebookの初代社長ショーン・パーカー(Sean Parker)氏。Theo Wargo/Getty Images for Global Citizen フェイスブック(Facebook)の初代社長ショーン・パーカー氏は、Facebookが人間の「脆弱性」に付け込んでいるとして非常に批判的だ。「それが子どもたちの脳にどのような影響を与えているかは、誰にもわからない」と同氏は言う。同氏のコメントは、テック界で広がりつつある、自らが開発に携わった製品に対する幻滅や懸念を示す流れの一部だ。「それが子どもたちの脳にどのような影響を与えているかは、誰にもわからない」フェイスブックの創業から1年弱の2004年に同社に参加し、初代社長を務めたショーン・パーカー(Sean Parker)氏は、Facebookについて気掛かりな警鐘を鳴らしている。 ファイル共有サービスNapster(ナップスター)な

    人の弱みに付け込むモンスターを生み出した —— 元フェイスブック社長らが語る後悔とは | Business Insider Japan
    Coboler
    Coboler 2025/02/25
    "「人々の時間は貴重だ。そしてこれは、プライバシーやその他のデジタル権利と同じくらい厳格に保護されるべきだ」"
  • テック大手への信頼感、米10代若者の間で急落 AIめぐり不信高まる(Forbes JAPAN) - Yahoo!ニュース

    米国の10代若者たちの間でテック大手に対する信頼が着実に失われていることが、子どもの安全なハイテクメディア利用を支援する米NPO、コモンセンス・メディアの最新報告書から明らかになった。 米ティーンエイジャーたちは依然としてInstagram(インスタグラム)、TikTok(ティックトック)、Snapchat(スナップチャット)といったSNSのヘビーユーザーだが、これらのテクノロジーを支える企業への信頼度は急落している。 報告書によれば、テック企業が自分たちの心身の健康と幸福(ウェルビーイング)に優先的に配慮していると考えているティーンエイジャーは、10人に1人もいない。また、AI人工知能)に関してテック企業が責任ある意思決定を行うと信じられるかとの問いには、「全く信じていない」「あまり信じていない」と答えた若者が半数近くに上った。さらに、10代がテクノロジーに関して最も懸念している問題は

    テック大手への信頼感、米10代若者の間で急落 AIめぐり不信高まる(Forbes JAPAN) - Yahoo!ニュース
    Coboler
    Coboler 2025/02/24
    "この報告書で際立っているのは、10代の若者たちがテック大手を完全に信頼することはできないと感じながら、その世界に順応している様子だ"
  • 【ルポ】画像生成AIの不都合な真実 ~私はXで何を見たか ~|Lamron🖇

    悪が勝利するには、善人が何もしないだけでいい。 エドモンド・バーグ最大の悲劇は悪人の残酷さではなく、温厚な人々の沈黙であった。彼らは沈黙する事で「正義の平和」ではなく「奴隷の平和」を選択した。 キング牧師サムネイル: NHKスペシャル「未来への分岐点」より これから私が話す事は一切脚色の無い真実である。だがそれをそのまま書くとあまりにも現実から遊離したフィクションのように見えるため、あえてフィクションの形式で書くことにした。その方がかえって頭に入りやすくなると思ったからである。 だが繰り返すがこれは私が目撃した真実である。フィクションではない。 事の発端は一年前、邪知暴虐なるElon MuskがTwitter APIを有料化し、私のトレンド解析botが動かせなくなったことだ。仕方なくTwitterの代替サービスを探し始めた私は━━そう、当時はまだ他のSNSTwitterの「代わり」としか

    【ルポ】画像生成AIの不都合な真実 ~私はXで何を見たか ~|Lamron🖇
    Coboler
    Coboler 2025/02/22
    "生成AIは「クリエイター」の肩書を手に入れ(=アイデンティティの確立)かつ「他人の破壊」もできる、まさに「透明な存在」にとって打ってつけのツールなのだ。"
  • 「無産オタク」は普通だが「負産オタク」はどうなのか⸮|Lamron🖇

    「何の取り柄も無いが人の邪魔をしない」という人は生産的な方から3割に入る。 — スパ帝 (@verdamil) December 16, 2012 最初は「どうしようもない記事だなあ」と脱力しましたが、「AI絵師」(AIbros?)のダメなところが凝縮されてるので、他の人のためにもなるかと思い詳細な批判を行なうことにしました。 私は、もともとパソコン等の電子技術に非常に興味がありました。 そうなんですか。じゃあやっぱりプログラミングや電子工作の勉強などをしたんですよね……とTwitterなども見ましたがしてないみたいですね。 絵を描いてる人が「電子技術に興味があったのでクリスタや液タブ使ってます!」と言ってるの見たこと無いですが、既存のソフトを使う程度を「電子技術に非常に興味」があるとは普通言わないでしょう。 ちなみにGitHubで「アイドルマスター」関連の単語で検索すると色々なツールが公

    「無産オタク」は普通だが「負産オタク」はどうなのか⸮|Lamron🖇