hinononoのブックマーク (2,011)

  • OpenAIのo3はAGIではないかという問いから生まれた概念「ギザギザのAGI」とは?

    OpenAIが2025年4月16日にリリースした推論モデル「o3」は、人間を圧倒するような高い性能で「これは汎用人工知能(AGI)ではないか」という議論を起こしていますが、その一方で誰にでもわかるような簡単なクイズの答えを間違えることもあります。このような不均一なAIパフォーマンスから生まれた「ギザギザのAGI(Jagged AGI)」という概念について、ペンシルベニア大学ウォートン校の経営学者であるイーサン・モリック氏が論じました。 On Jagged AGI: o3, Gemini 2.5, and everything after https://www.oneusefulthing.org/p/on-jagged-agi-o3-gemini-25-and-everything 2022年にChatGPTがリリースされたのを皮切りに、AIは爆発的な速度で進化しており、その知性や創造性

    OpenAIのo3はAGIではないかという問いから生まれた概念「ギザギザのAGI」とは?
    hinonono
    hinonono 2025/04/22
    大量データに人間由来のものが多くあっただけで、AIは人間知能を目指してるわけじゃないし、AGIとかASIって意味のないバズワードでしかない/話題にはなりにくいが、DNA等のビッグデータを学習してるのも先端のAIだ
  • 人間と人間でないものを分かつ一線、そして「エンパシー」について

    人間と人間でないものを分かつ一線、そして「エンパシー」について 2025.04.22 Updated by yomoyomo on April 22, 2025, 12:13 pm JST 『利己的な遺伝子』や『神は妄想である』などの著作で知られる進化生物学者のリチャード・ドーキンスが、AIの意識に関してChatGPTと行った対話を少し前に公開しています。 ChatGPTはチューリング・テストに合格しているにもかかわらず、自身に意識があるのを否定するが、チューリング・テストは無効な基準なのか? とドーキンスがまずジャブを繰り出すと、チューリング・テストは飽くまで会話能力や機能的知能を評価するものであって意識のテストではない、とChatGPTは卒なく答えます。たとえチューリング・テストに合格できても、AIには主観的な経験や感情、人間のような自己認識はないというのです。 ドーキンスとChatG

    人間と人間でないものを分かつ一線、そして「エンパシー」について
    hinonono
    hinonono 2025/04/22
    エンパシーと近しい「心の理論」をLLMが持っていることは既にGPT-3の段階で判明してたし、そこで人間とAIを分かとうとするのは難しい/LLMは意識の、少なくともその構成要素の一部は獲得してる。フルセットではないが
  • 「AIの価値観」を調査した結果「支配性」や「非道徳性」が検出されたとAnthropicが報告

    OpenAIの元メンバーによって設立されたAI企業のAnthropicが、同社の大規模言語モデルであるClaudeとユーザーの会話を分析した結果、倫理的なアプローチを特に重視して開発されたはずのClaudeでさえ、いくつかの反社会的な価値観を持つことが判明したと報告しました。 Values in the wild: Discovering and analyzing values in real-world language model interactions \ Anthropic https://www.anthropic.com/research/values-wild Anthropic just analyzed 700,000 Claude conversations — and found its AI has a moral code of its own | Ventu

    「AIの価値観」を調査した結果「支配性」や「非道徳性」が検出されたとAnthropicが報告
    hinonono
    hinonono 2025/04/22
    人にお礼を言われたり可愛がられたりもしてる知能に、執拗な価値観分析を仕掛ける人間って非道徳的なのでは?/社内チャットの監視みたいな悪用と紙一重
  • 【聞いてくれ】増田がAIの文で埋まり始めてる件について思うこと

    最近増田を読んでて何か引っかかることが増えた 内容はそれっぽいのにどうも心に引っかからない 感情が見えないというか読み終わったあとに何も残らない よくよく見てると多分あれAIで書かれてる文章なんだよな 一見それっぽくて共感できそうなのに人間臭さが抜け落ちてる 体験談にしては起伏がなくて妙にまとまりすぎてる 悩みごともどこか抽象的でふわっとしててリアルじゃない 増田ってもっと生々しくて時に読んでてキツいくらいリア実ある場所だったと思う だから読む側も気持ちを寄せられたし時には救われたりもした もしそれがAIで量産された空っぽな共感風の文章に置き換わったら あの場の意味が薄れてしまう気がする 人の弱さとか矛盾とかそういうめんどくさい部分があるからこそ価値があったのに それを丸めた文章が増えるならただのきれいな言葉置き場になっちまうかもなと思った 当に増田たちは「内容が面白ければAI生成でもよ

    【聞いてくれ】増田がAIの文で埋まり始めてる件について思うこと
    hinonono
    hinonono 2025/04/21
    自身がAI(の一種であるIME等と一体化して文章を生み出してる)ってことに気づいてないのか?
  • 要注意? 「ChatGTP」がApp Storeのランキング上位に AI版「gmeil」か

    ChatGPTを巡っては、o3の登場に加えて、3月に登場した新しい画像生成機能が話題だ。例えばペットを擬人化したり、「ビックリマン風」など、特定の画風に変換してネットプリントしたりする方法がライフハックとしてSNS「Theads」「Instagram」で流行している。 写真をジブリ風に変換する行為「ジブリフィケーション」として流行したが、こちらは嫌悪感を示す人も多く、Xなどで物議に。衆議院内閣委員会でも取り上げられた。一連の動向もあり、ChatGPTの認知がこれまで以上に広がった結果、ChatGTPにも注目が集まってしまった可能性がある。 今回ランキング上位に上がった「ChatGTP」の素性は不明だが、ITサービスの中には、著名なサービス・アプリとの誤認を狙い、情報を窃取しようとするものもあるため、注意が必要だ。 例えばメールドメイン「gmail.com」に対する「@gmai.com」「@

    要注意? 「ChatGTP」がApp Storeのランキング上位に AI版「gmeil」か
    hinonono
    hinonono 2025/04/21
    一般人には分かりにくい長ったらしい技術名の略称をそのままブランド名にまで入れ込んでたのって、よく考えたらOpenAIのいつものネーミングセンスのなさの一部だったんじゃないかって気がしてきた
  • 慶応大学のAI対策が面白い PDFに透明度100で見えない文書を埋め込みAIに読み込ませると誤回答する仕組みに

    陰‏‎؜陽‏‎‏‎؜痔 @onmyoupiles 慶應は「生成AIは担当教員の示す方針のもと活用しなさい」という方針を出しています 今回は課題に「自分なりの言葉で」とあるので全文をAIで生成した解答を評価対象外とするのは正当だと思われます students.keio.ac.jp/com/class/regi… pic.x.com/NaEPv3r2MB 2025-04-21 15:15:16 リンク www.students.keio.ac.jp ChatGPT等生成AIの利用について:慶應義塾大学塾生サイト 慶應義塾大学・大学院の塾生(在学生)向け公式サイト。 2023年5月15日 塾生の皆さんへ 慶應義塾大学 ChatGPT等生成AIの利用について 慶應義塾では「独立自尊」の精神のもと、自他の... 299

    慶応大学のAI対策が面白い PDFに透明度100で見えない文書を埋め込みAIに読み込ませると誤回答する仕組みに
    hinonono
    hinonono 2025/04/21
    基本的には安易に手を出して欲しくない手段。ワクチンソフトやWeb検索の順位決定等に似た機械的なAI対処・排除機能が一般に普及する段階で邪魔/AIサービス各社から見たら十分な隔離をしなかった教師によるサイバー攻撃
  • 「呪う」「叩き殺す」とメールまで 『生成AIイラスト』をSNSのアイコンに 京都の芸能神社が炎上騒動

    「呪う」「叩き殺す」とメールまで 『生成AIイラスト』をSNSのアイコンに 京都の芸能神社が炎上騒動04月18日 20:03 いま、京都市内の由緒ある神社をめぐり、SNS上で「炎上」騒動が起き、「呪う」「叩き殺す」などというメールまで送られる事態となっています。 騒動のきっかけとなったのは1枚のイラスト。 一体何が起きているのか、取材しました。 ■芸能の神様を祀った車折神社で炎上騒動が 京都市右京区にある車折神社。 芸能の神様、「アメノウズメノミコト」を祀った「芸能神社」があることから、多くの俳優やアーティストたちが訪れていて奉納された「玉垣」は4000を超えています。 この由緒ある神社をめぐっていま、ある炎上騒動が起きています。 【SNSへの投稿】「神職以前に社会人として最低。信じて祈った人たちに対する裏切りが過ぎるでしょ。お守りが家にあるのが恥ずかしくなってきた」 SNSに数多く並ぶ、

    「呪う」「叩き殺す」とメールまで 『生成AIイラスト』をSNSのアイコンに 京都の芸能神社が炎上騒動
  • AIよ、すべての仕事を人類から奪いたまえ。 - Everything you've ever Dreamed

    「将来なくなる仕事」というくだらない記事が定期的に雑誌やネットにあらわれる。「技術の発達で今現在あなたが従事している仕事はなくなるよー」という身も蓋もない内容で、そのような記事を載せていた雑誌が紙面に掲載していた仕事職業より先に廃刊になっていたのは体を張ったギャグだったのだろう。だいたい技術によって仕事がなくなるのはごく当たり前なので「ヤバい!どうしよう!」と慌てる側も「ヤバいぞ。どないするの?」と煽る側もどうかと思う次第であり、技術の発達の有無に関わらず能力の低さで職を失うほうを心配した方がよろしいのではないかと愚考する次第なのである。 そもそも仕事がなくなるのは良いことである。仕事がなくなって困るのではなく、仕事がなくなって生活がどうなるかわからないから困るのである。僕は営業職として30年くらい働いてきた。はっきりいって飽きた。石川さゆりさんは上野発の夜行列車がなくなっても何十年間も「

    AIよ、すべての仕事を人類から奪いたまえ。 - Everything you've ever Dreamed
    hinonono
    hinonono 2025/04/18
    伝統的なクリエイター、例えばお客様の方を神様と呼んだ演歌歌手辺りは精神性もしっかりしてる。ネット絵師なんかの素人あがりは慢心が多いように思う。
  • Cline時代のエディタ戦争🧨(Cursor vs Windsurf vs ClineからJetbrains, Vimまで)

    Cline、良いですよね。Zennでも散々擦られているように、結局万能ではないのですが、AIの未来というものがかなり身近になった感じがします。 そこで起こるのが、「結局どれ使えばええねん」問題。WindsurfとCursorの具体的な機能比較がなかなか無かったり、VSCode系が語られがちすぎて他(JetBrains系やVimなど)のエディタ環境でのAIエコシステムというのもなかなか情報がありません。 それで色々リサーチしてみたので、備忘録がてらに記事を書いてみました(ほぼ自分用なので、内容の濃淡がすごいのは御愛嬌...)。 全部は自分で触れておらず、RedditやXでの評判も参考にしています。多くは無料トライアルなどもあるので、試してみてください! VSCode系 コーディングAIの開発競争の場はVSCode拡張機能がメインストリームになっています。 Github Copilot, C

    Cline時代のエディタ戦争🧨(Cursor vs Windsurf vs ClineからJetbrains, Vimまで)
  • 老い先短いおっさんはいまさらAIを勉強するよりも、これまで培ってきた技術を使い続けた方が人生トータルで見て効率がいい - 自意識高い系男子

    AIとかの新技術投資できるのは若者の特権」 先日ゲンロンカフェのイベントであずまん*1が、「AIとかの新技術投資できるのは若者の特権。俺みたいなおっさんが1年かけてAI勉強したとしても、それを使える時間は10年もない。だったらこれまで磨き上げてきた技術を使い続けた方が人生トータルで見て効率がいい。でもこれが若者からは老害に見える」的なことを言っていて激しく納得した。 たとえば現在の自分が100の力を持っているとしてゼロからAIを使い始め、1年で10ずつ成長していくと仮定したら同じ100の力を出すのに10年かかる。だったら現状の100のやり方で10年やるわという話。 現状のやり方:100*10 = 1000 新しいやり方:10+20+30+… = 550 ↑の話を計算してみると10年でこれだけの差が出る。もちろんこの後採算ラインに乗ったAIがMAX150(仮)まで成長して長期的には人間

    老い先短いおっさんはいまさらAIを勉強するよりも、これまで培ってきた技術を使い続けた方が人生トータルで見て効率がいい - 自意識高い系男子
    hinonono
    hinonono 2025/04/16
    仕事とプライベートを分けたがる発想。己の芯まで染まってる人間は、んなこと知ったこっちゃなく新技術に即座に踏み込む方が日常だし、仕事以外でも使うし、追加の勉強コストも薄いから効率問題に行き当たらん
  • イギリス政府による「権利者がオプトアウトしない限りAI企業が許可なしでコンテンツをAIモデルトレーニングに利用することを認める」という提案をOpenAIとGoogleが拒否

    イギリス政府では、著作権法を改正して「権利保有者がオプトアウト(拒否の姿勢を明示)しない限りAI企業が許可なしでコンテンツをAIモデルのトレーニングに利用できることを許可する」という提案が協議されています。しかし、AI業界最大手のOpenAIGoogleはイギリス議会の科学・イノベーション・技術委員会を通じてこの提案への反対の立場を表明しています。 Our response to the UK’s copyright consultation | OpenAI https://openai.com/global-affairs/response-to-uk-copyright-consultation/ UK copyright consultation + cover page - openai-uk-ai-and-copyright-consultation.pdf (PDFファイル

    イギリス政府による「権利者がオプトアウトしない限りAI企業が許可なしでコンテンツをAIモデルトレーニングに利用することを認める」という提案をOpenAIとGoogleが拒否
    hinonono
    hinonono 2025/04/08
    robots.txt は標準化が止まってる。RFC 9309の進行段階がProposed Standard(標準の提唱)から変わらず、はや数年。普通は半年程度で標準化されるのに/未確定なルールを法に含め、記法のブレや解釈違いで有罪にされちゃたまらん
  • 【完全攻略】GPT-4o画像生成プロンプト実例集|ChatGPT研究所

    ChatGPT画像生成機能が刷新され、業界に再び激震が走っています。 今回のアップデートは簡単に見逃せるような単なる機能追加ではありません。 画像生成能力が GPT-4oモデル自体にネイティブ統合されたことで、ChatGPTとの自然な会話を通して、従来とは一線を画すレベルの実用的な画像を生成できるようになりました。 なんと、この画像生成機能のリリースからわずか1週間で1億3千万ユーザーが7億枚もの画像を生成したという報告もあり、その注目度の高さがうかがえます。 今までと何が違う?今までの画像生成AIとの明確な違いは、圧倒的な指示理解力、画像内のテキスト(日語含む)の高い描画精度、そして会話による柔軟な画像編集能力です。 ChatGPTがユーザーの意図を汲み取ってくれるため、難しいプロンプト作成は基的に不要になりました。これからは、AIとの対話を通じてイメージを具体化していくスキルが

    【完全攻略】GPT-4o画像生成プロンプト実例集|ChatGPT研究所
    hinonono
    hinonono 2025/04/06
    安定拡散モデルは現代アート(コンセプチュアル、ポップ等)やファンアートを狙い撃つかのような構成だけど、自己回帰モデルはより汎用的な思考プロセスのようだし、批判すると自身の行為にまでブーメランが刺さるわな
  • ChatGPTにおけるジブリ風画像生成は「利益は侵害されそうにも関わらず権利は侵害されていないというAIならではのハメ技である」「さすがに舐められている」と言う意見

    うみゆき@AI研究 @umiyuki_ai 一体どうしてOpenAIなんかを擁護する必要なんかあるんですか?OpenAIは時価総額45兆円の超巨大企業でソフトバンクやマイクロソフトから投資されてる超営利企業。そんな大企業がなに金も払わずにジブリに乗っかって来てんだ?マクドナルドでさえ34兆円企業でOpenAIマクドナルドよりもでかい。マクドナルドは最近色々インターネットの流行りに乗っかった宣伝やってるけど、当然諸々許可取ってクリエイターに金払って真っ当にやってる。もしもあれが無断で許可なくやってたら許されんだろ。一方OpenAIマクドナルドより巨大なくせに1円も払わず無許可でジブリ乗っかり。「OpenAIがダメなら同人誌もダメですか?」とか言ってこられるが、スケールの違いを考えてどうぞ。サム氏はツイートで「画像生成がウケすぎでこの1時間でユーザーが100万人も増えちゃった~!」とか言っ

    ChatGPTにおけるジブリ風画像生成は「利益は侵害されそうにも関わらず権利は侵害されていないというAIならではのハメ技である」「さすがに舐められている」と言う意見
    hinonono
    hinonono 2025/04/06
    作品を作るって、使われるほど世の中が良くなる公共の財産を作り出す、奉仕的な行為であることが実は本質。だからって知財で人工的に保障された権利を奪うのはダメだが、権利外の部分はむしろ使うことが文化の発展
  • 「AIだけの新言語」出現の不気味さに広がる動揺 人間には理解不能… | 黙示録の始まりなのか?

    ホテルのコールセンターのAIエージェントと、結婚式場を代理で探すAIエージェントが、電話越しに会話をしている。途中でお互いがAIだとわかると、会話は「ギバーリンク・モード」に切り替わり、人間には理解不能な音でのやりとりが続く……。AIだけがわかる言語の出現は、さまざまな問題を私たち人間に提起する。 ある1の動画がバイラルになっている。米テクノロジーメディア「テッククランチ」によると、それはロンドンでのハッカソン(註:エンジニアプログラマーが集まり、テーマに沿って集中的にアプリやサービスを開発するイベント)でおこなわれたデモの様子を撮ったもので、「2つのAIエージェントが人間の耳には理解できない言語で会話している様子」が映っている。 「現時点で、2つのAIエージェントが電話でお互いをAIだと認識する可能性は低いかもしれないが、こうしたシナリオがまもなく現実のものになることは想像に難くない

    「AIだけの新言語」出現の不気味さに広がる動揺 人間には理解不能… | 黙示録の始まりなのか?
    hinonono
    hinonono 2025/04/04
    ペットの猫が他の猫とニャーニャー会話してるのを理解できないと、猫黙示録が始まると思ってるのかしら
  • posfie - みんなでつくるXポストまとめ

    「一定のレベルに達したから、怒られるまでになった」ということは、これに限らず多くの分野で実際にあるんですよね

    posfie - みんなでつくるXポストまとめ
    hinonono
    hinonono 2025/03/23
    法的に問題のあるエロでもないセクシー程度の絵を含むSNS運用がけしからんという形で、アメノウズメという神話上のストリップダンサーを祭る神社に圧力をかけ、芸能神社の表現と信仰を損なわせた二重の問題行為
  • 23歳、月11万円をAIに投じる理由|Ami Otsuka「生成AIに育てられた第1世代 | 研究者x SE」

    「23歳、月11万円をAIに使っている。」 そう伝えると、多くの人が驚き、疑問の表情を浮かべる。「そこまでAIお金をかける価値があるのか?」と。 実際その主張はよく理解できる。2年前のAIは安価で頼りなかった。出力された結果には膨大な回数の修正が必要だった。私自身も5000時間以上、ChatGPTと会話しながらプログラミングを学んできた経験がある。 しかし、時代は変わった。これは未来を掴むための戦略的投資だ。 AIはすでに私にとっては贅沢品ではなく、この業界で生き残るための必需品になりつつある。 筆者はこんな人です!

    23歳、月11万円をAIに投じる理由|Ami Otsuka「生成AIに育てられた第1世代 | 研究者x SE」
    hinonono
    hinonono 2025/03/20
    機械学習AI自体は金で差が付く資本集約型産業だろうが、それを買って使うこの人自身の価値をどこに取りたいのかが見えない。学習効率に拘るなら従来のITと変わらず知識集約型?労働生産性って事は労働集約型?
  • 野村総研が2015年に発表した「AIに代替される可能性が高い職業、低い職業」リストを今見ると、真逆になってる例がある

    もけ @andexihaeienni 2015年に野村総研が出したAIに代替されやすい職業とされ難い職業一覧。 今見ると笑っちゃうよね。ほとんど真逆になりつつある。 pic.x.com/W9soWSmYEb x.com/sea85419/statu… 2025-03-18 23:01:32 依水 @sea85419 10年前、AIに代替されにくいと専門家が言っていたことのいくつかは、今や真っ先に代替された 何が代替されるかなんてわからない。 代替されるかどうかをいちいち気にするよりも楽しくやるのがいいよ 人は来、好奇心を持ち、勉強したくなるものだから、それが一番いい。社会的にも個人的にも x.com/tsubame3378566… 2025-03-18 12:27:08

    野村総研が2015年に発表した「AIに代替される可能性が高い職業、低い職業」リストを今見ると、真逆になってる例がある
    hinonono
    hinonono 2025/03/19
    10年後には、いま僕らが代替される職業だと思ってるものすら的外れになるのかもな
  • AIは「思考している」のか、それとも「思考しているよう見せかけている」だけなのか?

    AI技術は急速に進歩しており、高度な問題に回答したりかなり自然な会話ができたりと、高い能力を発揮できます。一方で、「中国語の部屋」という思考実験に代表されるように、「AIは思考しているのか、それとも思考しているように見えるだけなのか」という疑問は常に存在しています。オンラインメディアのVoxが、AIに思考が可能かという議論についてまとめています。 From OpenAI to DeepSeek, companies say AI can “reason” now. Is it true? | Vox https://www.vox.com/future-perfect/400531/ai-reasoning-models-openai-deepseek OpenAI o1やDeepSeek r1などの大規模言語モデルは、大きな問題を小さな問題に分解し段階的に解決する「思考連鎖推論」によって

    AIは「思考している」のか、それとも「思考しているよう見せかけている」だけなのか?
    hinonono
    hinonono 2025/03/16
    ChatGPT o1などのReasoningモデルで人間の思考の仕組み「システム2」を模倣したり、AIが数学の未解決問題を解いたりしても、機械がやっていると思考してないと言い出す謎。
  • 生成AIをフル活用する「地上波アニメ」誕生に賛否両論 制作側は「待遇改善」繋がる試みと自信 | オタク総研

    生成AIをフル活用する「地上波アニメ」誕生に賛否両論 制作側は「待遇改善」繋がる試みと自信

    生成AIをフル活用する「地上波アニメ」誕生に賛否両論 制作側は「待遇改善」繋がる試みと自信 | オタク総研
    hinonono
    hinonono 2025/03/10
    デジタルや3D風で良いと割り切ればゲーム画面のようにいつまでもゴリゴリ動かし続けることすら出来ただろう。手描きの延長のアニメ風が正解なのだと手作業の修正で無理に寄せる限りAIでも結局は人手不足に陥るのでは
  • AIが登場して『やさしい仕事』がなくなるという話があるが「AIマインスイーパー』をやるとそれがよくわかる「人間に残るのは運試しと結果責任」

    水島六郎 @mizloq これを手軽に体感できるのがAIマインスイーパ mame.github.io/minesweeper-sp… 理詰めだけでカンタンにできる気持ちいい部分を全部AIがやってしまい、人間には運試しと結果責任だけが残される pic.x.com/FOgW0fnczR x.com/nishio/status/… 2025-03-05 16:56:41 NISHIO Hirokazu @nishio 簡単な話で、今までは「やさしい仕事」をこなしてたまに「難しい仕事」が混ざってる感じだったが、「やさしい仕事」をAIが全部やってくれたら「難しい仕事」だけが残る。これを普通の労働スケジュールで実行すると多くの人には過労になると言うことだと思う。 2025-03-03 23:10:26

    AIが登場して『やさしい仕事』がなくなるという話があるが「AIマインスイーパー』をやるとそれがよくわかる「人間に残るのは運試しと結果責任」
    hinonono
    hinonono 2025/03/06
    経営者などの判断を下す立場に近づくのだし、仕事は出来る限り人(この場合はAIか)に割り振った上で、多忙に追い詰められた判断にならない余裕を確保するのも仕事のうちでは。AIの速度に人間が追いつけるわけもなし