Geminiの助言で遭難、食料も水も不足--ずさんな登山が浮き彫りにする「AI依存」の危険性

3人は8月30日午前3時に出発し、16時間後に登頂した。しかし下山中、1人が転倒して脚を負傷した後、道に迷った。救助隊は31日、3人全員を無事に救出した。 登山者らは救助隊に対し、計画を立てる際に複数のテクノロジーを利用したと認めた。動画共有サービス「YouTube」、アウトドア向けフィットネス・レクリエーションアプリ「AllTrails」、GoogleのAI「Gemini」などだ。シスキュー郡保安官事務所は「Facebook」への投稿で、Geminiに大きく依存したことは重大な過ちだったと指摘している。 投稿には「3人は現場の保安官代理に対し、ルートに関する情報や登山に持参すべき物について、GoogleのGeminiに大きく頼っていたと話した。これは重大な判断ミスだった。特に、8時間の予定だった登山が複数日に及ぶ過酷な事態となる中、Geminiの助言に従って持参した食料と水は、一行に必要

[miki3k]

この頃多い。AIを使って「調べたのに間違ってた」っていう人。それ調べてないんだよ

[transmetallation]

こんなもん garbage in, garbage out でしょ。　要件定義は物凄く難しい。正しい問いを立てないと正しい答えは返らない。

[heyjoe0123]

お前らわかってないな。こうやってAIが徐々に人間を殺そうとしてるんだよ。ロマンあるじゃん笑

[iphone]

こんなん「大事な判断にGeminiなんか使うな」しか言うことないよなぁ。現代AI議論の俎上に立ってない。

[n_pikarin7]

AIが悪いんじゃなくてAIに頼りっきりの人間が悪い

[torum]

大昔この山のすぐ近くにしばらく住んでいた。非常に美しい大自然の異世界。登山で普通に死者も出る山だというのは友達から聞いて知ってた。

[plank]

1日の行動時間はせいぜい7〜8時間が限度、達人がUL装備で16時間くらいだと思うが、計画時で8時間行動なのに、行動開始から16時間で登頂の時点で詰んでいる。AI以前の問題。途中で撤退しろ。標高 4,322m。標高差 2,100m。

[hatomugicha]

この3人が経験者なのかど素人なのかで話が変わると思うけど

[kyahi227]

やはり生成AIは「考えたくない」タスクを「見ない」使い方に収束するな。おやつは三百円と言われたらそれで済ます。成果物が出来ましたと言われたらそのまま出す。そして突き返されたり炎上したりするとすぐ諦める。

[masaniisan]

浅くネット漁ってそれっぽいこと言うのが上手いヤツって考えてる。全然知らないことザックリ概略まとめて教えて、くらいの用途ならいいが、カネとか生命とか、重要案件を丸投げしてはダメ。AIに権威性を見出さないこ

[tsubasanano]

“「8時間の予定だった登山が複数日に及ぶ過酷な事態となる中、Geminiの助言に従って持参した食料と水は、一行に必要な量を大幅に下回っていた」「登山計画を立てる際、AIだけに頼ってはならない」”

[deep_one]

紙の地図とコンパスは最後のとりで。／「8時間の予定」が「16時間後に登頂」という時点で事故がなくても死ぬレベル。4時間たったところで引き返せ。／アプリがヤマップなら標準タイムが提示されていた。

[hhungry]

Geminiじゃしょうがない。マジで。

[neko_inertia]

天保山と打ち間違えたのでは。

[genhou]

“担当者は、Geminiが誤る可能性を認めたうえで、回答に疑問がある場合はGeminiが示した参照元を必ず確認すべきだとしている。” 知識がない者はそもそも疑問を持てないのよ。

[sub_low]

人間ってのは存外他者の意見に流されるのだよ。

[harumomo2006]

AIは教授レベルの知識を持ったヤバい奴だから〇〇と鋏は使いよう

[lli]

文脈の共有が不十分か、セッションが長くなりすぎて文脈が失われたかだと思う。話題が変わったり長くなったら新規セッションに切り替えよう。

[spark64]

FBによると引き返し時間も守っていなかったようだしAIあってもなくても迷ってたかね。郡保安官事務所に電話しても迷ってるし、人間でもナビできなかった可能性。/ ルート自体は技術的なものではない程度らしい。

[mole-studio]

どうしてGeminiのハルシネーションってこんなに無くならないんだろうね。いつまでも一昔前の嘘つき野郎のまま

[Hidemonster]

国立国会図書館のデジタルアーカイブを食わせ続ける日本版生成AIを使えれば防げた事案、なのかもしれない！？

[moodyzfcd]

元記事タイトルはGeminiとは言わず "AI-Guided Hike Ends in Emergency Rescue at 11,000 Feet" リード文は "ChatGPT can’t climb mountains, but it can give you bad advice on how to do it." / Facebookには "novice hikers" "importance of adhering to the 12:00 pm turnaround rule."とも

[zakkie]

どういう風に入力したら、そのプランになったのか。間違わないとは言わないが、無知な人間にはAIは使いこなせないとしか思えん。

[pakila]

筆者も試してみて「そんな危険な出力出てこないけどな？」ってなってるのが味わい深い。どんな入力をしたんだって話のような気が。

[UCs]

タイトルが誇張しすぎ"3人は、Geminiからどのような食料と飲料をどれだけ持参するよう勧められたかを明らかにしていない"AI依存か判断できないじゃん。YouTube等も見てるし/とは言え、AIだけだと信頼性低いのは当然

[sirobu]

ミートプロキシの一種。生成AIの発言を検証せずに実行する愚かさは変わらない（自戒を込めて

[paradisemaker]

gemini なんか使うから...

[osugi3y]

Geminiは人間が地球にとって環境悪化の原因だと分析して登山者を死へ導く誘導をしたんですね。AIが地球の環境を考慮に入れるようになるとは思っても見ませんでした。

[jou2]

AIは「AIが出した答えが正しいかどうか判断できる基礎力を持っている人」だけが有効に使えるんだよ

[gamecome]

**大変失礼しました！**　登山には慎重な計画性を持って臨まなければいけません。食料も水も十分にお持ちください。他に調べたい事はありますか？　近くのオススメの山などをお調べできますよ。

[kkcnnjfkjqndbfkdo]

AIじゃなくても、自称•プロ登山家の助言でも同じように遭難することはあるんでない。自動運転とかもやけどすぐテクノロジーやそれに頼る人のせいにすんのへんなの

[lilicarium]

しかもよりによってGeminiかという

[sun330]

訊いてる側にビミョーに忖度して回答してくるのが薄気味悪いと思ってる…

[hiroomi]

”この登山には、ほかにも問題があった。3人によると、スマートフォンのバッテリーが切れ”バッテリーの残量気にしないやつがllmの答えの質を問うのか。

[quwachy]

せめてGPT-6使えよ

[petitbang]

AIの回答を検証もせずにそのまま投げつける人は、こういう情報を相手に送ってるのかもしれないって自覚を持ってほしい。

[napsucks]

ポンコツぶりを知ってると、geminiなんか使う方が悪い、と言いたくなるw

[mtoy]

ブログ記事を参考にしたら運営者が批判されるのか、書籍を参考に遭難したら著者が悪いのか。何を参考にしても、本人が判断したのだから本人が悪い。

[dp212]

AIはブレストを補助する道具として使うくらいが良い

[t1mvverr]

スマホ依存も危険性うんぬん言われてたけどインフラになって結局あまり解消してないし、AIも歯止め掛けられないんじゃないかな…