Geminiの助言で遭難、食料も水も不足--ずさんな登山が浮き彫りにする「AI依存」の危険性

3人は8月30日午前3時に出発し、16時間後に登頂した。しかし下山中、1人が転倒して脚を負傷した後、道に迷った。救助隊は31日、3人全員を無事に救出した。 登山者らは救助隊に対し、計画を立てる際に複数のテクノロジーを利用したと認めた。動画共有サービス「YouTube」、アウトドア向けフィットネス・レクリエーションアプリ「AllTrails」、GoogleのAI「Gemini」などだ。シスキュー郡保安官事務所は「Facebook」への投稿で、Geminiに大きく依存したことは重大な過ちだったと指摘している。 投稿には「3人は現場の保安官代理に対し、ルートに関する情報や登山に持参すべき物について、GoogleのGeminiに大きく頼っていたと話した。これは重大な判断ミスだった。特に、8時間の予定だった登山が複数日に及ぶ過酷な事態となる中、Geminiの助言に従って持参した食料と水は、一行に必要

[miki3k]

この頃多い。AIを使って「調べたのに間違ってた」っていう人。それ調べてないんだよ

[transmetallation]

こんなもん garbage in, garbage out でしょ。　要件定義は物凄く難しい。正しい問いを立てないと正しい答えは返らない。

[heyjoe0123]

お前らわかってないな。こうやってAIが徐々に人間を殺そうとしてるんだよ。ロマンあるじゃん笑

[torum]

大昔この山のすぐ近くにしばらく住んでいた。非常に美しい大自然の異世界。登山で普通に死者も出る山だというのは友達から聞いて知ってた。

[iphone]

こんなん「大事な判断にGeminiなんか使うな」しか言うことないよなぁ。現代AI議論の俎上に立ってない。

[n_pikarin7]

AIが悪いんじゃなくてAIに頼りっきりの人間が悪い

[plank]

1日の行動時間はせいぜい7〜8時間が限度、達人がUL装備で16時間くらいだと思うが、計画時で8時間行動なのに、行動開始から16時間で登頂の時点で詰んでいる。AI以前の問題。途中で撤退しろ。標高 4,322m。標高差 2,100m。

[hatomugicha]

この3人が経験者なのかど素人なのかで話が変わると思うけど

[kyahi227]

やはり生成AIは「考えたくない」タスクを「見ない」使い方に収束するな。おやつは三百円と言われたらそれで済ます。成果物が出来ましたと言われたらそのまま出す。そして突き返されたり炎上したりするとすぐ諦める。

[masaniisan]

浅くネット漁ってそれっぽいこと言うのが上手いヤツって考えてる。全然知らないことザックリ概略まとめて教えて、くらいの用途ならいいが、カネとか生命とか、重要案件を丸投げしてはダメ。AIに権威性を見出さないこ

[jou2]

AIは「AIが出した答えが正しいかどうか判断できる基礎力を持っている人」だけが有効に使えるんだよ

[gamecome]

**大変失礼しました！**　登山には慎重な計画性を持って臨まなければいけません。食料も水も十分にお持ちください。他に調べたい事はありますか？　近くのオススメの山などをお調べできますよ。

[kkcnnjfkjqndbfkdo]

AIじゃなくても、自称•プロ登山家の助言でも同じように遭難することはあるんでない。自動運転とかもやけどすぐテクノロジーやそれに頼る人のせいにすんのへんなの

[lilicarium]

しかもよりによってGeminiかという

[sun330]

訊いてる側にビミョーに忖度して回答してくるのが薄気味悪いと思ってる…

[hiroomi]

”この登山には、ほかにも問題があった。3人によると、スマートフォンのバッテリーが切れ”バッテリーの残量気にしないやつがllmの答えの質何って問うのか。丸投げだよね

[quwachy]

せめてGPT-6使えよ

[petitbang]

AIの回答を検証もせずにそのまま投げつける人は、こういう情報を相手に送ってるのかもしれないって自覚を持ってほしい。

[napsucks]

ポンコツぶりを知ってると、geminiなんか使う方が悪い、と言いたくなるw

[mtoy]

ブログ記事を参考にしたら運営者が批判されるのか、書籍を参考に遭難したら著者が悪いのか。何を参考にしても、本人が判断したのだから本人が悪い。

[dp212]

AIはブレストを補助する道具として使うくらいが良い

[t1mvverr]

スマホ依存も危険性うんぬん言われてたけどインフラになって結局あまり解消してないし、AIも歯止め掛けられないんじゃないかな…

[nainy]

ただのキャンプだとしても、ネットで無料の情報はやっぱそれなりに思うしなぁ。危険な山の登山となると、専門書とかアウトドアショップの店員に聞くが必須に思う。

[BOUSOUNINJIN]

Geminiは本当に馬鹿だし、しかも個人版は有料版でもAI学習に使われてAI学習からオプトアウトする設定が無い。（あるにはあるけどチャット履歴が見れなくなるデメリットが大きすぎる）

[rizenback000]

AIを頼るにしてもよりにもよってGeminiはやめてよ……って感じ。

[ata00000]

適切な回答を得られるようにAIに問うプロンプトを作ったうえでAIの回答が間違っていないと検証する必要があるが、それをやるなら自分で調べたほうが早いからなぁ⋯ AIで調べ物が楽に、は幻想だと思うわ

[annindofu]

Geminiは最近間違いが目立つようになり、一般的な質問だとChatGPTのほうが正しい回答を示してくれることが多い。

[o-o-w]

AI厨「Claudeなら問題なかった！」

[minboo]

じゃあChatGPTやClaudeならOKかというとそうじゃないので、この見出しもどうかと思うな

[takelushi]

自然淘汰→人為淘汰→AI淘汰

[Cherenkov]

登山 AllTrails

[keren71]

救出費用は無料なのかな？

[hir_o]

最近GoogleのAIモードで腕時計の電池交換の型番調べて自信満々に間違えられたな。他のことでもそうだけど突っ込んでも1回は合ってると返すか答えを行ったり来たりするんだよな。検索エンジンなのにさ

[natu3kan]

普及版の安いAIは未経験の問題を概算で推定したりするの苦手な面もあるよな。経験すればすぐ分かる事って結構あるから経験者に訊いた方が精度高いよな。機械修理でもAIに訊いて修理失敗してプロが尻拭いは稀にある。

[softboild]

遭難した状態でスマホが使えててGeminiに相談してたらどう答えたのか興味がある。

[ayumun]

AIがまともに答えるのはプログラム関連の話くらいじゃないすかね。AIさんもプログラム分野の人な訳で、同じ分野の事しか分かんないよねと思ってる。法律、税金関係の回答はホントにゴミ

[otchy210]

標高 4,321 m の山に 8 時間、って時点で「こいつ変なこと言ってるぞ？」って直感は働かなかったのか？？素人でも気づく。そんな山、どうやって 4 時間で上まで登るんだよ…。

[bayaread]

まず Gemini は現状フロンティアモデルではない。Fable や Sol にきちんと相談すれば問題なかったはず。モデル選択と、コンテキストをちゃんと伝えられてない愚かな人間の合わせ技！

[zkq]

AIもそうだけど、ググることも調べることに変化してきている。

[eiki_okuma]

「Geminiなんか使うからだよ」「すみませんでした。次からはChatGPTを使います」