AIが「安全」判定キノコに猛毒 食べた少年が一時危篤、中国湖北省：朝日新聞

中国湖北省武漢市で6月、野生のキノコを食べた9歳の少年が、一時は生死の境をさまよう出来事があった。AI（人工知能）で「安全」と判断されたが、猛毒の成分を持つキノコだったという。中国共産党系の地元紙「…

[opaopachang]

完全にこれ。容易に予想できる回答かつ罠。https://pbs.twimg.com/media/HLjL4k7WYAEhB49.jpg

[xxix29]

キノコの識別は傘と軸を見るだけでなく裏返してヒダを見る、根元のツボを見る、裂いて中を見る、試薬を使って反応を見る、それでも判別困難なことが多いので適当に撮った画像だけで判別できると思ってはいけない。

[ShaoSylvia]

ネット検索が普及し始めた頃なら検索結果を鵜呑みにして中毒に！みたいなのありそうだし、その前の時代だって素人がポケット図鑑で誤判定して～とかどうせあるでしょ。本質は意外と古典的なニュースなのでは

[kathew]

ジョークで見かけたことのあるネタだったけど、9歳の子供がやっちゃったか。。。　命に関わる分野をAIにすべて委ねちゃダメだよ

[hosiken]

キノコの写真で食べられますと断言するAIってGrokだけじゃないかな。他のAI(ChatGPT, Gemini, Claude, Qwen)は絶対に自己判断で食べないで専門家に見てもらえと警告する。なんのAI使ったのか https://x.com/i/grok/share/cquPWAkFYdIoTb37C3AsRgfzm

[udukishin]

キノコは同じ形のもので別種？(ここもよくわからないらしい)で有毒だったりする場合もあるから本当に大丈夫と知ってるもの以外は食べてはいけない

[homarara]

栽培してないキノコは食うな。

[shidho]

まあ、どんなキノコだって一度は食べられるからな。

[kyahi227]

大規模言語モデルは「言語」モデルだから言語として自然であればデータの少ない画像情報の詳細や真偽については拘らない、そういう回路が備わってないと何度言った所でまあ大衆には分からんわな

[YokoChan]

AI便利に使うのは良いけど前提としてAIも間違える事があると頭の片隅に置いておかないと酷い目にあう。またあたかも正解のように嘘をつく。

[georgew]

使ったAIアプリは一体何なんだろう、中華製か？

[charun]

政府・医クラが安全と判断したワクや薬も猛毒だが・・・

[Akech_ergo]

試しにチャッピーに聞いたら、「このきのこ何？」の時点で「食用かどうかは判断できません」と太字で警告してきた。賢い。 https://chatgpt.com/share/6a4ca6c7-1d10-83ee-839b-e98918b95d6e

[nicht-sein]

まあ、AIの現在の方針として「食べられる？」って聞いたら「食べられる」って答える傾向が高そうだからなぁ

[brusky]

両親といっしょに行っていて9才が判断したのか。

[kamezo]

９歳……子供がなんで野生のキノコを。助かってよかった。日本でも起きてるのか／昔、キノコ採りの名人と言われる人を取材したが「隣の山のはわからん」と言ってたな。変異しやすいんかな。

[soybeancucumber]

日本への威嚇攻撃といった、日本の安全を脅かすような情報は絶対に記事にしないけど、こういう情報は記事にするんだね

[ustar]

生殺与奪の権をAIに握らせるな

[aosiro]

この先生きのこれるのだろうか

[nandenandechan]

病気関係とかGeminiに聞くと、注意書き出てくるけどね。しょっちゅう見てたら、流しちゃうような定型文ではある。しかし、嘘付く事をわかってないんだろうな。名前を教えて貰ったり、軽くAIで調べてから自分でネットで

[peperon_brain]

「〇〇タケに見えるが、ならばここがこうなってるはずだから確認してください」までのガイドならいいんだよね。1アングルから見える特徴量だけで一発判定ていうアプローチそのものが間違ってる

[ysync]

自生してるキノコを食う理由がまず無いしね。AI以前の話。

[shikiarai]

キノコの写真を撮るときは最低限全方位から撮って、類似キノコも提案させろ、か。そも同じ見た目でも独自進化して毒を持つ可能性もあるので野生のきのこなんてよほど飢餓でもなければ喜んで食わない方が良い

[oyamissa]

国内でもちょっと前になかったっけ。画像系はかなりまだ誤回答多いイメージ。/去年か https://newsdig.tbs.co.jp/articles/-/2303290

[miyabisun]

生成AIって「文章の推論」が仕事だから、人間の思考とは全く違う。ろくに囲碁将棋・オセロも出来んぞ。その限界を正しく理解して子供に教えられる大人が必要そうだ。

[sunamandala]

児相通報の件と言い似たような事故が次々起きるなぁ… どんなにAIがすすんでも間違いは起きるし、結局最後に実行するかどうかは人間が決めるんだもんな

[kachikachi2]

AIアプリ作った側の責任、みたいな話が全くないのが良いね

[trailhead_l]

家族で出かけた時にキノコを見つけて「AI検索信用して食べて死ぬ人とかいそうだよね」と話したばかり。きのこ狩りの玄人が図鑑見ながらでも時々間違うと聞く。AIで同定できない、という新たなリテラシー教育が必要。

[bbrinri]

きのこ取り名人は食べられるキノコを覚えてそれだと判断できなければ排除する。見た目それっぽくても生えてる時期や場所が怪しければ排除する。判断が難しいキノコはそもそも取らない。ホワイトリスト方式。

[rider250]

嫁出身地ド田舎在住だがこの手のニュースの度に嫁がいつも「ここら辺のド田舎で生えてる天然キノコを食べる人は誰もいない。如何に判別が困難かよく知ってるから。天然キノコ食うのは都会の阿呆だけ」と言ってる。

[otihateten3510]

なぜ命を預けるんだｗ　こういうのはAI側からNG出さないとだよなー

[urtz]

あのミームが実現してしまった

[shields-pikes]

専門家でさえ、一枚の写真だけでは判定できないだろうし、キノコに特化した強化学習もさせてないだろうから、判定は難しいだろうな。

[moodyzfcd]

"厚生労働省は、画像検索" これかな https://www.mhlw.go.jp/stf/web_magazine/closeup/13.html 長江日報ぐぐったら "インターネット上で流れている噂を信じた結果、ある人物が網膜剥離" https://www.vietnam.vn/ja/tat-bong-vong-mac-do-so-xui-vi-giat-mat-phai

[hecaton55]

画像だけでは判別が難しいものだと知らなかったのだろうか

[kajika0]

縦に裂けるやつは食える、に比べればマシな気もするが、俺も生まれた土地や時代によってはAIも迷信も信じていたと思う。

[natu3kan]

見た目だけの判別はキノコの成長段階次第でも特徴が微妙すぎて、プロでも白確だせない時あるからなあ。スギヒラタケみたく食べれるかと思ったら分かりにくい毒性の毒キノコもあるし。大半の種は未発見だし。