画像だけの問題じゃねーのよ 医療的なことにAIを使うのは安易にやると問題..

画像だけの問題じゃねーのよ 医療的なことにAIを使うのは安易にやると問題があるの。 例えば「AIでガン診断、あなたのガンを見つけるAI」ってのがあったとして 「診断ではガンじゃなかった」と安心した人が実は癌で放置したら手遅れ、なんてことも起こりうる。 自閉症、顔の傾向だけで当てられるのか、確率はどれぐらいか、それをツールとして公開することの是非、 「自閉症顔」というカテゴリを作る危険性…などなど、いくらでも倫理的・医療的問題がありうるのに 「AIすごい！自閉症顔の検知AI作ってみました！」と素人が安易に公開したからぶっ叩かれてるんだよ。

[poko_pen]

読影AIはもう実用されててめちゃくちゃ活用されていた筈だが…

[Yutorigen]

人間による読影も見落としはあるので現状使えるものは使うのスタンスでAI読影併用してほしい。

[circled]

ChatGPTに症状相談して、複数の症状的に当てはまる可能性はこれ！という病名に辿り着いたので病院に行ったら、医者に「なんともないですね〜」と言われて、せめて血液検査しろ、と伝えたところ陽性 → 紹介状の流れ

[hom_functor]

実用されている医療AIが当然踏んでいるプロセス全て無視して「素人が安易に公開」したら当然問題になる

[kou-qana]

あれそもそも教師データの信憑性が怪しいのでは

[ho4416]

内視鏡AIってもう人間の専門医と同等の早期胃がんの診断できるし人間の見逃し防止にAIは近いうちに必須になるよ

[rna]

ポンコツAIならニセ医療だし、マトモなAIでも過剰診断問題は出てくるし、スティグマ性の高い疾患の場合差別的な選別に使われかねないし、どうにもならんのよね… / 医師が使うのはOKだけどルールは必要。

[mole-studio]

導入事例とか出してるブコメは全員論点を理解してない。あれを一般人が自宅で使うことと、医者が医療機関で使う意味は全く違う。

[taruhachi]

確かに読影AIはめちゃくちゃ重要なポジションを占めている。その一方で線虫でがん診断とか、甲状腺がんのスクリーニングとか、遺伝子診断とかのむしろ過剰診断によるリスクの方がデカそうに思う。そこで医者が必要。

[cvtbgspuda]

医療従事者の補助としてのAIは可能性しかないのでどんどん普及してほしい。AIに胡坐をかくと診断すら下せないんだけどね。AIの結果をどう使うかは使用者の責任なので責任とれる人が使ってください。

[nobori_lupin]

どこからが安易かの線引きは難しい。個人的には自己判断の参考にAIを利用するのはありだけど、素人が他人に使うのはナシ派。

[fhvbwx]

倫理を置いておくとすると、ポンコツAIは医療に限らずゴミだし、まともなAIでもゴミデータセットで学習してたらどうにもならない

[udukishin]

よく読むと増田は「素人が作った追試もしてない医療システムもどきを出したらそりゃ炎上するだろ」と言いたいように読めるけど言葉足らずなせいで誤解してる人が多いな

[cubed-l]

EUのAI規制法解説でも読んでリスクについて考えたらどうかな。https://www.pwc.com/jp/ja/knowledge/column/awareness-cyber-security/generative-ai-regulation10.html

[buriedarmy]

ASDの診断基準にはその特性が原因で「日常生活や社会生活で大きな影響が出ていること」があって、ASDの性質があっても困っていないなら病気ではない。画像診断一発では決まらないから、ただのレッテル張りになるだけ。

[Insite]

distinguishするプログラムを作るのは自由。diagnosisは医師が業務独占している。

[iokutan]

またAIアレルギーが騒いでるのか

[chiguhagu-chan]

ASD、顔に出るレベルの人は喋れば一発でわかるのでわざわざAIに診断してもらわなくていいんだよな。軽度だと面接とかでうっかり通しちゃうことがあるからそれ防止用に使うとか？

[Tack2Me]

これ医師法に抵触するんじゃないの？医師免許持たない者が病名を告知するわけでしょ。誰か詳しい人教えて。

[bellonieta]

ASDFaceの論文とか2022年には出てるんだし、それを試しに作ってみたって話をこんなに大袈裟にされても感

[flont]

素人が安易にやるなって話に医療機関で使われてる別種のAIの話持ち出すブコメの字の読めなさが心配になるレベル

[Re-birth]

これをガンの画像診断と同列にしてるのはさすがにやばい。ガンは基本的に見た目でわかるからこそできる医者の診断から学習できるが、まだそれなら顔に出る遺伝子疾患ならわかる。発達障害なんて遺伝子と顔関係ない

[dot]

医療でもAI活用する研究が進められてるし論文いっぱい出てる。標準治療になるにはハードルあるので安易に使われることは無いけど。論文検索とか遺伝子周りの臨床じゃない所では普通に活用されてるよ。

[iyashi33]

あいつはADHDやらサイコパスやらを無遠慮に好き勝手に言う人がそれなりにいて、そういう人がAIを嬉々として振り回しそうだなと

[pwatermark]

だから医療には免許が必要で、免許ない人が「診断行為」すると罰せられるのよ あくまで機械はサポートするだけ

[ka-ka_xyz]

医療機関で使う画像診断AI関連は、ちゃんとPMDAの審査は通してるはずで https://www.pmda.go.jp/files/000251247.pdf 、「さっくり作って公開してみた」みたいなのを擁護するために持ち出すのは無理やろ……

[oakbow]

読影AIを反証のように挙げてるブコメがあるが、素人が作った的中率も何もかんも不明なフワフワAIアプリと同じはずないじゃん。安易な利用が問題なんだし、資格持ちの専門家が使うツールとして運用されてるんだし

[kappa_yc]

本件、論点が散らばりすぎてて空中戦にしかならなさそう。自分は意義はわかる。研究倫理とツールの妥当性、信頼性には問題あり。ツールによる偏見の助長の責は開発者ではなく社会の側にある、というスタンス。

[omega314]

AIなんかに頼らず自力（人間力）で差別していこうな！

[scorelessdraw]

少なくとも医療現場でのAIの活用とChatGPTに相談したら～という話をごっちゃにしたらいかんだろう。

[enemyoffreedom]

まぁ元増田は表現の自由を憎悪する戦士っぽいので真面目に反応しても

[rogertroutman]

強化学習のデータセットで、癌組織のある写真には必ず組織の大きさを判断するメジャーが映り込んでいたためＡＩが「メジャーがあれば癌」と学んでしまった、っていう古いエピソードが好き。

[Lhankor_Mhy]

よくわからんがジャストアイデアで発言してるのがトランプ大統領候補のような人だと思う。ここがジャストアイデアでなんでも発言していいという社会なら、ジャストアイデアでなんでもコーディングしてもいいと思う。

[TakamoriTarou]

↓大仰に捉える必要ありますよ。よくわからず発言する前にAI・技術者倫理なり調べてね。　技術的将来性とか他の医療AI事例とか関係なく、倫理問題の検証と認証をちゃんとやれと言う話。この手の倫理規定はリスク管理

[KoshianX]

よくわからんがジャストアイデアでやってみたらうまくできませんでしたって話をそんな大仰に捉える必要ある? むしろ自閉症顔なんてものは存在しませんというのを補強しただけな気がするんだが

[deep_one]

逆にAIの方が見つけやすい症例もあるんだが。基本はAIにアシストさせるものである。

[hecaton55]

警鐘を鳴らすのは必要ではあるけど、便利な技術があれば使っちゃうのが人間だから仕方ないね

[buhoho]

実際に性能測ってどれくらい診断結果の信憑性があるのか。不明な診断法は倫理的にも実害もあってまずそうな気がしますね。AIやってみたという努力をアピールするのには不向きな題材だよね

[eiki_okuma]

フラジャイルとか読んでると人間の限界がわかるよね