『顔写真から自閉症を判別してみた - Qiita』へのコメント

ブックマークしました ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください Twitterで共有

[poppo-george]

データセットのクリーンさと信頼できるか自体怪しいよなーと思ってブコメ掲載の記事を読んだらネット検索して集めたとか規約違反でKaggleに削除されたからGoogleドライブに上げたとか書いてるんだが。

[crimsonstarroad]

医者が見た目まで含めて判断するってのと、見た目だけで判断するの間には、天と地ほどの差がある。

[y-mat2006]

顔写真とか病歴って割と機微な個人情報だったりするので、そう言う取り扱い注意データをど素人がネットから入手できると思ってること自体怖いよねえ。

[ublftbo]

線虫検査などを見ても分かりますが、（仮にデータ使用の問題をクリアしても）こういう検査ツールを、臨床的便益に繋がるかの慎重な検討なしに普及させることには問題があります。《取り敢えず広める》のは良くない。

[TakamoriTarou]

ちょいちょい「倫理」の解釈がおかしそうな人がいるな。なんか「道徳」「人道」みたいな意味で勘違いし、故に科学技術の追及が優先と考えてそうだが、例えば https://www.engineer.or.jp/c_topics/009/009289.html の様にもっと実際的

[augsUK]

元のデータセットらしきものは、インターネット検索して勝手に画像データセット化してkaggleに公開し、削除されたからGoogleDriveにおいたとかの、すごくダメなものなのでは？ https://www.kaggle.com/discussions/general/123978

[rna]

データセットはインド人エンジニア(医師とかではなさそう)が西洋人のスナップ写真から切り取ったような画像を集めたもので、同意の有無等は書いてない。権利的にも正確性的にも相当に怪しいと思う。

[urandom]

一通りの教育を受けた情報技術者なら誰でも問題に気付くような極端な事例。問題を指摘できないばかりか後押ししたというチューターは素人以下としか言えないし、Aidemy なるオンラインスクール自体の資質も問われる。

[dltlt]

現行の倫理指針では 第8 の１（5）に当り、この研究者がデータセットの各個人関連情報の取得の経緯を、保護者の同意取得がどうなっていたかを含め確認しなければならないケースだ。https://www.mhlw.go.jp/content/001077424.pdf

[itotto]

何がすごいのかというとまだ記事が消えてないところだと思う。大丈夫か...。

[ajiadvg]

倫理観ないっていい言葉だなーこれからどんどん使われそう

[lifefucker]

AidemyがAI Ethicsを教えてないのが悪いんだと思う

[avictors]

優生学まで行く以前に、時々えっ？日本人ネット民、ウヨサヨも、19世紀骨相学、ナチと全然変わってない人多いんだなあとなる。

[hnss]

まあ"Garbage In, Garbage Out"のこれ以上ない実例として有用ではある

[Gewalt]

雇用保険の教育訓練給付金で受けてるってことはこの『成果物』を修了条件として雇用保険という公のお金から本人というかアイデミーに金出るってこともアレ

[nekomottin]

Qiitaのガイドラインに完全に違反している 学術研究や医療に貢献する目的で顔を撮られた本人や親御さんの心中を思うと心が痛む　LINEのアルバムからも学習されてしまうようになると聞いたので警戒している

[hom_functor]

素人の医者ごっこがまず駄目で、それをAIに代行させたところで何も変わらない

[akghuaiooajt]

顔なんか整形できるし、写真だけでは無理やろ…

[yabusaki]

このアプリで自閉症と誤判定されて何らかの被害を受けたら作者も責任を問われるのだろうか

[yoiIT]

機械学習で得られた情報で腫瘍をAIで発見するのとかとは訳が違うよな。。

[chiguhagu-chan]

ADHDの顔が判別できるようになるAIが出たら喉から手が出るほど欲しい

[nandenandechan]

もちろん、個人的にアプリを作るのは自由だけど、実際のところ、これで診断するのは無理だし、一般に公開して、正確な診断と勘違いする人が出てきそう。ジョークアプリならセーフかも知れないが面白くない。

[hasiduki]

怪しいデータセットに頼るのは危険だよーー！！！！！！！！

[emt0]

初学者がexcelで加工できる程度のデータで分析して万能感得た感じ。ChatGPTがプロンプトを書いて投げても未だにググったレベルのコードしか返さんのに。

[rag_en]

他の視点からの指摘はともかく倫理云々については、いい加減『「倫理的に問題がある」は「何も問題がない」の迂遠な言い換えでしかない』くらい前提にしておいてほしい。/ https://dictionary.goo.ne.jp/word/%E5%80%AB%E7%90%86/

[by-king]

実際に精神科医は患者の見た目まで含めて診断材料にするときくので、意義ある試みではあるだろうが、記事の書き方が悪すぎる、に尽きるのだと思う。もっと配慮のある記述なら、反応も違ったんじゃないかなあ

[sgo2]

個別の配慮・福祉を本人の申請や個人情報に依らず自動的・スムーズに提供するにはあった方が便利程度(使い道は有るが必要性・必然性は低い)の技術。

[nekoline]

でも医療現場向けAIが開発されるならこれと同じ手法でしょ。今出てる生成AIが学習データで問題抱えてる所までそっくりじゃん。まぁ「顔写真から自閉症」の信憑性は素人では判断できんけど。

[omega314]

（これはこういう反応になるのか） / まあ、人類は統計を扱えるほど頭は良くないし、性格も善くないのだろう。