顔写真から自閉症を判別してみた - Qiita

はじめに この記事では今回開発したWebアプリ、自閉症識別（後に理由を説明しますが、動作が大変モッサリです）を公開するまでの経緯や考え・思いをまとめた。 6月中旬に差し掛かる頃から、Aidemy PewmiumのAIアプリ開発コースで、Pythonを用いてアプリ開発を行えるようになることを目標に学んできた。その成果として開発したのが、顔写真から自閉症を判別するWebアプリだ。 この記事では私自身がプログラミング超初心者として、そしていち支援者として感じたことも多く綴っているため、必要に応じて適宜読み飛ばしてもらえると良いかもしれない。 開発開始に至るまで 私はこちらの記事にあるように、保育士として児童発達支援に関わってきた。大変ではあるが非常に楽しい仕事だった。とはいえAidemyの講座受講中、成果物を何にするかをずっと考えていたが、この領域で何かやろうなんてことは全く考えていなかった。

[ono_matope]

仮に学術研究（のようなもの）としての意義があったとしても、アプリの公開は倫理的に軽率。他人の顔写真を勝手に食わせて「こいつやっぱり自閉症だって」と言いふらすといった差別的な使われ方をされかねない。

[ignio]

もし顔写真から重犯罪者を判別するアプリを作った場合、米国のデータセットなら黒人が判定されやすくなるが、これは人種差別であり倫理的にアウトという教訓がなぜか共有されない業界。

[urandom]

オンラインスクールのチューター、この内容で質問を受けたなら教えてあげるべきことはもっと別にあるのでは……

[megumin1]

現代の価値観では「完全にアウト」な案件です。「統計的差別」というキーワードで検索するように。過去の事例もたくさんあります。やらかしてしまったことはしょうがないので、以降は気をつけましょうね。

[tekimen]

クレッチマーの類型論のように後に否定されるもののようにみえるし、素人（研究者ではない人のことを指す）が手を出していい分野ではないように思うので、まずは技術者倫理を学ぶべきだろう。

[kenjou]

これをWEBで公開するのって、倫理的にアウトでしょ。何考えてるんだ。データセットが存在しているからなんて理由にもならない。

[BoiledEgg]

この人が「都内で児童発達支援をしていたゴリゴリの文系保育士」を自称しているという事実、真夏ホラーとしてどうすか？／https://qiita.com/YUUUUUUUUUNA/items/6fceea73ec2d1f259809

[shindo_ryo]

「医師による自閉症の診断には時間がかかる」という事実から「素人が思いつきで即断してはいけない」と考えられなかったのか…/正直教育コンテンツを扱いながら倫理のりの字も知らないAidemyの責任重いよ

[sumijk]

脊髄ブクマカで溢れそうなので補足。この人はkaggle datasetにアップされた他人が作ったデータセットを使って学習させているだけ。このデータセットの出どころは知らんが一般に顔認識はじめASDの表情分析タスクは存在する

[itarumurayama]

多分、こういう「善意」から、アマチュアが自閉症診断アプリとか性犯罪予備軍診断アプリとかを開発公開するディストピアに、10年後にはなるだろうな

[kuracom]

削除された

[moonieguy]

どんなチンピラがこんな講座開いてんだと思ったら東大ベンチャーってマジか

[hot_ic]

工学部の大学では技術者倫理の講義があった。こういうのを見ると必要な事なんだなと。無邪気に技術を活用すると倫理に反する事すらできてしまう。／内心を変えるのは難しいが倫理観でオブラートに包む事はできる

[noname774300]

え、ASD傾向があるとか（医師でもなんでもない人たちに）よく言われるし、自分の顔写真で使ってみたかった🥺/倫理的に批判してる人たちは「あの人ASDっぽいよね」とか言ったことないの？

[ropon81]

追記部分、医学的根拠はないことを書けばOKだと考えている、とも読み取れそうで尚のこと倫理的に危険と感じた。

[samo1000]

無邪気に邪悪なことをやっていすぎませんかね

[shikiarai]

読みきれてないけど先行研究でASDが顔から判別がつくし顔写真から特徴量が出せますみたいなものがあんの？　それ無しでこれ作ってると、ちょっと一足飛びなツールになっちゃうよね。あったらごめんね

[radian19831019]

本文の経緯説明や https://qiita.com/YUUUUUUUUUNA/items/278397b273860806cc46#comment-56b1bceb05c4c5e96ba5 のコメント見る限り、本人というよりAidemyの終了条件や何よりチューターの後押しが悪いやろ。Aidemyがまともではないと思うけどな。

[kotorilovot]

「自閉症は顔に現れる」とさも事実であるように記載するコメントが多いですが、コミュニケーション障害なので、顔に現れることはありません。ダウン症は顔も診断項目にありますが、自閉症はありません。

[usurausura]

擁護してる人、批判意見を批判してる人、「これで一人でも早期診断に繋がるならメリットの方が大きい」派の人は、記事へのjapelin氏のコメント及びこの一連の投稿https://x.com/numenumerairai/status/1819938326587281860をよく読もう

[charun]

自閉症自体が利権＋ていの良い反逆者の排除と低賃金への分断させるために近い障害の一つ。その上に自閉症診断をカジュアル化しようなんざ、仕掛け側の犬かよ。通常の自閉症診断すら社会に問題しか産んでない。

[quintet245]

こっちにも指摘してる人いないのか。統合失調症を「相対すればわかる」とする「プレコックス感」やロンブローゾの犯罪人相学に通ずる差別やナチズムと一緒の考え方なうえ、疑似科学だから問題なんだよ

[rokusan36]

顔と性格や知能はなんかしらの関連があるかも、と昔から思ってる

[rawnyan]

職場でアスペ雇ってトラブルに見舞われた側からすると事前に弾けるのは嬉しいからこういう技術は研究進んでほしい

[PYU224]

よくこんな差別に繋がる事を思いつくなあ・・・

[mugimugigohan]

特徴的な顔貌になる疾患は世にあるが、ASDがそうだとは定まっていない。ただ「ASDぽい」と感じる表情はある。精度は不明。

[rgfx]

via: https://x.com/tbsmcd/status/1819723959019139390

[modal_soul]

既にあるデータセットというのが一番の驚きポイントだな。

[pecan_fudge]

アプリの公開の是非については、えらい方々が議論しているから置いておくが、機械学習を利用したアプリの開発記録としては、いろいろうまくいかなかったことも書かれていて貴重だとおもった

[atsushieno]

「広義の医療機器に該当する」という主張は不正ではないか。「自閉症なら精神疾患である」という愚直な判断は成り立たないし、これを医療判断とすると食事の傾向から糖尿病の可能性を指摘するアプリも該当してしまう

[rryu]

ChatGPTに聞いてることをメンターの人は教えてくれないのだろうか。学習としてはそこを深掘りしていくべきだと思うが、やってくれないならスクールに入っている意味がないような。

[amberjack115]

叩かれ過ぎでは？

[objectiveworker]

顔写真から似ているAV女優で探すサービスは叩かれないのに

[nicht-sein]

いや世界的なAI開発者倫理規定でNGな方向じゃない？たしか中国ですら、開発者倫理なんてそんなのかんけーねーとばかりに犯罪者っぽい顔を検出する顔判定AI作って、大炎上していた記憶が……

[melon-sodax]

案の定炎上してた

[ene0kcal]

作りたいもの作って得た知見は何だろう🤔

[UCs]

これを差別という人は、そうやって言う側が差別してるって事に気付いてないのかな。

[morimarii]

これが企画や課題提出で出てきたら「あたまおかしいのかな？」って普通にいっちゃいそう

[aoven]

控えめに言ってももう少しマトモなお題を選べとしか言いようがない

[yojik]

対象が児童ということもあって完全に倫理的にアウトだけど「防犯カメラに写った人が万引きするタイプか判別する」みたいな微妙なラインのシステムは実用化されてる。（オプトイン式にするのが最低ラインと思う）