「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」

IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。 Aidemy Premium 「倫理的に問題がある」など批判 物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。 削除されたブログ これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講

[moonieguy]

医師法か薬機法か微妙だけど違法だよね。あとここでいう倫理はふわっとしたお気持じゃなくて専門課程での必修科目のこと。ネットでAIスゴイってやってる連中の程度が良くわかる

[sugawara1991]

AIの学習に使用したデータソースそのものの出自と正当性が不確からしい件には触れないのか。チューターの資質や運営姿勢に疑問符が付くのだけど

[natumeuashi]

ちゃんとした臨床データを使ってる訳でも無さそうだし、エビデンス０の偏見助長するだけなオモチャ作られたらそりゃ‥

[amunku]

善意で作りました みたいなノリだったのも色々つらい。

[zheyang]

仮に実用化されたとしても、医師がこれだけで判断することはない。判断材料の一つに過ぎない。科学的根拠があるとしても、一般公開すれば濫用されて差別に使われる。根拠があることと差別になることは両立する。

[puruhime]

記事を出した人の保護にも言及しててよかった。叩かれてプログラム作るのやめますってなったら最悪だったよ / 昔、笑顔を判定するプログラムが叩かれてたのを思い出したよ。一概に比較できるものではないのだけれど

[y-mat2006]

まあ、結局こうなるわなあ。エクストリーム擁護してた方々はハシゴ外された形になったわけで。

[urandom]

とりあえず、GenAI 活用を支持する意図でこういう手垢の付いた論点にまみれた例まで擁護している人は、自身が一番厄介な「無能な味方」であることを理解してほしい。

[You-me]

自閉スペクトラムは識別するものではなく診断するものだというあたりをまずねぇ　診断は医師の独占行為だから最低でも病院と連携してやってないといけなかった。病院なら最低でも倫理委員会は開いたでしょ

[itarumurayama]

多分、血液型性格診断程度には、「自閉症は顔に出る」と思ってる人はいて、そういう層には刺さるサービスなんだろうと。

[nyarla-net]

そもそも顔認識技術自体、プライバシーの侵害や反政府組織と「見なされた」人々の追跡と排除、に対する反監視社会の文脈で「取り扱い注意」な技術だと思ってたんだけど、この通念ってあんまり共有されてない……？

[lithiumflower2]

診断ツール作るところまではいいとして、一般公開しちゃうのか謎すぎる

[cha16]

製作者は「支援者」と名乗る植松聖と同類の差別主義者のクソ野郎だったことは忘れてはならない。

[MtAsuka]

チューターが「特定のテーマを肯定あるいは否定するなどは行わず」ってのは良いことのように思えるけど、AI講座ではテーマをどう選定すべきかはAI倫理として教えるべきことそのものではないのか。

[ublftbo]

《実害》が少ない云々との意見がありますが、まずこれは《実害を予め防ぐ》べく批判された経緯がありますし、実害の評価自体が簡単ではないわけです。疾病等のスクリーニング一般に言えることです。楽観的すぎます。

[for-my-internet-demo]

かなり渋々なのちょっと不思議さんなのか

[oka_mailer]

WELQは遠くになりにけり。

[caffephilia]

https://www.kaggle.com/datasets/fazlayrabbi3/autistic-children-facial-dataset

[chiroruxx]

AIを活用する上で重要なことが学べて良かったとも言える

[djsouchou]

受講者がMotherfuckin' Foolish Basterdな判断をしたり成果物を作成・公開する蓋然性を想定してなかったのかな？

[atoh]

なんでそんなデータセットがあんねん？

[Harnoncourt]

2型糖尿病の人or素因のある人は顔に特徴があって自分はわかる。何パターンかあるんだけど、１つは漢方でいう実証＆熱証の人。

[sds-page]

素人に毛の生えたレベルの実装でアレがあってもなくても今後の研究開発には影響しない。むしろ真面目に医療用AI作ってる人が勘違いされる可能性まであって今後のAI研究開発の障害になる代物だった

[asahiufo]

そのうち右翼判定アプリとか維新支持者判定アプリが出るかもしれない。って論法が通じる程度の低レベルな党派性コメはアホらしいから控えようぜ。

[cartman0]

流石に消したんやな　https://qiita.com/YUUUUUUUUUNA/items/278397b273860806cc46

[TakamoriTarou]

今回の件で、倫理規定というものが自分を縛るものだと解釈している人が多いのも理解が足りてないと思った。あれは社会を守ると同時にそれに携わる者を守る為の規定でもあるんだよ。要するにリスク管理なんだよ

[puhu208n]

運営に火の手が及ぶまで記事を消しもしない、作って自慢して履歴書に書いたらどうなるか想像が出来ない受講者自身が当事者なんだろうと思うぞ。弱者は救いたくなる見た目をしていない。

[sakidatsumono]

“受講者自身も後に「医学的根拠は現状ない」と追記しています。”おいおいおいおい

[augsUK]

おそらくITエンジニアだろうブコメが、「倫理」をただのお気持ち位にしか捉えてないのも怖いだろ。医療画像の機微画像の解析のルールがあるのだが。

[donovantree]

そのうち日本人判定アプリとか作って「15円50銭」と言わせる代わりにスマホを向けるようになるのではないか。公安が共産主義者とかテロリストを判定するアプリを使うようになるかもしれない。

[strawberryhunter]

仮に医学的知見に基づいていても受け入れなさそうな意見が多いのは残念。それと顔に特徴が出るのはダウン症と併発している場合だと思われASD単体では表情に特徴があっても顔の形は変わらないのではということも。

[lenore]

ダウン症の特徴的な顔容（ホリが浅くて瞼が厚く吊り目気味）がアジア人的な特徴と一致するから欧米では差別的に呼ばれてたよね……。というのを思い出した。つまりアジア人同士で自閉症顔の比較なんて五十歩百歩。

[ameo4795]

顔で判別ついたら診断不要にはならないよね何に役立つの

[hevohevo]

“修了条件である成果物（アプリ・ブログ）は公開必須でないにもかかわらず、公開必須でないことに明確な言及ができておらず”　えー。サービス公開せず勉強のために作ってみました記事だけなら違う展開もありえた

[omega314]

欺瞞臭がすごい。

[paperot]

骨相学のリバイバルも近い

[mockmock9876]

(技術者)倫理には善悪の判断基準の面があり、幅広い知識がなければ判断できないんだよね。技術者がやらかしたなら倫理観の欠如だけど、今回は技術者じゃない人がやったんで倫理感の欠如と言って良いものかなのか？

[oakbow]

とてもじゃないが実害の少ない失敗例とは思わないけどな。。相当な実害があると思ったし、似たような事例が続かないように大きく声を上げるべきだと思ったよ

[rgfx]

なんかAIファンボーイたちが思想強めに正論パンチがんばってたけど、結局は社会的にOKかどうかで裁かれてて「そらそうよ」ってなってる

[yuma_0211]

生成AI推進するテック企業って、専門家の意見を全く聞かないで、「はい作った！見て見て！便利！（便利ではない）」だけなんだよね。倫理的問題とか正確性担保しないし、責任は取らないで、やったもん勝ちで進めてる