「理解してから働く時代」が、そろそろ終わるのかもしれない、という話｜けんすう

こんにちは！ AI時代になって、かなり「理解しないけど仕事を進める」というのが増えてきたなあ、と思っていて、、 AIに考えてもらったやつをAIがレビューして、それをAIが実装する、みたいなことが起きた時に、中身についてあまり気にしなくてもいいときが増えてきました。特に、自分用のアプリやツールを作る程度だと、「中身のソースを一行も読まない」みたいなこともあります。 どう動いているのかを知らないと昔は不安だったのだけど、今はあまり気にしなくなっているのが、自分でもあります。 で、これは別に特殊なことでもないと思っていて。たとえば、電車やバスに乗るとき、あの車両がどういう仕組みで動いているのか、ちゃんと説明できる人って、まわりにほぼいないじゃないですか。 車を運転している人も、エンジンの中で何が燃えて、どうタイヤが回っているのかは、だいたい知らない。薬を飲むときも、どういう作用で症状が抑えられて

[ot2sy39]

車の仕組みは理解せず利用してるが、欠陥起因で事故が起こればメーカーが責任負う。一方、AIの出力を理解せず使ってそれが原因で事故・誤動作があったら誰が責任負うんですかね。

[unmarshal]

“電車やバスに乗るとき、あの車両がどういう仕組みで動いているのか、ちゃんと説明できる人って、まわりにほぼいないじゃないですか” 例えが悪過ぎて、それだったら整備士とかじゃないの？

[nikutetu]

工場で勝手にレポートなんてそんなもんまだできんわ。IT系のタコ野郎はブルーカラー全般のことになると急に解像度低いこと言い出すからムカつくんだよな。

[d346prt]

電車は電鉄会社が仕組みを知ってるからエンドユーザーが理解できてなくても利用できるのであって、AIの利用者とはレイヤーが違うよね。AIによるプロダクトの提供者と利用者で考えないと。

[moronbee]

使う側はOKとして、原理やツールを作る側はダメじゃない？

[yash268925]

「終わるのかもしれない」じゃなくて「終わってほしい」願望で書かれたのだとヒシヒシと感じる。フレームワークの裏でなにをやっているか考えなくていいのと、AIがやった仕事を精査するのをゴッチャにしちゃだめ

[aionarap]

身の回りの製品の中身が、AIと同じぐらいしか「正常さ」を担保されてないと思ってるならショック。工業製品は不良品を出さないことに多大なコストをかける。そういう取り組みを認識しないとこういう認知になるのか

[lbtmplz]

建築業界から技法だけを取り入れて安全第一だけを切り捨てた業界は違いますね

[Eiichiro]

ただ、車が空を飛べないことは知っているし、車で電車に乗ろうとはしないので、何ができて何ができないのかは、理解している状態は必要あるんだよね。AIプログラミングで何ができるかは理解している必要がある。

[WildWideWeb]

事故がもたらす不条理の受け入れが定着すれば。刑事事件として訴える先が見つからず、民事のなかで製造者責任問うても雲散霧消するがそれで納得できるか的な。あるいは天災、飛行機事故のような受け止めができるか。

[akisibu]

「理解ー分解ー再構築」→理解を外して「分解ー再構築」ってことになると「規矩作法 守り尽くして破るとも離るるとても本を忘るな」に照らして本も末もわからぬ本末転倒を予見できるが、末の松山　波も越えなむ。

[Hidemonster]

"知的労働って...理解が、その仕事に参加するための資格になっていた。ここが、電車や薬とは違う"知識が無いのかそういう人向けビジネスなのかしらんけど馬鹿馬鹿し過ぎる。糞互助会はせめて質をみてブクマしろや。

[repon]

たとえばネット驚き屋とか連続起業家とかが、彼らだけ罹患するウィルスで死滅しても、社会は何の問題もなく運営されていくどころか、以前より健全になるよ。

[jb8079431525325]

終わるわけがない。終わるとしたらそんな働き方をする人間の方だよ。理解しない、作業もしない、ただAIに指示するだけ。価値があるとしたら、そんな方法でリリースしたもので責任問題が起きたときの生贄として、かな

[somaria3]

自分はViveCodingにおいて人間がボトルネックであるとまず潔く認めるエンジニアのほうが誠実であるとは思うよ

[m-kawato]

どの時点でAIハイプが崩壊するかずっと気になっているが、なかなか崩壊せず期待レベルが際限なく上昇している感

[takashiski]

生成AIの出力そのままを専門家に投げつけて専門家を疲弊させる人の話をしてる？流用できる部分が1つもなくて全部捨てて書き直さないとどうにもならないタイプのやつ。

[sambmetta]

自分の価値を見失いそうで、"コーディングには理解がないといけない！"と必死に唱える人たち、あわれなり

[naggg]

いろいろと違和感あるけど、ブコメの指摘がためになるー

[hkdn]

知的労働が無くなるというか、極めて狭い概念になる未来がもうすぐに来そうで早く定年退職したい

[chaoschk]

工場でのミスの始末書の件、AIで始末書作成自体の作業効率化は良いとしても、人がミスの主因を理解することは必要では？その始末書配布でミスが根絶する担保があるなら、人の理解は不要だけど。

[mnnn]

いやーさすがに「俺は知らないが誰かは知ってる」状態じゃないと怖くない？と思ったけどこの世の中完璧に解明されてることの方が少ないかぁ

[sleepyuzura]

AIの責任範囲について弁護する弁護士もAIになるかもね

[dot]

実は「責任を取る」という仕事が残されていてな。理解しなくても責任ちゃんと取ってくれるならそれはそれでええのではなかろうか。

[mertedi]

本文読んでないが今の単なる機械学習プログラムではなく、本当の（自律型の）AIが登場したとき、人類では理解できない回答だけが示される。ブコメにあったが、誰が責任を取るのかが問題。自動車の自動運転も同じ。

[sororo9797]

無料部分しか読んでないが、指摘されてることはその通りって感じする。この世の理をすべて理解して生きることは出来ないので当たり前ではあるけどね。

[shinsho]

将来的には「みきおとミキオ」みたいに、人類は割り算もできなくなるんだよ

[rokusan36]

チコちゃんに叱られそう。今ちょうど見てた

[kawabata100]

金もらわない分野に関しては仕組み知らんくてもいいが、金もらうならある程度専門性が必要では？これも業務内容によるか

[manbennaku]

APIもライブラリも提供元が品質担保しているから中身を理解していなくても使えるけど、AIの出力だと誰が品質を担保するんだろう。

[nabe1121sir]

この人の耐えられない軽さほ何なんだろう

[hammondb3]

AI丸投げの世の中の恐ろしさは誰も責任を取らなかったり、自分の成果物がかすめとられたり、個人情報が勝手に流用されたりという今まで所与の前提とされていたものが自分の預かり知らぬところで奪われることだよな。

[sd-craft]

そろそろって何年後の話ですか

[nekoneko713]

いつまで経っても中身スッカスカの文章しか書けないって言うのも才能の一種なのかもしれん

[ibusuke]

“自分用のアプリやツールを作る程度”なら、その通り。俺もそうなりつつある。ちょっとした自動化スクリプトは本当に簡単、RPAでシャドーIT量産した企業とか数年で負債になるよ。

[hatest]

今までだって「完全に理解した(キリッ)」と言ってるぜんぜんわかってないやつが仕事してきたんだから…

[fcqpy455]

終わったらまずいだろ。AIには責任はとれない

[ee83jaige]

なんか原価厨っぽい思考回路だなと思った。目の前の出来上がってる最終成果物しか目に入って無くて、それが手元に来るまでにどれだけの理解してる人間とプロセスが間に積み重ねられてるかを想像する力がないというか

[sierraromeo]

使う側と作る側では違うはずだなんて、ブクマカは随分と夢想的ね

[niwaniwaniwauwaniwaniwaniwa]

"知的労働だけは「理解」が入場券だった" "エンジニアリングでは、もともとそう（補足:中身を完璧に理解しないまま使う）だった" ITエンジニアは知的労働者ではない……？自分で何言ってるかわからなくなってないか？