「そもそも生成AIでやるべきでない問い」に、企業が挑んでしまう問題｜深津 貴之 (fladdict)

わりと複数の企業のお悩みが、「そもそも生成AIでやるべきでない問い」にチャレンジして疲弊してる。ので説明メモ。 大企業が生成AIを導入してうまくいかないケースの多くは、ツールの性能不足というより、業務設計がズレている印象があります。 もう少し正確に言うと、「AIが苦手な問い」をそのまま投げている。で、当然苦戦しています。 ポイントは大きく2つあります。 完璧性を要求する仕事を、やってはいけない ステップが長く連鎖する仕事も、やらせないほうがいい 順番に解説すると… そもそも完璧性を要求する仕事を、やってはいけない生成AIは確率分布で、未来を予測したり、答えを予測するマシーンです。つまり、「確率的に間違えが発生する」ことは仕様の一部です。 なので、以下のような「そもそも100%の正しさを前提とする業務は苦手」です。 正解が一意で厳密：数式の厳密計算、機械語や厳密仕様のコード生成（1文字違いで

[Anonymous2000]

ヤフーニュースのトップに載せて広く人口に膾炙してほしい内容。ガチで

[fromdusktildawn]

実際には、上流工程も人間がやった方が上手く行く。上流も下流も人間の方が上手くやれるのが現状。AIは上流でも下流でも「使い方によっては非常に便利な補助ツール」程度。現状は。

[h3poteto]

“「経営者が考えてAIが完璧に執行する」よりも 「AIが経営を考えて、人間が道具を使って完璧に執行する」ほうが、多くの場合うまくいきます。” つまり従業員をクビにするんじゃなくて経営者をすげ替えるほうがいい

[pero_pero]

動画界隈も「こんなにすごくなりました！もうAIで何でも出来ます！」といいつつ大部分の人が予告編しか作れていないという

[igz0]

“経営者もマネージャーも、現場やユーザーともっとふれあって、業務ドメインの解像度を高めていきましょう。手を動かす人は、思ってるより重要なんです。リストラとかを考えてる場合じゃないのです。”

[takuver4]

セミナーとかで上手く行っている活用例を聞くと、現在の仕事を細分化して「この部分だけAIに任せよう」と担当領域を明確化している場合が多い。AIに丸投げは大抵は失敗する印象がある。

[mutsuya777303]

これAIでやりたいって上からの話に、まったく同じような内容の資料を朝から作ってます。

[shiketanotsuna]

経営層を人工知能なりに代替するのが正しいですが経営層はそれをすることで組織の利益が上がるとしても個人は報酬系がバグった天然知能なので代替するという判断にはならないのです。資本主義はそんなもんでしょう。

[oroshi]

AIに最終判断を委ねられない一番の問題は「AIはミスした時の責任を取ってくれない」ってこと。いざって時に責任を取る(取らされる)ために管理職がいるわけで

[t2y-1979]

自分で使ってみてうまくいかない経験を積んでからが本番

[getcha]

実際に使っている人の経験を代弁していると思う。

[takatama]

AIが適切な治具を選んで使う仕組みもある（Claude Skills）。治具をAIと作ることもできる。治具作りはエンジニアの大事な仕事

[kiririmode]

生成AIを使って完璧性を要求する仕事をやってはいけない、ステップが長く連鎖する仕事もやらせないほうがいい。全体感が正しければ成果になる仕事を任せる

[tanakatowel]

AIで書いたんだなあという印象を受ける文章

[nekonyantaro]

「完全性が求められる領域につかってはいけない」当たり前のことが判っていない人が散見される。人がやって打率３割の仕事を５割にできたら凄い。

[gokichan]

どうだろうな。完全に任せなくても補助的に使うならスナイパーな使い方もできると思うが

[sagami3]

なんか偉くバズってんね？ 確かにコレはそう、となった良い文章でした。

[ming_mina]

手を動かす人のほうが重要という結論なんだけど、経営者ほど手を動かす人をAIにさせたがる

[manipulator]

経営とマネジメントをAIに任せた平社員創業者みたいなのがそのうち出てくるんだろうか。でも今の法律的には人間の代表者(責任者)が必要だろうし法律が追いつかないと難しいか / CEO以外のC〇Oを任せるくらいが現実的か

[remonoil]

"「AIが考えて、人間が完璧に執行する」のほうが、たいていうまくいく" / AIを教主とする教団みたいのが正解だったとはな

[curuusa]

コード生成してるけど、今のところ、ミシンのように使うのがしっくりする。コピペを100回やる編集作業を、生成AIに任せるとか。

[hatohateb]

入口と出口は人間で、途中の作業はAIに任せてるけど、最近は入口と出口をGeminiと壁打ち・伴走してプロダクトを仕上げてるな

[nihonbuson]

"生成AIは確率分布で、未来を予測したり、答えを予測するマシーンです。" / 良い表現方法。「テストで確認箇所を網羅する」「品質を担保する」とは如何に相性が悪いかも分かる。だからこそ人間の手も必要になる。

[prozorec]

“「細部の品質が100%でなくてもいいから成果がでる」や「成功率100%を要求されない」をみつけて、AIに与えることが大事。”

[asamaru]

もう一つは探索とか、データベース走査なども苦手

[ebibibi]

見えてる世界が私と全然違うな…

[mugimugigohan]

まったく本質ではないのだが冒頭の「間違え」に引っかかってしまった。広まっちゃったなあ

[chintaro3]

仕事の執行能力に関してAI以下の人が居ない訳ではないが

[nochira]

責任にも色々ありますね。金銭的な責任、心理的な責任、外部に対する名目上の責任等々。 作業の消化で責任取れるならAIにも責任取らせることできると考える。

[irh_nishi]

ちょっと違う。例えばJSON出力なら間違えないし、機械的に確認もできる。非構造化データの入出力なのかどうかの方が判断ポイントになるかと。

[racooon]

“「数字だけを見て現場をコストカットしようとする経営者」が「最もAIで代替しやすい人材」で、「最も費用対効果がよい」DX施策となります。”

[fujisong]

だんだん性質はわかってきて、深掘り・壁打ちもほどほどにしとくのがいちばん効果的

[sirotar]

そうそう。だから手を動かさずパワポエクセル叩くだけのコンサルがAIに駆逐されるんだよね。ラストワンマイルを握る者の時代

[soratomo]

AIに「正解」を求めるのはリスク高すぎだと改めて思う。チーム（組織）だとどう運用したらいいのか今も難題すぎる

[forestk]

「見た目の細部が品質を決める」のが苦手ということは、デザインをやらせるのは間違ってるということよね

[koogawa]

“「経営者が考えてAIが完璧に執行する」よりも 「AIが経営を考えて、人間が道具を使って完璧に執行する」ほうが、多くの場合うまくいきます。”

[yto]

だね

[John_Kawanishi]

t使い道が間違ってる例かぁ

[kijtra]

見出しや箇条書きの構成がChatGPTぽく感じた。AIの専門家はAIに似てくるのかな。

[byourself]

この文章もAIで書いてるな。用語の独特の癖がある。