AIに書かせたコードは理解する必要がある

こんにちは、@dyoshikawaです。 「AIコーディング時代に出力されたコードを理解する必要があるのか？」という議論についての私見です。 結論からいうとAIが出力したコードは理解する必要があると思っています。その理由を言語化してみます。 アプリが複雑になるとタスク遂行が困難になる 英語圏のエンジニアインフルエンサーにはAIコーディングの熱狂から一歩引いた見解を発信する人が結構いる印象です。自分の感覚を補正するために、そういった人をフォローしてときどき投稿を追っています（個人的に、未来は「エンジニア不要論」でも「AIぜんぜん使えない論」でもなく、両者の中間に落ち着いていくのではないかと思っています）。 元Uberでフォロワー27万人のエンジニアGergely Orosz氏の最近のポストです。 日本語訳: AIコーディングツール、バイブコーディング、AIエージェントについて多くの議論が交わ

[xsde]

100%同意でセキュリティ脆弱性などについてもまさにこの通り。丸投げダメ絶対。

[tmatsuu]

生成AIに学習させることを狙って、悪意のある者が脆弱なソースコードをせっせとGitHubなどのパブリックリポジトリに作り込んでるかもしれないね。それこそ生成AIを使って大量生産できそう。

[misshiki]

“アプリが複雑になるとタスク遂行が困難になる。気づかないうちにゴールが歪められている場合がある。AIに書かせたコードが脆弱性を含んだ事例。「テストが通れば実装がブラックボックスでもOK」ではない。など。”

[JULY]

同意。コピペしかできないプログラマーが要らなくなった、もしくは、サンプルとなるコードを探す事の効率が良くなった、という事で、日曜プログラマーには事足りても、職業プログラマーには足りない。あくまで道具。

[kei_1010]

理解してないけど、毎日生成された株取引分析用のコードを便利に使ってる。

[toaruR]

プロンプトの再現性も保障できる段階ではないしね（´－｀）仮動作に至ってない場合は、別のアプローチで作り直した方が早いまである。理解していれば具体的に細かく指示できる

[suka6411144]

結局作りたいものを明確に定義することやセキュリティや性能など非機能的な要件が難しいんだよな

[dotneet]

逆に言えば副作用がない純粋な関数であることを確認できればブラックボックスでも問題ない。「理解する」と「副作用がないか確認する」には差分がある。

[mmaka2787]

それもある程度AIにレビューさせるんだろうけど、最終的に人間の仕事はAIの出力に問題がないかをチェックリスト見ながらチェックするだけのブルシットなジョブになりそうだね。

[unmarshal]

“CursorやClineでAIにコーディングさせていると、いずれpit of death（エラーから抜け出せない、同じ失敗を繰り返す、etc・・・）が訪れます。これを復帰させるには、人間の開発者の手による修正が必要です。”

[tendanku]

今のAIはコードを学習し出力させているのだから、その出力を人間が保証する必要がある。学習元の人間がコーディングでハマるポイントはAIもハマりやすい。コード以外のアプリケーション表現を学習できないのかな

[yarumato]

“CursorやClineでAIにコーディングさせると、いずれpit of death（エラーから抜け出せない、同じ失敗を繰り返す、）が訪れる。復帰には、人の開発者による修正が必要だ。復帰させても、そう進まないうちに次のpitにハマる”

[erya]

pit of deathわかる気がする

[tamtam3]

みずほ銀行のアレ、今のAIが作れる感はない…… でもいずれ作れるようになる気も。今も上流工程で分割し、個々にAI君へ依頼しコードを出させ中身を説明させると、懇切丁寧に教えてくれるので、超優秀なPG感はある