認知負債 - kawasima

生成AIがプロンプトからコードを大量に生成してくれるので、出力されたものを理解する時間と引き換えに早くリリースする。この構造は技術的負債と同じなので「認知負債」と呼ばれることがある。 Margaret-Anne Storey が AI 時代のソフトウェア健全性を技術的負債・認知負債・意図負債の3層で整理している Addy Osmani は AI 生成コードでこのギャップが急拡大する現象を「理解負債」と呼ぶ Thoughtworks Technology Radar では "コードベースの認知負債" を Caution に分類している 認知負債と意図負債を分ける Storey の3層モデルの肝は、コード側の問題 (技術的負債) と人間側の問題を分けただけでなく、人間側をさらに「人の頭の中」(認知負債) と「外部化された知識」(意図負債) に分けたことにある。 table:table 種類 宿

[sobatech]

負債もAIに解消させよう。もう行けるとこまで行こうぜ。

[Sampo]

『自動化で人間に残るのは「自動化できなかった残余」であり、最も負荷が高く曖昧なタスクが残る。監視役に回るとスキルが萎縮し、介入が必要な瞬間に最も準備がない』はい、これを強く懸念しております

[altar]

航空機パイロットはオートパイロット適応外の状況のための十分な訓練を課されるが99%の正常なフライトにおいて当然コスパは悪くコストカットしようとする零細航空会社は絶えない、みたいな構造を思い出す。

[gabill]

ビルゲイツ式の尋問がレビューの代わりになったりして https://web.archive.org/web/20190406043653/http://local.joelonsoftware.com/wiki/%E3%81%AF%E3%81%98%E3%82%81%E3%81%A6%E3%81%AEBillG%E3%83%AC%E3%83%93%E3%83%A5%E3%83%BC%E3%81%AE%E3%81%93%E3%81%A8

[work996]

関係ないけどこのサイトなんで一文字一文字spanで囲ってるのかな

[hakyu]

AIを使っていいのは、AIの問題点を自力で把握して解決できる人だけ。AIで解消しようとか本気で言っているような人はAIを使ってはいけない

[chikurou]

これ読んで、AI生成でテストケースを100%網羅したからテスト完了としても、想定外のソースコードが混じっていて余計な動作をするパターンがありそう。CIでそのケース確認できてたっけ？

[t-wada]

認知負債についてのまとめ。結論が重い "対策が分かっていても実行されない理由は、出力量を生産性指標にする組織と、仕事の安定を優先する個人のインセンティブにある"

[dotneet]

AIが作ってAIが理解してAIが修正するならコード上の認知負債は存在しないので問題ないぜ⭐️

[dltlt]

「監視役に回るとスキルが萎縮し、介入が必要な瞬間に最も準備がない」｜AI生成の成果物に潜在する問題は、文脈情報（意図と達成方策の連鎖）が欠如してると、事後的にAIに読ませても検出しにくいのでは？

[misshiki]

生成AI時代の「認知負債」を整理。技術的負債・認知負債・意図負債を分け、AI出力を小さく検証し、「なぜ」を残し、設計制約を機械可読にする必要を説く。

[t_f_m]

"「認知負債」はAI以前から存在するものなので、既知の対策も多い。AIで速度・量・所有不在の度合いが変わったから、これらの古典を AI時代の文脈で再評価する必要が出ているだけで、白紙から処方箋を作る必要はない"

[zou3dazou]

“「認知負債」はAI以前から存在するので、既知の対策も多い。白紙から処方箋を作る必要はない。対策が分かっていても実行されないのは、出力量を生産性指標にする組織と、仕事の安定を優先する個人のインセンティブ"

[habarhaba]

こういう知の結晶のようなものを書けるようになりたい。

[yamadadadada2]

「生成過程で形成されるメンタルモデルが形成されなくなった」これだなあ。ここを如何に対処していくかだ

[akagiharu]

品質の検証や設計思想の維持には人間のエンジニアによる判断が不可欠。AI過渡期のエンジニアの仕事はこれになるのかな

[tinsep19]

こうなるとJavaだとアノテーションで＠Requirementで参照する要件を指すとか、アノテーションプロセッサで要件の充足性を確認するとかまでいかなかったのが悔やまれるな。あったけど日の目を見なかったのかな

[d0i]

大丈夫、そのうちできるようになるよ> AIを使っていいのは、AIの問題点を自力で把握して解決できる人だけ。AIで解消しようとか本気で言っているような人はAIを使ってはいけない

[Cru]

“監視役に回るとスキルが萎縮”。日本の場合、AIが普及する前からプロジェクト毎に解散する請負で働くプログラマは非正規で元請けの正社員のスキルは萎縮しまくりだったんじゃね？

[nabinno]

SDLC/ITILは土台だが認知負債対策は意思決定の連鎖を残すこと。企画書は粒度が荒いので、チケット＋ADRでWhy/制約/判断を分解・追跡可能にする運用が現実的。

[morinaga3]

AI 認知負債

[objectiveworker]

質の低いプログラマーが書いたコードを納期の関係で無理やりリリースするのと同じ問題。つまり昔からある問題。

[wfunakoshi235]

“負債は何を指すか、を切り分ける 「認知負債”

[tanatana456]

AIによってコードレビューを減らしてもAIに作らせた仕様書を大量に読んでる

[fellfield]

『「認知負債」はAI以前から存在するものなので、既知の対策も多い』『白紙から処方箋を作る必要はない』

[perenyi]

“負債”は「借り物の資産」でネガティブな意味はない

[atlas_estrela]

ちゃんと考えて読むの、本当に疲れるんだよな。読まないとやらかすし

[paradisemaker]

本質的な話

[tanmeso]

人間が書いたときでも「コピペしてきただけだから仕組みは分からん」や「自分で一から書いたはずだがこれを消すとバグる理由がもう分からんから消すな」まみれだったのをさもAI以前はなかったかのように語りおるわ

[pure_luca]

“意図負債”は言語学の語用論の観点からも語れる気がする。

[chaoschk]

そろそろAIによる実装のソースコードは、コンパイルされたバイナリコードと同じ扱いにするしかないのでは？　人間がメンテするのはAIへの指示書。論理回路の自動合成ツール出現時に、これと同じ議論をしてた。

[nuara]

めんどく債

[awawann]

もしかして分野外の技術分野で人をマネジメントをやるときも同じ問題が発生する？

[bike-a-to-z]

そこまで負債あるか？逆に緩和されたと思うが。そもそも全て理解、管理は難しいし必要性もないことの方が多いと思うが。規模によるのか。

[showgotch]

“LGTM”