AIエージェントの自己改善をどう設計するか / How to Design Self-Improvement for AI Agents

AIエージェントに改善を繰り返させても、プロンプトの加筆や出力の整形に留まり、最初の設計を見直せずに停滞することがあります。 本資料では、業務AIワークフローの構築・改善で経験した課題と関連研究をもとに、自己改善を支えるハーネスの設計を解説します。深層学習の訓練ループとの対応を手がかりに、Traini…

[T-norf]

ちょいと図が雑だけど、知見が２つぐらいあるので、「AIエージェント」「自己改善」に取り組むときに再読したいな

[qpci32siekqd]

プログラムでエラーが出ないような内容だと、変な方向に修正されていってしまう印象があるが…。あとは1pixとか本質的でない修正を繰り返すループに陥るとか

[circled]

Astraレベルになると同じ処理を何度か回すだけで勝手に自分の勘違い部分を認識して改善していくんだけどな

[otihateten3510]

こういうの、多かれ少なかれAI駆動やってると体験するよね。「あれ今何と戦ってるんだっけ？」ってなるんだよね、こんなの一般労働者が扱えると思えないんだが

[morimarii]

AIが自己改善しだしたらマジで人間の仕事なくなるね