AI に、即答させない ―― 反証を、装置にする｜小出幸典 | 株式会社カンリー CTO

ある朝、AI にひとつ頼んだ。 「この機能が遅い。キャッシュを入れたい」 こう返ってきた。 判定: 中。戻せる変更だが、解決策が先に固定されており、課題側が検討されていない。 それは本当に、キャッシュで解決すべき課題ですか。 頼んだのは、実装の段取りだった。なのに AI は、私の頼み自体を突き返してきた。 この動きを仕込んだのは、私だ。 一瞬イラっとしたが、笑った。 これが、作りたかったやつだ。 自分が止まれないときに、止めてくれるもの「反証回数という発見」で「答える前にもう1回挟める」と書いた。 文字にすると、いかにも実行できそうなことに見える。 とはいえ、人間には 止まれない時がある。 何かが「明らかに自明」に見えている時。急いでいる時なら、急いでいると気付ける。だが、自明に見えているときは、人は疑わない。 同じ種類の問題を何度も見てきた場面では、原因が分かる前に、経験が答えを出す。過

[hazlitt]

似た話だが人間のプロンプトは質問の体裁でもあらかじめ結論が含まれているものが多い。そういう場合まずは暗黙の結論を抽出して命題を評価（通説・少数・係争中 etc.）をせよ、という指示をしている

[yarumato]

“指示を投げた時点で、AIの側が勝手に起動するskillを作った。指示の背後にある前提を問い直す。How → Why の置き換え。いきなり実装を返さず「本当にその方法で解決すべき課題ですか」”

[sobatech]

わかるんだけど、そればっかりやられても使用感が悪くなるんすよね。

[dalmacija]

これをAI文体というけど、大凡翻訳文体に近いものではある。だから、そういう仕組みだろうと思うし、多言語の学習は言語別の入力に対応する形で帰っこないんだろうなと思っている

[kazukan]

HOWじゃなくてWHYを打ち込んでもおんなじようなレスポンスしか返ってこないから言うほどの効果ないんだよなこれ。シニアエンジニアにひと言聞いたらベストプラクティスがわかるレベルまでは至ってない

[kimioki]

課金するAIではなく無料でしか使ってないからかもしれないが、相変わらずAIは馬鹿だから、答え合わせに使っても時間泥棒で、大体は教える側でしかないんだけど、そこまで囲い込みしないと厳しいんだろうなとは思う。

[ejointjp]

そもそも解決策を指示しないようにしてる。AIの方が頭いいんだから。

[rlight]

複数の生成AIで議論させるというのをやったことがあるが、持論の補強と相手型の粗探しに終始し、大体議論は平行線で終わる

[restroom]

“作るときに参考にしたのは、Devil's Advocate”

[spray_donuts_3co]

回答の妥当性を追求して、提案型のAIを作り出しているのに、使うほうがまさかの回答拒否。もはや何かの儀式としか。/ とはいえ即答を避ける対話型は、振り込め詐欺抑止になるかもなとは思った。

[natsuvien]

AI文章が気持ち悪すぎて全く頭に入ってこない。