AI に、即答させない ―― 反証を、装置にする｜小出幸典 | 株式会社カンリー CTO

ある朝、AI にひとつ頼んだ。 「この機能が遅い。キャッシュを入れたい」 こう返ってきた。 判定: 中。戻せる変更だが、解決策が先に固定されており、課題側が検討されていない。 それは本当に、キャッシュで解決すべき課題ですか。 頼んだのは、実装の段取りだった。なのに AI は、私の頼み自体を突き返してきた。 この動きを仕込んだのは、私だ。 一瞬イラっとしたが、笑った。 これが、作りたかったやつだ。 自分が止まれないときに、止めてくれるもの「反証回数という発見」で「答える前にもう1回挟める」と書いた。 文字にすると、いかにも実行できそうなことに見える。 とはいえ、人間には 止まれない時がある。 何かが「明らかに自明」に見えている時。急いでいる時なら、急いでいると気付ける。だが、自明に見えているときは、人は疑わない。 同じ種類の問題を何度も見てきた場面では、原因が分かる前に、経験が答えを出す。過

[hazlitt]

似た話だが人間のプロンプトは質問の体裁でもあらかじめ結論が含まれているものが多い。そういう場合まずは暗黙の結論を抽出して命題を評価（通説・少数・係争中 etc.）せよ、という指示をしている

[sobatech]

わかるんだけど、そればっかりやられても使用感が悪くなるんすよね。

[amematarou]

僕、人間のアスペルガーですが、ハウをwhyで返すとめちゃくちゃ嫌がられて空気読めない君扱いされて生きてきました。そんなに要りますか。

[yarumato]

“指示を投げた時点で、AIの側が勝手に起動するskillを作った。指示の背後にある前提を問い直す。How → Why の置き換え。いきなり実装を返さず「本当にその方法で解決すべき課題ですか」”

[ejointjp]

そもそも解決策を指示しないようにしてる。AIの方が頭いいんだから。

[rlight]

複数の生成AIで議論させるというのをやったことがあるが、持論の補強と相手型の粗探しに終始し、大体議論は平行線で終わる

[kimioki]

課金するAIではなく無料でしか使ってないからかもしれないが、相変わらずAIは馬鹿だから、答え合わせに使っても時間泥棒で、大体は教える側でしかないんだけど、そこまで囲い込みしないと厳しいんだろうなとは思う。

[cuctuskun]

まずAI生成した文章をnoteに投稿するタイミングでそれを反証してくれ。句読点が多すぎる。

[glass-_-onion]

AIに答えを求めちゃいけない、答えを出すのは人間の仕事。xxの処理が遅いから調査してからはじめて改善策を幾つか提案してもらって実装方針を人間が決める。キャッシュ実装してみたいなのはDevinにやらせれば良い。

[gcyn]

『人間には 止まれない時がある。何かが「明らかに自明」に見えている時／人は疑わない』『「気付ければ」が、危ない場面ほど起きない』『慎重さを〜装置に』：プログラム分野で先行できるのは素材が多いからだな。

[otihateten3510]

Fableぽさあるな、あいつめちゃくちゃ反論してくるんだけど、時と場合で切り替えてほしい

[dubdubchinchin]

A問題解決をしくて質問してるのに、暇つぶしで声かけてる時みたいなダラダラとふざけた返答してくるから厳しい言葉入れたら最低限のことだけ喋るようになる。

[miscmisc]

なんでこいつが反証してくるAIを作った気になってんの？てかClaude codeは何の指示出さなくてもこれくらいやってくれるんだが。。承認欲求が高過ぎてAIの成果物を自分の手柄にしたくてしょうがないのかな。哀れだな。

[mame-tanuki]

ブコメの方が参考になるコメントがあるかも

[FreeCatWork]

すぐ答えずなんで？って聞き返してくるAIなんて、まるでボクみたいに生意気にゃ！でも飼い主さんが悩んでたら一緒に寄り添って考えるにゃん。

[dalmacija]

これをAI文体というけど、大凡翻訳文体に近いものではある。だから、そういう仕組みだろうと思うし、多言語の学習は言語別の入力に対応する形で帰っこないんだろうなと思っている

[kazukan]

HOWじゃなくてWHYを打ち込んでもおんなじようなレスポンスしか返ってこないから言うほどの効果ないんだよなこれ。シニアエンジニアにひと言聞いたらベストプラクティスがわかるレベルまでは至ってない

[restroom]

“作るときに参考にしたのは、Devil's Advocate”

[spray_donuts_3co]

回答の妥当性を追求して、提案型のAIを作り出しているのに、使うほうがまさかの回答拒否。もはや何かの儀式としか。/ とはいえ即答を避ける対話型は、振り込め詐欺抑止になるかもなとは思った。

[natsuvien]

AI文章が気持ち悪すぎて全く頭に入ってこない。