プロンプトエンジニアリングってソフトウェア開発？と感じるあなたへ ~ LLM開発とソフトウェア開発の違いの話 - tomoima525's blog

この記事はLLM開発におけるプロンプトエンジニアリングに違和感がある人に向けた、捉え方を変えてみたら少し印象が変わるかも、という提案をするものです。 かくいう自分もなんだか普通のソフトウェア開発とは異なると感じていました。この違和感の言語化を試みると、すべてはブラックボックス化したインプットとアウトプットに集約される気がします。 コンテキスト量が増えると回答の取りこぼしが発生する 突然"ない答え"を作り始める "一呼吸しましょう"など謎のおまじないが回答率を上げる などなど。プロンプトを調整し、期待した結果が得られるかお伺いをたてる開発プロセスは、トライアンドエラーするしかないといった具合です。*1 そんな折に、たまたま聴いたのがStack Overflow podcastのこのエピソードでした。 open.spotify.com ゲストのKatanforoosh氏は元々機械学習の研究者で