わんぱくな JSON ストリームパーサーを見る日 - ぽ靴な缶

この記事は はてなエンジニアアドベントカレンダー 2024 5 日目の記事です。 昨日は id:susisu さんの Data types à la carte in TypeScript でした。 本人が「アクセス増えたと思ったら別の記事で、全然読まれてない...」と言っていたので「いきなりフランス語で難しそうやからね」と伝えました。本文は日本語なので、みなさんも読んで下さい。 今日は最近見て面白かったコードの紹介です。 ChatGPT が流行って以来、アプリでストリームのレスポンスをよく見るようになりました。 LLM によるテキスト生成はわりと時間がかかる処理で、もしすべて生成し終えてからレスポンスするとユーザーを待たせてしまうからでしょう。テキストがちょっとずつ表示される UI は昔からあるものですが、LLM を使ったアプリケーションが出てきて以来、演出としてではなく実用としてよく見

[skypenguins]

わんぱくでもいい、たくましくparseしてほしい

[manaten]

おもろい。挙動がおもろいし、ここまで来ると明らかにJSONのフォーマットは向いてないのにJSONにこだわっているのもおもろい。実はシンタックスエラーがあってもパースできるってことだから、ある意味htmlみたい

[tmatsuu]

parse_partial_json、SAXよりもアグレッシブ。すごい面白い。

[mizdra]

良い

[buzztaiki]

language serverの実装とかでもよく見るやつ。

[hatest]

無駄に負荷かかる。。。

[urd0401]

パース中にコネクションが切れたらバグというか脆弱性になりそうで怖いな

[cateiru]

おもしろ〜〜〜！！