タグ

2024年1月28日のブックマーク (2件)

  • FastAPIでServer-Sent Eventsを実装する - Qiita

    llm = OpenAI( model="gpt-3.5-turbo-instruct", ) for chunk in llm.stream("Hello?"): print(chunk) このように非常に簡単に実装可能です。 しかし、これをサーバーサイドとして扱う場合には通常のAPIではなく、リアルタイムな通信処理を実装する必要があります。 この時に有効なのがServer-Sent Eventsです。 Server-Sent Eventsとは Server-Sent Events(以下SSE)とはリアルタイムな通信をHTTP経由で提供する技術です。 似た技術としてはWebSocketがありますが、WebSocketが双方向であるのに対し、SSEはサーバーからクライアントへの単方向通信となっています。 その分扱いが簡単なので、クライアント側からリアルタイムに情報を送る必要がない場合はこち

    FastAPIでServer-Sent Eventsを実装する - Qiita
    mole-studio
    mole-studio 2024/01/28
    “clos”
  • 机から離れて論文を大量に読む方法(NGK2024S) - Qiita

    これは何? NGK2024Sの発表資料です。 自己紹介 名前: 中西克典 X(Twitter): @n_kats_ 機械学習名古屋研究会主催 NGK発表は2回目 機械学習名古屋研究会 論文読み会 毎月第3木曜(19:00~)オンラインで 次回(2月15日第71回)・・・https://machine-learning.connpass.com/event/308186/ 編 イントロ(研究会の表の目的) 論文を読む習慣付け 知識のアップデート 発展的・実践的な知見の獲得 イントロ(研究会の裏の目的) この世の真理と呼べるものを全て知りたい。 という話を2年前のNGKでした。 おさらい(2年前の話) 読み上げソフトを使うと機械学習の論文が30分で再生できる。 ある分野の概要を把握する目安の論文50には約3日あればよい。 2年前の課題 読み上げられてる文章を目で追いかけないといけない。つら

    机から離れて論文を大量に読む方法(NGK2024S) - Qiita