Rust on Lambda でＷebSocket とストリームレスポンスを試す
本記事は Rust Advent Calendar 2023 16 日目の記事です。 AWS Lambda からストリームレスポンスを受け取りたい AWS Lambda 上で動く Rust アプリケーション上で OpenAI の API を叩いていたのですが、こちらのブログ の方と同じようにレスポンスをヌルヌル表示したくなりました。 そこで、今回以下 2 つの Lambda からストリームレスポンスを受け取る方法を試してみました。 Amazon API Gateway + AWS Lambda による WebSocket AWS Lambda のレスポンスストリーミング 1 つ目に関しては、上記のブログ で紹介されているとおり、OpenAI からの出力をヌルヌル表示できそうです。 2 つ目に関しても、こちらのブログで紹介されており、Lambda 単体でもヌルヌル表示できそうです。 自分は
RustでもBERTでFine-tuningしたい
本記事はLabBase テックカレンダー Advent Calendar 2023 5 日目です。 概要 Pythonのtransformersライブラリと同程度に簡単に、RustでもBERTでFine-tuningしたかったので調べたところ、惜しくもできる方法は無かった。 しかしちょっと頑張ると可能そうだし、ちょっと待てばhuggingface/candleでできるようになりそう。 RustでもBERTでFine-tuningしたい 業務で文章からキーワード抽出するタスクを解きたかったので、 huggingfaceの「トークン分類」のドキュメント を参考に、あらかじめ用意したアノテーション済みデータを入力として、 huggingfaceのベースモデルを元にFine-tuningするまでをPythonで実装しました。 ですが、せっかくなのでRustでも実装したくなったので、Rustでも同様
Rustとpgvectorを使って、類義語の検索をやってみた
はじめに この記事は株式会社LabBase テックカレンダー Advent Calendar 2023 24日目の記事です。 株式会社LabBaseでエンジニアをしている渡辺創です。 今回は pgvector を使って、類義語の提案ができるか試してみたのでそれについて書いていきたいと思います。 背景 LabBase就職というサービスを提供しており、研究に取り組んでいる学生が研究概要を登録してくれています。研究を頑張っている学生を採用したい企業の方が研究内容と募集内容のマッチングによって、就職活動・採用活動を支援するサービスとなっています。 企業の人事の方が学生の研究内容をキーワードで検索するのですが、ユーザは自分の語彙の中でしか検索することができないので、その語彙を拡張する方法の1つとして、ユーザに類義語を提案しようと考えています。 類義語関連だとこちらの記事にも書いたので、ぜひ読んでみて
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
