PHPカンファレンス福岡 2023 2023/06/24 uzulla
Before jumping into Celery. Let's start with the most straightforward tool to help us understand background tasks. FastAPI already has a BackgroundTasks class that can help us implement simple background tasks. Let's create a virtual environment to isolate our project requirements. python -m venv env Now, all we need is FastAPI and a web server e.g. Uvicorn or Hypercorn. Before installing these le
今回やりたいこと API経由でバッチ処理とか重い処理を動かしておいて、UI側で状態を監視したい…なんてことあるよね。今回はそんな時の処理を書いていこうと思います。 APIからバックグラウンドで重い処理を起動したい バックグラウンド処理の状態を取得して画面側で表示したい 処理中でもAPIへのリクエストは止めたくない 今回はとりあえずAPI処理だけに留めようと思います。 APIが出来ちゃえば画面側はご自由にといった感じです。 環境 Python 3.9.2 FastAPI 0.68.1 各処理を書いていく FastAPIにはバックグラウンド処理用にBackground Tasksが用意されています。 公式を見ても分かる通りかなりシンプルに書けます。add_taskにバックグラウンド処理を入れるだけ。後はお任せ。素晴らしい。 #!/usr/bin/env python3 import time
はじめに FastAPIを始めてみたところ、async/await構文があり、Pythonにも「async/await構文があるんだなー」と初めてその存在を知った。 しかし、FastAPIのサンプルコードやネットで公開されているコードを見ると、async defとdefをどのように使い分けているのかよくわからず、結局、「どっちを使えば良いんじゃろう?」という気持ちになったので、async/await、同期 / 非同期(並行処理)を調べつつ、結論を導いてみることにした。 いきなり結論 Path operation 関数の場合、async defではなくdefで、基本、実装する。 defだけでも、外部スレッドプールで非同期処理されるようにフレームワークとして実装されているとのこと async defを使った方が良いのは以下の2ケース async/awaitをサポートしているライブラリを利用した
require 'json' def lambda_handler(event:, context:) puts event puts context { statusCode: 200, body: JSON.generate('Hello from Lambda!') } end { "Comment": "test", "StartAt": "Hello", "States": { "Hello": { "Type": "Task", "Resource": "arn:aws:lambda:ap-northeast-1:xxx:function:inputparameter-test", "InputPath": "$.num1", "End": true } } }
2023/11/13追記以下の記事は、Llama2が公開されて数日後に書いた内容です。 公開から数ヶ月経った23年11月時点では、諸々の洗練された方法が出てきていますので、そちらも参照されることをおすすめします。 (以下、元記事です) 話題のLamma2をファインチューニングします。 QLoRAライブラリを使うパターンと、公式推奨の2つを試しました。前者が個人的にはオススメです。 前提Hugging faceで配布されている公式のモデルが必要です。以下を参考に、ダウンロードしておきます。 データセット作成 (7/20 15:20追記 設定ミスってたので修正しました) test.jsonを適当に作ります。 [ { "input": "", "output": "### Human: 富士山といえば?### Assistant: なすび" }, { "input": "", "output":
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く