browser-useの基礎理解
はじめに 最近話題になっている browser-use について自己理解のために基本的なところをまとめてみます。 公式リポジトリはこちら browser-use とは？ browser-use は、Python で作られた「AI エージェントがウェブブラウザを操作できるようにする」ためのライブラリです。具体的には、下記のような機能を提供しています。 ビジョン機能や HTML 抽出 ブラウザで読み込んだページの DOM（要素構造）を解析、スクリーンショットやテキスト情報を取得できます。 マルチタブ管理 自動で複数タブを開き、それぞれのタブを並行して操作できます。 カスタムアクション機能 たとえば「特定のファイルを保存」「データベースへ登録」「社内チャットに通知する」など、ユーザー独自のアクションを定義できます。 自己修正機能 操作が失敗したり、要素を見つけられなかったりした場合に、自分で修正
【ローカルAI】GUIでCodeLlama-34B-Instruct-GGUFを動かしてみる【text-generation-webui】
【ローカルAI】GUIでCodeLlama-34B-Instruct-GGUFを動かしてみる【text-generation-webui】 概要 ローカルLLMで最近話題の「CodeLlama-34B-Instruct-GGUF」をtext-generation-webuiから動かし、「ローカルLLMでもファインチューニングなしでプロンプト指示できる」感覚を体験してみる。 メイン読者ターゲット ご家庭にGPUがある人（CPUでも良いが遅い） 最適化だったり正しい理解ができてるかは別として、とりあえず動かしたい人 導入から書くので、推論スピードだけ確認したい人は下まですっ飛ばしてください。 導入 text-generation-webuiの導入 以下からclone 自分はpyenv+venv派なので python -m venv .venv でactivate。 あとは基本的にinstall
DPO による Llama 2 のファインチューニング｜npaka
以下の記事が面白かったので、かるくまとめました。 ・Fine-tune Llama 2 with DPO 1. はじめに「RLHF」は「GPT-4」「Claude」などのLLMの事実上の最後の学習ステップとなっており、LLM出力の饒舌さや安全さが人間の期待と一致していることを確認します。ただし、RLの複雑さが持ち込まれます。適切な報酬関数を設定し、状態を推定するようにモデルを学習する必要があります。同時に、元のモデルから離れすぎないよう注意する必要があります。このようなプロセスは非常に複雑で、正しく行うのは容易ではありません。 Rafailov、Sharma、Mitchellらによる最近の論文「Direct Preference Optimization」では、既存の手法で使用されているRLベースの目標を、単純なバイナリクロスエントロピー損失を介して直接最適化できる目標に切り替えることを提
llama2のファインチューニング(QLORA)のメモ｜Kan Hatakeyama
2023/11/13追記以下の記事は､Llama2が公開されて数日後に書いた内容です｡ 公開から数ヶ月経った23年11月時点では､諸々の洗練された方法が出てきていますので､そちらも参照されることをおすすめします｡ (以下､元記事です) 話題のLamma2をファインチューニングします｡ QLoRAライブラリを使うパターンと､公式推奨の2つを試しました｡前者が個人的にはオススメです｡ 前提Hugging faceで配布されている公式のモデルが必要です｡以下を参考に､ダウンロードしておきます｡ データセット作成 (7/20 15:20追記 設定ミスってたので修正しました) test.jsonを適当に作ります｡ [ { "input": "", "output": "### Human: 富士山といえば?### Assistant: なすび" }, { "input": "", "output":
Introducing Code Llama, a state-of-the-art large language model for coding
Today, we are releasing Code Llama, a large language model (LLM) that can use text prompts to generate code. Code Llama is state-of-the-art for publicly available LLMs on code tasks, and has the potential to make workflows faster and more efficient for current developers and lower the barrier to entry for people who are learning to code. Code Llama has the potential to be used as a productivity an
【Code Llama】最強コード生成AIの使い方と実践を解説 | WEEL
さらに、学習時には、16kトークン（≒16,000単語）という比較的長いデータを利用しているんだとか。 そのため、100kトークン（≒100,000単語）の入力に対しても高い精度で回答を出せるとのこと。 実務で使うプログラムは行数が多いので、かなり実用的なモデルなのではないでしょうか。 それでは、導入方法を見ていきましょう！ なお、軽量化されたLiteLlamaついて詳しく知りたい方は、下記の記事を合わせてご確認ください。 →【LiteLlama】世界最軽量？わずか0.46Bの超軽量型Llama 2を使ってみた Code Llamaのライセンス 厳密には、Code Llamaはオープンソースではありません。 GitHubのCode Llamaのライセンスを確認すると、Llama2に準拠しているようです。 Code Llama Licence → https://github.com/fac
Google Colab で Code Llama を試す｜npaka
「Google Colab」で「Code Llama」を試したので、まとめました。 1. Code Llama「Code Llama」は、コードと自然言語の両方からコードとコードに関する自然言語を生成できる最先端のLLMです。研究および商用利用が可能で、無料で利用できます。 2. Code Llamaのモデル「Code Llama」は「Llama 2」ベースで、3種類を3サイズ提供しています。 ・Code Llama : 基本的なコード生成モデル ・CodeLlama-7b-hf ・CodeLlama-13b-hf ・CodeLlama-34b-hf ・Code Llama - Python : Pythonに特化したコード生成モデル ・CodeLlama-7b-Python-hf ・CodeLlama-13b-Python-hf ・CodeLlama-34b-Ptyhon-hf ・Cod
ローカルでも動く！？日本語に特化した強化学習済み対話GPT言語モデルを検証してみる - Qiita
はじめに 元AI女子高生「りんな」をご存知でしょうか LINEに突如現れたAI女子高生で話題となっていたと思いますので、ご存知の方も多いかとおもいます。 先日「りんな」の開発元であるrinna社から日本語特化の学習がされたGPT-2モデルが 商用利用可能なMITライセンス で公開されました。 rinna、人間の評価を利用したGPT言語モデルの強化学習に成功 本モデルは、 ChatGPTに用いられている学習手法である、人間の評価を利用したGPT言語モデルの強化学習に成功している とのことです。 かつ ローカル環境でも動作する ようです。 本記事では、その対話GPT言語モデルの動作を見てみようと思う 目次 動作環境 モデル動作確認（GoogleColab） ローカル環境で実行 さいごに 動作環境 検証環境 google colaboratory（Colab Pro版） ローカル検証環境 Win
ChatGPTに匹敵する性能の日本語対応チャットAI「Vicuna-13B」のデータが公開され一般家庭のPC上で動作可能に
Vicuna-13BはChatGPTの90％の性能を持つと評価されているチャットAIで、オープンソースなので誰でも利用できるのが特徴です。2023年4月3日にモデルのウェイトが公開され、誰でも手元のPCでチャットAIを動作させることが可能になったとのことで、早速使い勝手を試してみました。 GitHub - lm-sys/FastChat: The release repo for "Vicuna: An Open Chatbot Impressing GPT-4" https://github.com/lm-sys/FastChat/#vicuna-weights 2023年3月30日にはオンラインで動作を試せるデモ版が公開されていました。デモ版の様子は下記の記事で確認できます。 ChatGPTやGoogleのBardに匹敵する精度の日本語対応チャットAI「Vicuna-13B」が公開され
mp3ファイルの再生時間をpythonで計測する方法 - Qiita
mp3ファイルの持続時間を取得する方法は2つあります。 一つは mutagenを使用する方法で、もう一つはpysoxを使用する方法です。 それぞれの方法には長所と短所があります。 mutagenを使った方法は、pysoxを使った方法よりも軽量で高速です。 mutagenはmp3ファイルのID3タグをチェックするだけなのはそのためです。一方、pysoxはSox CLIを使ってmp3ファイルのバイナリをチェックするようです。 pysoxの方法では、ID3情報を使わずに持続時間を判定する、つまりID3情報が無効なファイルや、ID3情報がないファイルを認識することができます。pysoxを使うことで、ID3情報を使わずにデュレーションを調べることができる、つまり、ID3情報が無効なファイルや、ID3情報がないファイルのデュレーションを検出することができます。 mutagenを使う方法 from mu
GitHub - jorgebastida/awslogs: AWS CloudWatch logs for Humans™
awslogs is a simple command line tool for querying groups, streams and events from Amazon CloudWatch logs. One of the most powerful features is to query events from several streams and consume them (ordered) in pseudo-realtime using your favourite tools such as grep: $ awslogs get /var/log/syslog ip-10-1.* --start='2h ago' | grep ERROR Aggregate logs from across streams. Aggregate all streams in a
Deta.shの無料枠が廃止になったらCyclic.shへ移行する - Qiita
HerokuのFree Planが終了するらしい(泣)(泣) Starting November 28, 2022, we plan to stop offering free product plans and plan to start shutting down free dynos and data services. We will be sending out a series of email communications to affected users. 2022/11/28までに有料版にアップグレードしてねとのことらしい。 Cyclic.sh ⇒ Deta.sh ⇒ Cyclic.shへ移行した Cyclic.shは無料で使えるクラウドプラットフォーム。 クレジットカード・電話番号不要。 デプロイしたアプリはAWS上に展開されるようだ。 主に3つのサービスが無料で使え
軽量で安価なマネージド型のサーバーレスプラットフォーム「Deta」
Deta https://www.deta.sh/micros Detaの特徴 「Deta」は、Google App EngineやHerokuに似た、軽量かつ安価なマネージド型のサーバーレスプラットフォームです。現在、Node.js、Pythonに対応しており、今後Denoへの展開も予定されています。 特筆すべきは、やはり価格。小規模チームでもかなり低予算で導入することができます。 Detaで環境を構築する Detaにサインアップしたら、各環境のステップをコンソール上で実行していきます。 $ curl -fsSL https://get.deta.dev/cli.sh | sh まずは、Deta用のクライアントをダウンロード。 $ deta login つづいて認証ですが、ブラウザを起動し、ログインセッションを確認するという手段をとっています。 Please, log in from t
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ゼロからはじめるPython 第106回 プログラム生成AIのCodeLlamaを手元のPCでも動かしてみよう：マピオンニュース
GitHub - oobabooga/text-generation-webui: The definitive Web UI for local AI, with powerful features and easy setup.
macOS環境のPython - python.jp
riywo/anyenv: all in one for **env
Cyclic.sh - Fullstack Javascript Apps - Deploy and Host in Seconds
Space Docs 🚀 Space Docs
Deta Surf
