WSL環境でクリーンにOpen Interpreterを使う - Qiita
0. 忙しい人向けの結論 劇的にすごいかというとそうでもない感じがする。やりたいことによるかもしれないが、典型的な数理最適化の問題はあいまいな指示では解決できない。 OpenIntepreterは有料のGPT4、無料のLlamaが使える。 無料のLlamaは モデルを様々なサイズ(4GB程度~40GB) から選ぶことができる。 GPUだけではなく、llama.cppでCPUでも処理可能だが遅い（回答が返ってくるまでに2-3分） Llamaでは無限ループが発生することも。 精度はイマイチで難しい。 GPT4は早い。 問題もそれらしく設定/解こうとするが最後まで到達しない。 GPT4は数回 試したら$7(1000円)くらい使った。 日本のお小遣いサラリーマンにはつらい 1. Open Interpreterとは 2023年9月何かとすごいというCode Interpreterの発展OSS版「C
GitHub Copilotを健全に使い倒すための心得 - Qiita
時代はAIじゃ！ 私は普段コーディングをするときにGitHub Copilotを多用しています。中にはAIツールをコーディングに導入することに抵抗がある人も多いかもしれませんが、うまく付き合えば彼女よりも強力な存在になること間違いありません 今回はコード補完だけじゃないGitHub Copilotの便利機能を紹介します。 心得 GitHub Copilotを使う時の個人的な心得を書いておきます。 一、部分部分に留めること 一、生成されたコードを理解すること ここで一つ徳川家康の名言を。「及ばざるは過ぎたるより勝れり」 コード補完 導入で言ったことを忘れたかのような章題ですが、一番はやはりコード補完です。 Twitterのバズり例でよくある「〇〇のコードを生成して」ってChatGPTに投げて100行ぐらいばばーっと帰ってくるのをコピペして使うのは、見た目のインパクトはすごいですがあまりやるべ
Postman + ChatGPT = 100倍速APIサーバー開発 - Qiita
はじめに こんにちは。@komasayukiです。 この記事は、全世界2,800万人以上の開発者に使われているAPIプラットフォームPostmanの記事を書こう by Postman Advent Calendar 2023 の8日目です。 PostmanとChatGPTを組み合わせて、APIサーバーの開発を爆速で行う方法を紹介します。 Qiitaのようなナレッジ共有サービスを作ることを題材としてやってみましょう。 なお、今回使うサービスはすべて無料で利用できます。 ChatGPTを使ってQiitaクローンのOpenAPI仕様を作る OpenAPIとは、APIの仕様を記述するための標準規格です。サーバーがどういうRESTリクエストを受け付けて、レスポンスするかを記述します。 これは重要な作業ですが記述が難しいです。ChatGPTにお願いしましょう。 以下のようなスクリプトを書きました。 あ
ChatGPTでKareteのテストスクリプトを作成してみる - Qiita
はじめに 最近、OpenAIのChatGPTを使って、開発を効率化できないか、いろいろと検証をしています。 Karateは、テストスクリプトの内容が、構造化されており、シンプルな内容で記述できるので、 ChatGPTとの相性も良いのではないか、と思って試してみました。 ※Karateは、Cucumberと同様のBDD（ビヘイビア駆動開発）を行うためのテストフレームワークであり、Gherkinの文法を自然言語に近い形で記述できるユニットテストツールです。 ※Karateについては、以下を参照してください。 APIテスト自動化ツール「Karate」のまとめ ChatGPTでのKarateプロンプト定義 早速、Karateのテストの内容を想定して、自然言語でテストを書いてみます。 あなたは、Test Automation Tool の Karate を利用するテストエキスパートです。 Karat
Postmanで使えるAIテスト生成機能「Postbot」がリリース - Qiita
はじめに みなさん、API呼び出しのチェックに Postman 使ってますよね？ 特定のパラメータを指定してAPIを呼び出して、期待したレスポンスが返ってくるかどうかをテストしたい時、Postmanのリクエスト画面でJavaScriptのテストスクリプトを書いて、繰り返し呼び出せることもご存知ですか？ 例えば、レスポンスがJson配列として返ってくるAPIで、配列の長さが10より大きいことを確認したい時、Postmanのリクエストの「Tests」欄に次のようなスクリプトを書くと・・・ pm.test("レスポンスの長さが10より大きいか確認する", () => { var jsonData = pm.response.json(); pm.expect(jsonData.length).to.be.above(10); }); こんな感じで、スクリプトで書いた条件を満たしていればレスポンス
NVIDIA GTX２枚刺しでDollyV2-7bとチャットしてみた。 - Qiita
はじめに Dollyさんである。大規模言語モデル。Transformerモデル。 今回のお話は、前半が、GPUを2枚刺しにするまでのお話。マシンがXeon２発でC612チップセットだから２枚刺しは電源容量さえ気をつければ大丈夫なはず。 後半のお話は、Dollyさんとのチャットをしてみた感想。 昨日までGPUのVRAMが８GBのGTX1080を１枚搭載したマシンで、手元で動かしたい系の機械学習モデルをいくつか動かしてみたが、まずGTX1080ごときでは会話したくなるようなスピードではもはや動作しない。話しかける文章を書き込んだ後、トイレに立って帰ってきたらなにかもそもそとPCが画面に表示し始める、という感じだったりする。そして８GBメモリに収まるようなパラメタの少ない奴らでは、会話にならない。こちらのコトバが通じていない感、聞いてない感が半端ない。ChatGPTの一人勝ち間違いない現状だが、
GitHub Copilot Chat 舐めていた - ちなみに
marketplace.visualstudio.com GitHub Copilot と直接会話できる Copilot Chat 、皆さん使ってますか？ 私は最近まともに使い始めました。 Copilot と言えば補完だけだと思っている人、以前ちょっとだけ触れて使えないと思った人(僕です)、いまのバージョンをもう一度触ってみてください、めっちゃ便利になっている。 www.youtube.com この動画が出来ることを追いかけるのに良さそうなので見てください。 ベースモデルがGPT-4に変わったりとかいろいろ変化はありますが、便利なのは Participant や Context の概念が入ったことだと思います。 Participantは @workspace みたいなやつで、Chat-GPTにおける GPTs みたいなやつ。例えば @workspace ならいま開いているプロジェクトについ
Issue作成だけで後の工程は全てお任せ！GitHub Copilot Workspaceのテクニカルプレビューを触ってみた | DevelopersIO
Issue作成だけで後の工程は全てお任せ！GitHub Copilot Workspaceのテクニカルプレビューを触ってみた こんにちは。リテールアプリ共創部のきんじょーです。 待ちに待った GitHub Copilot Workspace のテクニカルプレビューへ招待が来たので、早速試してみました。 GitHub Copilot Workspace とは GitHub Copilot Workspaceは、自然言語で記載した Issue を元に、仕様の策定から実装、ビルド、デバッグなど、その後の工程を Copilot が自動的に実行してくれる開発者向けの AI ツールです。 現在はテクニカルプレビューの段階で Waiting List に登録することで順次利用することができます。 ユーザーマニュアルも公開されているため、詳しく知りたい方はこちらをご覧ください。 試してみた 以前、AWS
Firefox、オンデバイスAIで画像のAltテキストを自動生成する実験的機能を導入、スクリーンリーダーのユーザーに利便性
Firefoxの開発元であるMozillaは、Webページ上の画像のAltテキストをオンデバイスAIモデルを使用して自動的に生成する実験的な機能を、9月にリリースされる予定のFirefox 130で導入することを明らかにしました。 この機能は、Firefoxに搭載されているPDFエディタの一部となる予定です。 最終目標としては、Webページを音声で読み上げるスクリーンリーダーを使用している視覚障害者などのユーザが一般的なブラウジングで利用できるようにすることとされています。 オンデバイスAIでAltテキストを生成する理由 画像のAltテキストは、Webページで画像が表示できないときに、画像の代わりに使われるテキストの情報です。しかし、Altテキストが設定されていない画像は多くのWebページで存在します。 今回のMozillaの取り組みは、こうしたAltテキストが設定されていない画像を含むW
Googleの「NotebookLM（ノートブックLM）」業務RAGの代わりになるのか試してみた。
初回投稿日:2024年6月10日 2024年6月6日、Googleが「NotebookLM（ノートブックエルエム）」 を日本語でも提供開始しました。AI関連で次々に新しいサービスがでてきます。 これだけ次々といろいろなサービスが出てくると、企業がなにか生成AIをつかったあたらしいサービスを展開しようとしてもGAFAM（ガーファム）がこぞってサービス展開をする中、独自のポイントやニッチさがないと日本の企業がどんどん差別化ポイントを出すのが難しくなってきています。 今回は、実際にNotebookLMを使ってみたうえでの、使用シーンを模索してみました。 あわせて読みたい注目記事 Claudeの「Artifacts」でXでバズってたゲームを作ってみた 先日、2024年6月20日にAnthropicは「Claude（クロード）」の最新モデルとなる「Claude 3.5 Sonnet」を発表しました。
国際人工知能オリンピックのサンプル問題を解いてみた
国際人工知能オリンピック(IOAI)が今年第1回の開催を迎えるとのことで、公式HPに紹介されているサンプル問題を解いてみます。 IOAIについて 今年から始まる、科学オリンピックのうちの1つです。今年はブルガリアのブルガスで開催されるようです。 肝心のコンテストの内容ですが、科学ラウンドと実践ラウンドの2つがあります。科学ラウンドは機械学習、深層学習に関するipynbが提供され、それを解きます。実践ラウンドはChatGPTを始めとするGUIアプリケーションを活用した科学的な問題について考察します。 いわゆるKaggle的なコーディング要素が求められるのは前者の科学ラウンドのようです。 競技AIというとKaggleの印象が強いですが、IOAIはどんな事を問われるのか気になるところです。 公式HPには3問掲載されていました。 NLPタスク（言語モデルの訓練、論文の再実装） NLPタスク（単語埋
Stockmark-100BをMLXでローカルで動かしてみた
はじめに Stockmark-100BをMLXを使ってローカルのMacBook Proで動かして遊んでみました。 なお、Instructモデルについては、AdapterをMLXでうまく動かすことができていません。うまく解決したら追加で記事化したいと思います。 今回は、MLXでの量子化のやり方について少し詳しく解説しています。 環境 Apple M3 MAX (128GB) 推論中のpythonプロセスのUnified Memory消費量はざっくり最大で以下のとおりでした 4bit : 51GB 8bit : 96GB Python 3.10 3.9以前では動作しないと思われますのでご留意ください。 ライブラリ 以下を使っています。特にバージョン指定しないpipインストールで問題なく動作します。 mlx_lm MLXはAppleが提供する機械学習（特にDeep Learning）用のフレーム
ChatGPTを活用してサーキュレーターの異常検知をやってみた！ - Qiita
１．はじめに こんにちは。(株) 日立製作所のLumada Data Science Lab.の山崎 建です。 私は入社１年目の新人データサイエンティストであり、普段の業務では、データ分析による課題解決や、データ利活用のためのコンサルティングを行っています。 今回は 自身のデータサイエンスの知識と生成AIを用いて、自宅で活用できるデバイスを短期間・低コストで開発できる ことを実体験を紹介しながらお伝えします。 本記事が、ご覧くださっている方々が気軽にデバイスの開発に取り組み、その面白さを体感するきっかけとなれば嬉しいです。データサイエンスを学んでいる方は自身の知識をモノに昇華することができ、初心者の方はChatGPTに質問しながら開発を行うことで副次的に知識習得につながると考えます。 ２．デバイス開発におけるChatGPTの活用 今回デバイス開発においてChatGPTを用いましたが、主にコ
VS Code で Gemini Code Assist を使う - Qiita
はじめに コーディングにAIが使われるようになってだいぶ時間が経ちました。AIエディタも様々なものが出ましたが有名どころとしてはCursorやGithub Copilotが挙げられると思います。これらのツールは、定額課金であるため個人で手が出しづらかったり契約にハードルがあるような職場もあるかもしれません。 ということで従量課金で使えるVSCode拡張のAIエディタ機能を探していたところ、Geminiの拡張を知りましたので使ってみました。 あまり使っている人が見当たらなかったので共有できればと思います。 誰向けの記事か Gemini Code Assist（VSCode拡張）について知りたい人 従量課金のAIエディタツールを探している人 Gemini Code Assist Gemini Code Assistは、Google Cloud の AI を活用したコラボレーターと表現されており
LangChainから使用するLangSmithとLangfuseの詳細比較
はじめに この記事で想定している読者の方 LangChain経由でLLMを用いたchainを使用している方 LangChainと共に使用するLLM実験管理ツールを迷っている方 「LangChain」はLLMをシステムに組み込む際に非常に便利なライブラリであり, 実際に開発に用いられている方も多いと思います。ですが, LLMの性質上プロンプトやchainの構造を変化させての実験が多くなってしまい, 記録・管理が大変になりがちです。そんな場合に使用したいLLMの実験管理ツールについて前編の記事にてLangChainから使用するために選定したLangSmithとLangfuseについて今回は実装を行った上で比較して行こうと思います! TL;DR 今回は以下の画像のデモアプリを作成し3種類のchainについて実際に記録しLangSmithとLangfuseの比較を行いました! デモアプリの入力画面
LangChainと共に使用できるLLM実験ツールの比較
はじめに この記事で想定している読者の方 LangChain経由でLLMを用いたchainを使用している方 LangChainを用いた開発で実験の管理に悩んでいる方 「LangChain」はLLMをシステムに組み込む際に非常に便利なライブラリであり, 実際に開発に用いられている方も多いと思います。一方で, LangChainを用いた開発はLLMの性質上プロンプトやchainの構造などを変化させた実験が多くなり, その管理は非常に大変です。 そんな時に便利なLLMの実験管理ツールについて今回はLangChainから使用することを想定し, それぞれのツールの性質について比較を行なっていきたいと思います! TL;DR LangChainから使用することを考えると実験管理ツールは以下のLangSmith・Langfuseが良さそうです! それぞれのツールの強みは以下の通りです。 LangSmith
Amazon Bedrock Converse API と Tool use を知識ゼロから学び，発展的なチャットアプリを実装する - Qiita
Amazon Bedrock Converse API と Tool use を知識ゼロから学び，発展的なチャットアプリを実装するPythonAWSbedrock生成AIclaude はじめに 株式会社 NTT データ デザイン＆テクノロジーコンサルティング事業本部の @ren8k です． 先日，Amazon Bedrock の Converse API と Tool use (function calling) を利用した Streamlit チャットアプリ（デモ）を作成し，以下のリポジトリに公開しました．本記事では，チャットアプリ開発の過程で得た知見を基に，初学者から上級者までを対象として，Tool use の仕組みやその利用方法，発展的な活用方法を共有いたします． Converse API とは Converse API とは，統一的なインターフェースで Amazon Bedrock
Gemini API を使いスマホでスキャンした表やグラフから自動的にスプレッドシートを作ってみる
Gemini API を少し触ってみて、画像関連でいくつか応用できそうに思えました。 そこで、Google Drive でスキャンした画像(PDF)から自動的にスプレッドシートを作成するような GAS 用スクリプトを試作してみました。 どのようなスクリプト？ Google Drive で以下のような画像をアップロード(スキャン)しておくと Gemini API を利用してスプレッドシートを作成します。 図 1-1 紙の表をスキャンしたファイル 図 1-2 紙の表から作成したスプレッドシート また、スキャン元の画像にはグラフも利用できます。ただし、グラフ内に値が表示されていないと多くの場合で正確な値にはなりません。 図 1-3 画面に表示されているグラフをスキャンしたファイル 図 1-4 グラフから作成したスプレッドシート 表として取り込む仕組み(プロンプト) 基本的にはドキュメントに従って
[レポート] 生成AIアプリにおけるインシデント対応のセッション – 生成AIワークロードにおける脅威の検出と対応 #TDR302 #AWSreInforce | DevelopersIO
[レポート] 生成AIアプリにおけるインシデント対応のセッション – 生成AIワークロードにおける脅威の検出と対応 #TDR302 #AWSreInforce あしざわです。 米国フィラデルフィアで開催されている AWS re:Inforce 2024 に参加しています。 本記事は AWS re:Inforce 2024 の Breakout Session 「Detecting and responding to threats in generative AI workloads」のレポートです。 セッション概要 While generative AI is an emerging technology, many of the same services and concepts can be used for threat detection and incident respon
![[レポート] 生成AIアプリにおけるインシデント対応のセッション – 生成AIワークロードにおける脅威の検出と対応 #TDR302 #AWSreInforce | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/d1ac42cfd4e5f0a287ed5db0380a987866b4dde2/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2024%2F06%2Feyecatch_awsreinforce2024_1200x630.png)
mergekit でモデルマージを試してみる
こんにちは、初めましての方は初めまして。株式会社 Fusic の瓦です。暑い。まだ六月なのに本当に暑いです。でも六月にクーラーを付けるのは負けな気がする… そう思って扇風機で我慢している今日この頃です。 暑いといえば、最近の LLM 系周辺ではモデルを組み合わせて性能を向上させるモデルマージという方法の話題が熱いです。モデルマージはその名の通り、「モデルをマージして（＝くっつけて）新しいモデルを作る」方法を指します。例えば複数のモデルのパラメータの平均を新しいモデルのパラメータとして精度を向上させたり[1]、ベースモデルを対話できるように学習させた後、そのパラメータの差分を別のモデルに加えることで学習せずに対話能力が付与したり[2]といった方法が提案されています。 この記事では、そんなモデルマージを簡単に試せるライブラリ mergekit[3] を使ってモデルのマージを試してみようと思いま
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
