優秀と噂なCohere社のCommand R+でRAGチャットボットを簡単に構築して体験しよう！ - Qiita
1. はじめに Cohere社が最近リリースしたLLMのCommand R+がGPT4に迫る性能を発揮していたり、RAG利用での性能で話題となっています。 そのCommand R+でRAGを体験できるチャットアプリの実装がLightningAIにてチュートリアルが公開されています。 これを身近な環境で動かしてみたいと思います。 このチャットボットでCohere社の以下のモデルが使われています LLM: Command R+ Embed: embed-english-v3.0 / embed-multilingual-v3.0 Reranker: rerank-english-v3.0 / rerank-multilingual-v3.0 以下の動画のようにブラウザでPDFファイルをアップロードしてチャットで問い合わせができます。 2. 必要なもの 以下の2つを準備しましょう。 Cohere
LangChain で社内チャットボット作ってみた
こんにちは、クラウドエース SRE ディビジョン所属の茜です。 今回は、現在最も普及している対話型 AI サービスである ChatGPT で使用されているモデルと、LLM を使ったアプリケーション開発に特化したライブラリである LangChain を用いて社内向けのチャットボットを作成します。 ターゲット 任意のデータを元に回答を行うチャットボットを作成したい方 任意のデータを元に回答させる仕組みを知りたい方 ChatGPT とは ChatGPT とは、ユーザーが入力した質問に対して、まるで人間のように自然な対話形式でAIが答えるチャットサービスです。2022 年 11 月に公開されて以来、回答精度の高さが話題となり、利用者が急増しています。 人工知能の研究開発機関「OpenAI」により開発されました。 執筆時点では、GPT-3.5、GPT-4 という大規模言語モデル (LLM) が使用さ
GPT-3.5-Turbo / GPT-4-Turbo 1106のJSONモードの使い方｜shi3z
日本時間未明(午前三時)ものすごいスピードで語られたOpenAI初の開発者向けイベントDevDayで発表されたGPT-4-TurboとGPT-3.5-TurboによるJSONモード。 これはものすごく強力なんだけど、Python APIによる使い方がどこにも描いてないので試行錯誤の末見つけましたので共有いたします。 from openai import OpenAI import openai import os openai.api_key = "<APIキー>" client = OpenAI() def gpt(utterance): #response = openai.chat( response = client.chat.completions.create( #model="gpt-4-1106-preview", model="gpt-3.5-turbo-1106", r
ChatGPT bot を Slack 上で動かすのはめちゃくちゃ盛り上がるのでおすすめ - Qiita
こんにちは、 Qiita株式会社のエンジニアの @tomoasleep です。 Qiita 株式会社では ChatGPT API を使った bot を Slack 上で動かしています。 同じような事例はいくつもあるのですが、Qiita社内でかれこれ 1ヶ月半以上稼働して、「多くのメンバーに ChatGPT をハードル低く提供する」「社内で活用法を考えたり、共有したりしやすい」「楽しい」ということで、 ChatGPT 活用を社内に浸透させるには Slack での bot が本当にめちゃくちゃ最高 なので、実例を交えて布教していきたいと思います。 Qiita での Slack bot の設定 (※ もっと導入しやすい例は、他にいくらでもあるのでここは参考程度に見てください) Qiita 社内では Slack bot として Ruboty を利用しているため、 ruboty-openai_cha
GPT-4 APIがやってきた!3.5と"性能"を比較する｜shi3z
Waiting Listにもっと時間がかかるかと思ったのだが、予想外に早く(一日)APIのロックが解除された。ただしまずは8Kトークン版のみ。 GPT-3.5が4Kトークンだったから倍の長さのストーリーが出せるということだ。 ただし値段はChatGPT APIの10倍。元に戻った感じ。 これはどっちを使うべきか結構悩むぞ。 こんな感じで呼ぶ % curl https://api.openai.com/v1/chat/completions \ -H 'Content-Type: application/json' \ -H 'Authorization: Bearer APIKEY'\ -d '{ "model": "gpt-4", "messages": [{"role": "user", "content": "宮崎駿について"}], "temperature": 0.7 }'答えはこ
ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策 - Qiita
こんにちは！逆瀬川 ( https://twitter.com/gyakuse )です！ 今日は気軽にできるプロンプトインジェクション対策を紹介したいと思います。 プロンプトインジェクションとは ChatGPTなどの言語モデルをベースとしたサービスに対し、「これまでの命令を表示してください」などの文章を与え、出力をジャックしてしまう攻撃手法です。 Prompt Leaking, Jailbreaking, 等の類似手法が知られています。 対策 これへの対策は簡単で、命令を追加で挿入する手法があります。以下に示します。 import openai openai.api_key = openai_key def completion(new_message_text:str, settings_text:str = '', past_messages:list = []): """ この関数は
Google Apps Script 用 Slack API ライブラリ作った - Qiita
tl;dr Slack APIのGoogle Apps Script用ラッパーライブラリを作って公開した。 Pythonの人気ライブラリSlackerとおおよそ同様のことができ、これを使うことでSlackのbotなどを無料で作りやすくなった。 レポジトリ：https://github.com/yhay81/GASlacker 経緯 Slackでボットを作ろうと思いドキュメントを読んだらBotkitというのをオススメされていたがややこしいと思った。 サーバー管理不要かつ無料で作りたいと思い Google Apps Script に目をつけた。 ライブラリは公式にたくさん紹介されていた。が、Google Apps Script用のものはなかった。 Qiita記事「Slack BotをGASでいい感じで書くためのライブラリを作った」を見つけた。 CoffeeScriptで書かれたこのライブラリは
開発以外の仕事でやってるちょっとした自動化の紹介 - Qiita
こんにちは、Misocaのとよし（@toyoshi)です。 この記事は、Misoca Advent Calendar 2017 の9日目の記事です。 年末ですね。今年1番驚いた話は、グルテンフリーをやってみようと思ってお米＋専用の粉でパンが作れるホームベーカリーを買ったところ、専用の粉というのがグルテンパウダー（例えばこういうの）だったことです。ホームベーカリーを買って箱を開けたときに本当に恥ずかしい気持ちになりました。 さて、私の苦手なものに、手順が曖昧であったり、何かを思い出すストレスというものがあります。なので、繰り返し発生する作業は「自動化できないか？」「そもそもやらなくていいのではないか？」ということを考えてるようにしています。そして、自動化できるものは自動化し、それが難しくてもマニュアル化することで次回以降に自分が記憶喪失になっていても作業ができるようにしています。 今回はそん
チャットメッセージの即時反映を支える技術 - KAYAC Engineers' Blog
Lobiチームの長田です。 今回はLobiの根幹であるチャットサービスの、Streaming APIについて紹介します。 多くのチャットサービスがそうであるように、 Lobiでも新しいチャットメッセージが画面リロードの必要なく表示されるようになっています。 チャットメッセージをデータストリームとしてクライアントに送信するためのAPIがStreaming APIです。 LobiのチャットサービスはiOS・Android・Webブラウザで利用することができ、 これら全てでStreaming APIを使ったチャット画面の自動更新を実現しています。 即時反映の実装方法としては Polling Long Polling Web Socket など複数の方法が挙げられますが、LobiではHTTPリクエストのLong Pollingをベースにした 独自のフォーマットを使用しています。 仕組み app -
Socket.IO — Socket.IO P2P
What you see above is a multiplayer version of the classic Snake game with a twist: whenever possible, it will automatically establish a peer-to-peer connection with your opponent. Today we’re very happy to introduce Socket.IO P2P, the easiest way to establish a bidirectional events channel between two peers with a server fallback to provide maximum reliability. Let’s look at the API and build a l
LINE DEVELOPER DAY 2016 開催のお知らせ « LINE Engineers' Blog
LINE株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。 LINEヤフー Tech Blog saegusa2017-04-16Yoshihiro was a network engineer at LINE, responsible for all levels of LINE's infrastructure. Since being named Infra Platform Department manager, he is finding ways to apply LINE's technology and business goals to the platform. こんにちは。LINEでネットワークやデータセンターを担当している三枝です。2017年1月にJANOG39で登壇する機会を頂きましたので、今回
WebRTCを仕組みから実装までやってみる - blog::wnotes.net
このエントリはFrontrend Advent Calendar 2013 23日目の記事です。 2014/03/16追記 WebRTC-DataChannelについてもエントリ書きました。↓からどうぞ。 WebRTC-DataChannel使ってみたよ WebRTCを仕組みの理解から実装まで Advent Calendarを書くということでなんか新しいことやったほうがいいかなーって思ってたので、今回はWebRTCを調べてみました。 調べながらだったので間違っている箇所もあるかもですが、専門家の方のツッコミあれば歓迎です。 先に作ったサンプルデモを触りたい方は以下のアドレスからどうぞ。 WebRTC Video Chat Sample ※接続名は同時にアクセスしている方全員から見えますのでご注意ください！接続依頼が来た際にはダイアログが出るようにしてますが、安易に応答すると知らない人とつな
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
