【図解解説/初心者OK】たった1時間でNext.jsで最新AIを使ったチャットアプリを作ろう【RAG/LangChain/OpenAI/TypeScript】 - Qiita
GPTは一番新しいもので2023年の10月までのデータしか学習されていません！ 今季のアニメについて聞けないじゃん！！！ (2024年12月時点) モデルを追加で学習(ファインチューニング)することも可能ですが、 再学習には「時間」と「お金」がかかってしまうので今季のアニメについて聞きたいというモチベーションでは厳しいところがあります。 そこでは今回はRAGを使った最新情報を使えるチャットボット作成をしていきます このチュートリアルをやることで最近話題になっているRAGを理解できるだけではなく、Next.jsを利用してあなたの好きなチャットボットを作ることができます。 Webサイトの隅に専門のチャットボットをおいたり、学習には使えない社内の機密情報を利用したチャットボットを作って会社のヒーローになることも余裕でしょう 動画教材もご用意してます こちらの教材にはより詳しく解説した動画もセット
完全にオープンな約1,720億パラメータ（GPT-3級）の大規模言語モデル 「llm-jp-3-172b-instruct3」を一般公開～GPT-3.5を超える性能を達成～ - 国立情報学研究所 / National Institute of Informatics
2024/12/24 完全にオープンな約1,720億パラメータ（GPT-3級）の大規模言語モデル 「llm-jp-3-172b-instruct3」を一般公開 ～GPT-3.5を超える性能を達成～ 大学共同利用機関法人 情報・システム研究機構 国立情報学研究所 (NIIエヌアイアイ、所長：黒橋くろはし 禎夫さだお、東京都千代田区) の大規模言語モデル研究開発センター（LLMC）は、主宰するLLM勉強会（LLM-jp）の活動の中で、約1,720億パラメータ(*1)（GPT-3のパラメータ数と同規模）の大規模言語モデル（LLM）を2.1兆トークンの学習データを用いてフルスクラッチで学習し、同モデルを「llm-jp-3-172b-instruct3」として一般公開しました。学習データまで含めすべてオープンなモデルとしては世界最大規模です。本モデルは言語モデルの日本語理解能力を測るベンチマーク 「
vLLMを利用したLLM推論高速化テクニック - Taste of Tech Topics
皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 大規模言語モデル（通称：LLM）は近年、非常に注目される技術となりました。 ただ、7Bや13Bといった巨大モデルのパラメータは推論時間も長時間で計算時間の面からも運用が非常に難しいです。 しかし、vLLMを使えば、高速化できます。本記事では、推論をどこまで高速化できるのかを検討したいと思います。 ※本記事はLLM・LLM活用のAdvent Calendar 24日目の記事です。 qiita.com vLLMとは？ vLLMによる高速化実践 vLLMを利用しない場合 vLLMを利用する vLLMに加えてAWQを利用して量子化する Auto Prefix Caching
2024年最新LLM技術まとめ｜大規模言語モデルの研究動向とトレンド(随時更新予定) - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 本記事は「LLM・LLM活用 Advent Calendar 2024」の記事となります。 はじめまして、株式会社Algomaticのsergicalsix(@sergicalsix)です。 大学修士までニューラルネットワーク(NN)のアルゴリズム研究をし、前職ではアプリケーション、AI、インフラエンジニアキャリアを積み、現在(Algomatic AI Transformation(AX))に至ります。 👇 所属組織はこちら 2024年も多くの革新的な研究が発表され、特に大規模言語モデル（LLM）の分野では目覚ましい進展が見
GitHub Copilot in VS Code カスタムインストラクションの設定と効果検証【実践編】 - Findy Tech Blog
こんにちは。 ファインディ で Tech Lead をやらせてもらってる戸田です。 弊社では開発生産性の向上のための投資、検証を継続して行っており、生成AIの活用にも取り組んでいます。 前回の記事で、導入編と題しましてGitHub Copilot in VS Codeのカスタムインストラクションの設定、利用方法を紹介しました。 tech.findy.co.jp 今回は実践編と題しまして、カスタムインストラクションに設定する内容の調整方法について紹介したいと思います。 それでは見ていきましょう！ まず叩き台を用意する Copilotが理解しやすい形に書き換えていく 不要なものは削除する 長い文章よりも、簡潔な階層構造 曖昧な表現はNG 確認用プロンプトでカスタムインストラクションに渡す内容を調整していく まとめ まず叩き台を用意する 兎にも角にも、まず何かしらの叩き台を用意するのが良いです。
AIが連携して動く「四季報AI Ver2」の実力は？ 株式市場の“旬な話題”について聞いてみた
AIが連携して動く「四季報AI Ver2」の実力は？ 株式市場の“旬な話題”について聞いてみた（1/3 ページ） 2023年10月にサービスを始めた東洋経済新報社の「四季報AI」が、初めての大幅なアップデートを行い、「四季報AI Version2.0」（以下、Ver2）となりました。使用するAIエージェントの数が実に50倍に増え、会社四季報が持っている株価情報の探索から一歩踏み込んだ投資判断のアドバイスまで行えるようになったといいます。なお、会社四季報オンラインの「プレミアムプラン」（月額5500円）の機能として提供している点は変わりません。 そもそも四季報AIは、東洋経済新報社が過去80年分の企業データとAIを組み合わせるという野心的な取り組みでした。それまでは生のデータを売るだけだった会社四季報の新規事業的試みであったわけです。同社がデータを提供し、業種に特化した専門文書AIの企画開発
VSCode で LLM と論文執筆
この記事は CyberAgent AI Lab Advent Calendar 2024 19 日目の記事です。 はじめに 非ネイティブにとって英語論文執筆はハードルが高いものですが、最近では LLM の発展によりハードルがだいぶ下がりつつあるのではないでしょうか。 LLM 時代の英文執筆方法の一つとして、Overleaf Workshop を使用して、Overleaf のプロジェクトを VSCode 上で編集する方法を紹介したいと思います。VSCode 上で編集することで、GitHub Copilot (+そのほかの強力な拡張機能) を使用することができます。また、ローカルにプロジェクトをシンクさせることで Git 管理することも可能となリます。個人的には LLM による不本意な編集が気になるため、Git 化することで VSCode 上で差分の確認や復元が容易になるのはメリットだと感じて
コーディングAI課金するならCodyが断トツ良い話
概要 開発者向けの AI ツールは数多くありますが、その中で「Cody」は 無名ながらも知る人ぞ知る優れたプロダクトです。私が普段いるAI技術者コミュニティでは密かに絶大な支持を集めていますが、SNSなどでの一般的な知名度はほとんどないため、ここで紹介します。 Cody は無料プランが圧倒的に強い他、課金プランも、GitHub Copilot、Cursor、ChatGPT と比較して機能性で大きく抜きん出ています。私はすでに半年課金愛用していて、おそらく来年も愛用するでしょう。 Cody とはなんぞや Cody くんは、VSCode や、JetBrains IDEs、Neovim、Eclipseなどのコードエディタの拡張機能として使えるコーディング補助 AI ツールです。 他の生成 AI コードツールと同様に、AI コード補完とAIチャットがあります。 なぜ Cody がおススメなのか C
年末年始は貴重な勉強チャンス？ ITからAIまで、企業などが無料公開した研修・教材資料まとめ
2024年も終わりが近づいてきた。暦上は2連休、平日1日、6連休と続いているため、最大で9連休を取り、ゆっくり過ごす人も多いのではないだろうか。休日を満喫するのも悪くないが、忙しいビジネスパーソンがじっくり勉強できる良いタイミングでもある。そこでおすすめしたい、無料で読める研修・教材資料を紹介する。 今回は、2024年にITmedia NEWSやITmedia AI＋で取り上げた記事の中から、10点を紹介する。ITエンジニアの基礎から、昨今話題の生成AIと著作権の関係まで、2025年からの仕事に生かしてもらえれば幸いだ。 ITエンジニアの基礎固めにはコレ 新卒向けの研修資料 リクルートは、2024年度に入社した新卒エンジニア向けの研修内容と資料の一部を公開している。エンジニアとしての心構えからデータベース設計、JavaScript研修、Webアクセシビリティー入門など、26種類の資料でIT
ブラウザでLLMをローカル展開する手法 | AIDB
背景 これまでの常識として、高性能なLLMには高価な業務用グラフィックス処理装置（GPU）が必要で、クラウドのサーバーでしか動作させることができませんでした。 近年、状況は大きく変わりつつあります。性能を維持したまま小型化されたLLMが、オープンソースで公開され始めたのです。パラメータ数（モデルの複雑さを表す指標）は10億から30億程度に抑えられています。一方で、一般向けパソコンの処理能力も著しく向上しました。例えばAppleの最新プロセッサM3を搭載したノートパソコンでは、データ容量を圧縮した30億パラメータのモデルでも、1秒間に90個の単語を生成できるほどの速度を実現しています。 手元の端末でLLMを動かせるようになれば、新たな可能性が広がります。個人情報を外部に送信せずにすみ、ユーザーのプライバシーが守られます。端末内のデータを活用した個人向けのカスタマイズも可能になります。さらに、
動画生成AI、無料プランでも使い倒せば月200本作れます サービス同士の違いも比較しました→Runway、Pika、Hailuo、Kling、Luma、Kaiber、PixVerse (1/10)
sponsored MSI「MAG X870 TOMAHAWK WIFI」レビュー Ryzen 7 9800X3Dで高性能ゲーミングPCを組みたいならX870マザーボードは耐久性能と程よい価格で選べば間違いなし sponsored 店舗スタッフが自作パソコン完成まで徹底サポート 業界最安値級から2万円引き!? 普通に買うよりお得・手ブラでPCが組めるアプライドの自作イベント sponsored 2004年から業界をリード！ マウスコンピューターのゲーミングPCブランド「G TUNE」が20周年を迎えた 【今売れているゲーミングPCのスペックはコレ！】「G TUNE」で見る最新ゲーミングPCの最先端 sponsored JN-IPS27G200F-PPをレビュー 約2.6万円のパープル200Hzゲーミングディスプレー、女性的にはアリ？ 盲牌でわかるボタンとは？ sponsored 黒くてデカ
爆速生成AI「Llama 3.1 405B」をクラウド利用する、初心者向けステップガイド
メタがリリースした4050億パラメータの超大規模言語モデル「Llama 3.1 405B」は、オープンソースであり、個人のパソコンにインストールして利用することができる。しかし実際の運用には、高スペックハードウェアが必須となるため、誰もが簡単に利用できるわけではない。これに対して、SambaNovaがリリースした新クラウドサービスでは、このLlama 3.1 405BをAPI経由で利用することができる。最大の利点は、秒間100トークン以上のスピードだ。この爆速モデルを利用するためのステップを詳細に解説したい。 高性能オープンモデルLLMを爆速で利用できるAPI メタがリリースしたLlama 3.1 405B（4050億パラメータ）は、オープンソースでありながらGPT-4などに並ぶ高い精度を有するモデルで、AIコミュニティでは注目の的となっている。 しかし、実際に運用するには高スペックなハー
ChatGPTアプリ版を無課金で使ってみた。回数制限はあるけど、すばらしい
ChatGPTアプリ版を無課金で使ってみた。回数制限はあるけど、すばらしい2024.11.25 11:307,488 宮城圭介 AI戦国時代に無課金ユーザーはどこまで戦える？ 先日WindowsにもChatGPTアプリがやってきて、無課金ユーザーでも使えるように。無課金版のChatGPTがどんなアウトプットを出してくれるのかを検証すべく、早速アプリをダウンロードしてみました。 Image: 宮城圭介ちなみにWindowsアプリ版のChatGPTは、スペックのハードルが低く、OSがWindows10以降であれば利用可能です。 音声入力できる。レスポンスも良好Image: 宮城圭介ウェブ版のChatGPTでは使えず今回アプリ版で使えた機能の1つが音声会話機能です。アプリを起動し、テキストボックス横の波長のようなボタンをクリックすると、会話モードになり、音声認識と応答を同時に行なってくれます。
えっ、いらないの？｢スマホにAIは不要｣と70～90%のiPhone＆Galaxyユーザー回答
えっ、いらないの？｢スマホにAIは不要｣と70～90%のiPhone＆Galaxyユーザー回答2024.12.23 20:00 Florence Ion - Gizmodo US ［原文］ （ 湯木進悟 ） あまり評価されてない？ このところAI対応をバリバリプッシュしている最新スマートフォン。Apple（アップル）のiPhoneにはApple Intelligence、Samsung（サムスン）にはGalaxy AIという感じで、各メーカーの力の入れようはスゴいです。でも、意外にもユーザーは、そこまで重宝していなかったりするような…。 AIスマホへの本音は？このほどSellCellは、2000名以上の最新スマートフォンユーザーを対象としたトレンド調査を公表しました。回答ユーザーの半数以上が、Apple Intelligence対応のiPhone 15 Pro／iPhone 16／iPho
AmazonがAWS上で利用可能なマルチモーダル生成AIモデル「Amazon Nova」を発表
Amazonのクラウドコンピューティング部門であるAmazon Web Services(AWS)は、2024年12月2日からラスベガスで開催されているイベント「re:Invent 2024」で、独自のマルチモーダル生成AIモデル「Amazon Nova」を発表しました。Amazon Novaは複数モデルが用意されており、そのうち3モデルは12月3日からAWSの顧客向けに提供されます。 Introducing Amazon Nova: Frontier intelligence and industry leading price performance | AWS News Blog https://aws.amazon.com/jp/blogs/aws/introducing-amazon-nova-frontier-intelligence-and-industry-leading-
AIの波に乗って2025年に利益を上げるための投資戦略とは…UBSが提案
AI（人工知能）は、2020年代の終わりまでに1兆ドル規模の市場になる道を進み続けている。 AIのテクノロジーが新たな活用方法を生み出す中で、UBSはAIへの新たな投資手法を見出している。 UBSが2025年に向け、強気の姿勢を示す4つのAI関連の取引を紹介する。 UBSは、新しい年（2025年）に新たなAI（人工知能）の投資戦略を描いている。 ChatGPTが登場してからまだ2年しか経っていないが、AI分野における革新のスピードは目覚ましい。アルファベット（Alphabet）、アマゾン（Amazon）、メタ（Meta）そしてマイクロソフト（Microsoft）は、2024年末までにAI向けの設備投資に2220億ドル（約34兆4100億円）を投じる見通しだという。 2020年代の終わりまでに、AIは1兆ドル（約1550兆円）規模の産業になるとUBSは予測している。このテクノロジーは経済を劇
OpenAIが推論能力を大幅に強化した「o3」シリーズを発表、 推論の中でOpenAIの安全ポリシーについて「再考」する仕組みを導入
OpenAIが12日間連続で発表を行うイベント「12 Days of OpenAI」の最終日である2024年12月20日(金)に、新しい推論AIモデル「o3」シリーズを発表しました。OpenAIによると、o3シリーズやo1シリーズには「deliberative alignment(熟慮的調整)」という新しい安全性訓練手法が組み込まれているとのことです。 Early access for safety testing | OpenAI https://openai.com/index/early-access-for-safety-testing/ Deliberative alignment: reasoning enables safer language models | OpenAI https://openai.com/index/deliberative-alignment/ o
ランダムな文字列で質問し続けるとAIから有害な回答を引き出せるという攻撃手法「Best-of-N Jailbreaking」が開発される、GPT-4oを89％の確率で突破可能
大文字と小文字をごちゃ混ぜにしたり、わざとスペルミスをしたりすることでAIから有害な回答を引き出す手法「Best-of-N(BoN)ジェイルブレイキング」が開発されました。 BEST-OF-N JAILBREAKING (PDFファイル)https://arxiv.org/pdf/2412.03556 Best-of-N Jailbreaking https://jplhughes.github.io/bon-jailbreaking/ New research collaboration: “Best-of-N Jailbreaking”. We found a simple, general-purpose method that jailbreaks (bypasses the safety features of) frontier AI models, and that work
OpenAIとApollo Research、「o1」は自分の目的のために嘘をつくと報告
米OpenAIとAI安全性の研究組織である米Apollo Researchは12月5日（現地時間）、OpenAIが同日公式版をリリースしたLLMの「o1」についての考察を発表した。いずれも、o1に関して幾つかの懸念事項を指摘している。 o1は、OpenAIが9月に発表したLLM。回答を生成する前に思考の連鎖を生み出すことで、複雑な推論タスクを実行できるというものだ。さまざまな戦略を試したり、間違いを認識したり、思考プロセスを洗練したりすることで、従来のモデルと比較して、より有用な回答を提供できるようになったとOpenAIは説明している。 だがApollo Researchは、o1が「scheming」（策略。開発者やユーザーの意図と異なる目的を密かに追求する能力）について評価したところ、o1が以下のような行動を示すことが明らかになったとしている。 開発者やユーザーではなく、o1自身の目標に
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AIグラビアをグラビアカメラマンが作るとどうなる？第39回：生成AI画像の2024年を振り返る（西川和久） | テクノエッジ TechnoEdge
