ChatGPTなどの大規模言語モデルはどんな理論で成立したのか？重要論文24個まとめ
2022年11月にChatGPTが公開され、たった1週間で100万ユーザーを超えたのをきっかけに、GoogleのBardやMicrosoftのBing AI Chatなど、大規模言語モデルを利用したチャットAIが続々とリリースされています。チャットAIを研究しているセバスティアン・ラシュカさんが、チャットAIが実用化されるまでの研究の軌跡を重要な論文24個に絞って要約しています。 Understanding Large Language Models - by Sebastian Raschka https://magazine.sebastianraschka.com/p/understanding-large-language-models ◆目次 ・主要なアーキテクチャとタスク ・スケーリングと効率性の向上 ・言語モデルを意図した方向へ誘導する ・人間のフィードバックによる強化学習(
Google検索のアルゴリズムに関する2500ページ超の内部文書が本物であることをGoogleが認める
Googleの検索ランキングアルゴリズムに関する2500ページ超の内部文書「Google API Content Warehouse」がリークされました。この内部文書についてコメントを拒否していたGoogleですが、ついにこれが本物であることを認めました。 Google confirms the leaked Search documents are real - The Verge https://www.theverge.com/2024/5/29/24167407/google-search-algorithm-documents-leak-confirmation 世界最大級の検索エンジンであるGoogle検索を運用するGoogleの、検索アルゴリズムに関する2500ページ超の内部文書「Google API Content Warehouse」がリークされました。この内部文書により
空のS3バケットでAWSの請求額が爆発的に増加するとの指摘、Amazonはさっそく問題に対処すると発表
AmazonのクラウドコンピューティングサービスであるAWSが提供するストレージサービス・Amazon S3では、写真や動画などのデータをアップロードするためにバケットを作成する必要があります。このS3バケットを空の状態にしていると、AWSの請求額が爆発的に増加してしまうという問題を、ソフトウェアエンジニアのMaciej Pocwierz氏が報告しました。 How an empty S3 bucket can make your AWS bill explode | by Maciej Pocwierz | Apr, 2024 | Medium https://medium.com/@maciej.pocwierz/how-an-empty-s3-bucket-can-make-your-aws-bill-explode-934a383cb8b1 Pocwierz氏はクライアント向けに作成
RAGにおいてLLMが「役立たない情報を無視」できるようにする『RAFT』QAタスクで従来の手法を大幅に上回る結果を達成 | AIDB
背景 LLMは、膨大な量の公開データで学習することにより、幅広い一般知識推論タスクで著しい進歩を遂げてきました。一方で、LLMが特定の分野のタスクに用いられる場合、一般的な知識推論よりも、与えられた文書に対して正確であることが強く求められています。例えば最新のニュースや企業の非公開文書などに適応させることは課題になっています。 LLMを特定分野に適応させる際、検索拡張生成（RAG）を用いたコンテキスト学習と、教師あり微調整（supervised fine-tuning）の2つの手法が主に考えられます。 RAGベースの手法は、LLMが質問に答える際に文書を参照するものです。この手法では、モデルが事前に学習しているわけではありません。外部のナレッジベースから関連情報を取得することで問題解決能力を向上する（比較的リーズナブルな）アプローチです。 教師あり微調整は、文書からより一般的なパターンを学
グーグル、AIプロンプトの最適化に役立つ2つの新しいリソースを無料で公開（ZDNET Japan） - Yahoo!ニュース
簡単に利用できる人工知能（AI）チャットボットはたくさんあるが、最大限に活用するにはAIプロンプトの技術をマスターする必要がある。だが、AIチャットボットにどう話しかければ望む結果が得られるのか、正しく理解するのは難しいかもしれない。そこで、Googleが支援に乗り出した。 Googleは米国時間4月19日、「Gemini for Google Workspace」を最大限に活用するためのヒントやコツ、提案を紹介する新しいブログシリーズを公開した。このブログは、仕事をしている人がWorkspaceでGoogleのAIアシスタントを使いこなせるようにするためのものだが、提供されているアドバイスは、ほとんどすべてのAIチャットボットに適用できる。 最初のブログ記事は、プロンプトとは何か、生成AIモデルを利用する上でのプロンプトの重要性、そしてプロンプトの作成に役立つ公式について説明している。
「Linux」で独自の音楽ストリーミングサーバーを構築するには
Jack Wallen （Special to ZDNET.com） 翻訳校正： 編集部 2024-04-18 07:45 筆者の1日のほとんどは音楽で満たされている。文章を書くときも、ジョギングをするときも、単純な作業をするときも、音楽がそばにある。オフィスにいるときは、ターンテーブルで音楽を再生する。オフィスにいないときは、いくつかの選択肢がある（スマートフォン、Googleのスマートスピーカー、ストリーミングサーバーなど）。 今回の記事で取り上げたいのは、ストリーミングサーバーである。筆者がホームネットワーク上にストリーミングサーバーをセットアップした最大の理由は、極めて大規模なデジタル音楽コレクションを所有しており、そこには、絶版になった録音や普通のストリーミングサービスではアクセスできない録音が多数含まれていることだ。したがって、Lord Groovy And The Psych
無料で42万点以上の楽譜や音源データをダウンロード可能な「国際楽譜ライブラリープロジェクト」
著作権の消滅などによりパブリックドメインとなった楽譜や音楽などを無料で公開する国際楽譜ライブラリープロジェクト(IMSLP)のウェブサイトでは、主にクラシック音楽の楽譜や音源データが42万5000点以上収録されています。どのような音源や楽譜データがあるのか、実際に使って確かめてみました。 IMSLP: Free Sheet Music PDF Download https://imslp.org/wiki/Main_Page IMSLPのトップページはこんな感じ。日本語にも対応しており、言語を日本語に変更するには下へスクロール。 「日本語」をクリックすると、メニューバーなどの一部を除いて言語が日本語に変換されます。 楽譜をダウンロードするにはメニューバーから「Scores」をクリック。 作曲者名や国別、時代などから楽譜を探すことができます。例えば「作曲者から」をクリックすると…… アルファ
【公式 2週間限定無料公開】ラ・ジュテ [日本語ナレーション版]/シネフィルWOWOW プラスでは世界の名画を配信中
シネフィルWOWOW プラスでは世界の名画を配信中→https://x.gd/OH0FD チャンネル登録はこちら！→https://www.youtube.com/channel/@cinefilwowowplus パリが廃墟と化した近未来、少年期の記憶に取り憑かれた男がタイムトラベルをする。ほぼ全編、静止画で構成したSF映画の傑作。大塚明夫による日本語ナレーション版。 ■概要 第3次世界大戦後の廃墟と化したパリ。戦争を生き延びたものの放射能により地下で生活する羽目に陥った科学者たちは、“過去”と“未来”に救済を求める。彼らは少年時代の記憶に取り憑かれた捕虜を選び出し、彼を使ってタイムトラベルを試みる。彼の心には少年時代に空港の送迎台で見た女のイメージが焼き付いていた。実験台での注射で過去に送り込まれた男は、女と再会する。大塚明夫による日本語ナレーション版。 ■監督 クリス・マ
![【公式 2週間限定無料公開】ラ・ジュテ [日本語ナレーション版]/シネフィルWOWOW プラスでは世界の名画を配信中](https://cdn-ak-scissors.b.st-hatena.com/image/square/a384bfbfca32dae5ae70bcfbdbae12b4786833de/height=288;version=1;width=512/https%3A%2F%2Fi.ytimg.com%2Fvi%2FK-m1VKwaq5k%2Fhqdefault.jpg)
機械学習を「社会実装」するということ 2024年版 / Social Implementation of Machine Learning 2024
機械学習を「社会実装」する際に待ち受けている罠と、その解決方法の考察 (2024年版) です。今回は、生成AI時代とも呼ばれる昨今において、我々は機械学習プロジェクトをどのように捉え、どのように向き合えばよいか？の羅針盤になる内容を盛り込みました。 ※この資料は、東京大学メタバース工学部リスキリング講座プログラム グローバル消費インテリジェンス寄付講座 (GCI) 2023 Winterの講義で使用したものです。 https://gci2.t.u-tokyo.ac.jp/archives/course/gci-2023-winter ※過去に同テーマで講義した際に使用した資料はこちら。 https://speakerdeck.com/moepy_stats/social-implementation-of-machine-learning-july-2023-version https:/
【GPT Store神ランキングトップ10】世界で一番使われている最強GPTs10選 | WEEL
【速報＆朗報】GPT Storeが遂に公開 待ちに待ったGPT Storeが遂に公開されました！🔥 公式発表によると、GPT公開からのたった2ヶ月で300万以上のGPTsが作成されているとのこと。 注目ポイント👀 ・毎週Open AIからの注目GPTsが特集される… pic.twitter.com/94WCTnwDiJ — 木内翔大＠SHIFT AI代表「日本をAI先進国に」𝕏 (@shota7180) January 10, 2024 ChatGPTには「GPTs」という機能があり、ユーザーがChatGPTを自由にカスタムできます。さらにGPT StoreではGPTsが公開され、将来的には収益化も可能になる予定です。 AIを使って稼げる時代が、目の前まで来ていますね。今回は、そんなGPT Storeの中で最も人気のあるGPTsトップ10をご紹介します。 ビジネスや情報整理など、様々
プログラミング入門にピッタリなビジュアル言語「Pickcode」が登場、PythonやJavaScriptなどのより高度なプログラミング言語への移行を促進
プログラミングを始めるための最良の選択肢となることを目指して作成されたビジュアルプログラミング言語が「Pickcode」です。チャットボットやアニメーション、ゲームなどを作成しながらプログラミングについて学べ、PythonやJavaScriptなどのより高度なプログラミング言語への移行を促進することができるようになっています。 Pickcode | Make cool stuff with code https://pickcode.io/ 実際にPickcodeでプログラミングについて学んでみます。上記ページにアクセスして「Try a lesson」をクリック。 すると「最初に作りたいのは何？」という画面が表示され、選択肢として「A chatbot that says a few things(いくつかのことを話すチャットボット)」と「An animated drawing of a r
Stability AIは商用利用可能な日本語画像言語モデル「Japanese Stable VLM」をリリースしました。 — Stability AI Japan
Stability AI は商用利用可能な日本語画像言語モデル「Japanese Stable VLM」をリリースしました。 Japanese Stable VLM 「Japanese Stable VLM」は、「Japanese Stable LM Instruct Gamma 7B」をベースとした日本語画像言語モデル（Vision-Language Model、略してVLM)です。入力した画像に対して文字で説明を生成できる画像キャプショニング機能に加え、画像についてのユーザーの質問に回答することもできます。 研究目的に作られた最初のバージョン「Japanese InstructBLIP Alpha」とは、主に以下の2点の違いがあります。 商用利用可能* ライセンス 最新手法 LLaVA-1.5 のモデル構造・学習手法を適用 ベースとする言語モデルを「Japanese Stable LM
3D地理データを扱う『Cesium』のアンリアルエンジン用無料プラグイン、チュートリアルが公開。Epic Gamesのスタッフが活用方法を解説
3D地理データを扱う無料プラグイン『Cesium for Unreal』のチュートリアルが公開 スプラインで囲まれた地形をスタティックメッシュに置き換える方法を解説 「GeometryScript」を活用しメッシュを動的に生成 アンリアルエンジン公式ラーニング ライブラリーに、3D地理データを扱う無料プラグイン『Cesium for Unreal』の活用方法を解説するチュートリアルが新たに追加されました。 I made a #UE5 tool that quickly cuts out @CesiumJS tiles and fills the hole using Geometry Script. You can read my tutorial and download the files here:https://t.co/5nJ3Ilufp8#GIS #UEtips #Geomet
画像復元（DiffBIR，Python，PyTorch を使用）（Windows 上）
【要約】 DiffBIRは，画像復元の手法で，低品質な画像を高品質に復元する．Windows上でのインストールでは，TritonのインストールとDiffBIRのセットアップを行う．学習済みモデルを使用して，画像復元を行う．詳細は公式GitHubページで説明されている． 元画像と処理結果 【目次】 前準備 DiffBIR のインストール（Windows 上） DiffBIR の動作確認（Windows 上） DiffBIR を使う Python プログラムの実行（Windows 上） DiffBIR DiffBIRは画像復元の手法の一つである。 画像復元は、低品質または劣化した画像を元の高品質な状態に修復するタスクである。 このタスクでは、ノイズや歪みなどの複雑な問題に対処する必要がある。 DiffBIRは、2つの主要なステージから成り立っている。 最初のステージでは、画像復元が行われ、低品
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Graph Game - By Sabrina Ramonov
⼤規模⾔語モデルの拡張（RAG）が 終わったかも知れない件について
https://www.classtools.net/blog/using-plutchiks-wheel-of-emotions-to-improve-the-evaluation-of-sources/?s=09
Japan: Takashimaya apologises for 807 collapsed Christmas cakes
明治大学理工学部 特別講義: 2023年のAIの大事な話 - ChatGPT を知ろう -
https://fb.watch/ozsJANA4Vv/