ELYZAが公開した日本語LLM「ELYZA-japanese-Llama-2-7b」についての解説 : (1) 事前学習編
ELYZAが公開した日本語LLM「ELYZA-japanese-Llama-2-7b」についての解説 : (1) 事前学習編 はじめに こんにちは。ELYZAの研究開発チームの佐々木 (@hikomimo)、中村 (@tyo_yo_)、堀江 (@eemon18)、平川 (@h__must__) です。 先日弊社株式会社ELYZAでは以下のようなリリースをさせていただきました。 Metaの「Llama 2」をベースとした商用利用可能な日本語LLM「ELYZA-japanese-Llama-2-7b」を公開しました 上記のリリースには、Metaの「Llama 2」をベースとした以下のモデルが含まれます。 日本語追加事前学習済みモデル ELYZA-japanese-Llama-2-7b ELYZA-japanese-Llama-2-7b-fast 上記の事前学習済みモデルに事後学習 (instr
(翻訳) ストーリーポイント再考 - forest book
本稿は Ron Jeffries 氏によって書かれた次の記事の日本語翻訳です。著者に翻訳の許可を得て公開しています。 ronjeffries.com また本稿は DeepL Pro を使って下訳したものに手を加えています。日本語翻訳の不具合または誤訳については Ron Jeffries 氏ではなく、本稿のコメント欄にお願いします。 ここから本文です。 ストーリーポイント再考 私はストーリーポイントを発明したかもしれない。もしそうだったとしたら、いまは申し訳なかったと言いたい。ストーリーポイントに関する私の現在の考えを探ってみよう。少なくとも何人かは私の考えに興味をもっているでしょう。 もちろん、ストーリーは XP のアイディアであり、スクラムのアイディアではありません。どういうわけか、スクラムの実践者はこのアイディアを採用しています。公式のスクラムガイドではバックログアイテムに言及している
人工知能研究の新潮流2 ～基盤モデル・生成AIのインパクト～｜戦略提案・報告書｜研究開発戦略センター（CRDS）
エグゼクティブサマリー 本報告書は、人工知能（AI）技術の研究開発における「第4世代AI」と「信頼されるAI」という二つの潮流を踏まえ、AI技術の社会的価値を高め、日本の国際競争力を強化するための研究開発の戦略提言と、それらに関連の深い研究開発領域の動向をまとめたものである。同様の位置付けの報告書「人工知能研究の新潮流～日本の勝ち筋～」を2年前（2021年6月）に公開したが、その後、基盤モデル・生成AIがブレークし、社会に大きなインパクトを与え、研究開発戦略・政策の検討も活発に行われている。そこで、今回、2年前の報告書をアップデートし、「人工知能研究の新潮流２～基盤モデル・生成AIのインパクト～」と題して公開することにした。本報告書は2部構成をとり、第1部では基盤モデル・生成AIのインパクトを踏まえた研究開発の二つの潮流と戦略提言の内容、第2部ではそれらと関連の深い研究開発領域の動向や国際
生成AIはどう変化してきたか？ 日本マイクロソフト・エバンジェリストがひもとく、その歴史
「Generative AI 時代のサービス開発者への道」というタイトルで登壇したのは、日本マイクロソフト株式会社・大森彩子氏。Generative AIの歴史、サービス開発にGenerative AIを活用するための心構えとTipsを日本CTO協会が主催の「Developer eXperience Day 2023」で発表しました。全3回。1回目は、AIの歴史と「Bing Chat」のデモ。 登壇者の自己紹介とアジェンダ紹介 大森彩子氏：みなさんこんにちは。マイクロソフトの大森です。私からはGenerative AI、生成AIを使ったアプリケーション、サービスを考えている方々に向けて、どのようにGenerative AIを捉えたらいいのか。そして、それを使ったサービスやアプリケーション開発に至るまでのヒントをお話できればと思います。 自己紹介になりますが、あらためまして、マイクロソフトの
言語解読・謎解き冒険ゲーム『Chants of Sennaar』好評スタート。旅の中で意味不明言語を少しずつ学び、世界の謎に迫る - AUTOMATON
パブリッシャーFocus Entertainmentは9月6日、パズルアドベンチャーゲーム『Chants of Sennaar』を配信開始した。対応プラットフォームはPC（Steam）/PS4/Xbox One/Nintendo Switch。本作にはさっそく高評価が寄せられ、Steamユーザーレビューにおいて「非常に好評」のステータスを獲得している。 『Chants of Sennaar』はパズルアドベンチャーゲームだ。本作の世界観は、人々の言語が分かたれる伝承「バベルの塔」に影響を受けている。舞台となるのは人々がもはや言葉を交わさなくなったとされる古代の世界。その一方で、「いつの日かひとりの旅人が人々の調和を取り戻す知恵を見い出すであろう」という言い伝えが残されている。プレイヤーは、色彩豊かに描かれた古代都市を旅しながら、人々が用いる古代言語や世界の謎と真実を解き明かしていく。 本作で
VOGUEなファッションストーリー。京都で触れる伝統とモダニズム。
古都の花街を歩けば。 フューシャピンクに黒のドットが映えるバレンシアガのボリューミーなドレス。伝統を受け継ぐ花街・宮川町の通りに、パフスリーブやフリルのディテールがよりパワフルに個性を際立たす。 コートドレス ￥368,500 ピアス￥108,900 リング 参考商品 バッグ ￥190,300／すべてBALENCIAGA（バレンシアガ クライアントサービス） 和傘 ￥220,000／WAGASACASA（和傘CASA） 静寂と鮮烈な創造性。 ヴィヴィッドなカラーパレットでアートのようなキルティングをあしらったシャルル・ドゥ・ヴィルモランのジャケット。躍動感のある鮮やかな色彩が、くろ谷さんの名でも親しまれている浄土宗 大本山 金戒光明寺の厳かな空間にドラマティックな対比を描く。 〈右〉ジャケット レギンス 〈左〉ジャケット レギンス／すべてCHARLES DE VILMORIN（www.ch
Generative AIがもたらすECの未来｜内丸@Z Venture Capital
こんにちはZ Venture Capitalの内丸です。 Generative AIの話題は今や毎日のように見ていると思います。 今回はGenerative AIによってECがどう変わるのかを考えていきたいと思います。 「Generative AIの何がすごいのか、何ができるのか」は他の記事で語りつくされているので、本ブログでは割愛します。 個人的にはSequoia Capitalの記事が非常にわかりやすくまとまっているので、一読をオススメします。 Generative AIがもたらすECの未来を考察するため、まずはスタートアップとテックジャイアントの足元の動向を見ていきます。 スタートアップの動向CB Insightsによると、Generative AI関連のスタートアップの80%以上がシリーズAより手前のフェーズです。 つまり、まだ市場の黎明期であることがわかります。 今後もGener
生成AI活用の試行錯誤〜Ubie社での取り組み〜｜masa_kazama
生成AIChatGPTをはじめとするGenerativeAI(生成AI)は、テレビや新聞で見ない日はないくらいに話題になっています。YouTubeでも芸人さんがChatGPTを紹介する動画が多数出ています。（個人的に、芸人かまいたちの「ChatGPTに漫才を作ってもらう」という動画が好きです。） 企業でも、ソフトバンクやNTTなどの大企業が、会社を上げて生成AIの開発・活用をしていくと発表しています。行政においても、横須賀市やつくば市が生成AIを積極的に業務に取り入れようとしています。今後ますます多くの企業・行政・個人が生成AIを活用していくと思います。 このブログ記事では、AI×医療のベンチャー企業Ubieでの生成AI活用の試行錯誤してきた取り組み事例をご紹介します。今後の生成AI活用に少しでもご参考になれば幸いです。（プロダクトへの活用はまだ検証中なため、生成AIによる社内生産性向上の
Metaの「Llama 2」をベースとした商用利用可能な日本語LLM「ELYZA-japanese-Llama-2-7b」を公開しました｜ELYZA, Inc.
Metaの「Llama 2」をベースとした商用利用可能な日本語LLM「ELYZA-japanese-Llama-2-7b」を公開しました 本記事のサマリーELYZAが「Llama 2」ベースの商用利用可能な日本語LLM「ELYZA-japanese-Llama-2-7b」を一般公開 性能は「GPT-3.5 (text-davinci-003)」に匹敵、日本語の公開モデルのなかでは最高水準 Chat形式のデモや評価用データセットも合わせて公開 既に社内では、130億、700億パラメータのモデルの開発も進行中 はじめにこんにちは。ELYZAの研究開発チームの佐々木、中村、平川、堀江です。 この度ELYZAは、Metaの「Llama 2」をベースに、日本語による追加事前学習を行なった日本語言語モデル「ELYZA-japanese-Llama-2-7b」と、そこにELYZA独自の事後学習を施した「
LLMのファインチューニング で 何ができて 何ができないのか｜npaka
LLMのファインチューニングで何ができて、何ができないのかまとめました。 1. LLMのファインチューニングLLMのファインチューニングの目的は、「特定のアプリケーションのニーズとデータに基づいて、モデルの出力の品質を向上させること」にあります。 OpenAIのドキュメントには、次のように記述されています。 ファインチューニングは、プロンプトに収まるよりも多くの例で学習することで、Few-Shot学習を改善します。一度モデルをファインチューニングすれば、プロンプトにそれほど多くの例を提供する必要がなくなります。これにより、コストを削減し、低レイテンシのリクエストを可能にします。 しかし実際には、それよりもかなり複雑です。 LLMには「大量のデータを投げれば自動的に解決する」ような創発的な特性があるため、ファインチューニングもそのように機能すると人々は考えていますが、必ずしもそうではありませ
宇宙RPG『Starfield（スターフィールド）』は「数十時間遊んでもバグがほぼ起こらない」とのプレイ報告が出る。本当に“Bethesda史上もっともバグが少ない”ゲームになりそう - AUTOMATON
Bethesda Softworksは9月6日、『Starfield』の発売を予定している。本作の先行プレイをおこなった人たちの証言から“バグの少なさ”が示されているという。海外メディアInsider Gamingが伝えている。 『Starfield』は、『The Elder Scrolls』シリーズや『Fallout』シリーズの開発で知られるBethesda Game Studios（以下、Bethesda）が手がけるRPGだ。本作では人類が太陽系外に進出している2330年の世界を舞台に、プレイヤーは希少なアーティファクトを求める宇宙探検家集団コンステレーションの一員として、広大な宇宙の星々を冒険する。 本作には100以上の星系に1000以上の惑星が存在し、プレイヤーはすべての惑星について、好きな場所に着陸して探索できるという。惑星によっては高度に発展した都市があり、多彩なクエストも用意
自作キーボードのスイッチソケットを、クリームはんだとヒートガンで実装する - @74thの制作ログ
自作キーボードには、スイッチを直接実装する代わりに、ソケット部品を実装してスイッチを交換可能にすることが行われます。 私の作っているキーボード Sparrow62v2 もソケットに対応しています。 しかし、2022年くらいから、新設計のソケットが出回るようになりました。ソケットの金属部分に直接はんだごてを当てるのが大変になりました。 上:従来 下:新設計 なぜこのような設計になったのかはわかっていません。コストなのか、機械実装でマウントしやすいのか、不明です。 これに対して、手でのはんだごてでの実装もできなくもないですが、ヒートガンを使ってみました。 クリームはんだを乗せる ヒートガンで実装する場合には、線状のはんだではなく、クリームはんだを使います。 注射器の容器に少量はいったクリームはんだを、aliexpress で買って使っています。 ja.aliexpress.com また、これを
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【新卒研修資料】基礎統計学 / Basic of statistics
共同通信・大阪支社 on X: "18年ぶりのリーグ優勝が決まった瞬間、大阪の繁華街でもファンが喜びを爆発させました。大阪・ミナミ の道頓堀川に架かる戎橋一帯では「#六甲おろし」の合唱が繰り返され、厳重な警備をかいくぐって川に飛び込む人も。キタの駅周辺では号外に多くの人が群がりました。 https://t.co/fQvGLv7Xkk"
WEB+DB PRESS休刊に寄せて
グラフを用いた近似最近傍探索の理論と応用
「NAT」「NAT越え」「NATタイプ」ってなーに？
れきちず
https://jp.indeed.com/career-advice/career-development/product-naming
Microsoft、「Python in Excel」を発表 ～Windows向けベータ版でテスト開始【6月18日追記】／Windows版「Excel」のCurrent (Preview)チャネルに順次配信中
