第1回 LLM 勉強会
2023年5月15日（月）に国立情報学研究所にて初回となる LLM 勉強会を開催しました。 プログラム 勉強会の趣旨、国の動向など [資料] 黒橋禎夫（国立情報学研究所） 現状の LLM のサーベイ [資料] 河原大輔（早稲田大学） 菅原朔（国立情報学研究所） 栗田修平（理化学研究所） 各機関での試みの紹介 河原大輔（早稲田大学）[資料] 坂口慶祐（東北大学） 佐藤敏紀（LINE） 高村大也（産業技術総合研究所） 参加者 乾健太郎（東北大学・オンライン参加） 鈴木潤（東北大学・オンライン参加） 坂口慶祐（東北大学） 高村大也（産業技術総合研究所） 石垣達也（産業技術総合研究所・オンライン参加） 栗田修平（理化学研究所） 吉野幸一郎（理化学研究所・オンライン参加） 鶴岡慶雅（東京大学）（資料提供のみ） 宮尾祐介（東京大学） 谷中瞳（東京大学・オンライン参加） 吉永直樹（東京大学・オンライン参
アマゾン、携帯業界を破壊か 米プライム会員に格安プラン提供の可能性 | Forbes JAPAN 公式サイト（フォーブス ジャパン）
Bloomberg（ブルームバーグ）は2日、Amazon（アマゾン）が米国のプライム会員向けに格安または無料の携帯電話サービスの提供を開始することを検討していると報じた。通信大手が持つ価格決定力を弱める可能性がある。 ブルームバーグが匿名筋の話として伝えたところによると、アマゾンはAT＆T、T-Mobile（T-モバイル）、Verizon（ベライゾン）、Dish（ディッシュ）と卸値の値下げ交渉を行っており、話がまとまればプライム会員に月額10ドル（約1400円）という低価格の携帯プランが提供される可能性がある。 アマゾンはMVNO（仮想移動体通信事業者）と呼ばれる再販業者となり、独自の価格を設定することが可能になる。交渉は2カ月近く続いており、あと数回続く可能性があるという。この報道を受け、ベライゾン、T-モバイル、AT＆Tの株価は2日の取引時間前に5～7%下落。一方、時価総額が他の3社よ
「終わらなかったから次のスプリントにまわそう」なんてありえない
イテレーション・スプリントを使ってはじめて開発するチームがよく直面するのが、スプリントで仕事が終わらない問題です。はじめはそういう時期があってもいいですが、慢性的にこれが続くとなると、注意が必要です。 仕事を終わらせるために 仕事というものは、はじめるときに終わりを定義するものです。しかし、ソフトウェア開発の場合、予想外のことが結構起こります。 予想以上に仕様が複雑になった 予想以上に調査に時間がかかった 予想以上にはまってしまった これはどうしようもない要素なので、アジャイル開発において仕事が終わらない場合は、 予想以上に時間がかかりそうだから、スコープを減らして期限内で終わらせられるようにする 予想以上に時間がかかりそうだから、リリースから外して次のリリースに回す 予想以上に時間がかかりそうだから、チームメンバーに手伝ってもらってかたずける というように、終わらないと気がついた時点で調
ChatGPTなどの大規模言語モデルはどんな理論で成立したのか？重要論文24個まとめ
2022年11月にChatGPTが公開され、たった1週間で100万ユーザーを超えたのをきっかけに、GoogleのBardやMicrosoftのBing AI Chatなど、大規模言語モデルを利用したチャットAIが続々とリリースされています。チャットAIを研究しているセバスティアン・ラシュカさんが、チャットAIが実用化されるまでの研究の軌跡を重要な論文24個に絞って要約しています。 Understanding Large Language Models - by Sebastian Raschka https://magazine.sebastianraschka.com/p/understanding-large-language-models ◆目次 ・主要なアーキテクチャとタスク ・スケーリングと効率性の向上 ・言語モデルを意図した方向へ誘導する ・人間のフィードバックによる強化学習(
アマゾン配送センターの驚異
毎日のように「Amazon」の箱が、自宅に届くという人は少なくない。しかし、そのワンクリックの背後でどんなことが起きているのか。実際に目にしたことがある人は多くないだろう。今回、相模原市が開催したプレスツアーで、2022年10月に稼働したアマゾンの配送センターである相模原フルフィルメントセンター（FC）を取材することができた。 メインエントランスの前は、相模原駅、橋本駅行きのバス停がある。数千人とも言われる人が働くために設けられているのだろう。 アマゾンのFCに入るためには厳重なセキュリティチェックがあり、免許証などの身分証明証が必要になる。弊誌の６月号特集『暗黒大陸・物流 2024年問題に光を灯せ』の取材で、他社の物流倉庫などを取材したが、ここまで厳しいところはなかった。 塩分補給のタブレット メインエントランスを入って左手にある食堂の入り口には、塩分補給のタブレットが置いてあった。季節
GIGABYTE製マザーボードにバックドア類似の機能、数百のモデルが影響
Eclypsiumは5月31日(米国時間)、「Supply Chain Risk from Gigabyte App Center Backdoor - Eclypsium｜Supply Chain Security for the Modern Enterprise」において、GIGABYTEのマザーボードにバックドアのような疑わしい機能が動作しているとして、注意を喚起した。GIGABYTEのマザーボードに、Windowsネイティブの実行ファイルをシステムの起動プロセス中にドロップし、ペイロードをダウンロードして実行する可能性のある機能が埋め込まれていることが明らかとなった。 Supply Chain Risk from Gigabyte App Center Backdoor - Eclypsium｜Supply Chain Security for the Modern Enterp
「Google スライド」画像生成AI提供開始【Workspace Labs】
新 AI テストプログラム「Google Workspace Labs」新機能提供開始 「Google スライド」で画像生成 AI 利用可能 「Google Workspace Labs」は現在米国英語でのみ提供（日本未提供） Google は 2023 年 6 月 2 日（金）、グループウェア「Google Workspace」の新 AI テストプログラム「Google Workspace Labs」にて、新機能「Google スライド」画像生成 AI を提供開始しました。 「Google Workspace Labs」は、サインアップしたユーザーが開発中の AI 機能を試すことができるテストプログラムです。現在は米国英語でのみ提供されているため、まだ日本では利用できません。 「Google Workspace Labs」では、ドキュメントサービス「Google ドキュメント」の文章生成
時系列データから大量の特徴量を生成するパッケージ「tsfresh」の使い方｜CO-WRITE
こんにちは！突然ですが、皆さんは下のような二種類の時系列データを判別できるような特徴量を抜き出したいときに何を考えますか？そしてどうやって特徴量を抽出しますか？ 私はパッと見て次の手法を使えば特性が取り出せると思いました。 ピークの数 → k近傍法 ノイズの大きさ → 分散統計量 時系列方向で周期成分の大きさ → Wavelet変換 しかし、当然これだけでは十分な数の特性を網羅できていないでしょうし、適切な特性を抜き出すためにパラメータチューニングを行う必要があります（例えば、Wavelet変換であれば適切な基底関数を選ぶ必要があります）。 このように時系列データの特徴量エンジニアリングは調べることが無限にあり、どの特徴量を算出するかを考えているだけで日が暮れてしまいます。また、抜き出す特徴量が決まったとしてもモノによっては計算が複雑で実装に時間がかかってしまう場合もあります。 そんなとき
「自分事としてそのプロダクトに向き合えているか」が大事 及川卓也氏が考える「エンジニア力」とは
及川卓也氏に聞く必要な“エンジニア力”の身につけ方 「自分事としてそのプロダクトに向き合えているか」が大事 及川卓也氏が考える「エンジニア力」とは 「エンジニア」になるために必要な能力とはなんでしょうか。また、「エンジニア力」を身につけるためには、どのようにすればよいのでしょうか。MicrosoftやGoogleなど、海外を含めたさまざまなエンジニア組織をまとめてきた及川卓也 氏に、優秀なエンジニアであり続けるために必要な“エンジニア力”について聞いてみました。後半は「エンジニア力」について。 「ソフトウェア開発よりもプロダクト開発のほうが絶対におもしろい」 ーーなるほど。そうすると今言った流動する側のエンジニアとして、例えばやはり自分もエンジニアを極めたい、スペシャリスト職ならスペシャリストになっていきたいという時に、その人がエンジニアとしてやっていけるんじゃないかというポイントって何か
グラフニューラルネットワーク(GNN)を使ったタグ分類
テラーノベルで機械学習を中心に担当している川尻です。最近、グラフニューラルネットワーク(GNN)に注目してサーベイしています。今回は、実際のテラーノベルのデータを簡単なモデルに適用してみたので報告します。 グラフニューラルネットワーク (GNN) グラフニューラルネットワーク（GNN）とは、グラフ理論において対象を「ノード」と「エッジ」からなる「グラフ」として扱うためのニューラルネットワークの一種です。例えば、テラーノベルにおいては、ノードがユーザーや作品の一つ一つを表し、エッジが「読んだ」「いいね」「フォロー」などを表します。ディープラーニングの発展に伴い、GNNの研究も盛んになっており、大規模なデータや様々なタスクに適用されるようになっています[1]。 テラーノベルでのグラフの例 arxivで投稿された年ごとの「Graph Neural Network」がタイトルに含まれている件数 G
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
自宅PCで「rinna」の日本語言語モデルを試用、メモリ32GBあればCPUだけでも動くぞ！【イニシャルB】
