はじめに 初めまして。ZENKIGENデータサイエンスチームのはまなすです。正式な所属はDeNAデータ本部AI技術開発部なのですが[1]、業務委託という形で今年度から深層学習系の開発等に携わっています。 深層学習界隈では、2017年に衝撃的なタイトル（Attention Is All You Need）の論文が発表されてから早5年半、元出自の機械翻訳タスクを大きく越えて、Transformer関連の技術が様々な領域で用いられる汎用アーキテクチャとして目覚ましく発展し続けています。 今回はそんなTransformerが現時点までにどのように活用されてきたか、また、どのように工夫されてきたかをざっくりと俯瞰し、流れをおさらいする目的の記事になります。本記事の大枠は、2021年時点でのサーベイ論文である A Survey of Transformers に倣いつつ、適宜、2023年2月上旬現在ま
最終更新日時： 2022年1月10日 コロナで一儲けするために、仕込み忘れてしまったという人もいると思います。ただまだまだ伸び悩んでこれから伸びる可能性がある米国株をご紹介していきたいと思います。 ソースは、アメリカの投資番組『CNBC Mad Money』で紹介された銘柄になります。 CNBC Mad Money 司会のジム・クレイマー氏が選んだコロナ向けのインデックス「Cramer’s Covid-19 Index」で、まだ価格が伸び切っていない銘柄になります。 いわゆる、その中の「出遅れ株（Laggards）」をご紹介します。 CNBC Mad Money Cramer’s Covid-19 Index Cramer’s Covid-19 Index：Laggards（出遅れ超優良株） Crown Castle (CCI) UnitedHealth Group (UNH) Pro
徳永拓之（LeapMind（株）） 1bit LLMの時代が来る？ 2024 年2 月，The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits¹⁾ というタイトルの論文がarXiv上で公開され，にわかに話題となりました．“1.58 Bits” という表現はあまりなじみがありませんが，log₂(3) = 1.58 . . . ということで，パラメーターを三値にした場合の情報量を示しているようです．この論文（以下b1.58 論文とする）は，同じ著者グループによる文献2）を少し拡張したもので，大規模言語モデル（LLM）の効率化についての研究です． 本稿の前半ではこれらの論文の主張を解説し，後半ではその主張の妥当性について検討します． なお，これらの2本の論文は，本稿執筆時点では，査読を経たものではありませんのでご注意くだ
𝓓𝓪𝓿𝓲 🗝 @AbbyConnoisseur @TMitterOfficial TYPE-MOONのファンとして、「Climax of Night」という格闘ゲームトーナメントはそしてそのコミュニティーはメルティブラッドの評判を傷つける恐れがあると懸念しています。 odysee.com/@YureiEu:7/Tex… #メルブラ #メルティブラッドタイプルミナ #MBTL #MeltyBlood pic.twitter.com/GAPV4xfBrk 2022-06-21 01:06:13 原文リンク： https://odysee.com/@YureiEu:7/TextToTypeMoon:e 内容 担当者の方へ 不安に駆られるTYPE-MOONのファンの視点からこのメールを書いています。現在は、「Climax of Night（CoN）」という米国を拠点とする格闘ゲームトーナ
PyCon JP 2019で見たセッションの聴講記録20個分 / 資料・動画・関連リンクなど - フリーランチ食べたい
2019年9月16日/17日に開催されたPyCon JP 2019で自分が直接/YouTubeで聴講したセッションについてのまとめです。主に下記の内容を書いています。 スピーカーURL 配信動画 スライド 発表内で出てきたライブラリなどのURL 自分の感想 「あのセッションで話していたライブラリなんだっけ」と思い出したい方やざっくり内容が知りたい方に読んでいただければ幸いです。PyCon JPに自分も発表者としても参加し、スタッフとして参加し、Webサイトの開発もしたので、それについては改めて書きたいと思います。 pycon.jp PythonとAutoML / 芝田 将 スピーカー: https://twitter.com/c_bata_ 動画: https://www.youtube.com/watch?v=Whkwu46DgBs スライド: https://www.slideshar
マーケット｜SBI証券
今回は今年最後のレポートとなりますので来年の見通しと投資戦略について書きます。 まずS&P500指数ですが2021年は1年間で＋3%を見込んでいます。2月ならびに8月~10月に急落局面が来ると予想します。それ以外は堅調だと考えています。 セクター的には旅行・レジャー関連株、消費循環株は1~3月にかけて苦境に立つと思います。また2020年春に新型コロナが最初に問題化した時、スーパーマーケットのような「巣篭り/買い出し」に関連するウォルマート（ティッカーシンボル：WMT）、クローガー（ティッカーシンボル：KR）、ダラーゼネラル（ティッカーシンボル：DG）などの銘柄が買い進まれたわけですが、それらは前年比較が苦しくなると予想します。 アマゾン（ティッカーシンボル：AMZN）、ショッピファイ（ティッカーシンボル：SHOP）、エッツィー（ティッカーシンボル：ETSY）などのネット通販の銘柄は市民が外
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
30分で完全理解するTransformerの世界
【米国株】コロナで「まだこれから」伸びそうな「買い時の株」 - ウミノマトリクス
1bit LLM の時代は来るのか，来ないのか，どっちなんだい？｜情報処理学会・学会誌「情報処理」
メルブラも扱う海外格ゲー大会運営、ロリキャラを好きだと発言した選手に対して名誉毀損を働いた上で出禁にする。