拙著『深層ニューラルネットワークの高速化』が重版して第 2 刷となりました。皆さまありがとうございます！ 深層ニューラルネットワークの高速化 (ML Systems) 作者:佐藤 竜馬技術評論社Amazon もはや恒例、重版に感謝して書き下ろし専門記事をお届けします。 本稿では、SNS などでもたびたび話題になるトランスフォーマーは RNN であるという話をします。本稿では単に形式的に包含性を指摘するだけでなく、トランスフォーマーと RNN はどの程度似ているのかや、そこから導かれる応用上の意味についても詳しくご紹介します。 本稿は『深層ニューラルネットワークの高速化』の第 6.3 節と第 7.2 節に基づいています。 過去回 拡散モデルと最適輸送（最適輸送第 5 刷） GNN の最新動向（グラフニューラルネットワーク第 3 刷） 深層学習で部分空間を扱うときは射影行列を考えるとよい（グラ
9月の記事で10月は任天堂について述べると書いたが，9月はソニーグループ関連でニュースが相次いだこともあり，予定を変えて話を進めたい。 一番大きなトピックは，先月入稿後に発表されたPS5本体の値上げだろう。ただし今回の値上げは，筆者の唱える日本軽視論とは直接関係ないとみている。 推測だが，値上げ実施にはそれなりに時間が必要である。この7月には対ドルでの円レートは161円にもなっていた。この時期に価格改定を考えたのであれば，PS5の値上げも後述するPS5 Proの約12万円の価格も当然であろう。 だが西野CEOは日経のインタビューで「これは価格変更である」とコメントしたのだ。 しかし，並列して値上げの収益を再投資するとも言っているので，ブルームバーグの望月記者も指摘しているように，要領の得ない内容になっている。 先月の連載では「これは両社（ソニーグループとスクウェア・エニックスHD）とも，計
キャラクター付けを目的としたファインチューニング-ローカルLLMの底力 | IIJ Engineers Blog
地方拠点の一つ、九州支社に所属しています。サーバ・ストレージを中心としたSI業務に携わってましたが、現在は技術探索・深堀業務を中心に対応しています。 2018年に難病を患ったことにより、定期的に入退院を繰り返しつつ、2023年には男性更年期障害の発症をきっかけに、トランスジェンダーとしての道を歩み始めてます。 こんにちわ。とみーです。皆様いかがお過ごしでしょうか？ 今回色々ローカルLLMの活用法を模索する中で、やっぱファインチューニングも必要だということで取り組んでいたりします。 その内容について、知った内容等をまとめてみました。 RAGはやっぱり便利だ-この技術の活用法を模索中 実は現在、社内情報を使ったRAG(Retrieval Augmented Generation)向けチャットをさらに良いものにするためにどういう対応が必要かを調べて回ったりしています。これまでの投稿を見ていただけ
まさかそんな、世界最高のSF作家のテッド・チャンが 反AIの絵師と同じこと言うわけないでしょ…… では、ニューヨーカー誌での8月31日に発表されたチャンのエッセイを読んでみましょう。 Why A.I. Isn’t Going to Make Art 「なぜAIはアートを作ることがないのか」 The programmer Simon Willison has described the training for large language models as “money laundering for copyrighted data,” which I find a useful way to think about the appeal of generative-A.I. programs: they let you engage in something like plagiari
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
トランスフォーマーは RNN である - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
【月間総括】大幅値上げで壊滅した海外転売と凋落が明確化したPSブランド
テッド・チャン「生成AIは著作権ロンダリングツール」｜roncele