タグ

2023年11月2日のブックマーク (5件)

  • スタートアップが鍵:人口5000万人に減っても2倍豊かな「日本4.0」を作る | Coral Capital

    月間10万人が読んでいるCoral Insightsのニュースレターにご登録いただくと、Coral Capitalメンバーによる国内外のスタートアップ業界の最新動向に関するブログや、特別イベントの情報等について、定期的にお送りさせていただきます。ぜひ、ご登録ください! 日の人口は、ざっくり1億2000万人ですが、約100年後の2120年には4973万人にまで減るとの予想があります(国立社会保障・人口問題研究所の2023年4月の将来推計人口)。以下のグラフにあるように江戸期に3000万人を超えた日の人口は、明治維新以降のわずか100年で3倍の1億人超となり、再び100年で半分以下に減ろうとしています。われわれは今、ジェットコースターで言えば最初の坂を登りきってスーッと滑り出して急降下する坂に向かって走り始めたところです。 50年後や100年後については出生率や外国人比率など予想が難しい要

    スタートアップが鍵:人口5000万人に減っても2倍豊かな「日本4.0」を作る | Coral Capital
  • 大規模言語モデル「Phind」がコーディングにおいてGPT-4を上回る

    生成AIを用いた開発者向けの検索エンジン「Phind」が、コーディング能力でOpenAIのGPT-4を上回ったことが明らかになりました。 Phind - AI Search Engine and Pair Programmer https://www.phind.com/blog/phind-model-beats-gpt4-fast Our GPT-4-beating coding model is now the default on https://t.co/epkoFW8Ozz. It's also 5x faster than GPT-4. Learn more in our blog post: https://t.co/PrOFETEbvd— Phind (@phindsearch) PhindはもともとHello Cognition(beta.sayhello.so)として

    大規模言語モデル「Phind」がコーディングにおいてGPT-4を上回る
  • NTT版大規模言語モデル「tsuzumi」 | NTT R&D Website

    近年、ChatGPTを始めとする大規模言語モデル*1に大きな注目が集まっておりますが、これらは膨大な知識をモデル内に有することで高い言語処理性能を示す一方、学習に要するエネルギーは、原発1基1時間分の電力量が必要*2とも言われており、また、運用には大規模なGPUクラスタを必要とし様々な業界に特化するためのチューニングや推論にかかるコストが膨大であることから、サステナビリティおよび企業が学習環境を準備するための経済的負担面で課題があります。 NTTでは、これらの課題を解決する研究開発を進め、今回、軽量でありながら世界トップレベルの日語処理性能を持つ大規模言語モデル「tsuzumi*2」を開発しました。「tsuzumi」のパラメタサイズは6~70億と軽量であるため、市中のクラウド提供型LLMの課題である学習やチューニングに必要となるコストを低減します。「tsuzumi」は英語と日語に対応し

    NTT版大規模言語モデル「tsuzumi」 | NTT R&D Website
  • スパースモデリングに基づく画像の再構成 Part1. L1ノルム最小化に基づく画像再構成の実装

    画像のスパースモデリングとは スパース:「疎ら」 なモデリングを行う,ということです.このようなスパースモデリングは,画像処理にとどまらずノイズ除去や,領域のセグメンテーションなどに用いられています. ここでは,画像処理において,スパースモデリングとはどういうことを意味するのか,pythonを用いてコーディングを行います. L1画像の再構成では,具体的に以下のような評価関数の最小化を考えます. Input の画像から Outputの画像に変換します. \begin{align} F = \frac{1}{2} |I_{input} - I_{output}|^2 + \lambda |I_{output}|_{1} \end{align} この評価関数の第一項目は入力画像と出力画像の2乗誤差です.これは,Input画像とOutput画像が明らかに違うようなものは求めてない,ということです.

    スパースモデリングに基づく画像の再構成 Part1. L1ノルム最小化に基づく画像再構成の実装
  • 何でも微分する

    IBIS 2023 企画セッション『最適輸送』 https://ibisml.org/ibis2023/os/#os3 で発表した内容です。 講演概要: 最適輸送が機械学習コミュニティーで人気を博している要因として、最適輸送には微分可能な変種が存在することが挙げられる。微分可能な最適輸送は様々な機…

    何でも微分する