GPT-1は1億1700万個のパラメーターを持つ言語モデルで、GPT-2では15億、GPT-3では1750億とパラメーター数が増加するにつれて言語モデルの性能が上がってきています。しかしパラメーター数が増加するにつれてトレーニングに必要なデータの数やトレーニング中に使用するメモリの量も増加し、トレーニングのコストが大きく増加してしまいます。そんな中、メモリの消費量を激減させつつ少ないデータでトレーニングできる手法「QLoRA」が登場しました。 [2305.14314] QLoRA: Efficient Finetuning of Quantized LLMs https://arxiv.org/abs/2305.14314 artidoro/qlora: QLoRA: Efficient Finetuning of Quantized LLMs https://github.com/art

おいしそうなラーメン。でも、塩分はどのくらい含まれているか、ご存じですか？ 国が今月示した、健康づくりに向けた食事や生活習慣についての新たな数値目標、1日の塩分の摂取量は「7グラム未満」に設定されました。 どのくらいの値なのか、食生活で工夫すべきことは？ 栄養学の専門家に詳しく聞きました。 （ちなみに、汁まで飲んだ場合のラーメンの塩分の目安は1杯6グラムということです） 「数値目標」は野菜、食塩、睡眠時間も ラーメンの話から始まりましたが、ご紹介するのは食事や生活習慣全体の話です。 国民の健康作りに向けて、厚生労働省は「健康日本21」という基本計画を約10年ごとに見直して、食事や生活習慣などについての考え方や数値目標を定めています。このほど来年度からの新たな数値目標がまとまりました。 以下、その具体的な数値です。 まずは野菜と果物の摂取量です。 野菜や果物の摂取量は、脳卒中や心疾患での死亡

総合週刊誌の草分け「週刊朝日」が１０１年の歴史に幕を閉じるなど、雑誌の休刊が相次ぐ中、不渡会出版（東京都渋谷区）が１０日、雑誌の休刊情報を伝える雑誌「月刊休刊」を創刊する。出版不況という逆風を追い風に変える業界初の試みに注目が集まりそうだ。 総合休刊情報誌「月刊休刊」は、休刊が決まった雑誌の歴史を紹介する記事や、休刊に至った「敗戦の弁」を編集長に尋ねるインタビューなど、休刊の魅力を発信する。 編集長にはベテランのフリー編集者・羽田一寄さんが就任する。数々の出版社で辣腕をふるい、通算999誌を休刊・廃刊に追いやった、いわば「休刊のスペシャリスト」だ。 「雑誌が休刊する背景には、部数低迷だけでなく、執筆者のずさんな記事や編集部のずさんな企画による強制退場などさまざまな事情がある。表舞台から去っていく雑誌にスポットライトを当てていきたい」と、羽田さんは語る。 相次ぐ休刊を反映し、創刊号は６２４ペ

死んだように寝た。 渡辺明が敗れて、私は死んだように寝た。 第81期名人戦七番勝負第5局。18時53分、藤井聡太竜王が決め手となる一手を放つと、名人・渡辺明はすぐさま頭を下げ、駒を投じた。この瞬間、名人戦七番勝負が決着。藤井は名人位を奪取し、史上最年少名人、そして七冠を達成した。一方の渡辺は、唯一のタイトルだった名人を失冠。2004年以来、約18年半ぶりに無冠へと転落した。 重苦しい沈黙が対局室を支配した後、対局者へのインタビューが行われた。まずは勝者の藤井。いつもどおり、慎重に、丁寧に言葉が紡がれていく。一方、座して待つのは渡辺。藤井へのインタビューがひとしきり終わった後、ようやくマイクは向けられた。この将棋のこと、名人失冠のこと、そして無冠のこと。待ち続けた後に投げかけられる問いは、どこまでも厳しく、容赦がない。それでも渡辺は、こちらもいつもどおり、きっぱりと、はっきりと言葉を発してい

及川卓也氏に聞く必要な“エンジニア力”の身につけ方 「自分の付加価値は何なのか」を考え続けていく必要がある 及川卓也氏が思う「エンジニア」と「生成AI」の関係性 米国OpenAI社が公開した「ChatGPT」が盛り上がりを見せている中、議論されがちなのは“AIの脅威”。それではエンジニアやプログラマーにとって、AIは脅威なのでしょうか？それとも新たな相棒なのでしょうか？ 今まで多くのエンジニア組織をまとめてきた及川卓也氏に、エンジニアとChatGPTの関係についてうかがいしました。 ChatGPTに対してプログラマーができること ーー最近の話でいうと、ChatGPTのような生成AIが出てきて、なんか「エンジニアの仕事も取られるんじゃないの？」とか、エンジニアもプログラミングをやっていて、ChatGPTももちろんプログラミングをするというのはあるとは思うんですけど、そういう意見も一部はあるの

人混みの中で｢あ、このおじさんこのまま真っ直ぐ私にぶつかりに来るぞ｣って気付いた瞬間に体に力を入れてｸﾞｯと構えると、相手のおじさんの方がはじけ飛んでいくから面白いよ 筋肉なくても大丈夫。なぜなら向こうはそんなに力入れずにぶつかりに来るから、簡単に飛んでいくのさ。— 🍊炭酸蜜柑🍊 (@TansanNOsab0314) May 30, 2023 女だからと甘くみてぶつかりに来るから、ちょっと体に力入れて歩いただけで向こうがﾄﾞﾊﾞｧﾝて弾けるんですよ あれはもう、私がぶつかりおじさん側になったと言っても過言では無いくらいおじさんにダメージを与えましたね。— 🍊炭酸蜜柑🍊 (@TansanNOsab0314) May 30, 2023 ヒューッ！ 一応解説すると 人ごみの中で つまり無作為に 向こうはそんなに力入れずにぶつかりに来る 明確な加害の意思のあるぶつかりおじさんなら力を入れて

厚生労働省は３１日、健康増進法に基づき食物摂取量などの目標値を定める「健康日本２１」を１０年ぶりに改訂し、公表した。２０２４年度以降の１人１日当たり摂取量として、野菜は３５０グラムと前回と同じだが、果物は２００グラムと事実上２倍に増やした。一方、前回目標値と実際の摂取量には開きがあり、同省はアクションプランを策定して目標の達成を図る方針。 同省は２１世紀入りした２０００年度から食物摂取量や睡眠時間など約５０項目の目標値を設定している。今回は１３年度の改訂以来。１９年１１月に行った「国民健康・栄養調査」や国内外の研究論文などを基に目標値を定めた。 野菜は前回目標３５０グラムに対し国民調査では２８１グラムと２割も下回った。果物は「１００グラム未満を３割にする」目標だったが、調査では６割に上った。同省は改訂に当たり「野菜は前回目標が妥当」と判断。果物は目標値が少な過ぎたとし、表現も変更して「２０