タグ

2023年6月3日のブックマーク (14件)

  • GPUメモリが小さくてもパラメーター数が大きい言語モデルをトレーニング可能になる手法「QLoRA」が登場、一体どんな手法なのか?

    GPT-1は1億1700万個のパラメーターを持つ言語モデルで、GPT-2では15億、GPT-3では1750億とパラメーター数が増加するにつれて言語モデルの性能が上がってきています。しかしパラメーター数が増加するにつれてトレーニングに必要なデータの数やトレーニング中に使用するメモリの量も増加し、トレーニングのコストが大きく増加してしまいます。そんな中、メモリの消費量を激減させつつ少ないデータでトレーニングできる手法「QLoRA」が登場しました。 [2305.14314] QLoRA: Efficient Finetuning of Quantized LLMs https://arxiv.org/abs/2305.14314 artidoro/qlora: QLoRA: Efficient Finetuning of Quantized LLMs https://github.com/art

    GPUメモリが小さくてもパラメーター数が大きい言語モデルをトレーニング可能になる手法「QLoRA」が登場、一体どんな手法なのか?
    napsucks
    napsucks 2023/06/03
    4ビット量子化で充分性能が出るという話は数ヶ月前から出回ってたな。GPUもそのうち演算機でパックド4bitをサポートし始めるのかも知れない。
  • コンビニをやってるんだが助けてほしい

    みなさまへ ご意見ありがとうございました。 地元で何か言える人が同じ組内の長しかおりません。 四方八方が塞がっている状態ですので、相談を考えてみようと思います。グーグルに対しては何とか削除をお願いしてみます。 当に私などのためにありがとうございます。 あと、字下げが気持ち悪かったのでやり直しています。 ____________________________________________ 深夜にすまん。先日ついに警察を呼んで問題客に対応してもらった。だが困ったことになってしまい、どうしようもない。私がやっているSNSでは相談できないし、かといってツテもない。増田SNSではないけど、過去に相談して解決したことがあるので今回もお願いしたい。 私の立場としては、関東地方の田舎でコンビニをやっている。先祖代々コンビニを経営している。経営者としては若輩だ。 精神が参ってる状態なので文の調子はよ

    コンビニをやってるんだが助けてほしい
    napsucks
    napsucks 2023/06/03
    そんな簡単に町内に力を及ぼせるほどの実力者を排除してしまったのであればどうしようもないのでは
  • 鈴木エイトが斬る、統一教会の思う壺な言論人がドヤ顔で語る「山上を英雄視したせいで岸田首相襲撃が起きた」というデタラメ

    4月15日、岸田首相の演説中に、爆発物が投げ込まれる事件が発生。それを受けて「安倍元首相銃撃事件の山上被告を英雄視した報道のせいだ」「犯罪者の主張(統一教会問題)に耳を貸すな」という論調が蔓延した。その主張のデタラメぶりを、ルポライター村田らむ氏が統一教会問題を追い続けてきた鈴木エイト氏に訊く。 ※インタビューは2023年4月に行われ、実話BUNKAタブー2023年7月号に掲載されたものです。 首相襲撃以降のメディア批判論 4月15日、和歌山県の雑賀崎漁港に選挙応援に訪れていた岸田文雄首相に筒状の爆発物が投げつけられた。 異常事態に気づいたSPが防護板で爆発物を跳ね返し、首相は避難。爆発物を投げつけた犯人・木村隆二は、地元の屈強な漁師にガッチリ押さえられた。その後、かなり遅れて投げつけた筒がドンッ!! と大きい音をあげて爆発。爆発までに50秒と、かなり長い時間がかかったため、被害者は出な

    鈴木エイトが斬る、統一教会の思う壺な言論人がドヤ顔で語る「山上を英雄視したせいで岸田首相襲撃が起きた」というデタラメ
    napsucks
    napsucks 2023/06/03
  • 「ふーん、アタシとエッチしたいんだ♡」

    「ふーん、アタシとエッチしたいんだ♡それならこれから1ヶ月射精禁止ね♡我慢できたらシてあげてもいいよ♡」 「そ、そんな…!」 「うう…やっと半月…」 「先輩、大変そうですねぇ…私がこっそり…抜いてあげましょうか?♡」 「え!?い、いや…流石にそれは…」 「大丈夫ですよ♡ナイショにしといてあげますから♡ほら、私の身体…きっと気持ちいいですよ♡(ムチッ)」 「うう…」 「あっ!で、射精るっ!(ビュルルッ)」 「あはっ♡先輩すぐ射精しちゃってカワイイ♡それじゃあ…」 (バタンッ!) 「はーい残念でしたー♡約束を守れなかったのでアタシとのエッチはできませーん♡」 「そ、そんな!グルだったのか!」 「あーあ♡せっかくエッチできるチャンスだったのにねー♡」 「ザッコ♡堪え性のないザコちんぽ先輩♡一生エッチできずに死んじゃえば?♡」 「うっ、うううっ」 『話は聞かせてもらった!』 「!?誰っ!?」 (バ

    「ふーん、アタシとエッチしたいんだ♡」
    napsucks
    napsucks 2023/06/03
  • 「バグる」を人間に使う人ってファミコンやったことないでしょ

    なんか「戸惑う」ぐらいの意味で「バグる」を使う人増えてるけど、実際にバグったものを見たことないんだろうなーって思った 考えたらプレステ以降のゲームで「バグる」ことなんてないんだし、ファミコン、スーファミを触ったことない世代が使っているんだろうな 「バグる」って画面がめちゃくちゃになってプレイできなくなることだよ これを人間に使うとしたら「身体がぐちゃぐちゃになって動かなくなった」なんだけど、そんな寄生獣みたいなことにはなってないでしょ? もしファミコン世代が人間に「バグる」を使っているんなら、ファミコンを買ってもらえなかった家庭だったのかな? それならミニファミコンかミニスーファミ買ったら楽しいよ クロノトリガーとかマリオRPGとかできて、コスパめっちゃいいよ (追記) 動詞の「バグる」と名詞の「バグ」の違いもわからんのか。 そんな鈍感な言語感覚で他人にツッコミ入れてて恥ずかしくないの?

    「バグる」を人間に使う人ってファミコンやったことないでしょ
    napsucks
    napsucks 2023/06/03
  • JR東京駅構内 修学旅行中の愛知の中学生40人余が体調不良訴え | NHK

    2日夜、修学旅行で都内を訪れていた愛知県の中学生あわせて40人あまりが、東海道新幹線の運転見合わせのためJR東京駅の構内で待機していたところ体調不良を訴え病院に運ばれるなどして手当を受けました。 警視庁などによりますと2日夜7時40分過ぎ、修学旅行のため都内を訪れ、JR東京駅の構内で待機していた愛知県の中学生11人が体調不良を訴え、病院に運ばれました。 そのおよそ1時間後の午後9時前には、修学旅行で訪れていた愛知県の別の中学校の生徒、30人あまりも体調不良を訴え、教員が消防に通報したということです。 生徒には過呼吸や吐き気などの症状が見られ、東京消防庁によりますと、このうちの数人は中等症だということですが、多くは軽症でいずれも意識はあるということです。 当時、東京駅では大雨の影響で東海道新幹線が運転見合わせになり、多くの利用客が構内で待機していたということで、警視庁などが詳しい状況を調べて

    JR東京駅構内 修学旅行中の愛知の中学生40人余が体調不良訴え | NHK
    napsucks
    napsucks 2023/06/03
    同じ学校で新幹線乗れる乗れないの分断が生じたと聞いて引率の先生も大変だったろうなと思った
  • 【Ubuntu日和】 【第28回】手のひらサイズの小型PCである「R86S」で夢の10GbE生活

    【Ubuntu日和】 【第28回】手のひらサイズの小型PCである「R86S」で夢の10GbE生活
    napsucks
    napsucks 2023/06/03
    “高機能なルーターだとその内部ではLinuxも使われていることも” 家庭用だとほぼlinuxだね。vxworksのルータもかつては稀にあったけど。業務用ではBSDベースの一部を除きIOS-XRですらQNXやめてlinux。
  • ケトン食療法の長期継続で、進行がん患者の生存期間が劇的に改善 大阪大学

    ケトン療法の長期継続で、進行がん患者の生存期間が劇的に改善 大阪大学 大学ジャーナルオンライン編集部 大阪大学大学院医学系研究科先進融合医学共同研究講座のグループは、同学が開発した新たながん患者向けのケトン療法を12か月以上長期継続することにより、進行がん患者の生存期間を劇的に改善できることを発表した。 グループは、ケトン療法ががん患者にとって有力な支持療法になりうると期待し、2013年からがん患者向けの新たなケトン療法の臨床研究を開始した。対象は臨床病期Ⅳ期の進行がん患者で、既に2020年に有望な臨床効果を報告したが、長期継続による効果を明らかとすべく、さらに3年間観察し解析した。 全53名の進行がん患者を、ケトン継続12ヶ月以上(21名)と12ヶ月未満(32名)の2群に分けて解析を行った。両群の生存率の中央値は、12ヶ月以上群で55.1ヶ月、12ヶ月未満群で12.0ヶ月であ

    ケトン食療法の長期継続で、進行がん患者の生存期間が劇的に改善 大阪大学
    napsucks
    napsucks 2023/06/03
  • PayPayをやめて筆者が結局クレカに戻ったワケ − 本当にお得なキャッシュレス決済はどれ?

    スマホ決済サービスの「PayPay」は、2022年8月時点で登録ユーザー数が5,000万人を突破し、ダントツの人気No.1となっています。でも、当にPayPayはお得で便利なのでしょうか? 実は、最近筆者はPayPayをまったく使わず、クレジットカード(以下クレカ)やデビットカードを利用しています。そこで今回は、まぜ筆者がPayPayをやめてクレカやデビットカードに戻ったのか? そのワケをじっくりと解説します。 そもそもPayPayって当にお得なのだろうか? PayPayの発表によると、2022年8月時点でPayPayアプリの登録ユーザー数が5,000万人を突破し、スマホのQRコード・バーコード決済サービスでは圧倒的なシェアを獲得しています。 ・PayPay「「PayPay」の登録ユーザーが5,000万人を突破!」 PayPayは2018年10月にスタート。当初は「100億円あげちゃう

    PayPayをやめて筆者が結局クレカに戻ったワケ − 本当にお得なキャッシュレス決済はどれ?
    napsucks
    napsucks 2023/06/03
    コンビニはapple payのvisaタッチがお得なのでそうしてる
  • 最悪のケースで3勝26敗……自公の選挙協力解消によって、次の衆院選東京選挙区で自民党を待ち受ける壊滅的結果へのシナリオとは(山本一郎)

    「何も手を打たないと、自民党都連は29小選挙区で最悪3勝26敗」 「公明党と関係解消なら最善でも10勝19敗」 「東京比例代表、自民はギリギリ4議席。場合によっては3議席も」 自民党と公明党との協議が物別れに終わり、割と冷静で穏やかな人物評で知られる公明党の幹事長・石井啓一さんが記者による囲み取材で放った言葉が印象的でした。 東京での自公の信頼関係は地に落ちた。 この言葉を受けて、ちょうど月例の選挙情勢・地盤調査を走らせていた大手シンクタンクとメディアによる調査チームが「もし、当に公明党からまったく支持を得られない自民党東京都連が、人口変動に伴う10増10減で小選挙区5議席増え、区割りが変更された後にどのような投票結果となるか」というチャレンジングなテーマで弾き出したのが冒頭の数字です。大変なことよね……。 もちろん、自民党が公認候補擁立を検討している29小選挙区において公明党が俗にいう

    最悪のケースで3勝26敗……自公の選挙協力解消によって、次の衆院選東京選挙区で自民党を待ち受ける壊滅的結果へのシナリオとは(山本一郎)
    napsucks
    napsucks 2023/06/03
  • 令和05年最新版 日本の半導体産業の現状について

    台風で仕事が休みになりそうなので暇つぶしに。 3年くらい前に日の半導体産業の近況をまとめたのですが、ここ数年で政治家の先生たちが何かに目覚めたらしく状況が大きく変わりつつあるので各社の状況をアップデート。 前回の記事 https://anond.hatelabo.jp/20200813115920 先端ロジック半導体■ JASM (TSMC日法人) 熊工場:28nm, 22nm (工場稼働時) / 16nm, 12nm (将来計画) 日政府の補助金とソニー・デンソーの出資という離れ業により、業界人が誰も信じていなかったTSMCの工場進出が実現した。現在は建屋の建設が進んでおり、順調にいけば2024年内には量産開始となる。生産が予定されているプロセスはいずれも世界最先端に比べると古いものだが日では最先端であり、HKMG(ハイケーメタルゲート、トランジスタの性能を上げる技術)やFin

    令和05年最新版 日本の半導体産業の現状について
    napsucks
    napsucks 2023/06/03
    電機が滅び、最後の砦だった自動車もいよいよ風前の灯となる中で、かつての花形だった半導体産業が復活しようとしているのは喜ばしいことなのだろうな。大半の資本が内資ではないのが惨めであるが
  • 退職金への課税、格差是正へ 骨太方針の概要判明 - 日本経済新聞

    【この記事のポイント】・長く勤めるほど優遇される退職金の課税制度を改める・「転職すると不利」解消し成長分野への労働移動促す・少子化対策や生成AIのルール作りも骨太方針の柱に政府が6月中に策定する経済財政運営と改革の基方針(骨太の方針)の概要が2日分かった。同じ会社に長年勤めるほど優遇される退職金への課税制度を改め、勤続年数による格差を是正する方針を盛り込んだ。転職すると不利になるため円滑な労働

    退職金への課税、格差是正へ 骨太方針の概要判明 - 日本経済新聞
    napsucks
    napsucks 2023/06/03
    「じゃあ退職金を前倒しで賃金に組み込んで払いますね」ともならないわけで、結局は単なる増税だな
  • 九州の電気代8600円なのに北海道は1万4300円…「マジ不公平」「早く原発動かして」SNSで上がる悲鳴 - Smart FLASH/スマフラ[光文社週刊誌]

    九州の電気代8600円なのに北海道は1万4300円…「マジ不公平」「早く原発動かして」SNSで上がる悲鳴 社会・政治 投稿日:2023.06.02 16:15FLASH編集部 6月1日、火力発電に使う燃料費の高騰などを受け、関西、九州、中部を除く大手電力7社が、家庭向け電気料金(規制料金)を値上げした。 経済産業省の試算では、標準的な家庭(30アンペア・月400キロワット時)で14~42%の値上げとなる。値上げの有無によって、地域の電気料金の差も拡大した。 【関連記事:電気代、いったん値下げも4月からは3割増も!「安くなる」から契約した新電力には「際限なく上がる罠」が】 経産省の試算によると、政府による全国一律の電気代の負担軽減策(月2800円)を反映した6月の実質負担額は以下となる。 北海道 1万4301円 東北  1万1837円 東京  1万1730円 中部  1万818円 北陸  1

    九州の電気代8600円なのに北海道は1万4300円…「マジ不公平」「早く原発動かして」SNSで上がる悲鳴 - Smart FLASH/スマフラ[光文社週刊誌]
    napsucks
    napsucks 2023/06/03
    再エネも原発並みに投資して原発並みに長期間使えば余裕でペイするのよね。
  • 渡辺明という時代

    死んだように寝た。 渡辺明が敗れて、私は死んだように寝た。 第81期名人戦七番勝負第5局。18時53分、藤井聡太竜王が決め手となる一手を放つと、名人・渡辺明はすぐさま頭を下げ、駒を投じた。この瞬間、名人戦七番勝負が決着。藤井は名人位を奪取し、史上最年少名人、そして七冠を達成した。一方の渡辺は、唯一のタイトルだった名人を失冠。2004年以来、約18年半ぶりに無冠へと転落した。 重苦しい沈黙が対局室を支配した後、対局者へのインタビューが行われた。まずは勝者の藤井。いつもどおり、慎重に、丁寧に言葉が紡がれていく。一方、座して待つのは渡辺。藤井へのインタビューがひとしきり終わった後、ようやくマイクは向けられた。この将棋のこと、名人失冠のこと、そして無冠のこと。待ち続けた後に投げかけられる問いは、どこまでも厳しく、容赦がない。それでも渡辺は、こちらもいつもどおり、きっぱりと、はっきりと言葉を発してい

    渡辺明という時代
    napsucks
    napsucks 2023/06/03
    どこまで行っても主人公にはなれなかった気の毒な男だった。