大規模言語モデル PLaMo 2 のためのトークナイザ性能改善
Preferred Networks（以下、PFN）および Preferred Elements（以下、PFE）では、大規模言語モデル（以下、LLM）の開発を進めており、PLaMo 100B を 2024 年 10 月に公開しました。現在は次世代モデルである PLaMo 2 の開発（※）を行っています。今回の記事では、PLaMo 2 に採用したトークナイザの改善について紹介します。 PLaMo 2 のトークナイザは、前のバージョンである PLaMo 100 B と比較して、日本語のトークン効率が 45 %、英語のトークン効率が 25 % 向上しました。ここでいうトークン効率とは、入出力に使われる文字列において 1 トークンで平均で何文字表現できるかを表します。これが改善する（増える）ことは、日本語の文章生成が 45 % 高速化し、同じ計算資源で学習できるデータ量が 45 % 増えることを意
ECSとRDSをやめて、AWSコストを9割削減しました
はじめに こんにちは。BEENOSのがれっとです。 AWS上にアプリケーションを構築する際、一般的なのはECS + RDSという組み合わせです。私も社内システムをそのような形で構築しました。 しかし、使わないときにもインスタンスが動き続けてしまうため、大量のトラフィックを捌かないアプリケーションにおいてはコストが見合わないものとなってしまいます。 そこで、ECS + RDSという構成からLambda + EFSの構成に社内システムを移行して、コスト削減した話を紹介します。 前提 以下の構成のアプリケーションを移行しました。 Blitz.js 内部に下記を使用 Prisma Next.js PostgreSQL テーブル数は12 (_prisma_migrationsテーブルを含めて13) AWS 構成図 移行前 移行後 リレーショナルデータベースを用いることが必須のアプリケーションを構築す
アップル、時価総額で首位陥落－iPhone巡る懸念で２社が投資判断下げ
21日の米株式市場でアップルの株価は下落。アナリスト２人が投資判断を引き下げた。人工知能（ＡＩ）が期待された成長の起爆剤になっておらず、軟調なiPhone販売を巡る投資家の懸念が高まっていることがあらためて示された。 アップル株はこの日3.2％値下がりし、昨年11月以来の安値で取引を終了。株価は１月に入り11％下落しており、このままいけば月間ベースで2022年12月以来の大幅な下げとなる。昨年12月に付けた上場来高値からは14％下落している。 21日の株価下落を受け、アップルの時価総額は1100億ドル（約17兆円）余り減少し、終値ベースで昨年11月以来初めてエヌビディアを下回った。アップルの時価総額は約３兆3500億ドルで、エヌビディアは３兆4500億ドル。
有料記事を合法的に無料で読む方法３つ - 世界のねじを巻くブログ
ペイウォールなしで記事を読める 「購読なしで、ウェブメディアやニュースサイトの有料記事を読むことができるサービスがあったらな・・・」と思う人は多いと思いますが、いくつかそういうのはあるんだよ、という話をしようかと。 Paywall Reader まずは、以前ブログで紹介したことのある、「Paywall Reader」という海外サービス。 nejimaki-radio.com 余計な文字列を消したオリジナルの記事のURLを入力。 そして「Archive.today」や「Internet Archive」のボタンを押すと、 「登録して続きを読んでください」的なペイウォールが外れた状態のアーカイブ記事を無料で読むことができます。 例えば、 ・NewYork Times ・NewYorker ・Medium ・The Atlantic など大手海外メディアのURLなら、 かなりの確率で無料で読める
【速報】認知症の夫に一日に何度も性的行為せまられ、うつ病を発症 殺人罪に問われた75歳の女性に執行猶予付き判決 「誰にも相談できなかった心情は理解できる」（ABCニュース） - Yahoo!ニュース
2023年11月、和歌山県白浜町の自宅で、当時82才の夫の首を絞めて殺害したとして殺人罪に問われた75歳の女性の裁判員裁判で、和歌山地裁は21日、懲役3年、執行猶予5年の判決を言い渡しました。 【ノーカット版】斎藤兵庫県知事が取材に応じる 竹内英明元県議の死亡受け 判決によりますと、女性は、布団で寝ていた夫に馬乗りになり、首をタオルでしめつけるなどして窒息死させました。犯行の背景には、認知症の夫から頻繁に性的行為を求められ、嫌悪感を募らせていたことがあったと指摘しました。 判決では、夫が事件の8年前に認知症と診断され、突然怒り出すなどの症状が現れてからも、女性が介助にあたっていたと言及。事件前には、夫から1日に何度も性的行為を求められるようになり、「拒むと夫が不機嫌になることから、嫌悪感や負担感が強くなる一方、夫の望みを叶えたい気持ちもあって強く葛藤していた」と指摘しました。女性はうつ病に
物理学者が“おいしいパスタ”を作る秘訣の論文発表 チーズとコショウのパスタ「カーチョ・エ・ペペ」
また、パスタのゆで汁だけではソースを安定させるのに十分なデンプンが含まれていないことも判明。ゆで汁を煮詰めてデンプンを濃縮することもできるが、この方法では最終的なデンプン量を正確にコントロールすることが難しい。 これらの知見に基づき、完璧なカーチョ・エ・ペペを作るための具体的なレシピを提案した。2人分の場合、必要な材料はパスタ（トンナレッリが最適だが、スパゲティやリガトーニでも可）240g、チーズ（伝統的にはペコリーノのみだが、30％までパルメザンの使用も可）160g、デンプン（コーンスターチまたはジャガイモデンプン）4g、水40g（デンプン用）、挽きたての黒コショウである。 まず4gのデンプンを40gの水によく溶かし、弱火で加熱する。白く濁った状態からほぼ透明になるまでゲル化させ、やや冷ます。これが安定したソースを作るための重要な工程である。次にチーズをブレンダーで細かく刻み、冷ましたデ
【宮城】仙台郊外に通勤用ロープウェイ構想 富谷市が25年度調査 - 日本経済新聞
仙台市のベッドタウン、宮城県富谷市で通勤や通学用に都市型ロープウエーを建設する案が浮上している。富谷市は2025年度に導入に向けて費用やリスクなどを調査する方針だ。全国の地方自治体が燃料高や人手不足でバス路線網の維持に苦戦するなか、公共交通の利便性確保に向けて新交通システムが注目される。9日、福島県南相馬市。富谷市の若生裕俊市長は新型ロープウエー「ジッパー」を開発するスタートアップ、Zip I
【AED被害届デマ】アベプラ、虚言癖おじさんの妄言を垂れ流す！｜編み目
要約（ここだけ読めばOK）アベプラが報じる「心肺停止の女性にAEDを使ったら、強制わいせつ罪で被害届を出された」という事件の取材源は浜川真人氏である。 浜川真人氏はツイートを読む限り明らかな虚言癖であり、AED被害届事件の証言もいくつか不審点がある。 よって、AED被害届事件はデマと断定できる。 人の命に関わる有害なデマなので、このnoteを拡散するなり、コミュニティノートで引用するなりして、読者諸君はデマ修正に協力してくれると嬉しい。 (追記): https://togetter.com/li/2500053 :同じく「AED被害届デマ」を問題視する記事。ほとんど内容が被ってないのでぜひ合わせて読んでくれ。 アベプラで放送されたAED被害届事件の解説スライド。 調べたきっかけ 何かあったらAED使ってもらえなくても仕方ないネ！の顔になってる。本人じゃなくて……ってのがリスキーすぎる。 h
Togetterを２つに分割します。アーカイブの喪失を回避し、収益の改善を目指すリニューアルへ｜Togetter（トゥギャッター ）
みなさん、こんにちは。Togetterを運営するトゥギャッター社の代表のyositosiです。 一昨年の2023年の年末にはこんな記事を書かせていただき、多くの方に読んでいただけました。 記事の中では、「X（Twitter）のEnterpriseAPIの支払いが高くて大変だよー」という話や、「Web広告の単価が下がってきてて、ウェブメディアの運営が厳しい」みたいな話を書いたのですが、昨年はその予想を遥かに超えるピンチが押し寄せてきました。 今回は、現状を皆様に共有させていただきつつ、今後のTogetterとTwilogに関わるアップデートや方向性を共有させていただきます。 2024年はTogetterにとって厳しすぎる年でした2023年に買収したTwilogのリニューアルをし、サブスクを開始するなどして、良い話も多かったのですが、その母体となるTogetterには厳しい一年となってしまいま
ノア・スミス「経済学者はマルクスを読むべきか？」（2025年1月13日）
経済学者はマルクスを読むべきである。それも、こうした歴史を全て頭に入れて読むべきだ。それは、社会科学のアイデアが現実の政治や制度に対して、最大限の思い上がりをもって徹底的に適用されたとき、いかにして未曽有の危害を生み出し得るのか、を思い出させてくれる分かりやすい事例である。 先日、ノースウェスタン大の経済学者、ベン・ゴラブ（Ben Golub）がこんなツイートをしていた。 ベン・ゴラブ：ときどき思い出すのが、経済学を研究していると言ったら、（例えば）歴史学を専攻している学生から、スミスやマルクスをきちんと学んでいないのかと驚かれたことだ。 マウント・ホリヨーク大学の英文学者、アレックス・マスコウィッツ（Alex Moskowitz）は、ほとんどの経済学者がスミスもマルクスも読んでいないことを受けて、経済学を「フェイク」呼ばわりし、「経済学はその知識生産の手段を適切に歴史化してこなかった」と
閉館危機のシャレコーベミュージアムがクラウドファンディングを実施
兵庫・尼崎市の浜田町にあるシャレコーベミュージアムが、クラウドファンディングを募集している。目標金額は500万円。 シャレコーベミュージアムは頭蓋骨専門の博物館で、設立者で初代館長の河本圭司は関西医科大学教授を務め、日本脳腫瘍病理学会会長などを歴任した脳神経外科医。自身の頭蓋骨コレクションを公開するため、自宅の庭に河本が設立したのがシャレコーベミュージアムだ。 館では頭蓋骨から、絵画、古代骨から現代までの頭蓋骨のレプリカ、生活用品など、頭蓋骨に関する物品を収蔵。約8000点ある中の約1000点を3フロアにテーマごとに展示している。コレクションは、1本の桐の木をくり抜いて作成された解剖学的に正確な世界最大の木製頭蓋骨や、胎児から成人までの変遷がわかる頭蓋骨、狭頭症・水頭症の頭蓋骨、古代ペルーの変形頭蓋骨、古代宗教的な儀式で使われていた頭蓋杯など多岐にわたる。
野菜の価格、もう下がらない? 専門家「壁が壊れた」 その心は | 毎日新聞
値段が高騰する中、スーパーの野菜売り場に並ぶキャベツ＝東京都足立区で2025年1月20日、三浦研吾撮影 コメや野菜の価格高騰が止まらない。総務省の昨年11月の全国消費者物価指数でコメ類は前年同月比6割超上昇。農林水産省によると足元のキャベツの価格（1キログラム当たり）は平年比約3・4倍、白菜も2・5倍だ。日々の暮らしに直結するだけに正直キツい。ただ、北海道大大学院の坂爪浩史教授（農業経済学）は「小売業者も消費者も低価格に安住してきた。我慢してきた産地は低価格に戻りようがない」と手厳しい。坂爪氏の解説は以下の通りだ。 コメ不足で入った消費者のスイッチ 農産物価格の上昇の背景にある短期的な要因は需給の逼迫（ひっぱく）だ。そして中長期的な要因は、生産資材の価格上昇や人手不足による人件費の高騰だ。 生産者はこれまで、コストが上昇しているのに価格転嫁ができずに我慢してきた。生産者が価格を上げたいと思
立花のデマを信じる人がいる理由
立花孝志がデマで人を死に追い込むことをなんとも思っていない人物であることは明らかだが、より恐ろしいのは、立花のデマを信じる人や、デマとわかっていて乗っかっている人が、それになりの肩書きを持った人にも見られることである（例えば高橋洋一や堀江貴文）。この理由について、思いついたところを簡単に述べてみたい。 一つにはやはり、テレビなど「オールドメディア」への対決姿勢であろう。そもそも立花が兵庫県知事選に目をつけ、斎藤知事を擁護するようなったのは、彼がテレビで連日のように大きくバッシングされていたからである。立花だけではなく、もともとテレビ報道やテレビ局の権力構造を批判していた多くのユーチューバーも「テレビが伝えない真実」という文脈で、テレビや既存のマスメディアをバッシングするという目的で、立花のデマに乗っかって斎藤知事を擁護する動画を積極的に配信するようになった。 そしてこの数年、ジャニー喜多川
障害者の働く場がオープン半年で「閉鎖します」。４００人が解雇や退職、運営は同じ会社のグループだった ｜ 47NEWS
滋賀県守山市の就労継続支援Ａ型事業所「しゃくなげ」で働いていた八巻孝平さん（仮名）＝２０２４年１１月、滋賀県内 障害者の働く事業所が昨年春以降、全国各地で相次いで閉鎖し、利用者５千人以上が解雇、退職となっている。運営法人は事業所ごとにさまざまだ。だが、取材していると、昨年９月から「ペガサス」「ベテルギウス」など星座や星にちなんだ名前の会社がチラホラと目につくようになった。一見すると何の関係もないように思えるが、さらに調べていくと、すべて同一の会社のグループだった。利用者に話を聞くと、「事業所がオープンして半年で『ここは閉鎖します』と聞かされた」という人もいた。何が起きているのか。（共同通信＝市川亨） ▽駅近くの大通り沿いで開所 琵琶湖の南東岸に接する滋賀県守山市。ＪＲ守山駅から徒歩１０分ほどの大通りに面した２階建て建物の１階に昨年４月、障害者の「就労継続支援Ａ型事業所」がオープンした。「し
台湾南部でM6.4の地震 44人けが 多くの住宅で被害 避難所開設 | NHK
台湾南部で21日未明、マグニチュード6.4を観測する地震があり、消防によりますとこれまでに44人がけがをしました。現地では多くの住宅で壁が崩れるなどの被害が確認されていて、避難所の開設など被災者を支援する動きが進んでいます。 台湾の中央気象署によりますと、日本時間の21日午前1時17分ごろ、台湾南部の嘉義県付近を震源とするマグニチュード6.4の地震がありました。 震源の深さはおよそ9.7キロと推定されています。 この地震で、嘉義県で震度6弱、南部の台南と高雄で震度5弱の揺れを観測するなど台湾の広い範囲で揺れが観測されました。 このうち、台南では多くの住宅で壁が崩れたり、ひびが入ったりする被害が確認されていて、消防によりますと、これまでに台湾各地で合わせて44人がけがをしたということです。 台南に住む78歳の女性は「これまで経験した地震の中で最も大きな揺れでした。壁や階段などが壊れ、こわくて
悪役令嬢転生おじさん、作者が実際にアラフィフ＆児童漫画出身の人で、「歳をとって悪意を描くのがしんどい」「この歳になると、この世にはちゃんとしたおじさんが普通に存在することを知っている」という理由で、優しく良識ある光の悪役令嬢モノだった話
宙兎 渦（ちゅうと うず）🐇 @uzu_tyu インターネットで生きてる｜雑談・ネタ・イラスト・音楽(邦69/ボカロetc)・TRPG・ゲーム・AI等｜BL/GL/男女CP有｜連投多｜手ブロ→tegaki.pipa.jp/122559 lit.link/kagitozu 宙兎 渦（ちゅうと うず）🐇☔️💫 @uzu_tyu 悪役令嬢転生おじさん、作者が実際にアラフィフ＆児童漫画出身の人で、「歳をとって悪意を描くのがしんどい」「この歳になると、この世にはちゃんとしたおじさんが普通に存在することを知っている」という理由で、優しく良識ある話になってて、ハッピーエンドにするとも公言されてる 光の悪役令嬢モノ 2025-01-18 13:45:22
大阪 通天閣近くの商店街で火事 ゲームセンター従業員 1人けが | NHK
21日夕方、大阪 浪速区の通天閣の近くにある商店街で火事があり、ゲームセンターが入る建物などが焼けたほか、男性1人がけがをしました。 21日午後5時前、大阪 浪速区恵美須東の通天閣の近くにある商店街で「火事です」と近所の人から消防に通報がありました。 消防車など42台とヘリコプターが出て消火にあたり、火は約2時間後にほぼ消し止められましたが、警察と消防によりますとゲームセンターが入る5階建ての建物と近くの木造2階建ての建物の一部あわせて500平方メートル余りが焼けました。 この火事で、ゲームセンターの従業員で30代の男性1人がけがをして病院に搬送されました。 男性のけがの程度は軽いとみられ、出火当時店に客はいなかったと話しているということです。 現場は、通天閣から北西に約100メートル離れた商店街の一角で、警察と消防が火事の原因を調べています。
【独自】「くいしん坊！万才」26日休止 フジテレビ、キッコーマンが要請 ｜ 共同通信
Published 2025/01/21 19:12 (JST) Updated 2025/01/21 19:48 (JST) フジテレビが長寿番組「くいしん坊！万才」の26日分の放送を休止することが21日、分かった。1社提供のキッコーマンが放送を当面見合わせるよう要請した。キッコーマンはタレントの中居正広さんと女性とのトラブルにフジテレビ社員が関与したとの一連の報道を踏まえ、総合的に判断したとしている。問題がCMの差し替えにとどまらず、番組の放送に波及した。 フジテレビの公式サイトによると、「くいしん坊！万才」は全国各地の郷土料理や名物料理を紹介する番組。11代目となる現在のリポーターは元プロテニス選手の松岡修造さんが務め、関東のみのローカル枠で日曜日の午後5時25分から放送されている。 フジテレビは放送休止の理由について「キッコーマンと広告会社を通じて連絡を取っており、総合的に判断した
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
名指しで「騒動の主犯格」 SNS誹謗中傷の実態、兵庫県議の証言：朝日新聞デジタル
【特集】 もはや7型以下のUMPCって難しい？その理由をOne-Netbookに聞いた
【悲報】カードショップに冗談で放火予告したオタク、無事特定されて警察沙汰「開示請求防止に父の会社のWi-Fiからネットしたら親父が事情聴取」
[みんなのケータイ]クラウドストレージをDropboxに戻したシンプルな理由![[みんなのケータイ]クラウドストレージをDropboxに戻したシンプルな理由](https://cdn-ak-scissors.b.st-hatena.com/image/square/3156e1841e84a9efedbbf321710a3ece937fb51b/height=288;version=1;width=512/https%3A%2F%2Fk-tai.watch.impress.co.jp%2Fimg%2Fktw%2Flist%2F1654%2F954%2F001.jpg)
コロニーの彼女（I_006A）
日本唯一の「ガイドウェイバス」が大混雑 開業時は1日5000人だった利用者は1万2000人に 増便したくても簡単にできない事情も（CBCテレビ） - Yahoo!ニュース