tinyLlamaとかを使うときに4bit量子化したいときが誰しも一度はあると思うので、備忘録を描いておく。 llama.cppを導入し、convert.pyを実行、最後にquantize.exeを実行すればOKです。 cmakeの導入 これを参考にcmakeを使えるようにしてみてください llama.cppの導入 llama.cppをクローン git clone https://github.com/ggerganov/llama.cpp cd llama.cpp makeをする。自分はcmakeでやった mkdir build cd build cmake .. cmake --build . --Release cd .. モデルの変換 モデルのダウンロードをする。今回は「yuiseki/tinyllama-ja-wikipedia-1.5T-v0.1」を用いる。 cd models

大規模言語モデル (LLM) をはじめとする巨大なDNNモデルでは、計算量の削減のためsparseなアーキテクチャが使われることがあります。本講演では、このようなsparseなDNNモデルに対する分散学習の手法について解説します。12/20のW&Bミートアップで発表しました。

生成AIがつくったイベント告知画像と現実の差に観客激怒、“想像を超える酷さ”で通報騒ぎに Culture 2024.03.21 文：中川真知子 写真はイメージ（ShutterStock） スコットランド中部のグラスゴーで開催された『チャーリーとチョコレート工場』をテーマにしたイベントが、「とんでもない詐欺だった」としてネット上を騒がせた。生成AIでつくられた画像で人々の期待感を煽ったものの、実際にはいくつかのオブジェが置かれた倉庫で、やる気のないスタッフが出迎えただけだった。チケットは最高で44ドル（約6,000円）もしたため、怒った来場者が警察を呼んだという。 ---fadeinPager--- 台本には「即興で」と書かれていた More pics from the event https://t.co/ZCqw7yvqR4 pic.twitter.com/5LsLL8xnQ2 — Cu

長いのでAIくんの代わりに要約します。言いたいことはタイトル通り。 「ハルシネーションを叩くな」終わり。 ①各種LLMの性能比較GPT系の今の性能はゴミクズ。マジで頭悪い。 例をあげよう。 簡単な論理クイズだ。 ###文章### Aさんは自身はCさんとは別人であると主張している。 Bさんは、Cさんの発言を記事でまとめ、プライバシー侵害をした。この記事をDと呼ぶ。 Aさんは、Dを、自身へのプライバシー侵害だと主張し、Bさんを訴えた。 ###質問### この文章に矛盾はありますか？ 簡単すぎる。もはや論理ですらない。 人間なら一瞬でわかるレベルの矛盾である。小学生でも分かると思う。難しい知識や思考は必要としない。 では、色々なLLMの回答がこちら。 Copilot（旧 bingai）この文章を読む限り、矛盾は存在しないように見えます。AさんはCさんとは別人であると主張しており、BさんはCさんの

Version 1.1.0 # Changelog All notable changes to this project will be documented in this file. The format is based on [Keep a Changelog](https://keepachangelog.com/en/1.1.0/), and this project adheres to [Semantic Versioning](https://semver.org/spec/v2.0.0.html). ## [Unreleased] ### Added - v1.1 Brazilian Portuguese translation. - v1.1 German Translation - v1.1 Spanish translation. - v1.1 Italian

イスラエルによるパレスチナ人迫害に抗議する方法として、デモ以外にもイスラエルの商品やイスラエル支援企業の商品をなるべく買わない、というものがある。これが意外に効果的で、南アフリカのアパルトヘイトが終わったのも不買運動により追い詰められたのがきっかけだ。 イスラエル支援企業のリストを見ると、世界の名だたる企業がこんなに、と驚く。欧米ではイスラエルを批判した人たちがそのために職を失うような事態が頻繁に起きていて、シオニストがいかに強い権力を持っているかを日々実感させられている。こういう状況を改善するためにも、イスラエル支援勢力の力を少しでも弱めたい。 ということで、イスラエル支援企業を項目別にまとめてみた。代替候補もできるなら挙げてみることにする。 コンピューター系 ボイコット対象…マイクロソフト、アップル、インテル、HP（ヒューレット・パッカード）、IBM、DELL マイクロソフトとインテル

万福寺梅子 @ethica5656 高知の田舎寿司！時々お取り寄せして食べてるくらいに好き🤤 でも漁港の食堂とかで出てきたら違うだろ！！ってなると思う x.com/gachaps/status… 2024-03-23 13:23:38

2024/3/24に開催されたObject-Oriented Conferenceでの登壇資料です。 https://ooc.dev/2024/

めろち @Genkai_Merochi 初体験ガチでこれだよね。 セックスって死ぬほど気持ちいいものなんだー！！！！って思ってたら「なにこれ？？気持ちよくなくね？」って感じで気まずかった x.com/otaku23otaku/s… 2024-03-17 17:19:37 地獄 @otaku23otaku でもこれ女もだまされん？ なんかセックスは気持ちいいものみたいにこう世界ではなってるから、セックス全然じゃねーかなんだこりゃ！あれは嘘だったんか！！！ってなる笑 x.com/imutanf/status… 2024-03-17 10:11:09

⚖️ スターライト⭐️ハムスター提督 @hamhamsters @SeasideExp 旅行に、好奇心の満足を求めるか、安心感を求めるかの違いかも ひとり旅は前者が多く、 友人や家族との旅行は後者が多いかも 2024-03-24 01:12:36

Published 2024/03/23 17:46 (JST) Updated 2024/03/23 20:01 (JST) 【ワシントン共同】米大リーグ、ドジャースの大谷翔平選手の通訳を務めた水原一平氏が違法賭博に関与した疑いで事実上解雇された問題で、22日付のロサンゼルス・タイムズ紙は「大人になれ」と題したコラムで「沈黙は臆測を招く」とし、大谷選手に説明を求めた。 大リーグ機構（MLB）は22日、「調査手続きを正式に開始した」との声明を発表。大谷選手自身の責任問題に波及するかが焦点となる。水原氏は当初、大谷選手が借金の肩代わりをしたと説明しており、大谷選手から違法賭博業者への送金が判明すれば罪に問われる可能性がある。 水原氏は19日のスポーツ専門局ESPNの取材に、借金返済の依頼を受けた大谷選手が自らパソコンにログインして業者に送金したと答えた。ところが20日になって「大谷選手は何も

電動自転車のバッテリーを安価な自作品に交換する業者がインドネシアで増加しています。バッテリーに関する規制がないインドネシアで広がる自作バッテリーに、専門家は安全性への懸念を示しています。 Indonesia’s e-bike shops are building their own batteries https://restofworld.org/2024/homemade-ebike-battery-indonesia/ インドネシアでは、2023年以降、一定量の国産部品を使用して製造された新しい電動自転車に最大700万ルピア(約7万円)の補助金を出すことが定められました。これにより電動自転車の登録数は激増し、2023年9月時点で前年のほぼ3倍になる6万2000台が登録されているとのこと。 一方でインドネシアはバッテリーに関する規制を一切実施していないため、純正品よりも安価で大容量なバ

冷たい風が吹きすさぶ２月の早朝、大阪刑務所の前で“出待ち”を続ける男性がいた。松浦未来さん（３７）。お目当ては、フルに刑期を終えて釈放された「満期出所者」たち。 【写真】刑務所を出て、蜂蜜を作る女性たち 松浦さんは、人影が現れるのを今か今かと待ち構え、刑務所の黒い正門の向こう側を凝視している。刑務所はいい顔をしないが、それでもやめるつもりはないという。松浦さんは何者なのか。そして何が松浦さんを駆り立てるのか。（共同通信＝武田惇志） ▽終わりの日 松浦さんは、実は出所者だ。 中学３年の時から、大阪・ミナミのホストクラブで働いた。夜の街になじむにつれ、薬物の快感を覚え、密売人と知り合うようになった。「学も経験もない僕でも、これやったら稼げるなあと思いましてね」。洋画に出てくるようなギャングスターに憧れ、一獲千金を目指したという。 「日銭を稼ぐためにやってたわけじゃないんです。どんどんお金を稼ぎ

ティムラズ・レジャバ駐日ジョージア大使 @TeimurazLezhava 私の注意不足です。 失礼にあたったならお詫び申し上げます。 ただ、箸置きもないし、お盆もないし、さらに小皿もないためどのようにすれば良いか思いつきませんでした。 また、お店のページを見ると他に多くの方がこのような写真を撮っていることから、記憶が確かではありませんがもしかしたら初めからこのように出てきたのかもしれません。なんせ一杯550円のラーメン屋さんですから、効率性を重視しているのでしょう。 それでも写真を撮って発信するからには箸を手に持つなど工夫を考えれば良かったと反省しております。 2024-03-22 18:33:24

もうデスク充電器はコレ1台でいいじゃん。Ankerの最強電源タップが2,000円オフです【Amazonセール】

1. 株価はサプライズによって動く 株式相場には常にプロの投資家がうごめいており、各銘柄の各種業績数値を常に予想して投資活動をしている。そんな状況下において、仮に「売上が前年比2倍」という決算が発表されても、株価が2倍になるわけではない。むしろ3倍が予想されていたのに、2倍だったら失望売りとなる。つまり事前予想と比較してこそ意味があり、staticな値や過去実績との比較を特徴量にすることはあまり意味がない。事前予想と決算の乖離、または前回予想と今回予想の乖離こそが意味のある特徴量であると言える。 2. 業績数値の単純な変化率では株価インパクトは測れない 営業利益の事前予想100億円に対し、決算が200億円の場合、 変化率 = （ 実績 - 予想 ) / 予想 の計算式を使うと、変化率は100%となる。 この変化率を特徴量にするのは一見もっともらしいが、株においてはこれは使いづらい。 営業利

前回に引き続き、Slackオートメーションプラットフォームの紹介です。 今回は複数のチャンネルの内容を1つのチャンネルに集約して、時系列で確認できるようなワークフローを作っていきます。(具体的には、全てのtimes(分報)チャンネルでの投稿を指定したチャンネルに集約してくれるワークフローです) Trigger 集約したいチャンネルに作成したSlackアプリを追加するだけで、trigger に設定することができます。他の trigger と同居してるSlackアプリの場合は、channel_ids にも追加して、指定のチャンネルだけで今回の trigger が動くようにすると良さそうです。また、1つの trigger ファイルで指定できる channel_id は 20個までなので、20個以上のチャンネルを集約したい場合は、複数の trigger ファイルに分けるなどする対応が必要です。 i

「進化的モデルマージにより日本語数学LLMとして構築したEvoLLM-JPは、数学のみならず、日本語の全般的な能力に長けている」らしいEvoLLM-JPを試してみます。 追記（2024/3/22） 10Bのモデルですが、torch_dtypeを"auto"からtorch.bfloat16に変更すると、推論のスピードが改善しました。 モデルEvoLLM-JPは、3種提供されています。今回は３つとも試します。 - 大規模言語モデル SakanaAI/EvoLLM-JP-v1-10B : MICROSOFT RESEARCH LICENSE TERMS SakanaAI/EvoLLM-JP-v1-7B :  MICROSOFT RESEARCH LICENSE TERMS SakanaAI/EvoLLM-JP-A-v1-7B : Apache License, Version 2.0 ※画像言語

中国Zero Zero Roboticsのカメラ搭載ドローン「HOVERAir X1 Smart（以下、X1 Smart）」は、重量99gという軽さと、簡単にドローン撮影可能な点が特徴の製品だ。2024年4月20日までクラウドファンディングサービス「Makuake」で先行予約販売を実施。その後、一般販売の開始を予定している。先行販売の価格は、ドローン本体や予備プロペラなどを含む基本セットで5万9980円（税込み）となっている。 Zero Zero Roboticsのカメラ搭載ドローン「HOVERAir X1 Smart」。重量99gと軽いため、国土交通省への登録は不要だ。2024年5月6日まで、「b8ta Tokyo - Yurakucho」（東京・千代田）と「b8ta Osaka - Hankyu Umeda」（大阪市）で展示している

#おジャ魔女どれみ #doremi25th #おジャ魔女どれみ1620s #おジャ魔女どれみ25周年 「あの呪文、まだ覚えてる?」 「あの時の魔法玉、まだ持ってる?」 おジャ魔女どれみの25周年がやってきました。 25周年を記念しておジャ魔女カーニバルの新作映像を作りました。 これが…超カワイくて、エモい。 あんまり可愛いので、5年後の30周年も迎えたい！ あんな展開もこんな展開も、まだまだ 拡げられる！ という欲が出てきてしまいました。 ベストスタッフに新たに加わる新規スタッフのコラボ映像を楽しんでください。 「どれみ」が次のステージに駆け上がるためのチャレンジです。 わずか110秒に「どれみの未来」を賭けます。 皆さま、ぜひともお付き合いくださいませ！ プロデューサー関弘美 絵コンテ: 佐藤順一　 演出:長峯達也 キャラクターデザイン/ 作画監督:　馬越嘉彦 振付：Sho