驚異の1ビットLLMを試す。果たして本当に学習できるのか?｜shi3z
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装
“念”で機械を動かす 最先端の脳科学がもたらす未来 | NHK | WEB特集
YouTubeに公開された7分足らずの動画に世界が衝撃を受けた。 動画に写っているのは、オンラインゲームをプレーするアメリカ人の男性。 その手元にあるはずのコントローラーが、ない。 代わりとなっているのが頭に取り付けられた装置だ。 脳に埋め込んだ電極で脳波の情報を読み取り、ゲームのキャラクターの動きに変換し操作しているのだ。 脳と機械をつなぎ、“念じた”とおりに動かす。 BMI＝ブレイン・マシーン・インターフェースと呼ばれる技術の開発競争が、今、世界で激化している。 （大阪放送局 記者 絹田峻） こちらが世界に衝撃を与えた動画。 動画の男性が来日すると知り合いの研究者から聞き、早速インタビューを申し込んだ。 インタビューが実現したのは、2023年10月。 ネイサン・コープランドさん（37）は、「観光で疲れた」などと言いながら、終始笑顔で取材に応じてくれた。 ネイサンさんは18歳のとき、車を
隣の防音部屋をミリ波で盗聴、瞬時にテキスト化する技術 中国の研究者らが開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 香港大学や清華大学に所属する研究者らが発表した論文「Radio2Text: Streaming Speech Recognition Using mmWave Radio Signals」は、ミリ波（mmWave）信号から音声を認識するストリーミング自動音声認識（ASR）システムを提案した研究報告である。このシステムは、周囲のノイズに強く、防音対策した部屋の外からでも取得でき、これまでと異なり長い文章をリアルタイムに認識する能力を提供する。 無線センシングの進展に伴い、特にミリ波信号の注目が高まっている。なぜなら、音源のミリメートルレベルの
なぜRISC-Vは急速に盛り上がったのか？ RISC-Vプロセッサー遍歴 (1/2)
最近x86とArmに続く第3の勢力として、RISC-V(リスクファイブ)の名前を聞くことが多くなった。RISC-Vの場合、x86とArmと異なるのはさまざまなベンダーがさまざまなコアを用意していることで、まだ現状はIPを販売しているレベルの企業の方が多いが、チップの提供を開始しているメーカーも出始めている。 イメージとしては、1980年代末～90年代のx86市場を考えれば良い。インテルとAMD以外にCyrix/IDT/TI/IBM/NexGenなど多数のメーカーが、独自の実装に基づくx86プロセッサーを市場投入していた時代に近い。 もちろんいろいろ異なる点もあるのだが、2010年代前半はプロセッサーといえばx86とArm、それにPowerPC/POWERといった程度がせいぜいだったのに、なぜ2010年代後半から急速にRISC-Vが盛り上がったのか、という一連の流れを数回に分けて説明しよう。
世界に衝撃「ChatGPT」開発企業のCEO 独占インタビュー | NHK
人間のように自然な受け答えができる高度な性能を備え、世界で急速に利用が広がる対話式AI「ChatGPT」。開発したアメリカのベンチャー企業のCEO・サム・アルトマン氏（37）が来日し、NHKの単独インタビューに応じました。 この中でアルトマン氏は「想像できない方法で、私たちの生活を向上させるものだ」と述べた上で、「リスクを軽減するための規制が必要で、政府と話し合うことが重要だ」という認識を示しました。 「私たちすべての生活の質を向上させる」 アメリカのベンチャー企業「オープンAI」のCEO、サム・アルトマン氏は、「ChatGPT」を去年11月に公開した後の初めての訪問国として日本を訪れ、10日NHKの単独インタビューに応じました。 アルトマン氏は『ChatGPT』が社会に与える影響について、「新しいテクノロジーが登場すると、今日では想像できない方法で、私たちすべての生活の質を向上させること
半径1kmなら無線LAN通信が可能に、「IEEE802.11ah」とは
2022年9月の改正電波法で利用できるようになった新しい無線LAN規格。通信距離が半径約1kmと広いのが特徴。農園や工場など、IoT機器を使った広いエリアでの監視やデータの収集がしやすくなる。 半径約1kmの長距離で通信できる無線LAN規格。2.4GHz帯および5GHz帯を利用する既存の無線LAN規格と異なり、920MHz帯の周波数帯を使用する。通信速度は最大で20Mbpsと、一般的な無線LANより遅いが、動画の送受信も可能だ。広範囲に設置したセンサーのデータや、監視カメラの映像を無線でやり取りする用途に適している。機器の設置や利用に免許は不要で、一般利用者でも手軽に導入できる。 広い範囲で利用できる通信方式として、これまでも「LoRaWAN」や「Wi-SUN」などの通信規格が策定されている。いずれも主にセンサーが扱う少ないデータの送受信が主な用途だ。そのため最大通信速度は数10kbpsか
5年後には「日本製冷蔵庫」が世界を席捲？…「冷やすメカニズム」を根底から変える「磁気冷凍」の凄い技術（深川峻太郎，ブルーバックス編集部）
7万年前に出現して以来、さんざん地球を痛めつけてきた人類はいま、さまざまなところでしっぺ返しにあい、これまでのやり方の見直しを迫られています。現代ではなくてはならない道具となった冷蔵庫も、その1つ。もう従来の「冷やし方」は許されなくなってきているのです！ そして日本には、世界に先駆けて破壊的イノベーションを起こそうと燃えている研究者がいます。 いま冷蔵庫で何かが起きようとしている どこのご家庭もそうだと思うが、わが家の冷蔵庫も「掲示板」の役割を兼ねている。税金の納付書、近隣の工事のお知らせ、イベントのチケット、最近では新型コロナウイルスワクチンのクーポン券など、とりあえず磁石で貼りつけておくのに冷蔵庫は便利だ。冷蔵庫あるところに磁石あり、である。両者はとても相性が良い。 とはいえ掲示板は、あくまでも冷蔵庫の「副業」である。ところが、磁石がいま、冷蔵庫の「本業」にも役立とうとしている、という
電池不要のTOTOエコリモコンを分解してみた
TOTOエコリモコンとは？ TOTOといえばウォシュレットが有名ですが、電池不要タイプの「TOTOエコリモコン」という製品が販売されています。 これ自体は以前から売られているものですが、新品を入手する機会があったため、電池不要な構造を調べてみるために購入して分解してみました。 TOTOエコリモコンの外観をチェック 分解検証用に購入したTOTOエコリモコンです。 家庭用ウォシュレット等で見かけるリモコンとはデザインが全く違い、シルバーで大型のボタンを備えたものとなっています。 また電池不要タイプという事で、LEDランプによる表示や液晶画面などは存在しません。 ボタン部分を横から撮影してみました。 大型のボタンはクリック時のストークも大きくなっており、操作性という面ではユニバーサルデザインを意識したものといえるでしょう。 また大きなストロークは電池不要な構造の関係する部分でもありそうです。 今
太陽光がWi-Fiの代わりに？ 差し込む日光を窓で変調し、部屋内の無線通信に活用する技術
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 サウジアラビアのKing Abdullah University of Science and Technology（KAUST）による研究チームが発表した論文「Design and Analysis of LCD-Based Modulator for Passive Sunlight Communications」は、ガラスを通過する太陽光を変調させ、データを光にエンコードし、部屋の中のデバイスがそれを検知してデコードできるスマートガラスシステムを提案した研究報告だ。 太陽光をデータ送信に利用することで、従来のWi-Fiやスマートフォンのデータ送信に比べて環境に優しく低エネルギーの通信
コンデンサーの極板間の電場と電磁波の電場は別物 －100年続いた混乱を解消し、電磁波発生の安易な説明を正す－ - KEK｜高エネルギー加速器研究機構
Home > Press > コンデンサーの極板間の電場と電磁波の電場は別物 －100年続いた混乱を解消し、電磁波発生の安易な説明を正す－ 大学共同利用機関法人 高エネルギー加速器研究機構 概要 大学共同利用機関法人高エネルギー加速器研究機構（KEK）物質構造科学研究所 低速陽電子実験施設の兵頭俊夫協力研究員（東京大学名誉教授）は、平行平板コンデンサーの極板の電荷による電場の変動（変位電流）は磁場を作らないという正しい認識が定着していない要因を指摘し、その詳細を解明することで正しい認識を定着させるための論文を発表しました。 コンデンサーの極板の電荷による電場が変動しても磁場を作らないことは100年前に証明されているのですが、なかなか常識にならず、現在でも「平行平板コンデンサーの極板の間で変化する電場が極板間やまわりに作る磁場」が、電磁波が発生するしくみの説明の前置きとされているのを見かける
「舌打ち」で障害物の位置を特定 音の跳ね返りをVR上で可視化、エコロケーションを体験
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 岐阜大学の研究チームが開発した「MEcholocation」は、舌打ちの反響音で周囲の障害物を把握する能力を体験できるVR（バーチャルリアリティー）システムだ。舌打ちした音が複数のボールとしてバーチャル内で見え、そのボールの跳ね返りを手掛かりに周囲の机や壁を把握する。実際の部屋を舞台に、舌打ちの反響音を確認しながら暗闇内の障害物を回避して部屋の脱出を目指す。 全盲のダニエル・キッシュさんは、目の代わりに舌打ちの音の反響によって世界を見ているという。これはコウモリやイルカが超音波の反響を用いて自身の位置を把握するエコロケーション（反響定位）に似ている。 舌打ちによる短い音を使い、物体に跳ね返
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
無償のiOS版「ChatGPT」を早速使ってみた ～ついに来た公式アプリは優秀な音声入力機能がいい！／基本は同じでも直感的かつスムーズな手触りに好印象【やじうまの杜】
世界初となる「木製トランジスタ」が登場
東大ら、超伝導の新たなメカニズムの検証に成功
Anker初、家庭用の3Dプリンター。高速高精度で10万円を切る - 家電 Watch
アップルウオッチで血糖値測定する技術、開発が飛躍的進展－関係者
次世代ワイヤレス充電「Qi2」発表 アップル「MagSafe」ベースに
【買い物山脈】 ラズパイが高いなら5千円の中古シンクラを使えばいいじゃない。シンクラ×3で作る家庭用ハイパーコンバージド環境
EU、スマホなどの充電を「USB-C」統一に決定
【大原雄介の半導体業界こぼれ話】 Intelによる、無償でRISC-V開発が可能な「Pathfinder for RISC-V Starter Edition」
