導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。普段はエンジニアとして、LLMを使用したチャットのサービスを提供しており、とりわけRAGシステムの改善は日々の課題になっています。 RAGのシステムの中では、どんな情報にアクセスするかを決定する際に、Embeddingと呼ばれる文章をベクトル化する技術が使用されています。そして多くの場合では小数(float)の多次元ベクトルが採用されています。 しかし、Embeddingの中には各ベクトルの数値を1Bitのデータとして扱うBinary Embeddingというものが存在します。 本記事では、Embeddingの手法の一つであるそのBinary Embeddingについて解説と検証を行います。 サマリー Binary Embeddingを採用することで以下のような効果を得ることができます。 保管するベクトルデータの容量を96%ほど削減で
『Binary Hacks Rebooted―低レイヤの世界を探検するテクニック89選』に込めた思い - a_kawashiroのブログ
はじめに 2024年8月28日に『Binary Hacks Rebooted―低レイヤの世界を探検するテクニック89選』という本の販売が開始されました。 著者の一人として、この本の紹介をします。 お持ちでない方は、Amazon や、楽天、お近くの書店などで購入が可能です。 購入していただけると大変嬉しいです。 どうぞよろしくおねがいします。 どのような本か 『Binary Hacks Rebooted』は2006年に発売された『Binary Hacks』の再構築版です。 再構築版と聞くと『Binary Hacks』とどれくらい異なるのが気になると思いますが、ほぼすべてが異なります。 詳細な目次はこちら で確認できますが、『Binary Hacks』からそのまま引き継いだ Hack は一つもなく、全てが新しい Hack です。 『Binary Hacks Rebooted』は低レイヤプログラ
Binary Hacks Rebooted
河田 旺、小池 悠生、渡邉 慶一、佐伯 学哉、荒田 実樹 著、鈴木 創、中村 孝史、竹腰 開、光成 滋生、hikalium、浜地 慎一郎 寄稿 TOPICS Programming 発行年月日 2024年08月 PRINT LENGTH 660 ISBN 978-4-8144-0085-0 FORMAT Print PDF EPUB 本書は低レイヤのプログラミングに関するHack集であり、2006年に発行された『Binary Hacks』の再構築版として書かれました。低レイヤとは抽象化の度合いが低く計算機と近いレイヤのことを指し、またHackとは巧妙な方法で問題を解決する手法を指します。現代のコンピュータシステムは重層的です。抽象化のレイヤを重ねることで発展し、無数の機能が実現されています。これらのレイヤは巧みに設計されているため、機能を利用するだけなら各レイヤの動作を詳細に知る必要はあり
GitHub - andyk/ht: headless terminal - wrap any binary with a terminal interface for easy programmatic access.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
先日、「Binary Hacks Rebooted」をご恵贈賜りました。通して読んでみたところ、私の心の琴線に触れる内容が多くあり、ブログ記事で紹介させてもらいます。 Binary Hacks Rebooted —低レイヤの世界を探検するテクニック89 免責事項 私は一部の著者の方々とはとても親しく、本ブログの記述が客観的ではないかもしれません 私は前作の「Binary Hacks」を読んでおりません 私は低レイヤーが好きですが精通しているわけではなく、内容の間違った理解をしている可能性が十分にあります バイナリ、というよりは低レイヤーをトピックとした内容 タイトルには Binary Hacks とバイナリを強調していますが、どちらかといえばバイナリー周りというよりは低レイヤー全般に関する内容を扱っています。Hack #66 などでは Row Hammer 攻撃など、メモリの物理的な特性を
Binary Hacks Rebootという本を著者のかたから恵贈いただいたのでレビューを書きます。著者や寄稿者のうちの何人かは知り合いだったり、本が恵贈いただいたものだったりでバイアスがかかっている可能性がありますが、ご容赦ください。 Binary Hacks Rebooted —低レイヤの世界を探検するテクニック89選 作者:河田 旺,小池 悠生,渡邉 慶一,佐伯 学哉,荒田 実樹オーム社Amazon どんな本か 本書はいわゆる低レイヤと呼ばれるバイナリがいっぱい出てくるような技術について小ネタを山盛り、Hacksなので89(ハック)個、詰め込んだ本です。 扱う分野は以下のように多岐にわたっています。 ELF(Linuxなどで使われる実行ファイル、共有ライブラリを保存するファイルの形式) OS、とくにLinuxについてのもの コンテナ技術 デバッガ・トレーサ セキュリティ 数値表現とデ
Binary logging optimizations in Amazon Aurora MySQL version 3 | Amazon Web Services
AWS Database Blog Binary logging optimizations in Amazon Aurora MySQL version 3 The binary log (binlog) in MySQL is used to capture database modifications on a MySQL server in a logical format known as “events”. These database modifications can include DCL statements (such as CREATE USER or GRANT), DDL statements (CREATE TABLE, ALTER TABLE) and DML statements (INSERT, UPDATE, DELETE). When such a
今月（2024年8月）末にオライリージャパンから出る「Binary Hacks Rebooted」という本の執筆に、著者の一人として参加しました。私は主に浮動小数点数周りの記事を執筆しました。 O’Reilly Japan – Binary Hacks Rebooted（2024年） サポートリポジトリはこちらになります。サンプルコードなどを掲載する予定です。 oreilly-japan/binary-hacks-rebooted: 『Binary Hacks Rebooted』のサポートリポジトリ また、各Hackの中に踏み込んだ詳細な目次を以下のページで公開しています。購入に迷った際の判断材料にしてください。 Binary Hacks Rebooted 目次 | Akira Kawata オライリーの本は全ての書店に並ぶわけではありません。店頭で確認したい方は、オライリーの本を扱ってい
GitHub - betwixt-labs/bebop: 🎷No ceremony, just code. Blazing fast, typesafe binary serialization.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Binary and Scalar Embedding Quantization for Significantly Faster & Cheaper Retrieval
Improving scalability There are several ways to approach the challenges of scaling embeddings. The most common approach is dimensionality reduction, such as PCA. However, classic dimensionality reduction -- like PCA methods -- tends to perform poorly when used with embeddings. In recent news, Matryoshka Representation Learning (blogpost) (MRL) as used by OpenAI also allows for cheaper embeddings.
It’s about time to pack Ruby and Ruby scripts in one binary
Practical Tips and Tricks to Improve Your Compose Previews (Android Worldwide July 2024)
死にゲーなのに心地良い、ってなんだ？『エンダーリリーズ』の数十年後を描く2Dアクション『エンダーマグノリア』に感じる心地よさの正体とは。Binary Haze Interactive・小林宏至氏が語る“独自性”と優れたゲームの条件【gamescom2024】
なぜ「2Dソウルライク」なのに心地よく、親しみやすいのか。──本日はよろしくお願いいたします。 『エンダーマグノリア: ブルームインザミスト』は、すでに3000件以上のレビューのうち98％が好評とする高い評価を獲得しています。早期アクセス版の反響はいかがでしょうか。 小林宏至氏（以下、小林氏）： そうですね。評価はとても高い評価をいただいていて、一安心しています。 ただ、現状ではまだ「早期アクセス版がリリースされている」ことの認知が足りていない印象もあります。その点に関しては、これから実施するプロモーションで高めていく予定です。 ──ユーザーからの評価に関連して、前作である『エンダーリリーズ』は販売本数が150万本を突破した話題の作品です。 大ヒットを経て、改めて続編の開発に至った経緯をお伺いしたいです。 小林氏： やはり、『エンダーリリーズ』の大ヒットにより「絶対売れる」という確信があっ
A website to teach you binary math by helping you make funny numbers
JS Decorators Explained: 10 Years Journey to the Real Implementation | Binary Studio
In 2015, ECMAScript 6 was introduced – a significant release of the JavaScript language. This release introduced many new features, such as const/let, arrow functions, classes, etc. Most of these features were aimed at eliminating JavaScript's quirks. For this reason, all these features were labeled as "Harmony." Some sources say that the entire ECMAScript 6 is called "ECMAScript Harmony." In addi
GitHub - qilingframework/qiling: A True Instrumentable Binary Emulation Framework
Qiling's usecase, blog and related work Qiling is an advanced binary emulation framework, with the following features: Emulate multi-platforms: Windows, MacOS, Linux, Android, BSD, UEFI, DOS, MBR, Ethereum Virtual Machine Emulate multi-architectures: 8086, X86, X86_64, ARM, ARM64, MIPS, RISCV, PowerPC Support multiple file formats: PE, MachO, ELF, COM, MBR Support Windows Driver (.sys), Linux Kern
elfconv: an experimental AOT compiler that translates Linux/AArch64 ELF binary to WebAssembly.
Language supports of WebAssemblyWebAssembly (WASM) is a binary format having a virtual instruction set and has been created to make up for the performance overhead of Javascript on browsers, WASM has been expected for the usage of sandbox environments and portable distribution of applications. Now, many programming languages support WASM (e.g. C, C++, Rust, Go), and therefore we can easily make WA
Gentoo goes Binary! Dec 29, 2023 You probably all know Gentoo Linux as your favourite source-based distribution. Did you know that our package manager, Portage, already for years also has support for binary packages, and that source- and binary-based package installations can be freely mixed? To speed up working with slow hardware and for overall convenience, we’re now also offering binary package
In this post, I will detail how to replace sudo (a setuid binary) by using SSH over a local UNIX socket. I am of the opinion that setuid/setgid binaries are a UNIX legacy that should be deprecated. I will explain the security reasons behind that statement in a future post. This is related to the work of the Confined Users SIG in Fedora. Why bother? The main benefit of this approach is that it enab
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ベクトルデータの容量を96%削減するBinary Embedding
書評 "Binary Hacks Rebooted"
Binary Hacks Rebootedを読んだ - 覚書
Amazon.co.jp: Binary Hacks Rebooted —低レイヤの世界を探検するテクニック89選: 河田旺 (著), 小池悠生 (著), 渡邉慶一 (著), 佐伯学哉 (著), 荒田実樹 (著), 鈴木創、中村孝史、竹腰開、光成滋生、hikalium、浜地慎一郎 (その他): 本
「Binary Hacks Rebooted」が出ます | 雑記帳
looo.lol - Learn Binary Math Through Shitposting
Gentoo goes Binary! – Gentoo Linux
sudo without a setuid binary or SSH over a UNIX socket