Four AI Agent Strategies That Improve GPT-4 and GPT-3.5 Performance
Agentic Design Patterns Part 1 Four AI agent strategies that improve GPT-4 and GPT-3.5 performance Dear friends, I think AI agent workflows will drive massive AI progress this year — perhaps even more than the next generation of foundation models. This is an important trend, and I urge everyone who works in AI to pay attention to it. Today, we mostly use LLMs in zero-shot mode, prompting a model t
購読者だけが読めるメール 以前から配信しているニュースレター「ねじまき通信」。 月に一度、海外のニュースや本、映画や音楽などのトレンドをまとめてお届けするニュースレターなのですが、ちょっと新しいメール配信回を増やそうかなと。 その名も「すぐ消えるレター」。 新コーナーは大きく５つほど。 (そのうちただの文章だけになるかもですが エッセイ パーソナルなエッセイ的なもの。 最近のニュースや京都の生活などプライベートなことについても書いていくつもり。 五感 最近、印象に残った五感（視覚、聴覚、触覚、味覚、嗅覚）を、 各々について感覚を一言ずつ記録していく試み。 まあこれだけ読んでもよくわからないと思うので、 メール読めば理解できるはず？ No Algorithm AI時代だからこそ、インターネットの世界にはない現実の世界で起こった、 印象に残る出来事を書くコーナー。 まだ方向性はこれぐらいしか決
Deno’s goal is to simplify programming in as many environments as possible. In this 1.41 release, we’re excited to announce improvements that broaden how and where Deno can be used: we’ve roughly halved the size of deno compile binaries, as well as added an official Linux ARM 64 build. Additionally, we’ve continued to improve Node.js compatibility, the LSP to include better auto-completion, and De
JSer.info #706 - Vue 3.5がリリースされました。 Announcing Vue 3.5 | The Vue Point パフォーマンス改善、definePropsの返り値をDestructureできるようになっています。 また、useId()の追加、data-allow-mismatch属性の追加、defineCustomElement() APIを追加しCustom Elementの対応を改善、useTemplateRef()、onWatcherCleanup()の追加なども行われています。 JavaScriptの入門書であるjsprimer v6.0.0がリリースされました。 JavaScript Primer v6.0.0リリース: ES2024の対応とNode.jsのユースケースを刷新 | Web Scratch ES2024の対応とNode.jsのユースケー
ranxはPythonで実装されたランキング評価用のライブラリです。検索システムの評価に使える以下のような指標が用意されていたり、それらの結果をRRFのようなアルゴリズムで組み合わせたり、論文用にテーブルをエクスポートする機能を備えています。本記事では、ranxの簡単な使い方を紹介します。 Hits Hit Rate Precision Recall F1 r-Precision Bpref Rank-biased Precision (RBP) Mean Reciprocal Rank (MRR) Mean Average Precision (MAP) Discounted Cumulative Gain (DCG) Normalized Discounted Cumulative Gain (NDCG) インストール pipを使っている場合は以下のコマンドを実行してインストールします
"},"dump":{"kind":"string","value":"CC-MAIN-2013-20"},"url":{"kind":"string","value":"http://%20jwashington@ap.org/Content/Press-Release/2012/How-AP-reported-in-all-formats-from-tornado-stricken-regions"},"date":{"kind":"string","value":"2013-05-18T05:48:54Z"},"file_path":{"kind":"string","value":"s3://commoncrawl/crawl-data/CC-MAIN-2013-20/segments/1368696381249/warc/CC-MAIN-20130516092621-00000-
Personalize your generative AI applications with Amazon SageMaker Feature Store | Amazon Web Services
AWS Machine Learning Blog Personalize your generative AI applications with Amazon SageMaker Feature Store Large language models (LLMs) are revolutionizing fields like search engines, natural language processing (NLP), healthcare, robotics, and code generation. The applications also extend into retail, where they can enhance customer experiences through dynamic chatbots and AI assistants, and into
I will often say that the so-called “C ABI” is a very bad one, and a relatively unimaginative one when it comes to passing complicated types effectively. A lot of people ask me “ok, what would you use instead”, and I just point them to the Go register ABI, but it seems most people have trouble filling in the gaps of what I mean. This article explains what I mean in detail. I have discussed calling
Enshittification (alternately, crapification and platform decay) is a pattern in which online products and services decline in quality. Initially, vendors create high-quality offerings to attract users, then they degrade those offerings to better serve business customers, and finally degrade their services to users and business customers to maximize profits for shareholders. Writer Cory Doctorow c
Quantization is a technique to reduce the computational and memory costs of evaluating Deep Learning Models by representing their weights and activations with low-precision data types like 8-bit integer (int8) instead of the usual 32-bit floating point (float32). Reducing the number of bits means the resulting model requires less memory storage, which is crucial for deploying Large Language Models
With huge amounts of traffic coming through the search engine, website operators will do anything to get noticed. Site designs, organization, and even the subheadings on specific pages are crafted with Google in mind. The changes start small, but they can quickly transform a website — until it’s optimized for Google first and readers last. As the 14th season of Bravo’s Real Housewives of New York
A new F# compiler feature: graph-based type-checking - .NET Blog
This is a guest blog post by Florian Verdonck. Florian is a freelance software craftsman. He does consultancy, training and open-source development. Currently, he is very active in the F# community, working on the compiler and tooling, improving the overall state of the F# ecosystem according to the needs of his customers. Florian is a member of the open-source division at G-Research and a maintai
Instagramがオリジナルコンテンツを優先し他人の投稿をリポストするアグリゲーターアカウントの表示を減らすための施策を発表
Instagramが「Instagram上のオリジナルコンテンツを促進するための新しい施策」を発表しました。Instagramの責任者であるアダム・モセリ氏も、自身のInstagram上でオリジナルコンテンツを促進するための施策を強調しており、特にオリジナルコンテンツよりも目立つアグリゲーターアカウントの投稿を抑制するとアピールしています。 Helping Creators Find New Audiences | Instagram for Creators | Instagram for Creators https://creators.instagram.com/blog/recommendations-and-originality この投稿をInstagramで見る Adam Mosseri(@mosseri)がシェアした投稿 Instagram’s updated algor
2024/02/07A Distributed Systems Reading ListThis document contains various resources and quick definition of a lot of background information behind distributed systems. It is not complete, even though it is kinda sorta detailed. I had written it some time in 2019 when coworkers at the time had asked for a list of references, and I put together what I thought was a decent overview of the basics of
Copy and paste "🧑🌾" in your terminal emulator. How many cells forward did your cursor move? Depending on your terminal emulator, it may have moved 2, 4, 5, or 6 cells1. Yikes. This blog post describes why this happens and how terminal emulator and program authors can achieve consistent spacing for all characters. Character Grids, Historically Terminals operate on a grid of fixed size cells. Thi
Knowledge Bases now delivers fully managed RAG experience in Amazon Bedrock | Amazon Web Services
AWS News Blog Knowledge Bases now delivers fully managed RAG experience in Amazon Bedrock Back in September, we introduced Knowledge Bases for Amazon Bedrock in preview. Starting today, Knowledge Bases for Amazon Bedrock is generally available. With a knowledge base, you can securely connect foundation models (FMs) in Amazon Bedrock to your company data for Retrieval Augmented Generation (RAG). Ac
Python is a wonderful programming language. I’ve used it to build webapps, deep learning models, games, and do numerical computation. However there is one aspect of Python that has been an inexcusable pain-in-the ass over many years. That would be the fragmented Python package and environment management ecosystem, succinctly represented by the following XKCD comic: You see, a lot of other programm
以下の文章は、コリイ・ドクトロウの「Even if you think AI search could be good, it won’t be good」という記事を翻訳したものである。 Pluralistic 検索に関する今週のビッグニュースは、Googleが「AI検索」へのシフトを続けていることだ。検索ワードを入力してウェブサイトへのリンクが表示されるのではなく、Googleに質問をすると、AIがウェブ上で見つけたものに基づいて回答を生成するという方向に進みたいらしい。 https://blog.google/products/search/generative-ai-google-search-may-2024 Googleはこれを「Googleにググらせよう（let Google do the googling for you.）」と宣伝している。自分でウェブを検索するのではなく
![Googleに“まともな”AI検索は作れない | p2ptk[.]org](https://cdn-ak-scissors.b.st-hatena.com/image/square/e4cc0dd9bc860c83935b765f63d2ba4698ecda12/height=288;version=1;width=512/https%3A%2F%2Fp2ptk.org%2Fwp-content%2Fuploads%2F2024%2F05%2Fsearch-ai-enshittification.webp)
Summary At Sakana AI, we harness nature-inspired ideas such as evolutionary optimization to develop cutting-edge foundation models. The development of deep learning has historically relied on extensive trial-and-error by AI researchers and their theoretical insights. This is especially true for preference optimization algorithms, which are crucial for aligning Large Language Models (LLMs) with hum
Database Fundamentals
About a year ago, I tried thinking which database I should choose for my next project, and came to the realization that I don't really know the differences of databases enough. I went to different database websites and saw mostly marketing and words I don't understand. This is when I decided to read the excellent books Database Internals by Alex Petrov and Designing Data-Intensive Applications by
Visualizing algorithms for rate limitingMay 15, 2024Why rate limit?Imagine a Twitch chat with many active participants and just one spammer. Without rate limiting, the sole spammer can easily dominate the entire conversation. With rate limiting, each user has a fair chance to participate. A rate limiter lets you control the rate of traffic that your service processes by blocking requests that exce
We introduce StreamDiffusion, a real-time diffusion pipeline designed for interactive image generation. Existing diffusion models are adept at creating images from text or image prompts, yet they often fall short in real-time interaction. This limitation becomes particularly evident in scenarios involving continuous input, such as Metaverse, live video streaming, and broadcasting, where high throu
Bluesky
Social media is too important to be controlled by a few corporations. We’re building an open foundation for the social internet so that we can all shape its future. Stay focused on your friend group, keep up-to-date on the latest news, or explore with an algorithm that learns what you like. On Bluesky, there's a feed for that.
TiDBのRequest Unitの裏側 ① | CyberAgent Developers Blog
グループIT推進本部のデータプロダクトユニット（DPU）でエンジニアをやっている＠azazです。DPUではTiDBチームに所属していまして、ここではTiDBの運用、移行のサポート、クエリー最適化のサポート活動などに力を入れています。 大規模データ基盤にまつわるデータベース・ETL・クエリーエンジン・ストリーム処理技術について興味がある方は是非Cyberagentの採用ホームページから大規模データ基盤エンジニア枠で応募してみてください！ 流れ 最近注目を集めているMysql互換のNewSQL データベースであるTiDBですが、内部のレートリミッターについて考えたことありますか？本記事ではTiDBで採用されているレートリミッターの仕組みについて3部構成で紹介したいと思います。 様々なレートリミッターアルゴリズムの紹介 分散システムにおけるレートリミッターの課題 TiDBのレートリミッターの仕組
Amazon Linux 2023.2 で zram swapping がサポートされました | DevelopersIO
2023年9月にリリースされた Amazon Linux 2023.2 で サポートされた新機能、 zram を利用した swapについて確認しました。 2023年3月にGAとなった Amazon Linux 2023、4半期毎のマイナーバージョンアップが計画されており、 2023年9月、新しいマイナーバージョン Amazon Linux 2023.2 がリリースされました。 今回 Amazon Linux 2023.2 で サポートされた新機能、 zram を利用した Swap について確認を試みる機会がありましたので、紹介させて頂きます。 Amazon Linux 2023 version 2023.2.20230920 release notes ZRAM Amazon Linux 2023.2 では、Fedora 33 以降でサポートされた zram を利用した Swap をサポー
The Three Cs: 🤝 Concatenate, 🗜️ Compress, 🗳️ Cache – CSS Wizardry
I began writing this article in early July 2023 but began to feel a little underwhelmed by it and so left it unfinished. However, after recent and renewed discussions around the relevance and usefulness of build steps, I decided to dust it off and get it finished. Let’s go! When serving and storing files on the web, there are a number of different things we need to take into consideration in order
June 2024 Guidance regarding Intel Core 13th and 14th Gen K/KF/KS instability reports
Intel and its partners are continuing to investigate user reports regarding instability issues on Intel Core 13th and 14th generation (K/KF/KS) desktop processors. We appreciate the Intel community’s patience on the matter and will continue to share updates on the investigation as it works towards a conclusion. In the meantime, we’re sharing an update on confirmed factors leading to the reported i
flutter_secure_storageを読む
Flutterでデータをセキュアに保存しようとすると、flutter_secure_storageを使うことになります。 flutter_secure_storageは「iOSではKeychain、AndroidではKeyStoreを使ってデータを保存してくれるライブラリ」と説明されることが多いのではないのでしょうか。チラッとライブラリのコードを見てみたところ、読みこなせない量ではなさそうだったので、AndroidとiOS、そしてWebでどのようにデータを保存しているのかを確認してみました。 記事執筆時点でのflutter_secure_storageのバージョンは、9.0.0です。 Android Androidの場合、EncryptedSharedPreferencesを使ってデータを保存する方法と、SharedPreferencesを使ってデータを保存する方法があります。 Encry
Entra ID（旧名Azure AD）は企業での利用の割合が高く、社内システムを作る場合はこれを使って認証して欲しいという要件が積まれることがほとんどでしょう。とはいえ、現物を使ってテストを作るのは都合がよくないこともあったりします。例えば処理時間が延びる（大量のE2Eテストを走らせる場合）とか、たくさんのユーザーのバリエーションを作る場合にそれだけユーザーを登録しないといけないとか、多要素認証の認証をどうするかとか。そんな感じのウェブサービスの単体テストを簡略化する方法について検討して組み込んだので紹介します。 前提Entra IDを組み込む方法については以前のエントリーで紹介しています。 MSAL.jsを使ってウェブフロントエンドだけでAzureAD認証する AzureAD＋MSAL for Goでバッチコマンドの認証 後者は他の認証基盤でもだいたい同じですが、前者は、MSAL.js
複数の関連度から検索可能な BGE M3-Embedding の紹介 - Algomatic Tech Blog
こんにちは。Algomatic の宮脇（@catshun_）です。 本記事では文書検索において一部注目された BGE M3-Embedding について簡単に紹介します。 Chen+'24 - BGE M3-Embedding: Multi-Lingual, Multi-Functionality, Multi-Granularity Text Embeddings Through Self-Knowledge Distillation おことわり 本記事では精読レベルの 詳細な解説は含みません。 詳細については 参照元の論文をご確認ください。 不十分また不適切な言及内容がございましたらご指摘いただけますと幸いです。 プロダクト等の利用時は 必ずライセンスや利用規約を参照して下さい。 本記事で紹介する 論文 は Work in progress とコメントされており今後内容が更新される可能
GitHub - modelscope/DiffSynth-Studio: Enjoy the magic of Diffusion models!
August 22, 2024 We have implemented an interesting painter that supports all text-to-image models. Now you can create stunning images using the painter, with assistance from AI! Use it in our WebUI. August 21, 2024 FLUX is supported in DiffSynth-Studio. Enable CFG and highres-fix to improve visual quality. See here LoRA, ControlNet, and additional models will be available soon. June 21, 2024. 🔥🔥
Unification in Elixir
Pattern matching is a pervasive and powerful tool in Elixir. This isn't too surprising if you know a little about the history of Elixir's parent language, Erlang. Erlang was originally inspired by and written in Prolog, a logic programming language where pattern matching has first-class support. In Elixir, you might see an expression like this: [x, [2, y]] = [1, [2, 3]]When this expression is eval
I love raytracers; in fact I’ve written half a book about them. Probably less known is my love for the ZX Spectrum, the 1982 home computer I grew up with, and which started my interest in graphics and programming. This machine is so ridiculously underpowered for today’s standards (and even for 1980s standards), the inevitable question is, to what extent could I port the Computer Graphics from Scra
Escaping Spotify’s algorithm ミックステープ文化の逆襲、 スポティファイで失われた 音楽の楽しみを取り戻す方法 スポティファイは人々が望んでいると思われるものを提供することで、音楽を発見する喜びを葬ってしまったのだろうか？ パーソナライズされたプレイリストではなく、自らが音楽を探すための手段を提供することで、リスニング体験の多様化を目指す動きがある。 by Tiffany Ng2024.09.13 11 この記事の3つのポイント スポティファイのパーソナライズは音楽発見を単純化している アルゴリズムは新しいものへの好奇心を失わせ人間性を排除している コミュニティを通じた能動的な音楽発見がアルゴリズムのバブルから脱却させる summarized by Claude 3 ラジオ、レコード、カセットテープ、MP3プレーヤーの時代が終わった後、音楽のブランディングはロッ
Micro-benchmark of the multi-head attention, run-time in us. Flash-Decoding achieves almost constant run-time as the sequence length scales to up to 64k. The up to 8x speedup end-to-end measured earlier is made possible because the attention itself is up to 50x faster than FlashAttention. Up until sequence length 32k, the attention time is roughly constant, because Flash-Decoding manages to fully
Data masking and granular access control using Amazon Macie and AWS Lake Formation | Amazon Web Services
AWS Security Blog Data masking and granular access control using Amazon Macie and AWS Lake Formation Companies have been collecting user data to offer new products, recommend options more relevant to the user’s profile, or, in the case of financial institutions, to be able to facilitate access to higher credit lines or lower interest rates. However, personal data is sensitive as its use enables id
【EOL間近】Amazon RDS for MySQL 5.7の標準サポート終了とバージョンアップ前の影響確認について - ForgeVision Engineer Blog
こんにちは。フォージビジョンの藤川と申します。 2023年9月初めに、AWSよりAmazon RDS for MySQL 5.7の標準サポート終了に関する内容と延長サポートに関する内容の通知がありました。以下は、2023/9/13時点のAWS公式サイトの情報です。 メール本文にも記載がありましたが、各々の情報は以下のAWS公式サイトに記載があります。 Amazon RDS for MySQL 5.7の標準サポート終了 2023/9/13時点では、表示言語を英語にすることで、標準サポート終了日の最新の情報や延長サポートの内容を確認することができました。 docs.aws.amazon.com Amazon AuroraとAmazon RDSがMySQLとPostgreSQLデータベースの延長サポートを発表 aws.amazon.com データベースのメジャーバージョンのアップデートについては
Type Inference Was a Mistake
Type inference is bad. It makes code harder to read, and languages that use it too much are harder to write. It’s a false economy whereby you save unobservable milliseconds of typing today and make everything else worse. Type Inference Makes Code Less Readable If you have an IDE with a working LSP, you can hover over variables to see their types. In VSCode with rust-analyzer I can see the type ann
イーロン・マスク「Xのコンテンツを共有をするとそのコンテンツを更に見たいだろうと想定するがそれがあなたが憤慨したからかどうかは判断できない」
Elon Musk @elonmusk The 𝕏 algorithm assumes that if you interact with content, you want to see more of that content. One of the strongest signals is if you forward 𝕏 posts to friends, it assumes you like that content a lot, because it takes effort to forward. Unfortunately, if the actual reason you forwarded the content to friends was because you were outraged by it, we are currently not smart e
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
読者限定のニュースレターを月1で配信することにしました。 - 世界のねじを巻くブログ
Deno 1.41: smaller deno compile binaries
2024-09-09のJS: Vue 3.5、jsprimer v6、a11y-visualizer
ranxを使って検索システムのオフライン評価をする - Ahogrammer
HuggingFaceFW/fineweb · Datasets at Hugging Face
The Rust Calling Convention We Deserve · mcyoung
Enshittification - Wikipedia
Quanto: a PyTorch quantization backend for Optimum
How Google perfected the web
A Distributed Systems Reading List
Grapheme Clusters and Terminal Emulators
Python has too many package managers
Googleに“まともな”AI検索は作れない | p2ptk[.]org
Sakana AI
rate limiter – smudge.ai blog
StreamDiffusion: A Pipeline-level Solution for Real-time Interactive Generation
Entra IDを使うウェブサービスのバックエンドのテスト | フューチャー技術ブログ
ZX Spectrum Raytracer - Gabriel Gambetta
ミックステープ文化の逆襲、 スポティファイで失われた 音楽の楽しみを取り戻す方法
Flash-Decoding for long-context inference
はじめに｜【実践】エンジニアの基礎教養-アルゴリズムを学べる本
