本スライドでは、数理最適化を概観し、基本的な問題とその解き方を分かりやすく解説することを目標にしています。数理最適化に興味を持っていただければ嬉しいです。 【目次】 1 章 数理最適化とは(p.2~20) 2 章 連続最適化問題(p.21~133) 3 章 離散最適化問題(p.134~238…
DeepSeek-R1にも採用されたLLMチューニングのための強化学習手法 GRPO(Group Relative Policy Optimization)について考えたことをまとめます。 GRPO: DeepSeek-R1の強化学習ファインチューニング手法 前提手法:TRPO/PPO TRPO: Trust Region Policy Optimization PPO: Proximal Policy Optimization GRPOとPPOの差分:①アドバンテージ算出と②参照モデルからのKL距離制約 変更点①: アドバンテージAの算出方法 REINFORCE: 価値関数近似なし方策勾配法 PPO(Actor-Critic): 価値関数近似あり方策勾配法 GRPO: スケーリングされたREINFORCE 変更点 ②: 参照モデル(SFTモデル)からのKL距離制約 従来は参照モデル制約は
Patterns and Techniques for Writing High-Performance Applications with Go¶ The Go App Optimization Guide is a collection of technical articles aimed at helping developers write faster, more efficient Go applications. Whether you're building high-throughput APIs, microservices, or distributed systems, this series offers practical patterns, real-world use cases, and low-level performance insights to
最近 ratatui という crate に Small String Optimization を利用した最適化を入れたので,その話を書きます. 目次 Small String Optimization (SSO) とは(SSO を既に知っている人は読み飛ばして大丈夫です) Rust で SSO を適用した文字列型を提供する crate 比較 SSO を利用して ratatui のメモリ効率と実行効率を最適化した話 compact_str crate の実装の最適化の話 インラインストレージに24バイト全てを使える理由 隙間最適化のための工夫 説明を簡潔にするため,特に断りが無い場合 64bit アーキテクチャを前提とします. Small String Optimization (SSO) とは Rust の可変長文字列型 String は文字列バッファへのポインタ,文字列の長さ,バッフ
Optimizing Node.js Performance: V8 Memory Management & GC Tuning Prevent Crashes and Improve Latency by Understanding and Tuning V8's Garbage Collection for Your Node.js Application A common observation for Node.js developers is the seemingly continuous growth of their application's memory footprint, often measured by the Resident Set Size (RSS) reported by the operating system. This increasing RS
Image Optimization Testは任意のWebサイトで画像が最適化されているかを調べるチェックツールです。 CDNでお馴染みのCloudflare製となっており、チェック後にCloudflareを使用するとどれくらい軽量化できるかも提示してくれます。 調べたいURLを入力してしばらく待つと解析結果が表示されます。例えばページに表示されている画像の総重量、ページロード時間、LCP(Lrgest Contentful Paint)や、ファイル形式をavifに変える事でどれくらい軽量化できるかなどを提示してくれます。 また、サウスカロライナ州の3G高速接続でMotorola MotoG4を使用、GoogleChromeで実行し、画面解像度は1080×1920で、デバイスピクセル比(DPR)は3などといったテスト環境も提示してくれます。 利用は無料でユーザー登録も不要です。パフォーマ
Your 24/7 AI Team for SEO, Content & Generative Engine Optimization (GEO)Your Marketing Tools Don't Talk To Each Other. Our AI Connects Them All. Our AI agents integrate with Ahrefs, Semrush, Search Console & more to automate SEO workflows, create content, and optimize for both Google and AI search engines like ChatGPT—cutting costs by 70%+ while boosting your organic revenue.
Go言語の開発チームは8月8日にリリースしたGo 1.21で、実行時のプロファイル情報を用いてコンパイルを最適化し、実行速度の改善を図る「Profile-guided optimization」機能が正式版になったことを明らかにしました。 Go言語のコンパイルはソースコードの静的な解析を基にして高速なバイナリを生成するような最適化が行われています。 今回、正式機能となった「Profile-guided optimization」は、バイナリ実行時にどの関数が何度呼ばれたのか、メモリがどのように使用されたかなどのプロファイル情報を基にコンパイルを最適化することで、より高速なバイナリを生成する手法です。 具体的には、何度も呼ばれた関数をインライン展開することで関数呼び出しのオーバーヘッドをなくす、変数の使用頻度によってレジスタへの割り当てを変更する、ループを展開する、などの処理がコンパイル時に
cloudflare workers routes を利用するので、cloudflare が ns を持つドメインを持っている必要があります。 import { Hono } from "hono"; import { createMiddleware } from "hono/factory"; import { optimizeImage } from "wasm-image-optimization"; import { cache } from "hono/cache"; const app = new Hono(); const via = createMiddleware((c, next) => { if (c.req.header("via")) { console.log("pass through", c.req.raw.url); return fetch(c.req
Haskell Optimization Handbook¶ by Jeffrey M. Young This book assumes you are using ghc 9.2.x or above and using the Linux operating system. If you are new then the best place to start is the How to use this book chapter. If you are returning then feel free to jump to the Table of Contents and best wishes. It is dangerous to go alone, please take this handbook and good luck! Sincerely, The Contribu
Linux 5.17 To Boast A Big TCP Performance Optimization Written by Michael Larabel in Linux Networking on 16 November 2021 at 09:19 AM EST. 11 Comments While the Linux 5.16 merge window just ended and that kernel won't be out until the tail end of the calendar year, already for Linux 5.17 new material is beginning to accumulate in the respective subsystem development trees... One set of changes mer
CloudFront is AWS own CDN (Content Delivery Network). CDNs are primarily used for caching, and many customers also use AWS CloudFront CDN as a security layer, or use it to handle network spikes. With AWS CloudFront CDN, when a user requests a webpage or an image, the request is routed to one of Amazon’s 225+ edge server locations. If the edge server already has the resource cached, it’s served to
This blog is in reference to our previous ones for ‘Innodb Performance Optimizations Basics’ 2007 and 2013. Although there have been many blogs about adjusting MySQL variables for better performance since then, I think this topic deserves a blog update since the last update was a decade ago, and MySQL 5.7 and 8.0 have been released since then with some major changes. These guidelines work well for
$200K 1 10th birthday 4 abusive ads 1 abusive notifications 2 accessibility 3 ad blockers 1 ad blocking 2 advanced capabilities 1 android 2 anti abuse 1 anti-deception 1 background periodic sync 1 badging 1 benchmarks 1 beta 83 better ads standards 1 billing 1 birthday 4 blink 2 browser 2 browser interoperability 1 bundles 1 capabilities 6 capable web 1 cds 1 cds18 2 cds2018 1 chrome 35 chrome 81
こんにちは、臼田です。 みなさん、コスト最適化してますか?(挨拶 今回はre:Invent 2023で発表されたCost Optimization Hubを利用してみたので情報をまとめます。 Introducing Cost Optimization Hub Cost Optimization Hubとは Cost Optimization Hubはコスト最適化の推奨事項を統合して管理できる機能で、情報をまとめるだけでなく集計やソートをすることで優先順位を決めながら利用できる管理ツールです。 AWSアカウントやリージョンをまたいで集約することができるため、組織の中でコスト最適化を促進しやすくなります、 これまでAWSではAWS Trusted Advisorでもコスト最適化のカテゴリを扱っており、こちらを使うことでコスト最適化を図ることができました。AWS Trusted Advisorで
10月 30, 2023 / 最終更新日時 : 2月 28, 2024 Shuji Suzuki (shu) プログラミング 先日リリースされたOptuna 3.4にPreferential Optimizationという機能がついに入りました! このPreferential OptimizationはOptunaとOptuna Dashboardによって、複数のtrialの出力のうちどれがよいかを人が判断して入力し、最適化していく機能です。 この機能がどういうときにうれしいかというと、コーヒーの味の良し悪しのような主観的な評価でしか評価できないとき、二つを比べてどちらがいいのかという評価で最適化を実行することができます。 以前書いたOptunaを使ったおいしいコーヒーの淹れ方を探索するときにはレシピごとに絶対評価のスコアをつける必要がありました。この絶対評価をつけるのがやっかいで、全体を
Go言語が実行時のプロファイラ情報でコンパイルを最適化する「Profile-guided optimization」パブリックプレビュー Go言語の開発チームは2月1日にリリースしたGo 1.20で、実行時のプロファイラ情報を用いてコンパイルを最適化し、実行速度の改善を図る「Profile-guided optimization」機能のパブリックプレビューを開始しましたことを明らかにしました。 Profile-guided optimizationを用いることで、現時点で2%から4%程度の性能向上が得られ、将来的にはさらに大きな性能向上を実現できるとしています。 Go 1.20 marks the launch of profile-guided optimization into public preview! PGO is a compiler optimization techniq
Manifold OptimizationComputer Vision、ロボットの制御、機械学習モデルのパラメータ推定など様々な場面で登場する多様体上での最適化の理論とアルゴリズムについて勉強した際のノートです。 日本語文献が少ないように思ったので、他の人の役に立てばと思い公開して書きます。 このノートでは、基本的には Optimization Algorithms on Matrix Manifoldsを読み進めながら、分からなかったところを補いながら書いています。 もし内容に誤りがありましたら、 IssueやPull Requestを頂けますとありがたいです。 モチベーション多様体の定義多様体の位相構造可微分写像、部分多様体多様体の構成方法接ベクトル空間、接バンドル、ベクトル場微分リーマン多様体、勾配レトラクション直線探索索引参考にした文献 Optimization Algorith
See also my blog Contents Optimization manuals Vector class library Object file converter and disassembler Subroutine library ForwardCom: An open standard instruction set for high performance microprocessors Test programs for measuring clock cycles in C++ and assembly code Floating point exception tracking and NaN propagation CPUID manipulation program Links Optimization manuals This series of fiv
Large language models (LLMs) have become increasingly capable, but their development often requires substantial computational resources. While model merging has emerged as a cost-effective promising approach for creating new models by combining existing ones, it currently relies on human intuition and domain knowledge, limiting its potential. Here, we propose an evolutionary approach that overcome
こんにちは!AWS事業本部のおつまみです。 みなさん、AWSマネジメントコンソール毎日見ていますか?私は見ています。 マネジメントコンソールを開いたら、いつの間にかコストと使用状況ウィジェットから Cost Optimization Hub が有効化できるようになっていました! さっそく有効化してみたのでご紹介します。 Cost Optimization Hub とは Cost Optimization Hub とは、コスト最適化推奨事項を一元的に管理するサービスです。 2023年のre:Inventで発表された新サービスですね。 これまでコスト最適化のために、Compute Optimizer や Trusted Advisor、Cost Explorer などのサービスを各々確認する必要がありましたが、このサービスを有効化するだけで、一元管理したダッシュボードを提供してくれます。 引用
コストで差をつけろ!!re:Invent 2023 で発表された AWS Cost Optimization Hub を紹介! タイトルが「コー◯ーで差をつけろ!!(◯足)」みたいなね。えっ?コーヒー? どうも、こんにちは kaz です。 今回は re:Invent 2023 で AWS Billing and Cost Management の新機能として発表された「AWS Cost Optimization Hub」について紹介しようと思います。 コストで差をつけろ!!ってね。えっ? はい。始めます。 AWS Cost Optimization Hub とは? AWS Cost Optimization Hub は「コスト最適化推奨事項を一元的に管理するための集約サービス」です!(はい、名前のまんまです) AWS 上のセキュリティ事項を確認するために AWS Security Hub
It’s the end of search as we know it, and marketers feel fine. Sort of. For over two decades, SEO was the default playbook for visibility online. It spawned an entire industry of keyword stuffers, backlink brokers, content optimizers, and auditing tools, along with the professionals and agencies to operate them. But in 2025, search has been shifting away from traditional browsers toward LLM platfo
Image Credit: https://www.shutterstock.com/image-illustration/glow-blue-light-effect-on-dark-1933531673 Microsoft is already designing the new Chromium Edge to be as lightweight as possible, but it already has a new plan up its sleeve. A new setting, called "performance mode," will soon make its way onto the browser to save even more of your computer's resources. What Is Microsoft Edge's New Perfo
AI & MLLearn about artificial intelligence and machine learning across the GitHub ecosystem and the wider industry. Generative AILearn how to build with generative AI. GitHub CopilotChange how you work with GitHub Copilot. LLMsEverything developers need to know about LLMs. Machine learningMachine learning tips, tricks, and best practices. How AI code generation worksExplore the capabilities and be
Copyright 2023 Roman Garnett, published by Cambridge University Press View On GitHub This is a monograph on Bayesian optimization that was published in early 2023 by Cambridge University Press. The book aims to provide a self-contained and comprehensive introduction to Bayesian optimization, starting “from scratch” and carefully developing all the key ideas along the way. The intended audience is
By Jose Fernandez Today, we are thrilled to announce the release of bpftop, a command-line tool designed to streamline the performance optimization and monitoring of eBPF programs. As Netflix increasingly adopts eBPF [1, 2], applying the same rigor to these applications as we do to other managed services is imperative. Striking a balance between eBPF’s benefits and system load is crucial, ensuring
This guide describes ways to optimize query performance, debug performance issues, and how to tackle common performance issues such as the n+1 problem. Debugging performance issues To help you debug and diagnose performance issues, you can log query events at client level, which allows you to see the generated queries, parameters, and durations. Alternatively, if you are only interested in the ti
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く