ChatGPT 時代の勉強 / Learning under ChatGPT era
SwiftUIで二重スクロール作ってみた / When I tried to make a dual-scroll-ish view in SwiftUI
SwiftUIで二重スクロール作ってみた / When I tried to make a dual-scroll-ish view in SwiftUI
この記事はハッシュテーブルについて1から説明する内容ではなくて，一度は学習したことがある人向けです． Rustにおける2つのバージョンの，異なるHashMapで使われる理論と実装を解説しています．Rustに限らずハッシュテーブルへの理解を深める役に立てば幸いです． ハッシュテーブルは平均$O(1)$でのインサート，サーチ，デリートをサポートするデータ構造です． いろんな言語にいろんなハッシュテーブルの実装があります．それぞれ中身の実装に微妙に差があったりして厳密な議論をする際にはその中身が大事になってきたりします．実装は大まかには類似していると思いますが，衝突処理や探索方法，冪乗or素数スロットなどに明確なバリエーションが存在します．このあたりの選択は使用するハッシュ関数の性質とアプリケーションの要件によってある程度決定されることです．よく使われるものもありますが，最もよいという組み合わせ
Go / Elasticsearch Elasticsearch の Mapping 管理を Go + CUE に移行した Elasticsearch の Mapping JSON を全て Go の構造体で定義していたのを Go + CUE に移行したので知見を共有します。 Overview こんにちはponです。私が働いている白ヤギコーポレーションではElasticsearchを利用しているのですが、顧客ごとにIndexの設定、言語、Analyzerなどをカスタマイズできるようになっています。そのため、顧客の設定をDBから取得してGoで構造体を通してJSONを生成し、Mappingを作成/更新する機構が存在します。これを Go + CUE に移行して課題が解決できたので共有します。少し珍しいCUEのusecaseだと思います。 Before CUEの紹介の前に、まずは弊社が抱えていた課題
Posted by Sibon Li, Jan Pfeifer and Bryan Perozzi and Douglas Yarrington Today, we are excited to release TensorFlow Graph Neural Networks (GNNs), a library designed to make it easy to work with graph structured data using TensorFlow. We have used an earlier version of this library in production at Google in a variety of contexts (for example, spam and anomaly detection, traffic estimation, YouTub
Glispを開発している中で、このエントリにも上げたような問題があったので言語処理系自体を、一般的なLisp評価器とは異なった、よりGUIやデザインとの親和性の高いものへとアップデートしようとしています。しかしまた色々行き詰まった所が出てきたので、言語化も兼ねて今一度悩んでいるところを書き出しておきます。 言い訳までに、僕はただの映像専攻の美大中退者でして、言語処理系に関して何の専門教育を受けたこともないので、車輪の再発明をしているような予感もありますし、以下の考察も適切ではないかもしれません。もし、この辺勉強するとスッキリするよ～とか、こういう概念があるんよ～みたいなアドバイスがあれば、断片的にでも構わないので教えてくださるととても嬉しいです。 Lispの何が問題だったか? そのシンボルが指し示す値、関数の実体、そして型が、評価されるまで分からない（Lispは動的型付けなので）その関数の
Cloud Native Computing Foundation（CNCF）が公開しているYouTubeチャネルから、Kafkaに替わるストリーミングプロセッシングを行うオープンソースソフトウェアFluvioを解説する動画を紹介する。CNCFはクラウドネイティブなシステムを普及するためのマーケティング活動の一環としてクラウドネイティブなソフトウェアを解説する動画を公開しているが、これもそのひとつだ。Fluvioを開発しているのはInfinyOnという企業で、元NGINXのエンジニアが創業したベンチャーだ。Fluvio自体はオープンソースだが、CNCFのサンドボックスプロジェクトという訳でもない。CNCFにはTremorやStrimziというストリーミングのためのソフトウェアがすでにサンドボックスとして採用されているが、そういった枠には捕らわれずに紹介をするという発想だろう。 動画：Int
何もない所から一瞬で、自然言語処理と係り受け解析をライブコーディングする手品を、LTでやってみた話 - Qiita
要約 超高精度自然言語処理＆係り受け解析を実施するGiNZAがすごくて、 Colaboratoryにより環境構築不要でブラウザだけでサクッと使える。 そのサクッと感を強調すべく、LT（ライトニングトーク）の最中に その場で環境構築＆コードを書いて自然言語処理、 しかも高精度＆高機能ができるよ、という「手品」をやってみた。 一見スゴイが「手品」にはタネがあって・・・。という話をする。 最後まで読むと、以下の二つのノウハウが分かる ・GiNZAで、ゼロから３分で高精度自然言語処理する方法 ・LTでライブコーディングする手品のタネ 背景①： GiNZAすごいっ！ 2019年4月に発表された「GiNZA」という、 日本語自然言語処理オープンソースライブラリを動かしてみたら、 簡単に高精度で（超重要）、係り受けやベクトル化なども含めた、 自然言語処理全般が実施出来たので驚いた。 ご参考： https
ChatGPTでOpenAPI定義からKarateのテストスクリプトを自動生成する - Taste of Tech Topics
最近久々に近所のお祭りに行ってきました、屋台の食べ物ではりんご飴が好きな菅野です。 皆さん、普段APIのテストはどのように行っておりますか？ 最近は、APIのテスト自動化を行えるようなツールやサービスも増えてきているように思いますが、当社では、OSSのテスティングフレームワークである「Karate」を用いることが多いです。 比較的簡単な構文で直感的にAPIのテストができる点がよいと思います。 しかし、いかに簡単な方法でAPIのテストが記述できるからといっても、APIの数が多いとテストを作成するのは一苦労です。 今回は、そんなKarateのテストスクリプトをChatGPTを活用して作成してみようと思います。 まず、REST-APIの仕様を定義する場合、OpenAPIを利用することが多いのではないか、と思います。 ChatGPTの開発元である「OpenAI」ではないです。自分も書いていて、紛ら
RubyにlramaがマージされてBison依存がなくなった（RubyKaigi 2023）｜TechRacho by BPS株式会社
こんにちは、hachi8833です。RubyKaigi 2023@松本に行ってまいりました。 イベント感想などは他の皆さまが続々ネット上のブログにアップしているのでそちらにおまかせするとして、今回のRubyKaigiのDay1で発表されていたlramaが気になったので手短にメモします（個人的にPEGパーサージェネレータに関心があるので）。 Lramaでリャマと読みます。LALR parser generatorのYaccやBisonの流れをくむものとして、リャマという名前にしました。LR parser generatorなのでLlama (LL)ではなくLrama (LR)と綴ります。 Ruby Parser開発日誌 (5) - Lrama LALR (1) parser generatorを実装した - かねこにっきより lramaパーサーがmasterにマージされた 発表: The f
Godot Engineはオープンソースであり非営利のプロジェクトです。 開発はコミュニティによって行われ、コントリビュータ(貢献者)によって実際のコーディングが行われています。 これを聞くと、Godotは責任の所在が不明でアマチュア集団が作っていると勘違いされがちです。 偉い人の中にはこのような疑問を持っている方もいるのではないでしょうか？ コンソールでちゃんとリリースできるの？ トラブルが起きた時サポートされるの？ 突然使えなくなったりしない？ こういった疑問に対して、ある程度回答のようなものができたらと思います。 本記事がGodot採用の一助になれれば幸いです。 コンソールでちゃんとリリースできるの？ 結論から言うとできます。現にSwitchなどでGodot製のゲームがいくつもリリースされています。 ただしハードルは少しあります。まずOSSとコンソールプラットフォームは相性が良くない
代数的データ型と初等代数学
「関数プログラミングとはなんですか？」と問われたときには「デ，データファースト……(震え声)」と答えることが多いのだが，実際 Haskell や OCaml などの言語を特徴付けるものとして，代数的データ型 (Algebraic Data Type; ADT) の存在は無視できないだろう．その有用性ゆえに，近年では新たな言語の策定の際にその概念が輸出され，Rust や Swift などの言語にも採用されている． 「代数的データ型とはなんですか？」と問われたときには——問われたことがないのでわからないのだが——おもむろに ghci か utop を立ち上げて，解説を始めるのではないかと思う．ひとしきり解説をした後，「つまり直積の直和なんですよ〜🙌✨」と言って話を締めくくるだろう． int 型や float 型など，「メモリ上の表現」という計算機の気持ちに極めて寄り添ったプリミティヴなデータ
RAGは非常に有用なツールですが、PDFの論文などを扱う際には、表データを正しく読み取れない場合があります。 表の構造を適切に処理することは難しく、いくつかの改善策が提案されています。 例えば、RAGを構築するのに使われるライブラリであるLlamaIndexのドキュメントに以下のような情報があります。 このドキュメントでは表を含むデータを扱う方法として、PDFを一旦すべて画像データに変換し、画像として表の形式を保持したままGPT-4Vでデータを解析することを提案しています。 ただ、PDF1ページ分の画像をそのままGPT-4Vに解析させても精度はあまり良くないようで、後述するTable Transformerを使って表部分の画像のみ抽出してから解析を行うことで、より良い結果が得られたのことでした。 本記事では、この方法を用いてPDF内の表の解析を試してみます。 手順としては 1. PDFの全
データ分析コンペでは Target Encoding という特徴量抽出の手法が用いられることがある。 Target Encoding では、一般的に説明変数に含まれるカテゴリ変数と目的変数を元にして特徴量を作り出す。 データによっては強力な反面、目的変数をエンコードに用いるためリークも生じやすく扱いが難しい。 今回は、そんな Target Encoding のやり方にもいくつか種類があることを知ったので紹介してみる。 元ネタは CatBoost の論文から。 CatBoost: unbiased boosting with categorical features (PDF) 使った環境は次の通り。 $ sw_vers ProductName: Mac OS X ProductVersion: 10.14.6 BuildVersion: 18G103 $ python -V Python
はじめに QuickJS は C/C++ に組み込める軽量な JavaScript エンジンである。ライセンスは MIT license。JavaScript を組み込みたいけれど V8 はオーバースペックすぎる、という時に有用と思われる。 デザインがシンプルすぎてかえって信頼感のある公式ページはこちら。 QuickJS Javascript Engine QuickJS is a small and embeddable Javascript engine. It supports the ES2020 specification including modules, asynchronous generators, proxies and BigInt. （訳：QuickJS は小さい・組み込み可能な JavaScript エンジンである。モジュール・非同期ジェネレータ・プロキシ・Bi
今回は、swaggerを使って開発効率を爆上げしたいあなたに、ちょっと踏み込んだswagger活用術を紹介したいと思います！ paths sectionを修正しなければいけない機会を最大限少なくする paths sectionってそもそも指定すべきプロパティが多いので、ちゃんとAPI仕様を作ろうと思うとどうしても見づらくなります 特に、parametersやrequestBody、responsesが同居すると記述のルールが違うので統一感がなく、階層が深くなり見づらいです そんなpathsはやはり最大限シンプルに保つべきというのが運用していて思うことです 以下にpathsを最大限シンプルに記述した例を提示しますので、是非参考にしてみてはいかがでしょうか！ openapi: 3.0.3 servers: - url: http://localhost:3000 info: title: te
はじめに Chrome 126からローカルで使えるLLM Gemini Nanoが使えるようになりました。 本記事では実際に使ってみようと思います。 前準備 まずはChrome Release ChannelsにてDev channelのChromeをインストールします。 インストールできたら下記機能を有効にします。 Enables optimization guide on device: Enabled BypassPerfRequirement Prompt API for Gemini Nano: Enabled 次に、LLMのダウンロードが必要のため、 chrome://components/にアクセスし、Optimization Guide On Device Modelのアップデート状況を確認します。 まだダウンロードされていない場合は、アップデートを確認ボタンでダウンロード
最近はそもそも redux-toolkit などがあるので概念的に理解する必要性も薄くなっているのだが、とはいえ説明した方が良いこともある。
はじめに 少し前までLinuxユーザだったので、Blogに使用するgifアニメを作るときにはffmpegを使っていました。最近Windowsに移行しまして、はてgifアニメを作るにはどうしたらいいのかな？と調べていたのですが、普通にffmpegで作れそうなことがわかりました(参考)。まぁ、結論としてはそうだったのですが、Windowsにいろんなアプリケーションをいれると動作不安定になるし嫌だな(久々にWindowsに戻ってきた人間の偏見です。)と思いまして、少し前にバズってたffmpeg.wasmを使ってブラウザ上でスクリーンを録画する機能でも作ってみるかということになりました。これで変なアプリケーションを入れずに済みそうだ。 今回作ったものは、こんな感じのものです。左側でキャプチャ対象のエリアを指定して録画します。右側で録画の結果を表示して、ダウンロードします。 余談ですが、Window
GitHub - duckdb/duckdb: DuckDB is an in-process SQL OLAP Database Management System
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Haskellのパーサコンビネータmegaparsecと、コンパイラ基盤であるLLVMを使って、コンパイラを作ってみます。モチベーションとしてはコンパイラはC/C++を使って作るのが定番ですが、型の恩恵を受けながら開発したいなあということでHaskellでも作れないか調べてみました。 コンパイラ作成の流れ パーサコンビネータのMegaparsecで四則演算のパーサを作成します。 LLVM IR構築のライブラリであるllvm-hs-pureでLLVM IRのコードへ変換するコンパイラを作成します。 簡単な式をコンパイルしてLLVMのインタープリタlliで実行します。 LLVMのコンパイラllcでアセンブラを生成してgccでバイナリまで生成します。 環境 あらかじめ以下をインストールしておいてください。 stack 1.9.3 Haskell 8.6.5 LLVM 9.0.0 コマンドラインで
Quartoで技術書を写経すると楽しい｜igjit
ソースコードはこちら。 コードの写経に今回はじめてQuartoを使ったのですが、これが快適だったので紹介します。 Quartoとは公式ページには、QuartoはPandocを基にした技術文書の出版システムです、とあります。 Markdownでコード混じりの文書を書いたら、コードブロックの中身を自動で実行してくれて、結果をHTMLとかPDFとかプレゼンスライドとかに書き出してくれるやつです。 https://quarto.org/Rユーザーにとっては次世代のR Markdownとのことです。 はじめかたhttps://quarto.org/docs/get-started/ のとおり、Quarto CLIツールをインストールします。 DockerでR、RStudioを動かす場合、最近のイメージならQuartoはインストール済みです。(rocker/tidyverse:4.2.1 で確認) Q
AutoPrompt: プロンプト作成の自動化
HiCustomerの小田です。週明けから東京でも桜の開花が始まるようです。最近はわざわざお花見に行くことはないんですが、ちらちら落ちる桜の中をこうなんとなく歩いているときが結構好きだったりします。たぶん匂いとか華やかな色とか、そのへんから自然の美しさを感じられて好きなのかな。たぶん栽培品種で人工的に作られたものなので、正確には自然ではないんですが。 まあそんなことを考えながら、東京ではいつ頃咲くかなと思ってさくらの開花前線を見ていました[1] 。日本列島にいくつも線が入った画像を見ていると、ふとLLMが簡単なplanningを解けるのか気になったので以下のプロンプトをなげてみました。 生成結果は以下になります。 この画像は、日本のさまざまな場所で桜の開花予想日を示していますね。 この情報に基づいて、仙台、新潟、そして東京に住んでいる3人がお花見をするための候補日を提案します。 桜の開花日
ABEJA で Research Engineer をやっている中川です．普段は論文読んだり，機械学習モデルを実装したり，インフラを構築したりしています．今回のブログでは3,4ヶ月の間遊び9割仕事1割で取り組んできた Python で実装された機械学習マイクロサービスたちの monorepo 化について紹介します． モチベーション 小売業向けに店舗解析ソリューションを提供している ABEJA Insight for Retail では以下のような理由から機械学習システムをマイクロサービスの polyrepo (multi-repo) で運用してきました． 様々なフレームワークで書かれた最新の研究成果を取り入れやすい． 負荷特性の全く異なる機械学習モデルをスケールさせやすい． モデルごとに容易にデプロイできる． 障害耐性や保守性を高め日々の運用負荷を下げる． 手前味噌ですが，マイクロサービス
ゲームエンジンを自作しながら思ったこと - Qiita
本稿では、私が長く続けている個人でのゲームエンジン開発で得られた知識や経験を紹介します。 嘘ですポエムです。アルコールとか入ってます。 本当はかっこいいこと言ってみんなの役に立つこと書きたかったです。書きたかったけど無理だったよ…。 ひとつのゲームエンジンを作り続けてもう何年も経ちます。その間コンセプトも定められず満足なメジャーリリースもできないままだらだら作り続けてしまったので、あんまり役に立つことは書けなさそう。 とりあえず昨今のゲームエンジンの開発に必要な技術要素と、私が開発している Lumino というゲームエンジンでの代表的な実装例を紹介する、みたいな体で書いてみようと思います。なにか間違ってそうでしたらコメントお願いします。 多分、ちょっとでも役に立つかもしれないのは、「ゲーム作ってたけど気が付いたらゲームエンジン作ってて、ゲームが出来てないけどゲームエンジン公開してみたくなっ
PhotoshopのAI「生成塗りつぶし」：聖地巡礼写真やドローンのパノラマ写真修正などにも神機能だぞ - xckb的雑記帳
（2023年6月28日追記）Photoshop (beta)をアップデートしたところ、機能の名称が「ジェネレーティブ塗りつぶし」から「生成塗りつぶし」に変更になったようなので、用語を置き換えた。 久しぶりにお絵描きAI系の記事を書いてみようと思うのだが、今回は割と最近話題になっているAdobe Photoshopの生成AI機能「生成塗りつぶし」だ。これはPhotoshop自体の使い方を大幅に変えるかもしれない凄い新機能になっている。 今回の目次はこちら。 「生成塗りつぶし」を使うには？ プロンプトを入れずに使うと、超賢い「コンテンツに応じた塗りつぶし」になるぞこれ！ 人や車を消すのに使ってみよう（聖地巡礼に使える？） ドローンのパノラマ撮影写真の修正にも有用そう？ というわけで… 「生成塗りつぶし」を使うには？ 2023年6月現在、現行バージョンのPhotoshopは「生成塗りつぶし」をサ
TensorFlow2.0とGoogle Colaboratoryの無料TPUを使って、DCGANを実装しました。 訓練経過の様子 pic.twitter.com/2qXowYMk6t — しこあん@『モザイク除去本』好評通販中 (@koshian2) October 21, 2019 何をやったか Google ColabのTPU＋TF2.0でCelebA（約20万枚）をDCGANで生成 TF1.X系のTPUでは、同時に実行可能なグラフは1個の制約があったため、GANの訓練が容易ではなかった（こちらの記事にある通り、不可能であったわけではない。しかし、低レベルAPIが必須で決して容易ではなかった）。TF2.X系のTPUでは、もっと容易にGANを実装できた。 DCGANの論文通りのモデル（パラメーター数：G=12.7M, D=11.0M）で。64x64の画像20万枚を、1エポックを40秒程
2022年11月30日にLabBase様主催のイベントにて登壇させていただいた際の発表資料です。Pythonライブラリ"DoWhy"や"EconML"を用いた因果推論についてまとめてありますので、ご一読いただけますと幸いです。 参考リンク（自身のブログ） - PythonによるT-Learnerの実装 https://zenn.dev/s1ok69oo/articles/4a36fee0297234 - Pythonライブラリ"DoWhy"を用いた因果推論 https://speakerdeck.com/s1ok69oo/pythonraiburari-dowhy-woyong-itayin-guo-tui-lun - 機械学習で因果推論 https://zenn.dev/s1ok69oo/articles/1eeebe75842a50
はじめに pythonのOpenPyXLを使ってExcelのデータをとことん読み込んでみました。 世の中にはまだまだExcelを使って、何かをする需要が高くあります。 Excel内で完結すればよいのですが、Excelからデータを取り出し何かをするのはとても大変です。 私もpythonでデータを編集したいのに、元データがExcelにある、というケースが多々あり四苦八苦していました。 そこでOpenPyXLでExcelのデータを読み込む方法や注意点についてまとめてみました。 本情報が同じような境遇の方に役立っていただければ幸いです。 環境とサンプルデータについて 今回は以下の環境でOpenPyXLを使用しました。 環境 バージョン
Testing GraphQL doesn't have to be difficult. This article will explore static and dynamic mocks to make testing GraphQL a breeze. Imagine you're working on a new feature with another team. You're in charge of the React side, but someone else is in charge of the GraphQL changes. Is it possible for you to develop your side before they have finished theirs? Or how about wanting to test your componen
G-gen の神谷です。今回、Gemini 1.5 Pro を活用して、ビジネス心理テストであるストレングスファインダーで自身の強みを分析し、AI によるマネジメントやメンタリングが可能か、試してみました。本記事では、その取り組みの詳細をご紹介します。 ストレングスファインダーとは Strength Mentor Bot の作成 Gemini 1.5 Pro を使った実装 34の資質を JSON 形式で抽出 BigQuery への保存と分析 チームビルディングへの応用 ストレングスファインダーとは まず、ストレングスファインダーについて説明します。 ストレングスファインダーは、個人の強みを特定し、それを活かすための評価ツールです。クリフトンという心理学者によって開発され、現在はギャラップ社が提供しています。 34の資質（強み）を測定し、個人の弱みではなく強みに焦点を当てることで、より良いパ
Streamlit on Cloud Run with Identity-Aware Proxy (IAP) - public note
タイトルのとおり、Cloud Run で Streamlit を動かしてみました。また、特定の人のみがアクセスできるように、Identity-Aware Proxy(IAP) での保護を試しましたので、その設定やコードを紹介します。 Cloud Run で動かすのはすぐにできたのですが、複数の Streamlit コードを認証付きでいい感じにホストする手段を探すのにかなり苦戦しました... Streamlit 構成図 ソースコード リクエストから Streamlit が起動するまで よいところ 設定のポイント ユーザ認証方法 Cloud Run の Ingress 設定 IAP で必要な権限 パスルール設定 リクエストURL に Streamlit の起動URLを合わせる サーバーレス NEG と Cloud Run の設置リージョン 参考にしたページ Streamlit Streamli
Α͋͘Δύλʔϯʢ�JQZOCʣ ϚϚͷҰาΛࢧ͑Δ w ಛྔ࡞Δ� DPM���<�Z �" �# �$ �%�>��ˠ��<�Z �" �# �$ �% �& �'�����> # e.g) train['A'] = train['A'].fillna(0) train['B'] = np.log1p(train['B']) train['E'] = train['A'] + train['B'] df_group = train.groupby('D')['E'].mean() train['F'] = train['D'].map(df_group) <��> ɾ� ɾ� ɾ
時系列基盤モデルの世界 / The World Of Time Series Foundation Models
【LT大会#7】LLMの活用・機械学習・データ分析関係のいろいろな話題にふれようの資料です https://studyco.connpass.com/event/318107/
徒競走のタイムと違って、対戦型ゲームの巧さというのは簡単には数値化できません。 しかし、なんとかしてそれを実現させようとして生まれたのがレーティングです。 古典的にはチェスのために生み出された Elo レーティングが存在し、様々な改良アルゴリズムが生み出されてきました。 TrueSkill は Microsoft が開発したレーティングアルゴリズムです。 Microsoft が開発したとあって Xbox Live のゲームで使用されているようです。 このアルゴリズムには既存のレーティングアルゴリズムと比較して以下のような特徴があるそうです。 収束が早い。 レーティングに初めて参加するプレイヤーの実力を推定するのに何度も何度も不適当なマッチングで対戦する必要がない。 複数人による対戦に対応している。 勝ちか負けかのみならず順位を定めるようなゲームやチーム戦1のゲームにも使用できる。 ゲームへ
プログラミングとポエム
ソフトウェアエンジニア界隈で「ポエム」という言葉を侮蔑的・諧謔的に使うことが横行してるけど、ポエムを舐めすぎでは。端的に文系軽視、文系蔑視が現れてるよね。単なる非論理的お気持ち文章が詩学だと思ってるのかと小一時間（略 まず「あらゆる芸術形式の上に立つのが言語芸術であり、その頂点が詩」という考え方がある。そして計算機科学の巨人ドナルド・クヌースは文芸的プログラミングを提唱した。クヌースはプログラムを人間精神の最高の発露としての言語芸術に見立てていた。ポエムを馬鹿にするプログラマーは無学。 ドメイン駆動設計におけるプログラミング活動の位置づけも、こうした歴史的文脈（文芸的プログラミング）において理解されなければならない。もちろんリーダブルコードも。プログラムは計算機への指示書であると同時に人間に向けた創作的表現なのだということ。 もしプログラムが人間に向けたものでないのであれば、リーダビリティ
はじめに 年末年始の休みに入ってすでに4日目。休みでやろうと思ったことが一通り終わってしまいました。今日からいつも行っているカフェが休みだし、暇すぎ・・・ということで、勢いに任せてOptunaでコーヒーの淹れ方の最適化始めました。 はじめようと思い立ったのが今日なので、全然データがないですが、Google Colabで作ったサンプルコードもあげておきます。 https://github.com/shu65/coffee-tuning/blob/main/coffee_tuning_blog%E7%94%A8.ipynb Optunaとは？ Optunaは機械学習などで必要になるハイパーパラメータの最適化を自動で行ってくれるオープンソースのフレームワークです。個人的に気に入っている特徴としては、従来からハイパーパラメータ最適化を自動でやってくれるものはいくつかありますが、OptunaはDef
AWS CDKが今日も楽しいです。CSDKで触ったことがなかったEKSクラスタを作成しました。 本記事ではAWS CDKを使って薄くEKSクラスタをどのように作ったかを記載します。 TypeScriptやAWS CDKの基本的な部分は記載しません。 また、本ブログで使用した、AWS CDKのバージョンは1.4.0です。 プロジェクトの初期設定 AWS CDKのスタックを作成するための初期設定を行ないます。 個人の趣向ですが、cdk initをせずにプロジェクトの設定を行います。 $ mkdir cdk-eks-101 && cd $_ $ mkdir src $ git init $ npm init -y $ npm i @aws-cdk/{core,aws-eks,aws-ec2,aws-iam} $ npm i -D aws-cdk @types/node typescript 次に
LiLM 小規模言語モデル TinyLlama 1.1B の日本語追加事前学習(incremental pretrain) を試したメモ
背景 日本語性能のよい軽量 LLM, LiLM, Lightweight Language Model ほしい... スマホで動かしたり, ブラウザで動かしたり... ドメインは知識応答系. Code 生成とか数学とかのドメインは今は考えない. Chinese LLaMa https://zenn.dev/syoyo/scraps/6c3e92402e6fd0 でいい感じに incremental pretrain(追加事前学習) するといけるっぽいことがわかった! ん－, でも 7B or 14 B 規模で試して本当にうまくいくのかわからん... (後日 たぶん似たような方法で rinna ちゃんが Youri 7B, ELYZA ちゃんが Japanese LLaMa 7B 出してきた! それなりにいい感じになったようだよ) あと 7B だとやっぱりまだちょっと大きい. 量子化してギリ
注意書き 本記事で扱うLanguage Server Index Format (LSIF)は、バージョン0.4.0が策定中と、まだまだ発展途上のプロジェクトです。今後大きな変更が加えられたり、派生元であるLSPに吸収合併されるかもしれないことにご留意下さい。そんな中でLSIFをご紹介しようと思ったのは、執筆時点で日本語の情報がなかったことと、LSIFを含めたLSPの理念をより多くの開発者に広め、快適な開発環境を皆の力で作り上げる一端を担う事ができたら、との思いからです。LSP / LSIFに興味をお持ちの皆様、ご意見・ご感想等ありましたらぜひコメントして下さい！ LSIFが提案された経緯 Language Server Protocol (LSP)とは、Microsoftが中心となって策定を進めている、プログラミング言語やエディタ / IDEに依存しない開発支援ツールのためのプロトコルで
この記事では、並列処理に関する入門的知識を解説する。 さらに、Rubyで開発されている新しい並列実行単位Ractorにも言及する。 まず、この話題をする上で混同しがちな用語についてまとめる。 並列処理（parallel）と並行処理（concurrent）について 並列処理 では、ある瞬間に複数の処理が同時に走る。 並行処理 では、複数の処理を時分割で順に処理する。並列処理とは異なり、ある瞬間に同時に走る処理は1つだけ。 ある複数の処理が実行されているタイミングを時系列で示すと、下図のようなイメージになる。 （青い線がある部分のみ処理が実行される） この記事では並列処理の動作について扱うが、並列処理のコードを書いても結局並行処理のように動いている場合もあることには注意。 （例えば、1コアのCPUでは2つ以上の処理を並列に動作させることはできない、など。） この辺りはOSやVMなどが良い感じに
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
RustのHashMapを通じて，最近のハッシュテーブルをもう一歩理解してみる - Qiita
Elasticsearch の Mapping 管理を Go + CUE に移行した - 好奇心に殺される。
Introducing TensorFlow Graph Neural Networks
Glispの展望と悩ましいこと（誰か助けてください） | 麦 Baku
RustとWASMで開発されKubernetesで実装されたデータストリームシステムFluvioを紹介
実戦でGodot Engineを採用する際に気になること - 非常口blog
Table TransformerとGPT-4Vを用いたPDF内の表の解析｜QunaSys
Python: Target Encoding のやり方について - CUBE SUGAR CONTAINER
C/C++に組み込める軽量JavaScriptエンジン “QuickJS” を試す - Qiita
開発効率を爆上げするswagger術 - Qiita
Chrome内蔵LLM Gemini Nanoを使ってみた
Reducer はなぜ reduce なのか - fsubal
ffmpeg.wasmを使ってブラウザ上で画面録画機能を実装した話
Haskell+LLVM構成で作る自作コンパイラ - Qiita
Pants で決める python monorepo - ABEJA Tech Blog
TensorFlow2.0 + 無料のColab TPUでDCGANを実装した - Qiita
DoWhyとEconMLによる因果推論の実装
pythonのOpenPyXLでExcelのデータをとことん読み取る - Qiita
Mocking and Testing GraphQL in React
Gemini 1.5 Proを使って自分の強みを分析してみた - G-gen Tech Blog
データ分析コンペにおいて 特徴量管理に疲弊している全人類に伝えたい想い
TrueSkill「まだ Elo レーティングで消耗してるの?」 - Qiita
Optunaでおいしいコーヒーの淹れ方を探索する - Qiita
AWS CDKでEKSクラスタを作ってみた | DevelopersIO
LSPから派生したLanguage Server Index Formatとは何か - Qiita
並列処理入門 + Rubyでの新しい並列実行単位Ractor - Qiita
www.nikkei.com
shirouto.dmm-av.xyz
mainichi.jp
erodouga.cyou
yuuutunews66.com
news.goo.ne.jp