博覧強記の料理人、美味の迷宮を東奔西走す！ 日本の「おいしさ」の地域差に迫る短期集中連載。 前回から始まったお好み焼き編。 そう、あの「広島vs大阪」論争を避けて通るわけにはいかないのです。 お好み焼き編②「広島焼き」という呼称はなぜ地元で忌み嫌われるのか 初めて出会った広島風のお好み焼きのおいしさに、僕は大袈裟ではなく「感動」しました。少なくともあんなお好み焼きは、それまで食べたことがなかったのです。 それまで、大学の近くにあった京都風（？）のお好み焼き屋さんにはたまに行っていました。お好み焼きという食べ物は、いかにも庶民的なようでいてその実、お店で食べると案外安くないもの。そのお店も基本的にはそうだったのですが、しかしそこはやはり学生街の飲食店です。他のどのお好み焼きよりひときわ値段の安い、「学生モダン」というメニューがありました。しかもそれは普通のお好み焼きより一回りどころか二回りく

この記事は Vim 駅伝 の 06/05 の記事です。 前回の記事は thinca さんによる、 06/03 の「Meguro.vim #23 を開催しました」という記事でした。 次回は 06/07 に投稿される予定です。 はじめに 本記事は以下の記事のオマージュです。 Vim の基本操作のうち、比較的マイナーながら汎用的に使える機能や小技を集めました。プラグインや複雑な設定が必要なものは含まれておらず、いずれも Vim と Neovim の両方で使うことができます。気になったものがあれば使ってみてください。 ノーマルモード編 検索結果を次々と置き換える Vim で文字列置換を行う最も有名な方法は :substitute コマンド （短縮形: :s） ですが、ノーマルモードの cgn というイディオムも便利です。これは c オペレータと gn テキストオブジェクト (:h gn) を組み合

MySQL/Aurora/TiDBロック入門 – 第１回トランザクション分離レベル MySQL InnoDB および AWS Aurora や PingCAP TiDB におけるロックの仕組みやトランザクションの動作を全１１回のシリーズで解説します！ 最初はベースとして重要な MySQL 8.0 InnoDB 前提でユーザー視点でのロックの仕組みを学び、後半第１０回以降では MySQL 互換 DB として人気の高い AWS Aurora や PingCAP TiDB と MySQL InnoDB との違いについて学びます。 １回目の今回はロック機構と切っても切り離せないトランザクションとその分離レベルについて、実際に挙動を確かめながら解説します。ライブ感のある説明も理解に役立ちますので、解説動画も付けてみました。合わせてご覧ください！ ★ 第１回 トランザクション分離レベル ★ 第２回 ロ

今のLLMを取り巻く状況について紹介します。

1. 株価はサプライズによって動く 株式相場には常にプロの投資家がうごめいており、各銘柄の各種業績数値を常に予想して投資活動をしている。そんな状況下において、仮に「売上が前年比2倍」という決算が発表されても、株価が2倍になるわけではない。むしろ3倍が予想されていたのに、2倍だったら失望売りとなる。つまり事前予想と比較してこそ意味があり、staticな値や過去実績との比較を特徴量にすることはあまり意味がない。事前予想と決算の乖離、または前回予想と今回予想の乖離こそが意味のある特徴量であると言える。 2. 業績数値の単純な変化率では株価インパクトは測れない 営業利益の事前予想100億円に対し、決算が200億円の場合、 変化率 = （ 実績 - 予想 ) / 予想 の計算式を使うと、変化率は100%となる。 この変化率を特徴量にするのは一見もっともらしいが、株においてはこれは使いづらい。 営業利

はじめに英語の論文をGPT4に執筆させた際の手順を記します｡ 普段からChatGPTを使っている人にとっては､当たり前のやり取りしかしていないのですが､意外と使えていない方がnon-AI分野では多いので､丁寧にプロンプトを示していきます｡ (ワークショップで解説する必要が出てきたので､そのためのメモ書きです) GPT-4に論文は書けるのか?ゼロから書かせるのは難しいですが､日本語の下書きを英訳するのは得意で､少なくとも筆者が満足する品質のテキストが得られます｡ GPTを使って執筆をするメリットDeepLやGoogle翻訳と違い､英文のスタイル(e.g., 論文調)を明示的に指示できるので､翻訳のクオリティが高い 日本語ネイティブにとっては､日本語で書いた方が圧倒的に楽※ スペルミスや文法ミスを犯さないので､校正の手間も減る｡※ 基本的に翻訳タスクしか行っていないので､GPTが過去の類似文章

年明けの暇な時間を利用して読んでみました。 書籍のリンク 技術書としての感想 良かった点 悪かった点 注意点 総評 技術書としての感想 良かった点 とにかく文章が分かりやすい 色々な用語の使い方に違和感がない 言葉にすると簡単ですが、本当に分かりやすかったです． 具体例が豊富 図が豊富 コード例が豊富 実験例が豊富 まず、「〇〇 な場合に命令の処理が詰まって遅くなります」といった説明の後に、「では、具体的にこういったケースを考えてみましょう」という具体例を持ってくる展開が多く、とても親切だと感じました．また、このような具体例の説明のときにほぼ必ず図が用いられています．特に全体を通して頻繁に出てくる命令流の図は非常に分かりやすかったです．また、コード例とそれを用いた実験も豊富でした．具体的には、キャシュの章では実際にキャッシュミスを意図的に起こすコード・キャッシュヒットを意図的に起こすコード

2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間分の生成AI関連論文の中から重要なものをピックアップし、解説をする連載です。2024年初っ端の第27回目は、「礼儀は不要」「モデルに質問させる」「良い解答には報酬」など、大規模言語モデルの返答が向上する「プロンプト26の原則」をはじめとする5つの論文をお届けします。 生成AI論文ピックアップ複数の自律AIエージェントが過去の経験を共有して未知のタスクを処理するモデル「Experiential Co-Learning」 画像から動く3Dシーンを生成する新モデル「DreamGaussian4D」 大規模言語モデルの返答が向上する「プロンプト26の原則」が公開。「礼儀は不要」「モデルに質問させる」「良い解答には報酬」など 220以上の生成タスクが実

1泊2食付き2万円以下の宿で、コスパ重視の総合ベスト10を選出した 2023年も終わりに近づくタイミングでの公開となり恐縮ですが、本稿は「2022年に泊まった温泉宿」の振り返り記事です。 私自身が2022年に泊まった宿の中から「2食付き2万円以下で1人で泊まれる」宿限定でご紹介しています。 先に公開済みの「2022年に泊まった温泉宿で｢部屋｣｢風呂｣｢食事｣が良かったおすすめ宿ランキングを発表する」では、2022年に泊まった宿の中で「部屋・建物」「風呂」「食事」の3項目について「突出して良かった宿」のベスト3をそれぞれ選定しました。 「食事」や「部屋」部門では特に、宿泊料金の高い宿が上位に入りやすい傾向があります。なので「すごく印象が良かったけど項目ごとのランキングには入らなかった」宿がいくつもあるのです。 そこで、2022年に泊まった宿の中から「1泊2食付で2万円以内で泊まれる」宿に限定

★AIDB会員限定Discordを開設いたしました！ 会員登録／ログインの上、マイページをご覧ください。 --- ChatGPTなどのLLMは、自然言語を理解し、人間のように対話する能力を持っており、多くの場面でその能力を発揮しています。しかし、これらのモデルが最大限のパフォーマンスを発揮するためには、適切なプロンプト（指示テキスト）を使用することが不可欠です。 本記事では、ChatGPTをはじめとするLLMの効果的なプロンプト手法に焦点を当てた論文をもとに、「基本のキ」を紹介します。モデルに、より正確かつ効果的な回答を引き出すための原則と、現時点での主要なプロンプトエンジニアリングの知見を整理しました。 参照論文情報 ・タイトル：Unleashing the potential of prompt engineering in Large Language Models: a compr

Linuxスキルをレベルアップする実用的な実践書。本書では、コマンドを組み合わせて複雑なコマンドを作成することで、手動で行われているタスクを自動化するための方法を学びます。具体的には、パスワードの管理、大量のテストファイルの生成、テキストファイルを変換してデータベースのように扱う方法など、現実的なビジネスの問題を解決する方法を明らかにします。単なるテクニックではなく、背後で何が行われているかについても学べるので、Linuxのシェルに対する理解が深まります。それと同時に、Linuxコマンドに関するさらに上級レベルの知識とテクニックが身につきます。 賞賛の声 監訳者まえがき まえがき 第I部　主要な概念 1章　コマンドの組み合わせ 1.1　入力、出力、パイプ 1.2　コマンドラインに取り掛かるための6個のコマンド 1.2.1　コマンド① wc 1.2.2　コマンド② head 1.2.3　コマ

紹介 マイクロカーネルOSは、「美しい設計ではあるものの、遅い実装」というイメージを持たれることがありますが、それは過去の話です。現在では、目立たないところで実用的なOSとして使われ、世界を支えています。 本書では、マイクロカーネルOSの概念からその実例まで、機能ごとに分けて説明しています。本書全体としては、基礎知識、マイクロカーネルの解説、その上で動くソフトウェア部分（ユーザーランド）の解説、そして発展的内容の4つのパートから構成されており、それぞれのパート内の章は、概念の解説部分と、その概念をどのように実装しているかを解説した実装部分に分かれています。 各章の実装例として、本書のために筆者が開発したマイクロカーネルOS「HinaOS」を用いて、わかりやすく解説しています。HinaOSは、エミュレータ上で動かすことを想定した教育目的のOSですが、OSの実装を学ぶのに必要となる最低限の機能

本書では、小さなOSをゼロから少しずつ作っていきます。 OSと聞くと腰が引けるかもしれませんが、OS (特にカーネル) の基本機能は案外単純です。巨大なオープンソースソフトウェアとしてよく挙げられるLinuxでさえ、バージョン0.01はたった8413行でした。様々な要求に応えるために次第に肥大化していっただけで、当初は大変素朴な実装になっていました。 本書では素朴なコンテキストスイッチ、ページング、ユーザーモード、コマンドラインシェル、ディスクデバイスドライバ、ファイルの読み書きをC言語で実装します。これだけ様々な機能が詰め込まれているのに、コードは合計でたった1000行未満です。 「1000行なら1日でできそう」と思うかもしれませんが、初学者には少なくとも3日はかかるでしょう。OS自作のハマりポイントは「デバッグ」です。アプリケーション開発とは違うデバッグ手法・能力を習得する必要がありま

はじめに もう文字列の置換で sed コマンド使うの禁止して良いんじゃないですかね？ 言いすぎだとわかってあえて言っていますが。 悪い書き方（外部コマンドに頼る方法） # 変数 line に入ってる文字列を echo コマンドで出力して sed コマンドに渡し、 # sed の s コマンドで "from" を "to" に置換して出力したものを ret 変数で受け取る ret=$(echo "$line" | sed "s/from/to/")

リングバッファのイメージ図 1. リングバッファとは何か 機能的にはFirst In First Out (FIFO)とも呼ばれるキューの一種であるが、リング状にバッファを置いてそれの中でReadとWriteのインデックスがグルグルと回る構造をとる事によって容量に上限ができることと引き換えに高速な読み書き速度を得たものである。キューを単に実装するだけなら山ほど方法があって線形リストを使ってもいいしスタックを2つ使っても原理的には可能だ。その中でもリングバッファを用いた方法の利点はひとえに性能の高さでありメモリ確保などを行わないお陰でシステム系の様々な場所で使われている。 これの実装自体は情報系の大学生の演習レベルの難度であるが少し奥が深い。まずリングバッファのスタンダードなインタフェースと実装は以下のようなものである。 class RingBuffer { public: explicit

3行でまとめると LLM分散学習ハッカソンに参加し、Vision-Languageモデルの一つであるBLIP2のHuggingFaceモデルを拡張して動画からテキスト生成するVideoBLIPを作成しました。ソースコードはGithubで公開しています。 運転映像に対する説明文章を学習に用いてVideoBLIPの学習を行い、運転映像を説明するモデルを作成しました。（以下のように運転映像に対して説明文が出力されます） 学習を高速化するためにマルチノードで学習を行えるようにし、実際にABCIのGPU80台を使って分散学習を行い、4GPUで行った場合の20倍の計算速度が実現できました（Strong Scaling!） 分散並列学習にはDeepSpeedを用いました。 はじめに Brain Researchチームで自動運転AIを開発している棚橋です。Brain Researchチームではレベル5の完

息子、かわいすぎる・・・ 僕は育休を取ってしばらく育児を全力で行い、そのまま育児しつつ今はフルタイム勤務しています。 近年、（企業にもよりますが）男性の育休もよく見るようになり、女性と同じレベルで男性が育児するケースが増えてきたのを肌で感じます。一方でまだ男性が男性向けに書いた育児のノウハウ記事というのはまだインターネット上に十分になく、育児する気はあるものの何をしていいかよくわからず困る男性が結構いるのではないでしょうか（実際、僕がそうだったので。。。） そのため、僕が育児と向き合った結果得た、新生児期育児の一通りの基本情報およびノウハウをまとめ、マニュアル化しました。子によって最適な育児の形は変わると思いますし、場合によっては僕のノウハウがまったく通用しないケースもあるかと思います。とはいえ、基本情報を知った上でひとつサンプルを知っているだけでもかなりショートカットになるはずです。逆に

アセンブリ言語について勉強したときの備忘録です。レジスタとアセンブリの命令とその意味について説明します。 レジスタ CPUにはレジスタが含まれており、アセンブリの命令の処理結果を保存したりするために使用します。 EAX Accumulator Register 関数の戻り値を格納するために使うことが多い 命令の引数で指定しなくても使うことがある 各レジスタ名： RAX (Register AX) : 64bit EAX (Extend AX) : 32bit AX : 16bit AL : AXの最下位8bit (右側) AH : AXの最上位8bit (左側) EBX Base Address Register 相対メモリ空間を表すときに、基準（ベース）となるアドレスが格納されることがある 各レジスタ名： RBX (Register BX) : 64bit EBX (Extend BX)

はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 横田研究室の藤井(@okoge_kaz)です。 大規模言語モデル(Large Language Model: LLM)への注目がGPT-4のリリース以降高まっていますが、LLMを作るための知見は十分に共有されているとは言い難いと個人的に感じています。 Turingでは、Vision and Language, Video and Languageなどのマルチモーダルなモデルの研究開発を行っている一環として、Megatron-DeepSpeed, GPT-NeoXなどを用いて数十Bのモデルの学習を行う知見を蓄積しています。今回はLLMの事前学習を行う際に候補となるMegatron-DeepSpeedを用いてGPT-2-7B(6.6B)の学習をどのように行うのかについて解説します。 分散並列学習がどのよう

2023年06月04日08:00 「なんだよこれ面白すぎんだろ…」ってなったミステリー小説wwwwwwwwwww Tweet 1: それでも動く名無し 2023/06/04(日) 02:25:03.92 ID:XB74++A/0 すべてがFになる 世界の奇妙な事なんでもいいから挙げて 2: それでも動く名無し 2023/06/04(日) 02:25:31.99 ID:XB74++A/0 なおいうほどすべてがFにならない模様 3: それでも動く名無し 2023/06/04(日) 02:25:48.71 ID:JTor0iqV0 そして誰もいなくなった 4: それでも動く名無し 2023/06/04(日) 02:25:52.40 ID:HQ6kaggE0 探偵の生贄 10: それでも動く名無し 2023/06/04(日) 02:29:18.01 ID:XB74++A/0 >>4 名探偵のいけに