forest1040のブックマーク (3,378)

  • はじめに - Writing an OS in 1,000 Lines

    書では、小さなOSをゼロから少しずつ作っていきます。 OSと聞くと腰が引けるかもしれませんが、OS (特にカーネル) の基機能は案外単純です。巨大なオープンソースソフトウェアとしてよく挙げられるLinuxでさえ、バージョン0.01はたった8413行でした。様々な要求に応えるために次第に肥大化していっただけで、当初は大変素朴な実装になっていました。 書では素朴なコンテキストスイッチ、ページング、ユーザーモード、コマンドラインシェル、ディスクデバイスドライバ、ファイルの読み書きをC言語で実装します。これだけ様々な機能が詰め込まれているのに、コードは合計でたった1000行未満です。 「1000行なら1日でできそう」と思うかもしれませんが、初学者には少なくとも3日はかかるでしょう。OS自作のハマりポイントは「デバッグ」です。アプリケーション開発とは違うデバッグ手法・能力を習得する必要がありま

    はじめに - Writing an OS in 1,000 Lines
  • 自分のコンテンツを学習したカスタムChatBotを作る方法

    カスタムChatBotを作る ChatGPT全盛の時代に、何番煎じだ?という感じですが、とりあえずやってみたので手順を残しておきます。プロンプトエンジニアリングの観点ですと、いわゆるIn-Context LearningのRetrieval-Augmented Generation(RAG)ってやつになると思います。プロンプトエンジニアリングに関しては以下記事参照ください。 具体的な手段・実装としては、基的にnpaka大先生のやったことや書籍を大いに参考にさせていただいています。 OpenAI GPT-4/ChatGPT/LangChain 人工知能プログラミング実践入門 以前、はてなブログのデータだけでやってみてはいたのですが、イマイチ性能がよくなかったので、今回は色々と改善版という位置づけです。 大きく変えたところは以下2つです。 データを増やした(ブログデータ → ブログデータ +

    自分のコンテンツを学習したカスタムChatBotを作る方法
  • LK-99は本当に常温常圧超伝導を達成しているのか - 理系のための備忘録

    先月末、「常温常圧で超伝導を示す物質が作成できた」というニュースが飛び込んできた。合成の成功を主張しているのは韓国の高麗大学の研究チームである。超伝導転移温度は歴代最高温度を大幅に塗り替える127℃と報告されており、これが常圧(大気圧)下で超伝導性を発現するとのことである。現在様々な追試が世界中で進められており、ネット世界をリアルタイムで大いに騒がせている。 稿では、現時点におけるこの周辺の状況について情報を整理したい。 プロローグ:Lu-HN系の超伝導性? 時はやや遡り、今年の3月。アメリカ合衆国ロチェスター大学の教授であるランガ・P・ディアス(Ranga P. Dias)の研究グループは、294 K(≈ 20.85℃)、1万気圧(≈ 1 GPa; 1ギガパスカル)の条件で含窒素ルテチウムハライド結晶(Lu-HN系)が超伝導性を示すと主張する成果をNature誌において報告した[1]。

  • ニンテンドースイッチのゲーム50本遊んで感想書いたのでまとめ(1〜22)

    50とキリがいいので、感想をまとめつつ、所謂番付を作ってニヤニヤしようと思います。 点数をつけるのはしっくりこなかったので、 「好き好き大好き超愛してる」「大好き」「好き」「普通」「好きじゃない」の五段階で評価することにしました。 ただし結果として「好きじゃない」に該当する作品はありませんでしたので、実際は4段階です。 今日この瞬間の感情なので、明日には異なる評価になっているかもです。 リンク先に感想は書いてあるのですが一言コメントも書きつつ紹介します。 ○好き好き大好き超愛してる 超探偵事件簿 レインコード 雨が降り続ける街カナイ区を舞台に真実を暴くことの是非を問う探偵としての生き方に向き合う物語で3Dのリッチな箱庭でキャラを操作しつつも文章を読むパートも多いアドベンチャーゲーム。 主人公の見習い探偵ユーマと相棒の死に神ちゃんの関係値の変化がたまらない。 舞台になるカナイ区の作り込みが

    ニンテンドースイッチのゲーム50本遊んで感想書いたのでまとめ(1〜22)
  • 再現できれば世界が変わる?常温常圧超電導体、LK-99

    彩恵りり🧚‍♀️科学ライター兼Vtuber✨おしごと募集中 @Science_Release どの研究室でも全然成功しないと思ったら、査読論文が掲載されるにあたって「いやー、実はプレプリントでは書き間違えちゃって (棒読み) 、鉛 (Pb) ではなくパラジウム (Pd) でした」オチはないかな……いやアレはリーク情報を防ぐための措置で、さすがにこの置換は元素違い過ぎて嘘だとバレるよね twitter.com/Science_Releas… 2023-07-28 12:27:24 彩恵りり🧚‍♀️科学ライター兼Vtuber✨おしごと募集中 @Science_Release "沸騰水超伝導体" 「LK-99」について解説しているScienceのコラム記事読んだ~。なんにしても合成が容易な材料っぽいからすぐに試されるだろうし、評価はもう少し待ちたいところだねぇ。 Derek Lowe. (J

    再現できれば世界が変わる?常温常圧超電導体、LK-99
  • Windows11(22H2)の格安PC買ってやったこと

    何か月か前に話題になっていたIntel N100の中華ミニPCにひかれて、5年以上ぶりに自宅の端末を入れ替えた。Intel N100+メモリ16GB+SSD256GB程+Win11pro付きでお値段2万円強という、信じがたいコスパ。 必ずしも優れているとは言えないスペックでWin11を快適に使うために、買ってから最小限やった設定を書いておく。 ・前提端末OSには粛々とHWの管理だけをしてもらい、「こんな素敵な&便利なWeb機能もあるよ!」的な導線はいらない。TeamsもOutlookも職場で嫌ってほど使っているが、自宅では金輪際使う予定なし。タスクバーのウィジェットもBingへの導線も全部要らない!という人向け。 ※当はhttps://anond.hatelabo.jp/20191116220232さんのWindows11版の記事が出てればそれで事足りたのだけど、見つけられなかったので投

    Windows11(22H2)の格安PC買ってやったこと
  • People Can't Believe This Photo of a Bird Isn't Photoshopped or AI-Generated

    People Can’t Believe This Photo of a Bird Isn’t Photoshopped or AI-Generated Japanese photographer Kenichi Ohno makes regular visits to a local marsh in order to practice his nature photography. But one image in particular, which shows an egret wading in the shallow water, is causing a stir. After being awarded an honorable mention in the Nature in Japan photo contest organized by the The All-Japa

    People Can't Believe This Photo of a Bird Isn't Photoshopped or AI-Generated
  • Googleのソフトウェアエンジニアリング - 技術メモ

    600ページ以上あり結構長いので方針としては第1部だけは一通り読んでみて、その先は各章結論から読んでいき、気になった部分だけ遡って拾い読みしていく戦略でいく方が良さそう。

    Googleのソフトウェアエンジニアリング - 技術メモ
  • カーネルコードの歩き方 ‐ ソースコードを読むための勘所を知る

    数千万行に及ぶLinuxカーネルのコードのうち、どんなときにどこのコードを読めばいいか、そのときに何を手がかりにすればいいか、などについてお話します。 記事は、TechFeed Experts Night#19 〜 達人に聞く、Linuxカーネルコードの歩き方のセッション書き起こし記事になります。 イベントページのタイムテーブルから、その他のセッションに関する記事もお読み頂けますので、一度アクセスしてみてください。 セッションの登壇者 セッション動画 「カーネルコードの歩き方」というタイトルでお話しする武内覚と申します。ふだんはsatと呼ばれています。社会人1年目から15年ぐらいカーネルの開発とサポートをずっとやってきました。今も必要に応じてカーネルソースを見ています。 LTで学べるのは「Linuxのカーネルソースの読み方についての勘所」です。直接読んでいくというより、もう少しメタな

    カーネルコードの歩き方 ‐ ソースコードを読むための勘所を知る
  • TFRecordとWebDatasetを使った分散並列学習とパフォーマンス調査

    はじめに Turing株式会社の自動運転MLチームでエンジニアをしている越智 (@chizu_potato)と塩塚 (@shiboutyoshoku) です。 Turingが目指す自動運転は、大量のデータで学習された非常に賢い機械学習モデルを活用することです。そのために、走行パートナーの方たちと協力して創業時からこれまで大量の走行データを取得してきました。走行データは車両に取り付けられた複数カメラによる360度をカバーした動画と、そのときの速度やGPSなどの走行ログを含んでいます。データサイズは80TBを超え、時間換算で3500時間程度です。 これだけのデータサイズでモデルを学習するためには、1枚のGPUだけで頑張るには限界があり複数のGPU (multi-GPU) による分散並列学習が必要となってきます。しかし、ただ分散並列学習を行うだけではmulti-GPUに対し、データの入出力 (I

    TFRecordとWebDatasetを使った分散並列学習とパフォーマンス調査
  • 40%のUbuntuに影響大の深刻な脆弱性「GameOver(lay)」、2020年に修正されたはずなのに改めて発見されてしまう非常事態

    Linuxディストリビューションの一つであるUbuntuにて、ローカル権限昇格の脆弱(ぜいじゃく)性「GameOver(lay)」が発見されました。CVEは「CVE-2023-2640」および「CVE-2023-32629」の2つで、ともに修正パッチが2023年7月24日にリリース済みであるものの、脆弱性の内容が2020年にLinuxカーネルで修正された「CVE-2021-3493」と同じものとなっており、「なぜ修正済みだったはずの脆弱性が残っていたのか」について今回の脆弱性の発見者であるクラウドセキュリティ企業Wizが解説しています。 GameOverlay Vulnerability Impacts 40% of Ubuntu Workloads | Wiz Blog https://www.wiz.io/blog/ubuntu-overlayfs-vulnerability Wizに

    40%のUbuntuに影響大の深刻な脆弱性「GameOver(lay)」、2020年に修正されたはずなのに改めて発見されてしまう非常事態
  • 常温常圧で「超電導」になる物質を合成したとする論文について科学雑誌Scienceが解説

    by Julien Bobroff 特定の物質を冷やすと電気抵抗が0になる「超電導」という現象について、「常温でも超電導を実現する」というこれまでの常識を覆す論文が2023年7月22日に提出されました。この論文の内容について、有機化学者兼ライターのデレク・ロウ氏が解説しています。 Breaking Superconductor News | Science | AAAS https://www.science.org/content/blog-post/breaking-superconductor-news 金属や化合物などの物質を極低温まで冷やす起こる超電導は、基的に-200度近い温度まで冷やさないと生じず、液体窒素の沸点である77K(約-196度)以上の温度で超電導現象を起こすものでようやく「高温超電導」と呼ばれるほど、低温環境下での発生が常識であるものとして知られていました。 し

    常温常圧で「超電導」になる物質を合成したとする論文について科学雑誌Scienceが解説
  • ChatGPT の仕組みを理解する(前編) - ABEJA Tech Blog

    こんにちは!株式会社 ABEJA で ABEJA Platform 開発を行っている坂井(@Yagami360)です。世間では ChatGPT などの大規模言語モデル(LLM)による対話型 AI が盛り上がってますね。クオリティーも凄いし AI 業界以外でも盛り上がってると嬉しいですよね。この数年で一段と AI の社会実装が業界以外の人にも目に見える形で進んできたなあと実感しております。 自分は普段業務では ABEJA Platform という AI プロダクトやその周辺プロダクトのバックエンド開発とフロントエンド開発をやっているのですが、AI 業界所属していながら ChatGPT などの LLM 全然追いかけれていない状態になっちゃてて自責の念にかられているので、このブログ執筆という良い機会に ChatGPT の仕組みについて調べてみました。 記事の対象読者としては、以下のようになりま

    ChatGPT の仕組みを理解する(前編) - ABEJA Tech Blog
  • 走行動画を説明するLLMを作成し、80台のGPUで分散並列学習させた話

    3行でまとめると LLM分散学習ハッカソンに参加し、Vision-Languageモデルの一つであるBLIP2のHuggingFaceモデルを拡張して動画からテキスト生成するVideoBLIPを作成しました。ソースコードはGithubで公開しています。 運転映像に対する説明文章を学習に用いてVideoBLIPの学習を行い、運転映像を説明するモデルを作成しました。(以下のように運転映像に対して説明文が出力されます) 学習を高速化するためにマルチノードで学習を行えるようにし、実際にABCIのGPU80台を使って分散学習を行い、4GPUで行った場合の20倍の計算速度が実現できました(Strong Scaling!) 分散並列学習にはDeepSpeedを用いました。 はじめに Brain Researchチームで自動運転AIを開発している棚橋です。Brain Researchチームではレベル5の完

    走行動画を説明するLLMを作成し、80台のGPUで分散並列学習させた話
  • 【テンプレ付】chatgptを使ってツールの要件定義をしたら工数が40時間→4時間になった - みんなのシステム企画

    chatgptを使って要件定義の工数を削減したい」 「そもそもchatgptを使って質の高い要件定義ができるのだろうか」 とお悩みなのではないだろうか。 結論、chatgptで質の高い要件定義を短時間で実現することは可能だ。 実際に私もchatgptを使って下記のような要件定義書を完成させた。 通常この要件定義書を0から自力で作ろうと思うと40時間はかかるが、chatgptを使う事によって4時間で完成させることができた。 しかし、ただプロンプトをなんとな投げ掛ければ良いというわけではない。 目的を達成するために綿密に設計をしたプロンプトを投げかける必要がある。 また、要件定義の中でも ・chatgptに丸投げして良いところ ・自分で手直しをした方が良いところ を精査することも大切だ そこで今回は上記のような要件定義書を4時間で完成させるために、私がchatgptへ投げかけたプロンプトを全

    【テンプレ付】chatgptを使ってツールの要件定義をしたら工数が40時間→4時間になった - みんなのシステム企画
  • モノリスとマイクロサービスを経てモジュラモノリスを導入した実践事例

    全てのAPIをProtocol Buffersで管理する / Manage all APIs with Protocol Buffers

    モノリスとマイクロサービスを経てモジュラモノリスを導入した実践事例
  • 文章校正支援ツール | 無限ツールズ

    語文の校正作業支援ツールです。 入力ミスや誤用、分かりにくい表記や不適切な表現などがないか手軽にチェックできます。 指摘の箇所に置換ワード候補がある場合、置き換え候補のワードで実際に置き換えた文章も表示できます。

    文章校正支援ツール | 無限ツールズ
  • 大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編 Part2

    はじめに Turing 株式会社リサーチチームの藤井(@okoge_kaz)です。 Turingでは、自動運転を支える技術のひとつとして大規模言語モデル(Large Language Model: LLM)に注目しており、関連する技術の研究開発を行っています。 つい先日、大規模言語モデルの事前学習を行う際に用いられることが多いmicrosoft/Megatron-DeepSpeedが大きくupdateされました。(日時間 2023/6/13, 2023/7/21に大きな変更がありました。) 具体的には、fork元であるNVIDIA/Megatron-LMの最新の変更を取り込むことを行ったようです。 セットアップ方法は以下の記事で紹介している通りで、変化はないのですが、Job Scriptの引数や、新機能を使用するためのTipsなど補足するべきことが多数存在します。 そのため、今回は前回の

    大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編 Part2
  • モダンデザインファイラー「Files 2.5.20」は「Git」統合を強化、デザインの細部も改善/クラウドストレージ「ownCloud」を新たにサポート

    モダンデザインファイラー「Files 2.5.20」は「Git」統合を強化、デザインの細部も改善/クラウドストレージ「ownCloud」を新たにサポート
  • 【追記あり】たった15年前の出来事もめちゃくちゃ間違って流布されてて衝撃を受ける

    2009年卒の就活は氷河期どころか思いっきりバブルだったぞ。07年卒、08年卒はもっとザルだった。 ちなみにこの時期は、マーチ内ですら 「みずほ銀行とりそな銀行は無対策で応募してもかなりの高確率で内々定までいっちゃうから行く気ないなら受けないほうがいい」 みたいに囁かれてた。学内で親しい先輩のうち、この年度にみずほ銀行を受けた人は5人いたけど5人全員内定してた。 早慶なんかだと 「メガバンクは赤だろうが緑だろうが蹴るもの」 というのが常識だったようだ。今の時代の就活生や20世紀の就活を知っている人からしたら衝撃的だろう。 リーマンショック由来の就職氷河期が始まったのは2010年卒の人間の就活から。 この就職氷河期は、不景気突入の嚆矢となる象徴的事件(リーマン破綻)から新卒採用抑制の時間差が全然ない珍しいものだった。当に突然バブルから氷河期に突入したのだ。 秋頃にメガバンクの採用予定計画が

    【追記あり】たった15年前の出来事もめちゃくちゃ間違って流布されてて衝撃を受ける