タグ

ensan_devのブックマーク (173)

  • 大規模モデルを支える分散並列学習のしくみ Part1

    はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 横田研究室の藤井(@okoge_kaz)です。 自然言語処理分野における大規模深層学習の重要性は日に日に高まっていますが、GPT-3, GPT-4 などのモデルの学習には膨大な計算コストがかかり、容易に学習できなくなっています。実際、モデルサイズが近年急速に大きくなっていることにより、学習に必要な計算量(FLOPs)は以下のように年々膨大になっています。近年の大規模モデルでは、NVIDIA H100 80GB であっても 1 つの GPU では、モデルをのせることすらできません。 Compute Trends Across Three Eras of Machine Learning より またScaling Laws によると、大規模なモデルは小さいモデルと比較してより優れた性能を発揮するため、自動

    大規模モデルを支える分散並列学習のしくみ Part1
  • What’s New In Python 3.12

    What’s New In Python 3.12¶ Editor: Adam Turner This article explains the new features in Python 3.12, compared to 3.11. Python 3.12 was released on October 2, 2023. For full details, see the changelog. Summary – Release highlights¶ Python 3.12 is the latest stable release of the Python programming language, with a mix of changes to the language and the standard library. The library changes focus o

    What’s New In Python 3.12
  • 「鍛冶(かじ)」を「鍛治」と書くことがあるみたいですが、間違いじゃないんですか?|漢字文化資料館

    以前の漢字文化資料館で掲載していた記事です。2008 年以前の古い記事のため、ご留意ください。 Q0388 「鍛冶(かじ)」を「鍛治」と書くことがあるみたいですが、間違いじゃないんですか? A 「冶」と「治」、「にすい」と「さんずい」の違いですね。もちろん正しくは「にすい」の方ですが、ちょっと見には見分けがつきにくいですから、間違えてしまうことも大いにありえるでしょう。 「鍛」は「鍛錬」の「鍛」で、音読みはタン、「きたえる」という意味の漢字です。「冶」の方の音読みはヤで、「とかす」という意味があります。そこで、「鍛冶」という熟語は、来はタンヤと音読みすべきものではないかと思います。金属をたたいて鍛えたり、溶かしたりして加工することを「鍛冶(タンヤ)」と表現するわけです。 一方、「かじ」ということばは、金属を打つところから「かなうち」→「かぬち」→「かじ」と変化して生まれたようです。その結

    「鍛冶(かじ)」を「鍛治」と書くことがあるみたいですが、間違いじゃないんですか?|漢字文化資料館
    ensan_dev
    ensan_dev 2023/06/18
    人名があるのか
  • 創業2年目のスタートアップが自社工場を立ち上げた話

    はじめに はじめまして。Turing株式会社で事業開発を担当している山崎です。 Turingは完全自動運転EVの実現を目指すスタートアップです。自動運転に必要な頭脳・ソフトウェアだけではなく、それと相互に連携する車体・ハードウェアの開発にも自ら取り組んでいます。 そんな当社ではこの度初の自社工場を整備し、今年6月12日に晴れて操業開始しました。2021年の創設から社歴2年にも満たないスタートアップ企業が、なんのために大規模な投資を伴う自社工場の整備に踏み切り、完全な手探り状態からどのように拠点整備を進めたのか。世間的にも結構珍しいケースではないかと思いますので、その過程の一部をご紹介します。 いつものTuringテックブログとは少し趣が異なりますが、社内の雰囲気が少しでも伝われば幸いです。 なぜ今のタイミングで工場を立ち上げたのか 今回整備した工場は、Turingの事業戦略の中で研究開発拠

    創業2年目のスタートアップが自社工場を立ち上げた話
  • GPT-3.5-turboの新機能を使ってCVPRの論文を良い感じに検索・推薦・要約するシステム

    はじめに 5月からTuringに中途入社した棚橋です。リクルートで広告配信システムの開発や量子アニーリングに関する研究開発に関わっていました。現在、Turingのリサーチチームで完全自動運転システムの研究開発に取り組んでいます。 3行でまとめ 今月開催されるCVPR2023では約2400もの論文が発表されるため、見るべき論文を事前に検索しておきたい。 社内で行われた大規模言語モデル(LLM)ハッカソンをきっかけに、LLMのEmbeddingを用いて論文の「検索・推薦・要約」システムを作成し公開した。 検索クエリに文章を使った曖昧な検索が行えたり、類似論文の推薦ができる。6/13にアップデートされたGPT3.5の新機能であるファンクション機能を使うことで、複数観点に分けて研究内容の要約を出力させた。 ↓ 今回作成した、LLMを使ったCVPR論文検索システム 事の発端 Turingは、ハンド

    GPT-3.5-turboの新機能を使ってCVPRの論文を良い感じに検索・推薦・要約するシステム
  • 自動車のスマホ化 - Android Automotive OS完全入門!

    はじめに Turing株式会社のUX Engineeringチームでエンジニアをしています佐々木です。Turingは「We Overtake Tesla」をミッションに完全自動運転EVの開発をしています。UX Engineeringチームは、車載インフォテインメント (IVI : In-Vehicle Infotainment) システムの開発を担当しており、Android Open Source Project (AOSP) をベースに車載OSを開発しています。 記事では、AOSPの枠組みに含まれるAndroid Automotive OS (AAOS)を概説し、また、実機でAAOSを体験するためにRaspberryPi 4BでAAOS13.0を実行する方法を紹介します。 Android Automotive OSの概要 Android Automotive OS (AAOS) は自動

    自動車のスマホ化 - Android Automotive OS完全入門!
  • 「イマイチ」 | 分け入っても分け入っても日本語 | 飯間浩明 | 連載 | 考える人 | 新潮社

    私が「イマイチ」ということばに初めて接したのは、小学校高学年か中学生の頃、つまり1970年代の終わりから80年代の初めで、場所は近所の歯科医院の待合室でした。備えつけの雑誌にテレビ番組の紹介記事が出ていました。 「最近人気がイマイチのレツゴー三匹」 レツゴー三匹は往年の漫才トリオです。このトリオにも人気がイマイチの時期があったのでしょう。この文章を読んで、「いまひとつ」を「イマイチ」と言っているらしいことは分かりましたが、業界用語なのか何なのか、よく分かりませんでした。 「イマイチ」は、1970年代の終わりから使われていたのは間違いないようです。『日俗語大辞典』には、『週刊朝日』1979年5月18日号から「イマイチ」についての解説が引用されています。私が歯科医院で「レツゴー三匹」の記事を見たのもほぼ同時期であり、つじつまが合います。強調形として「イマ三」「イマ四」「イマ八」「イマ十」「イ

    「イマイチ」 | 分け入っても分け入っても日本語 | 飯間浩明 | 連載 | 考える人 | 新潮社
  • Vision Proを先行体験。ぼくの欲しかった写真機はこれでした #WWDC23

    Vision Proを先行体験。ぼくの欲しかった写真機はこれでした #WWDC232023.06.07 15:0024,793 amito Vision Proは多くの人にとって最高のカメラになる。 WWDC23で発表された空間コンピュータこと「Vision Pro」を実機で体験することができました。 体験前に書いた記事では、「空間コンピュータとは何か」に興味が湧いて考察したのですが、Vision Proを体験した今、まったく違う要素に夢中です。 Image: AppleそれはカメラとしてのVision Proについて。 Vision Proには空間の写真や動画を撮る機能があります。複数のカメラやセンサーで立体的に空間の一瞬を切り取ることができるのです。 Image: AppleVision Proの左上のボタンを押すといつでも撮影ができる発表された直後は「ああ、”空間コンピュータ”だから

    Vision Proを先行体験。ぼくの欲しかった写真機はこれでした #WWDC23
  • Blog - Virtual typing for Spatial Computing with Fleksy's Predictive Keyboard SDK

  • Swift 5.9でVariadic Genericsがやってくる

    Swift 5.9がWWDC23で紹介され、マクロが大きな関心を呼んでいます。それと同時にVariadic Generics(可変長ジェネリクス)という新しい機能がやってきます。 可変長ジェネリクスは密かに新しいタイプのAPIを実現しています。この記事では可変長ジェネリクスについてじっくり解説します。 可変長ジェネリクス 普通、ジェネリクスは、固定個の型パラメータを持ちます。例えば、DEBUGビルドの場合にのみ値を出力する関数debugOnlyPrintを作ることを考えてみます。ここではTという1つの型パラメータが宣言されています。 func debugOnlyPrint<T>(_ value: @autoclosure () -> T) { #if DEBUG print(value()) #endif } // 使える debugOnlyPrint("Hello, Swift")

    Swift 5.9でVariadic Genericsがやってくる
    ensan_dev
    ensan_dev 2023/06/08
    書いた!
  • 言語学習者向けツールLaclaを作りました。

    言語学習者向けツール、Lacla.を作りました。 Laclaは https://lacla.app/ から試せます。 作ったアプリの紹介 英文を入力すると、スルスルーっと3つの情報が出てきます。 文脈を考慮した単語ごとの訳 全訳 イディオム、難しい単語の紹介 プロトタイプ公開からの反響 公開してから、沢山の人に使ってもらいました。 予想以上に反響があって、たくさんの温かいコメントも頂いて、作って良かったという気持ちでいっぱいです。 Lacla.の面白さは、LLMだからこそ実現できたもので、魔法みたい!とユーザーにワクワクしてもらえたのは、想定していたとはいえ、嬉しいです。 まだまだ、やらなきゃいけないことはあるので、Lacla.を進化させて続けていきたいです。 Laclaを作ったきっかけ 唐突なんですが、僕は、英語を勉強しています。 更に唐突なんですが、アガサクリスティの「そして誰もいなく

    言語学習者向けツールLaclaを作りました。
  • Workspaces – The future of macOS is people centered - A macOS Design Concept

    ensan_dev
    ensan_dev 2023/06/02
  • [Swift] その配列の足し算は本当に必要ですか? / chainのススメ

    let array1 = getArrayFromSource1() let array2 = getArrayFromSource2() for item in array1 { doSomething(with: item) } for item in array2 { doSomething(with: item) }

    [Swift] その配列の足し算は本当に必要ですか? / chainのススメ
    ensan_dev
    ensan_dev 2023/06/01
    書いた!
  • Unicode絵文字の仕組みをみてみる

    Unicode絵文字で使われている仕組み、特に、複数の文字を組み合わせて1つの絵文字を組み立てる「Emoji Sequences」のことは意外と知られていないかもしれません。Unicode絵文字がどのように成り立っているか、ひととおり大雑把に紹介してみます。 例えば: ❤️‍🔥 (heart on fire) ← ❤️ + ZWJ + 🔥 ❤️‍🩹 (mending heart) ← ❤️ + ZWJ + 🩹 🏳️‍⚧️ (transgender flag) ← 🏳️ + ZWJ + ⚧️ 🏳️‍🌈 (rainbow flag) ← 🏳️ + ZWJ + 🌈 🏴‍☠️ (pirate flag) ← 🏴 + ZWJ + ☠️ 🐕‍🦺 (service dog) ← 🐕 + ZWJ + 🦺 🐈‍⬛ (black cat) ← 🐈 + ZWJ + ⬛ 🐦‍

    Unicode絵文字の仕組みをみてみる
    ensan_dev
    ensan_dev 2023/05/26
    向き指定入るの知らなかった、手の絵文字もこの関係の問題あって、実装によって手の向きが逆だったりするから、任意に固定できるようになると嬉しいかも。
  • https://twitter.com/browsercompany/status/1661724147087450116

    ensan_dev
    ensan_dev 2023/05/25
    ちょっと気になる
  • 【アプリ開発】その文言、新OSになっても同じこと言えるの?を考える - Qiita

    iOSアプリを開発していると、年に1度最新OSへのアップデート対応があると思います。 私が携わっているLIFULL HOME'SのiOSアプリ(以降、HOME'Sアプリ)も例外ではありません。 これまでにOSの仕様に合わせてさまざまなアップデート対応をしてきましたし、私が関わる前からも対応されてきました。 今回は、その中でなかなか気づかれずに負債となってしまっていたアプリの仕様に遭遇して対策を考える機会があったので、それについて紹介します。 気づいた負債 HOME'Sアプリ内ではカメラを用いる機能があります。 カメラを利用するには、ユーザがアプリ内でアクセス許可をする必要があります。 初めてカメラを利用する機能を使おうとすると、下記のようなアラートを出るのが一般的ですね。 HOME'Sアプリでは、カメラのアクセス許可のアラートを出すことはもちろん対応していますし、アクセス未許可状態でカメラ

    【アプリ開発】その文言、新OSになっても同じこと言えるの?を考える - Qiita
    ensan_dev
    ensan_dev 2023/05/25
    なるほどー
  •  azooKeyでUndoする方法 - T’s blog

    iPhoneiPadで使えるキ-ボ-ドのazooKeyで削除を取り消す方法です。 azooKeyでUndo(取り消し)する方法 1.削除したあと3指で左にフリックする。 2.削除したあと3指でタップする。 3.iPadではしたくないけどシェイクする。 4. を左フリックして文頭まで削除した時に表れるメニューで取り消す。 5.アクセシビリティの「タッチ」でカスタムアクションに「シェイク」を設定する。 まとめ iPadでテキスト入力するのにシェイクは困難なのでジェスチャやアクセシビリティで取り消すことができると助かります。ほとんどがazooKey以外でも使える機能です。 azooKey - 自由自在なキーボードアプリ 2.1.1 分類: ユーティリティ,仕事効率化 価格: 無料 (敬太 三輪) See you tomorrow!

     azooKeyでUndoする方法 - T’s blog
  • <wbr>を知っているか

    HTMLで改行する場所を指定する方法を紹介します. エンジニアには今日も悪魔がささやく こんなデザインを見ると実装に困るのは私だけだろうか? もちろんHTMLは想像に容易くこんなところだろう. <div> <h2>お願い</h2> <p> こちらの都合で、急なお休みをいただく事がございます。ご了承ください。 </p> <img src="https://picsum.photos/1000" alt="" /> </div> さて問題は<p>タグにあてるCSSだ. 「こちらの都合で、急なお休みをいただく事がございます。ご了承ください。」という真ん中寄せの文章. これは,文章が入り切らない場合に読みづらくないようにいい感じに改行させたものの別に必ず改行するわけではないといったニュアンスの込められたデザインである.(デザイナーがどこまで考えているのかはわからないのだが) 全体を見ると下にwid

    <wbr>を知っているか
  • プログラマーの理想と現実 - 小手先チューニング — ループの高速化

    この記事は、『UNIX Magazine』2004年11月号(2004年10月18日発売)に掲載された同名記事の初稿(著者から編集部に提出したもの)を元に、Web掲載用に一部を修正したものです。10年以上前に執筆したものなので、現在のUNIXを取り巻く環境とは色々と異なることがありますが、プログラミングに対する心構えとしては現在でも通用するものと思い、再掲してみることにしました。 ・・・・・・・・・・ プログラム開発の現場では、動作速度をもう少し速くしないとまずい、という状況に遭遇することがある。プログラムの全体的な動作が緩慢で利用者から不満が出たということもあるだろうし、一部の処理が実時間的な制約に間に合わないということもあるだろう。特に、組み込みシステムでは、限られた資源で最大の効率を発揮することが求められるため、動作速度に関する制約や要求も厳しくなり、プログラムの高速化は日常的な課題

    プログラマーの理想と現実 - 小手先チューニング — ループの高速化
  • リムナンテスは愉快な気分

    訪問日:2024-01-04 この日、多賀大社に行くつもりだったんですよね。 瀬戸内海からの帰り道、中継地点の明石に泊まっていまして、明石から新快速で滋賀方面へ。 折角朝早く新快速に乗ったのに、こういうときに限って遅延しまして。 「多賀大社に行く時間は無いけど、草津くらいまで来ちゃったしなぁ…」なんて思っていたら、彦根があるじゃないですか。彦根城なら彦根駅から歩いて行けるし、ということに気づいて急遽予定変更し彦根観光へ向かいます。 彦根は滋賀県の真ん中よりちょっと上、東側にありまして、彦根城が有名です。今回は彦根城天守閣に登って琵琶湖を一望してきました。ひこにゃんいなかったけど。 「9番 琵琶湖」は「彦根みやげ陣」で購入しました。お土産として日酒買いたいなぁ…と思っていたところに、旅酒を見つけました。「現地でしか買えない酒」なら買うしかないな?と思い、山積みの酒から1取ってレジへ。

    リムナンテスは愉快な気分