タグ

2024年2月18日のブックマーク (2件)

  • エンジニアに人気のおもちゃ「フリッパーゼロ」でできる10の遊び

    エンジニアに人気のおもちゃ「フリッパーゼロ」でできる10の遊び2024.02.18 10:0082,355 David Nield - Gizmodo US [原文] ( そうこ ) 「禁断のハッキング端末」とか「エンジニアオタク最高のおもちゃ」など、いろいろな言い方をされるFlipper Zero(フリッパーゼロ)。 ガジェットはスマホくらいしか触らない人にとっては、遠い存在のマシンかもしれません。調理器具で言えば低温調理器やエスプーマのような玄人向けアイテム。ただ、調理器具とは違って1つの高度なタスクに特化するのではなく、なんでもかんでも両手いっぱい抱え込んだ上にリュック背負って荷台もひくような、あれこれ多用途な玄人ツールなんです。 見た目は完全にオモチャですが、いろいろな通信規格に対応しており、テレビから家のセキュリティカメラまで多種多様な端末を操ることができます。カスタマイズやテ

    エンジニアに人気のおもちゃ「フリッパーゼロ」でできる10の遊び
    stokiwa
    stokiwa 2024/02/18
  • 【Day 3】東大松尾研のLLM講座資料が公開されたから、詳しく読んでいくよ【備忘録】 - Qiita

    Transformer 深層学習モデル以前の言語モデルの課題 言語モデルでやりたいことは、「今まで生成した単語列を元に、次の単語を予測する」ことで、その単語は今まで生成した単語列を条件とし、次にある単語がくる条件付き確率を求め、その確率が最大のものを選ぶということだった。(LLM資料p.8参照) ただ、これだと単語列が長くなったときや、類義語の処理に課題が生じてしまっていた。 ニューラル言語モデル しかし、計算したい条件付き確率をNNで推定することにより、対処できた。 Encoder-Decoder型のRNN(Recurrent Neural Network)が最も基的なモデルにはなるが、これでは長文に対応できなかった。(勾配消失&単語間の長距離依存性の把握が困難) RNNが勾配消失するのは、活性化関数のtanhが1未満の値を取るため、BPTT時に掛け算されるとだんだん値が小さくなってし

    【Day 3】東大松尾研のLLM講座資料が公開されたから、詳しく読んでいくよ【備忘録】 - Qiita
    stokiwa
    stokiwa 2024/02/18