python subprocess pass string to stdinの検索結果1 - 2 件 / 2件

• あとで読む

  Vim9 script for Python Developers · GitHub

  • 5 users
  • gist.github.com/kato-k
  • テクノロジー
  • 2021/03/12

  vim9script4pythondevelopers.md Vim9 script for Python Developers Vim9 script�Vim script��������������������������������������������������系��� def������義����������Vim script��vim9script�����使����������(vim9script���

  • あとで読む

  
• あとで読む

  はじめての自然言語処理 Transformer 系モデルの推論高速化の検証 | オブジェクトの広場

  • 4 users
  • www.ogis-ri.co.jp
  • テクノロジー
  • 2023/03/31

  今回は Transformer 系のモデル、具体的には BERT, T5, GPT の推論を高速化してみます。高速化手法として FasterTransformer, Torch-TensorRT, AWS Neuron を用い、素 の transfomers に比べ、どの程度速くなるか（ならないか）、利点・欠点を確認してみましょう。 1. はじめに 今回は Transformer 系のモデル、具体的には BERT, T5, GPT の推論を様々な技術を使って高速化してみます。 高速化の元ネタは Hugging Face の transformers1 縛りとして、素の transformers で推論する場合に比べ、 どの程度速くなるか（ならないか）見てみましょう。 推論を高速化する技術としては FasterTransfomer2, Torch-TensorRT3, AWS Neuron(