gengohouseのブックマーク / 2023年3月1日

gengohouse id:gengohouse

2023年3月1日のブックマーク (3件)

自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす
自宅で動くChatGPTと噂のFlexGenを試す shi3zさんが興奮して動かしていたFlexGen 関係する記事は以下ツヨツヨGPUが無いと動かないと思っていたのですが、タイムラインでミクミンPさんが、RTX3060でFlexGenを動かしているツイートを発見。「RTX3060なら自分も持っている！」ということで、試してみることにしました。追記：私がこの記事で動かしているのは小さいモデルです。とりあえずお試しで動かしただけで、shi3zさんが動かしているモデルとは異なります。性能の参考にする記事ではないので、ご承知ください。より大きいサイズのモデルの使用に関しては、FlexGenの公式リポジトリを参照ください。私も今後試したら追記していきます（現状、私の環境では動かせてないです）。 FlexGenをDockerで動かす結果的には、Dockerを使うことで簡単に動かせました。
gengohouse 2023/03/01
リンク
FlexGenをGoogle Colaboratoryで動かす
最近1GPUで大規模な言語モデルを動かせるFlexGenというライブラリが話題になりました。ただ、2023年2月28日現在強烈なリファクタリングが進んでおり、世間的なブログ記事を読んでもそのまま動かせるものが少ないです。そのためこの記事で手順をまとめてみます。基本的にはColaboratoryにコードを貼っていけば実行できるはずです。 Google Colaboratoryのセットアップ Google Driveのマウントモデルファイルを保存するために、Google Driveをマウントします。（容量に気をつけてください。けっこう食います。）
gengohouse 2023/03/01
“FlexGenをGoogle Colaboratoryで動かす”
リンク
Contact Lens for Amazon Connectの感情分析は、どのような言葉がポジティブ、ネガティブと判断されるか調査してみた | DevelopersIO
はじめに Contact Lens for Amazon Connect(以降、Contact Lens)の機能の一つに感情分析機能があります。感情分析機能は、Connectでオペレータと顧客が話している言葉の感情を捉えて分析します。肯定的、中立的、否定的の３つに分類されます。例として、以下のように感情分析の結果が表示されます。具体的な処理内容は、Contact Lens側でAmazon Transcribe を利用して通話を文字起こしされ、Amazon Comprehendを利用して、文字起こしした言葉に対して感情分析されます。ちなみに、勘違いされやすいですが、発する声色は、感情分析の対象ではありません。文字起こしした言葉(テキスト)のみが対象です。今回は、コールセンターで使用される言葉のうち、どういった言葉が肯定的、中立的、否定的と判定されるか調査してみました。テスト結果
gengohouse 2023/03/01
リンク
- 2023年3月2日
- 2023年3月1日
- 2023年2月28日