(本記事は数時間前からRWKVの手法について調べ始めた著者が、手法をまとめるためのメモ書きとして深夜テンション書いたレベルのものです。内容の正確さについて保証しないので各自最後にある参考文献の確認をお願いします。日本語の記事でRWKVの手法について解説されたものが見当たらなかったので、一部僕の見解が含まれますが英語版中国語版の翻訳程度に受け取ってもらえたら幸いです。中国語は一切読めないけど・・・） Introduction 昨今の生成系AIブームの中で、OpenAIが開発するChatGPT、特にGPT4の性能は目を引くものがあります。ですが、そのモデルを動かすための計算資源にも目を引くものがあり、LLaMA.cppなどローカルで動かそうとする試みは存在するにせよ、やはり一般の家庭でしかも現実的な電気代でGPT4を動かすという未来は遠そうです。 さて、そんな話題のChatGPTやGPT4です

ここのところ気温も暖かくなり、外に出かけるのが楽しみになってきた、カメラ好き機械学習エンジニアの@yktm31です。 いま世間を賑わせている生成系AI、ChatGPTは私にとって欠かせないものになりました。 そんな中つい先日、AWSから「Amazon CodeWhisperer」がGAになりました。 といことで、さっそく試してみました。 目次 概要 特徴 サポート サポートされるプログラミング言語 サポートされるIDE サポートされる自然言語 使い方 利用開始方法 基本操作 Lambdaで、DynamoDBのレコードを取得する処理と、そのユニットテストを書いてみた コード参照（Code references）を試してみる セキュリティスキャンを試してみる ドキュメントからわかったこと 安全性・セキュリティ ProfessionalとIndividualの違い 料金と制限 オプトアウト方法

一般的にChatGPTを使用する際には、プロンプトを入力して進めていく必要がありますが、プロンプトの作成は意外に難しいと感じる方も多いかもしれません。 AutoGPTは、プロンプトを作成せずとも自動的に行うべきことを提案してくれる、という驚くべき機能を持っています。AutoGPTは誰でも利用可能です。 今回PROMPTYでは、そんな話題のAutoGPTの特徴や始め方、使い方を解説していきます。 エンジニアではない方でも導入できるよう、できるだけわかりやすく説明しますので、１つずつ手順を踏みながら試してみてください。 ブックマーク必須！PROMPTYとは 国内最大級のChatGPTなどの生成AIのプロンプトエンジニア専門メディアです。 「プロンプトのテンプレ集」「生成AIの開発・活用ノウハウ」「海外の時事ニュース」など幅広い内容を取り揃えています。 一般的なニュースなどでは取り扱っていない最

「言語とはジェスチャーゲームのようなものだ」という画期的な見方を提示して話題になっている『言語はこうして生まれる　「即興する脳」とジェスチャーゲーム』。同書に刺激を受けたライムスターの宇多丸さんが、日本語ラップの先駆けであるいとうせいこうさんと対談。コミュニケーション論から日本語の歴史、フリースタイルラップと言語の変化などを縦横に語り合った。 会話の主導権は「聞く側」に？ 宇多丸　この本を読んだ時、いとうさんと話したいと思ったんです。 いとう　うん。言語というと、ある言葉の「A」というイメージをそのまま運んで、相手がそれを受け取るという風に思ってしまう。でも、実際のコミュニケーションはそんなことはなくて、実は短波放送みたいにすごく雑多なノイズだらけの音の中から正しい歌詞を見出すみたいな作業をしているわけだよね。 宇多丸　そうです。さぐりさぐりで、なんとか工夫しながら、ジェスチャーゲームのよ

以下の記事を元に、「OpenAI API」のファインチューニングの学習データのガイドラインをまとめました。 1. 学習データの書式ファインチューニングするには、単一の入力「プロンプト」とそれに関連する出力 「コンプリーション」 のペアで構成される学習データが必要です。これは、１回のプロンプトで詳細な手順や複数の例を入力するような、ベースモデルの使用方法とは大きく異なります。 「学習データの書式」のガイドラインは、次のとおりです。 ・プロンプトが終了してコンプリーションが開始することをモデルに知らせるため、区切り記号 ("\n\n###\n\n"など) でプロンプトを終了する必要があります。区切り記号は、プロンプトの他の場所で使用されない文字列を指定します。 ・コンプリーションが終了することをモデルに知らせるため、停止記号 ("\n"、"###"など)でコンプリーションを終了する必要がありま

自分の推しは既に退所済。 グループを抜けて事務所を辞める時、それはそれは他のジャニヲタに叩かれた。 「ジャニーズじゃない○○なんてもう価値ない」「あれほどアイドルの素質あるのにあのジャニーズ事務所を辞めるなんて馬鹿」 未だに言われ続けてる。 彼女らにとっては、顔や歌やダンスと言ったパーソナリティより、「ジャニーズ事務所に所属している事」が何より大事なんだ。 特に嵐が売れた以降のジャニヲタは「勝ち馬に乗りたい」という気持ちが強い。 まず安泰のジャニーズ所属であること、そしてできれば今後事務所内でいいポジションに行けるグループがいい。 推しが他のグループより、他のメンバーよりレギュラー番組が多く、CD売上枚数が多く、ドラマの視聴率が高い事が何よりの喜びなのだ。 SMAP解散以降狂ったようにジャニーズを叩き続ける地図ヲタにも呆れるが、それに対抗して「本人ですか？」と言いたくなるほど必死にジュリー

豆が好きでよく買っている。 iHerbでサプリを買うときもついでに豆を買うし、アメ横に行けば豆を2キロ買う。 さてそんな豆フリークである私がおすすめする3つの豆を紹介しよう。