タグ

ブックマーク / note.com/hamachi_jp (4)

  • claude.aiのアーティファクト機能でさくっとテトリス風ゲームをつくる|はまち

    Claude 3.5 Sonnetにあわせて発表された、Claude.ai のアーティファクトという機能を早速ためしてみました。 アーティファクトという言葉は、「人とLLMが協力して生成した成果物」というニュアンスで使ってるのかなぁ。 サポートされているアーティファクトには、プログラムコードのほか、マークダウン文書などがあり、それらアーティファクトをLLMと対話しながらブラッシュアップしていく感じです。JavaScriptとかならチャット画面の隣で実際の動作を確認しながら作れてとても楽しいです。 サポートされているアーティファクトの種類ふむふむプログラムコードデモもLLMに頼んじゃうのが今風?ウインドウの右側がアーティファクト表示エリアになります教科書的なきれいなコードいい感じ。プログラムミングの勉強が捗りそう。MermaidMermaid図のプレビューコードSVG左下:変更ごとのバージ

    claude.aiのアーティファクト機能でさくっとテトリス風ゲームをつくる|はまち
    isrc
    isrc 2024/06/21
    アーティファクトという言葉は、「LLMが生成した成果物」という意味合い
  • オーディオ超解像技術 AudioSR を試す|はまち

    低解像度の音声データを超解像化をする拡散ベースの生成モデル AudioSR が公表されていました。リンク先に変換サンプルなどもあり、音声や自然音、音楽など幅広いジャンルの例が示されています。高い再現度であるようなので、さっそく試してみました。 インストール!pip install git+https://github.com/haoheliu/versatile_audio_super_resolution実行!GPUメモリを16GBくらい消費します。Google Colab無料枠だとメモリが足らなくて動かない感じでした。 !audiosr -i /content/kurumi.wav変換例変換前(サンプリングレート8kHz)

    オーディオ超解像技術 AudioSR を試す|はまち
  • 【論文紹介】大規模言語モデルにおけるニューロンの挙動について|はまち

    大規模言語モデルにおける人工ニューロンの挙動をテーマにした以下論文が面白かったので、ざっくり目についたキーワードを抜き出してみました。 理解不足など多分にあると思いますので、興味を持たれた方は、ぜひ原文をご確認ください。 概要LLMの内部構造を理解するため、パラメータの異なる125Mから66BまでのMeta社のOPTファミリーのモデル内部の人工ニューロンの挙動を分析した キーワード活性化しないニューロン(Dead Neurons)ネットワークの入力部付近の層では、多くの活性化しない「デッドニューロン」が存在しており、特に66B(660億)モデルでは、一部の層で70%以上のニューロンが活性化していない。 ネットワークの前半はデッドニューロンの割合が高く、後半はほとんどのニューロンが「活性化」している。 著者らは、この層間での疎さの違いは、初期層では「概念と対応するニューロン」の比率が後半の層

    【論文紹介】大規模言語モデルにおけるニューロンの挙動について|はまち
    isrc
    isrc 2023/09/12
    小さいモデルが絶対位置をより正確にエンコードする一方で、大きなモデルは絶対位置よりも「意味のある何か」に依存している可能性が高いことを示唆
  • Stable Diffusionモデルを応用した超解像技術 DiffBIRを試す|はまち

    テキストから画像への生成モデルであるStable Diffusionの事前学習モデルを活用して、劣化画像のブラインド画像復元タスク(超解像タスク)を行うDiffBIRというフレームワークが提案されています。サンプルコートも公開されているので早速試してみました。 DiffBIRはBSR(Blind Image Super-Resolution ブラインド画像復元)、およびBFR(Blind Face Restoration 顔画像の復元)の先行研究と比較して優れた結果を示しているとのこと。 DiffBIRパイプライン概要DiffBIRフレームワークは、テキストから画像への拡散モデルを事前学習(prし、画像復元タスクに応用しています。具体的には、以下の2段階のパイプラインを用いています。 ステージ1:劣化を取り除くため自己教師付き学習にて事前学習した「Restoration Module(RM

    Stable Diffusionモデルを応用した超解像技術 DiffBIRを試す|はまち
    isrc
    isrc 2023/09/10
    本来情報がない部分を生成モデルで無理やり復元するため、利用には注意が必要だと思いますが、手軽に利用できるので日常でも活用機会がありそうです。
  • 1