タグ

2023年2月27日のブックマーク (7件)

  • AI駆動開発と現状とのギャップを示す - ブロッコリーのブログ

    はじめに 〜記事執筆のきっかけ〜 先日、以下の記事についてのツイートが流れてきました。 zenn.dev この記事の内容については、ChatGPTをはじめとするAIによるテストの可能性を示した素晴らしい内容だと思います。 ですが、果たして"今時点(元記事の執筆時点)の"出力結果*1が実用に耐えうるものになっているのか検討し、提示する必要もあると感じました*2。 そこで記事では、テストエンジニアである私の回答例と"今時点の"AIの出力結果を比較しギャップを示すことを目的とします*3。 決して、AIによるテスト自動生成の進化自体を否定している訳ではないことを念頭にお読みいただければと思います。 結論 記事では、"今時点の"AIの出力結果に対して、以下の結論を導き出しています。 状態遷移図のテスト設計の題材では、根幹となる機能に関する不具合が含まれていた デシジョンテーブルのテスト設計の題材

    AI駆動開発と現状とのギャップを示す - ブロッコリーのブログ
  • FlexGenをDockerで使ってみた

    記事では、FlexGenをDockerで使う方法を紹介します。 ※nvidia-docker2が導入済みの、DockerからGPUが使用できる環境でなければ実行できませんのでご注意ください。 FlexGenとは ライセンス:Apache-2.0 license FlexGenとは、自前のPCなど計算資源の小さいマシン上で、大規模言語モデル(Large Language Model: LLM)を動作させることを可能にする技術です。 FlexGenについては、既に概要を詳しく説明している記事が沢山出ていますので、ここでは説明を省略します。詳細は、リポジトリや論文で確認することができます。 論文:High throughput generative inference of large language models with a single gpu DockerでFlexGenを動作させる

    FlexGenをDockerで使ってみた
  • 自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす

    自宅で動くChatGPTと噂のFlexGenを試す shi3zさんが興奮して動かしていたFlexGen 関係する記事は以下 ツヨツヨGPUが無いと動かないと思っていたのですが、タイムラインでミクミンPさんが、RTX3060でFlexGenを動かしているツイートを発見。 「RTX3060なら自分も持っている!」ということで、試してみることにしました。 追記: 私がこの記事で動かしているのは小さいモデルです。とりあえずお試しで動かしただけで、shi3zさんが動かしているモデルとは異なります。 性能の参考にする記事ではないので、ご承知ください。より大きいサイズのモデルの使用に関しては、FlexGenの公式リポジトリを参照ください。私も今後試したら追記していきます(現状、私の環境では動かせてないです)。 FlexGenをDockerで動かす 結果的には、Dockerを使うことで簡単に動かせました。

    自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす
  • ChatGPT研究所

    ChatGPTAI ツールが持つ無限の可能性について探っていきます。フォローすると ChatGPT などについての有益情報をお届けします。AGIラボでは最新のAI情報を一番わかりやすく解説しています。公式LINEに登録すると重要情報を漏れなく受け取れます。 ■ AGIラボとは何か? AGIラボは、GPTsをはじめとする先進的なAI技術に特化したメディアおよびコミュニティであり、これらの技術とその応用に焦点を当てています。私たちは、AIの持つ無限の可能性を追求し、これらの革新的な技術が人々の生活やビジネスに与えるインパクトについて、深くかつ広範に情報を共有することを目指しています。 ■どんな人に参加してほしいか ・GPTsやClaude 3、Soraなどの最新AI技術に興味がある方 ・AI関連の最新ニュースやトレンドを追いたい方 ・AI技術の実用化や応用方法を学びたい方 ・AIに関する

    ChatGPT研究所
  • 雑誌「Interface」2023年4月号に寄稿しました - Taste of Tech Topics

    皆さんこんにちは 機械学習チームYAMALEXの@tereka114です。 YAMALEXは Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 (詳細はリンク先をご覧ください。) ようやく冬も終盤ですが、鍋がおいしい時期ですね。 題ですが、先日、CQ出版社さんより2月25日に発売された「Interface」2023年4月号に次の2つの記事に関して寄稿させてもらいました。 Interface2023年4月号 interface.cqpub.co.jp これまで何度か執筆をさせてもらっていますが、今回初めて、人物イラストで表紙デビューを飾らせてもらいました!さて、私はどこでしょう?(笑) 今回寄稿させていただいた記事は次の2つです。 1. チャット・サービスを変革するChatGPTのすごさ 2. Jetson大研究3:人物検出Y

    雑誌「Interface」2023年4月号に寄稿しました - Taste of Tech Topics
  • (数式を使わない) Transformer の直感的な説明 / 真面目なプログラマのためのディープラーニング入門

    (数式を使わない) Transformer の直感的な説明 RNN の欠点 Transformer はこれをどう解決したか Transformer の動作原理 複数の要素間の関係を考慮する (Self-Attention、自己注意) 要素の順序を考慮する (Positional Encoding、位置エンコーディング) まとめ 概要: ChatGPT などで使われている Transformer モデルは、 ニューラルネットワークの世界にいくつかの革新的なアイデアをもたらした。 記事では、プログラマに理解しやすい形でそれらのアイデアを解説する。 実際に使われている数学の詳細には触れない。 (技術的解説については元論文 Attention is All You Need か、 その注釈版である The Annotated Transformer を参照のこと。 日語では この解説 がわかり

  • ChatGPTで騒いでる場合じゃない。 AI研究者が「FlexGen」をゲームチェンジャーと呼ぶ理由

    ChatGPTに世間が沸いている。 長年この分野を見てきた者としては「ちょっと沸きすぎ」のようにも見える。深層学習を使った会話ロボットは、何もChatGPTが初めてというわけではない。 ところが、世界中が驚かざるを得ないゲームチェンジャーが現れた。 その名も「FlexGen」と言う。2月15日に公開された。 特筆すべきは、FlexGenが、ChatGPTなどの大規模言語モデルを「従来の100倍高速に動かせる」上に、NVIDIA Tesla T4という、わずか16GBのメモリーしかないGPUでその性能を使えるということだ。 つまり、大規模言語モデルを秋葉原で売っているパソコン程度で動かせる新しいフレームワークが登場したことになる。 このインパクトがどれほどすごいのかを解説してみよう。 目次: 「Google翻訳」と「大規模言語モデル」は技術的にかなり近い 会話AIの正体とは何か ChatGP

    ChatGPTで騒いでる場合じゃない。 AI研究者が「FlexGen」をゲームチェンジャーと呼ぶ理由