記事へのコメント95

    • 注目コメント
    • 新着コメント
    peppers_white
    peppers_white 普及にはGUI化が必須だと思うのでまあしばらくおもちゃよね

    2024/05/25 リンク

    その他
    mikuti2
    mikuti2 面白。ローカルLLMが企業で外に出せない用途を思い浮かべたけれども、個人におけるプライバシーに対する個人AI(執事さん的な)とか、規制があるエロ・小説だとか、ゲーム利用があると。

    2024/05/21 リンク

    その他
    fnm
    fnm ケースを開けてみたらもう1枚GPUを積めるスペースなんてどこにもなかった。→その為のライザーケーブルでは?

    2024/05/21 リンク

    その他
    Kesin
    Kesin やはり技術はオープンな方が発展が速いというのが伝わってきて面白い

    2024/05/21 リンク

    その他
    otoan52
    otoan52 研究と開発は違うからなー。

    2024/05/21 リンク

    その他
    kyopeco
    kyopeco Local LLMが熱いのは、セキュリティ+プライバシー観点で、外出しできないデータ&リクエストを使えるからだと思ったけど違うのかしら。

    2024/05/21 リンク

    その他
    rosiro
    rosiro mac mini

    2024/05/21 リンク

    その他
    ya--mada
    ya--mada APIの料金に比べてChatGPT Plusの料金が安すぎるという問題がある。ChatGPT Plusなら月額3千円払うだけでGPT-4Tがたっぷり使えてしまう。もしもAPIで同じような使い方したら軽く数万円かかってしまいかねない

    2024/05/21 リンク

    その他
    keijak
    keijak "LLMの推論というのは実は演算性能よりもメモリ帯域幅がモノを言うらしい"

    2024/05/21 リンク

    その他
    millfi
    millfi “微調整や追加学習などの学習の速度についてはNVidiaのGPUよりかなり弱いらしく、学習用途には向いていない。”あくまで推論だけか…まあロマンと安心感はあるがうーん

    2024/05/21 リンク

    その他
    aoven
    aoven そもそもアマチュアエンジニアにとって最先端のAIテクノロジーが自分のパソコンで体験できるのは大きいと思う

    2024/05/21 リンク

    その他
    temtan
    temtan chat-GPT を触っているとエロ方面もそうだけど、とにかく1投稿毎に特定の価値観への方向への矯正を感じるのでそういうのがうざったいとは思うが価格が価格だとな

    2024/05/21 リンク

    その他
    ktakeda47
    ktakeda47 "そもそも、タダで推論したいだけなら大抵の人にとってはCommand R+やGemini1.5Flashの無料API枠を叩いとけば十分な状況かもしれない。現状ではローカルLLMよりもGemini1.5Flashの方が多分性能高いのだから。"

    2024/05/21 リンク

    その他
    shag
    shag ゲーム用のGPUを複数台組んで推論用途に使うやつ、ゲーム用GPUの価格高騰するんでやめて欲しい。

    2024/05/21 リンク

    その他
    yoshikie
    yoshikie ローカルLLMがクラウドだと高すぎるわけだが、こんな理由でオンプレ回帰の動きが出てくるとは思わなかった。クラウド事業者各社もいずれ対策すると思うが

    2024/05/21 リンク

    その他
    pwatermark
    pwatermark ローカルLLMは何より「気軽に好き放題出来るから開発環境として最適」なのですよ 開発試験試行錯誤するたびにAPI課金は辛すぎるんでね ただしコンテキスト長く出来ない、コレが辛い

    2024/05/21 リンク

    その他
    syu-m-5151
    syu-m-5151 エロと軍事はローカルLLMが絶対に必要なのではないかと思っている。なんならローカルLLMが企業の競争力の源泉になる日も近いし将来的にはローカルLLMの合同採用面談とかあるかもしれん。

    2024/05/21 リンク

    その他
    etah
    etah API叩いたら”最初から負け確定”ってのは言い過ぎなんだが、この言説が広まると競合が減って弊社のポジションが相対的に勝ち確になるからどんどん広まってほしい

    2024/05/21 リンク

    その他
    timetrain
    timetrain ローカルにエロ追及である一方、モデルの開放にオープン志向があってすごい世界だなと思う

    2024/05/21 リンク

    その他
    xanaduuu
    xanaduuu 個人的な用途では、必要な時にクラウドなりサービスを利用する方がトータルコストは安く上がっちゃうな。AI扱うエンジニアさんはそうはいかんだろうけど。

    2024/05/21 リンク

    その他
    GARAPON
    GARAPON gpuの排熱で部屋がアツイ

    2024/05/21 リンク

    その他
    gfx
    gfx "GPTのAPIはコスパが悪い。いやまあ、GPT-4じゃなくてGPT-3.5Tならかなり安いけど、今となってはしょぼくて使う気になれない。そんなだから、OpenAIのAPIよりもオープンなモデルに目を向けてみようかという動きも出てきてる"

    2024/05/21 リンク

    その他
    stealthinu
    stealthinu 2024/5現在のローカルLLMの状況がまとめられてて今後何年かしたら歴史的資料価値が出そうなくらい。ローカルLLMは絶対に社外に情報だしたくないJTCとかで需要があると思う。

    2024/05/21 リンク

    その他
    prjpn
    prjpn 凄い熱量の纏め

    2024/05/21 リンク

    その他
    NOTG
    NOTG エロもそうかもしれないけどエンタープライズ領域ではローカルが求められることになるのでは

    2024/05/21 リンク

    その他
    TakamoriTarou
    TakamoriTarou 遊んでみたい.バッチ処理はあついな

    2024/05/21 リンク

    その他
    ultimatebreak
    ultimatebreak 4060tiですらぶん回してると部屋が暑くなるのにハイエンド複数とかエアコン代もエグそう

    2024/05/21 リンク

    その他
    boxmanx99
    boxmanx99 「やるなら人柱覚悟でどうぞ」うん

    2024/05/21 リンク

    その他
    kei_1010
    kei_1010 俺もやりたい。不謹慎な方向で宗教談義がしたい。そもそも現実は偏見で溢れてるんだから規制せずに偏見の両極端な意見(でも論理的には筋道が通ってる意見)同士を戦わせたい。

    2024/05/21 リンク

    その他
    rrringress
    rrringress 研究者と利用者の両輪関係がおもしろい

    2024/05/21 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック!
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    最近ローカルLLMがアツいらしい

    最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ?...

    ブックマークしたユーザー

    • heatman2024/06/20 heatman
    • ahya3652024/06/10 ahya365
    • pxaxcxixfxixcxa2024/06/06 pxaxcxixfxixcxa
    • ispern2024/06/03 ispern
    • kappaseijin2024/06/02 kappaseijin
    • fkei2024/05/30 fkei
    • lEDfm4UE2024/05/28 lEDfm4UE
    • hush_in2024/05/27 hush_in
    • kutakutatriangle2024/05/27 kutakutatriangle
    • sanko04082024/05/26 sanko0408
    • knj29182024/05/26 knj2918
    • michihiro3152024/05/25 michihiro315
    • yyamano2024/05/25 yyamano
    • peppers_white2024/05/25 peppers_white
    • o_hiroyuki2024/05/24 o_hiroyuki
    • undaughter2024/05/24 undaughter
    • sato-gc2024/05/24 sato-gc
    • hearthewindsing2024/05/24 hearthewindsing
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事