ブックマーク / note.com/erukiti (2)

  • LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由|erukiti

    もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし

    LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由|erukiti
    door-s-dev
    door-s-dev 2024/04/24
    ローカルLLMそんな強くなってるのかー
  • LLMをやりたくて仕方ないのでLLM無職を経て株式会社Algomaticにジョインした話|erukiti

    5/25にDMMグループの株式会社Algomaticにジョインしました。 LLMとは、Large Language Model(大規模言語モデル)の略であり、文字列を入力したら、統計的予測と乱数に基づいて、その続きの文字列を返してくれる、いわゆる生成AIの一つで、みなさんご存知の ChatGPT もLLMを応用したアプリです。 Algomaticは、LLMをはじめとした生成AIを活用するサービスを開発・提供するためのスタートアップで、4月に設立したばかりの会社です。

    LLMをやりたくて仕方ないのでLLM無職を経て株式会社Algomaticにジョインした話|erukiti
  • 1