Macで完全ローカルで1万6千字の記事の作成から日本語訳まで行う｜shi3z
今、故あってTGVに乗っている。 TGVは、フランス版新幹線のようなものだが、日本の新幹線に比べると通信のつながりがそんなに良くない。したがって、AIに自由にアクセスするのも一苦労である。こんな時、ローカルで全て完結するLLMがあると非常に便利だ。 ちなみにコーディング支援にはmlx-community--codegemma-7b-it-8bitを使った。原稿生成と日本語訳にはshi3z/mlx-LongWriter-llama3.1-8b-8bitを使用。MacBook Pro M2 32GBを使用。ただし原理的にはM1でも動くと思われる MacBook M1以降のApple Siliconで使えるMLXというニューラルネット高速化ツールを使い、Macで完全ローカルでありながら1万6千字の記事を自動生成することに成功した。簡単にいえば、MacBookさえあればChatGPTなどへのAPI
