エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
MLX版ローカルLLMをiOSで動かす|shu223
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
MLX版ローカルLLMをiOSで動かす|shu223
Apple Siliconに最適化された機械学習フレームワークMLXには、"mlx-swift-examples" というMLXを用いた... Apple Siliconに最適化された機械学習フレームワークMLXには、"mlx-swift-examples" というMLXを用いた学習や推論をiOS/macOSで動かすサンプルのリポジトリがあり、 そこに LLMEval というサンプルアプリがある。 https://github.com/ml-explore/mlx-swift-examples/blob/main/Applications/LLMEval/README.md このサンプルアプリを使うと、iOS / macOSでMLXのLLMモデルによるテキスト生成を試すことができる。 試してみたサンプルをそのままビルド & 実行すると、Phi-2 (4-bit) を利用することになる。 "compare python and swift" "what's the highest building in japan?" 何度やっても