GitHub - ggerganov/llama.cpp: LLM inference in C/C++
The main goal of llama.cpp is to enable LLM inference with minimal setup and state-of-the-art performance on a wide variety of hardware - locally and in the cloud. Plain C/C++ implementation without any dependencies Apple silicon is a first-class citizen - optimized via ARM NEON, Accelerate and Metal frameworks AVX, AVX2 and AVX512 support for x86 architectures 1.5-bit, 2-bit, 3-bit, 4-bit, 5-bit,
D3D12 GPU Video acceleration in the Windows Subsystem for Linux now available!
This list is illustrative of a GPU and vendor driver supporting all possible entrypoints/profiles using mesa 22.3. The actual capabilities reported in vaQueryConfigProfiles, vaQueryConfigEntrypoints , vaQueryConfigAttributes, VaQueryVideoProcPipelineCaps and others are dynamically queried from the underlying GPU and might vary between platforms and driver versions. The vainfo utility will list the
Apple Silicon搭載のMacでも引き続き「OpenGL/OpenCL」は動作するものの、依然として非推奨でMetalへの移行を推奨。
Appleによると、Apple Silicon搭載のMacでも引き続き「OpenGL/OpenCL」は動作するそうですが、依然として非推奨でMetalへの移行を推奨されています。詳細は以下から。 Appleは2018年06月に開催したWWWDC2018で、macOS MojaveおよびiOS 12、tvOS 12からレガシィなグラフィクスAPI「OpenGL (OpenGL ES)」および「OpenCL」を非推奨(deprecated)とし、これらを利用している開発者に対しオーバーヘッドの少ないAppleのグラフィックAPI「Metal」へ移行するように勧めていましたが、 新たに公開されたIntelとApple Siliconプロセッサで動作する2つのバイナリを同じコードからコンパイルし、1つのアプリにできる「Universal 2」の資料によると、AppleはApple Siliconプ
macOS 10.15.7 Catalinaのセキュリティアップデート後にOpenCLを利用したアプリがクラッシュする不具合はセキュリティアップデート 2021-003後も引き続き発生。
macOS 10.15.7 Catalinaのセキュリティアップデート後にOpenCLを利用したアプリがクラッシュする不具合はセキュリティアップデート 2021-003後も引き続き発生していることが確認されています。詳細は以下から。 Appleが現地時間2021年05月17日にmacOS 10.15.7 Catalina向けにリリースした「セキュリティアップデート 2021-002」を適用後、AppleのCore Image Framework(OpenCL)を利用したアプリがクラッシュし、利用できなくなる不具合が確認されていましたが、この不具合は本日(05月24日)にリリースされた「セキュリティアップデート 2021-003」適用後でも引き続き発生しています。 Update 2021-05-24: Today Apple released Catalina Security Update
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
