大規模言語モデル(LLM)が半ばオープンソースで公開されると、すぐさま微調整が進み、スマートフォンやタブレットでの動作が確認された。界隈の課題とされたオンデバイスの軽量LLMがたった3週間で生まれてしまった。 Alpacaというオープンソースの70億パラメータの大規模言語モデル(LLM)がiPhone 14でローカルで動作した、とマサチューセッツ工科大学(MIT)の3年生、Kevin Kwokが22日(米国時間)にツイートした。 Just got Alpaca- a chat-tuned large language model- running locally on iPhone 14. Credit to @niw for iPad app, Caize Wu for mmap trick, and @ggerganov for llama.cpp. pic.twitter.com/s