最近つくっているOSS 3つ - Pyxis / Argus / Iris

最近つくっているOSSをまとめて紹介しておく。 Pyxis PyxisはLLM推論エンジン。candleもllama.cppも使わずに、トランスフォーマーのパイプライン全体（アテンション、KVキャッシュ、RoPE、サンプリング）を自前実装する、というプロジェクト。 つくりはじめたきっかけは、コーディングのためのローカルLLM勉強会 in 福岡に参加して、@monochromeganeさんと@kisさんと懇親会で話したこと。Carinaのplan表示をわかりやすくしたいという話を@monochromeganeさんとしていたら、生成AIに解説させるというアプローチを提案してもらった。その場ではGitHub ActionsでAIを呼び出す方向で考えていたけど、Carina自体に機能を持たせればいいんじゃないかと思った。また、@kisさんと@monochromeganeさんが推論エンジンについて会

[tmatsuu]

git diffとシンタックスハイライトを共存できるArgus/Irisいいな。