「Llama.cpp」のHTTPサーバー機能を試したのでまとめました。 ・Mac M1 1. モデルの準備今回は、「vicuna-7b-v1.5.ggmlv3.q4_K_M.bin」を使います。 ・TheBloke/vicuna-7B-v1.5-GGML ・TheBloke/vicuna-7B-v1.5-16K-GGML ・TheBloke/vicuna-13B-v1.5-GGML ・TheBloke/vicuna-13B-v1.5-16K-GGML 2. ローカルPCでの実行ローカルPCでの実行手順は、次のとおりです。 (1) Llama.cppのインストールとビルド。 $ git clone https://github.com/ggerganov/llama.cpp $ cd llama.cpp $ make(2) modelsフォルダにモデルを配置。 今回は、「vicuna-7b-
GitHub - antimatter15/alpaca.cpp: Locally run an Instruction-Tuned Chat-Style LLM
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Posted May 18, 2023 For as long as I can remember, I have heard people say C/C++ when referring to a project written in C and or C++. A lot of programming/developer jobs also refer to C/C++ when they need a programmer who knows either C or C++. To most people who have never touched C or C++ this might not seem like a big deal. However, the problem is that when people say this term (C/C++) they mak
Zngur - Zngur
Zngur Zngur (/zængɑr/) is a C++/Rust interop tool. It tries to expose arbitrary Rust types, methods, and functions while preserving its semantics and ergonomics as much as possible. Using Zngur, you can use arbitrary Rust crate in your C++ code as easily as using it in normal Rust code, and you can write idiomatic Rusty API for your C++ library inside C++. Idea Rust and C++ are similar languages b
村上原野追悼旅行記
発端 村上原野追悼のために、11月7日から9日にかけて岡山に行ってきた。 参考： ボレロ村上逝去 村上原野(ボレロ村上)の思い出 村上原野の訃報がプログラマーの界隈に知られてすぐに、追悼のために岡山に旅行する話が持ち上がり、10人以上もの人間が集まったが、COVID-19の感染拡大により東京から大人数で地方に移動するのは感染拡大のリスクがあるので自粛していた。 さて、冬も終わり夏もすぎて秋になり、どうやら冬に感染が拡大するらしいとのことで、今年中に行くならばそろそろ行かなければならないと思っていた矢先、妻が岡山に行くというので相乗りすることになった。GOTOトラベルキャンペーンを使い、倉敷のホテルに2泊3日の行程だ。せっかくなのでホテルは少々高くてもおしゃれなところにしようと画像を見ておしゃれそうなところに宿を取った。 11月7日 安かった時間帯の14時半に羽田空港から岡山空港に行く。飛行
1000憶パラメータLLMをシングルCPUでローカル実行できる「bitnet.cpp 1.0」、新テキスト読み上げAI「F5-TTS」など生成AI技術6つを解説（生成AIウィークリー） | テクノエッジ TechnoEdge
Metaがさまざまな研究成果を公開しました。画像や動画内のオブジェクトを切り抜けるセグメンテーションモデル「SAM 2」の更新版「SAM 2.1」や、テキストと音声を自由に組み合わせるマルチモーダル言語モデル「Spirit LM」、大規模言語モデル（LLM）の生成時間を加速させる「Layer Skip」などが含まれています。 また、ファインチューニングなしで、ゼロショットで音声変換できるボイスチェンジシステム「Seed-VC」が話題になりました。1～30秒の参照スピーチを与えることでリアルな音声に変換します。
Spring BootによるAPIバックエンド構築実践ガイド 第2版 何千人もの開発者が、InfoQのミニブック「Practical Guide to Building an API Back End with Spring Boot」から、Spring Bootを使ったREST API構築の基礎を学んだ。この本では、出版時に新しくリリースされたバージョンである Spring Boot 2 を使用している。しかし、Spring Boot3が最近リリースされ、重要な変...
Extism - make all software programmable. Extend from within. | Extism - make all software programmable. Extend from within.
Easy to UseLeveraging the power and portability of WebAssembly, Extism is an off-the-shelf plug-in system just a library import away. Ship in days, not weeks or months. Secure by DefaultDon't worry about what some plug-in code might do to your program. Extism is built with security as a core principle, and fully sandboxes the execution of all plug-in code. Available EverywhereOur flexible architec
C++で作ったゲームを Unity Gaming Service でホストする方法 | Unity Learning Materials
アーキテクチャとインフラストラクチャーはオンラインゲームの中心的な要素です。本講演では、ホスト・クライアントとサーバー・クライアントの違い、長所と短所、それぞれのワークフローの仕組みについて説明し、UGSとC++を使用した実装方法を紹介させていただきます。 受講スキル オンラインゲームを作りたい方 ホスティングインフラについてお困りの方 得られる知見 オンラインゲームホスティングの仕組み、C++などの言語によるUGSの使用方法。
Happy with my recent breakthrough in understanding C integer divisions after weeks of struggle, I was minding my own business having fun writing integer arithmetic code. Life was good, when suddenly… zsh: segmentation fault (core dumped). That code wasn't messing with memory much so it was more likely to be a side effect of an arithmetic overflow or something. Using -fsanitize=undefined quickly id
The surprising struggle to get a UNIX Epoch time from a UTC string in C or C++ - Bert Hubert's writings
The surprising struggle to get a UNIX Epoch time from a UTC string in C or C++ So how hard could it be. As input we have something like Fri, 17 Jan 2025 06:07:07 in UTC, and we’d like to turn this into 1737094027, the notional (but not actual) number of seconds that have passed since 1970-01-01 00:00:00 UTC. Trying to figure this out led me to discover many ‘surprise features’ and otherwise unexpe
MN-Coreコンパイラを用いた深層学習ワークロードの高速化 - Preferred Networks Research & Development
はじめに 深層学習を軸とした研究開発には大きな計算資源が必要です。 PFNでは深層学習ワークロードに特化した計算機資源として深層学習用アクセラレータであるMN-Coreを開発し、実際に弊社のスーパーコンピュータであるMN-3に搭載し運用を行っています。本記事では、MN-Coreを利用した深層学習ワークロード高速化のためのコンパイラの概要及び、ワークロード高速化の実例について紹介します。 MN-Coreの概要とコンパイラの必要性 MN-Core(https://www.preferred.jp/ja/projects/mn-core/)とは深層学習ワークロードに特化したアクセラレータです。深層学習において頻出する畳み込み演算を高速化するために、多数の高効率な行列演算器ユニットを階層的に束ねた構造を持っています。各階層間においては縮約/放送など深層学習ワークロードでよく用いられる集団通信を行う
Rustに移行する理由の大部分は、C++11以降の更新とガイドライン順守で消えますか？まあ、CargoこそC++にほしかったもののひとつでしょうけど。
回答 (3件中の1件目) ガイドラインが守られるのであれば別にC+11でなくても全然Rustと置き換えられます。それを強制できないC++のコンパイラが問題なのです。 ガイドラインは破られるためにあるのできちんと守ってできると言うことはかなり難しいのです。 今までのCであってもmallocしたらfreeは忘れずにという基本的なガイドラインはありましたが守られていないのでメモリリークとか起こしていたわけです。どこかで強制しないとだめです。
1. はじめに こんにちは、TURING でエンジニアをしているsangotaroです。 TURINGは完全自動運転システムを搭載した"EV"の販売を目標とする会社です。 この記事では既存のC++で書かれたソフトウェアの資産をDartから利用する方法についてある程度の知見が得られたのでそれをまとめたいと思います。 2. なぜC++の資産をDartから使用する必要があったか hokkaidoプロジェクトの記事でもお伝えした通り、TURINGでは現時点でも以下のソフトウェア資産を持っています カメラからの映像を入力として経路の推定を行い自動運転を行う 自動運転の推論の結果得られた経路やカメラ画像の表示、CAN (自動車の様々なデータが流れるネットワーク)から得られた情報などを車載モニタに表示する 現状のモニタに表示されている情報でも運転手に必要な情報は表示されているのですが、今後さらに車載モニ
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 今話題のMojo🔥（PythonとC言語のパフォーマンスを併せ持つ新しいAIプログラミング言語）について紹介します。 本記事の前半パートではMojo🔥について解説し、後半パートではMojo Playgroundで遊んでみます。 【前半パート】Mojo🔥について Mojo🔥とは Mojo🔥は、Pythonの使いやすさとC言語のパフォーマンスを併せ持つ新しいプログラミング言語です。Modularというソフトウェア開発スタートアップが開発しています。CEOのChris Lattner氏は、Apple時代にプログラミング言語
GitHub - marcj/TypeRunner: High-performance TypeScript compiler
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
rinna.cpp を試す｜npaka
「rinna.cpp」を試したのでまとめました。 ・rinna/japanese-gpt-neox-3.6b-instruction-ppo ・macOS 13.4.1 【追加情報】「redpajama.cpp」はメンテされてないので、今後は @syoyo さん版使うのが良さそうです。 redpajama.cpp はなんかもうメンテされていないから, rinna を llama.cpp で動かす時はこちらの fork を使うといいよ☺️ (近日中に japanese-normalizer-cpp 取り込んで日本語正規化対応する!) https://t.co/M6LK0OZlm8https://t.co/ZAfp7YJjXr — syoyo.eth 🌸 レイトラ ® 🐯 5 周年 🎉 (@syoyo) July 14, 2023 1. rinna.cpp「rinna.cpp」は、「ll
C++とJSを跨ぐ クロスコンポーネント ガベージコレクタ 服部慶士（keishi@chromium.org） 2021-08-31 https://bit.ly/3DzLRBs 1
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?
プログラム解析入門 もしくはC/C++を安全に書くのが難しすぎる話 Last updated: Jul 30, 2022 Kinuko Yasuda <@kinu>
GitHub - ashvardanian/StringZilla: Up to 10x faster strings for C, C++, Python, Rust, Swift & Go, leveraging NEON, AVX2, AVX-512, SVE, & SWAR to accelerate search, hashing, sort, edit distances, and memory ops 🦖
The world wastes a minimum of $100M annually due to inefficient string operations. A typical codebase processes strings character by character, resulting in too many branches and data-dependencies, neglecting 90% of modern CPU's potential. LibC is different. It attempts to leverage SIMD instructions to boost some operations, and is often used by higher-level languages, runtimes, and databases. But
TIOBE Programming Community Index (2021年4月4日) 資料: TIOBE Software 増加傾向を続けているのはPythonだ。使われる分野も多岐にわたる。学習が比較的容易で必要とされる産業が多いということは、それだけ就職口があるということも意味している。この言語に人気が出るのは当然だ。 長期にわたって減少傾向にあるものの、Javaにも根強いシェアがある。Javaは既に企業システムの基幹部分で使われているなど、ビジネスにおいて欠かすことができない言語だ。新規開発に加えて、Javaで開発したシステムのメンテナンスや改修といったニーズもある。これも就職先が多いプログラミング言語だ。 そして現在、TIOBE Programming Community Indexの1位はC言語だ。もともとC言語は人気1位だったが、Javaの登場以降は2位に甘んじていた。し
Tell us what you want your code to do and we will write it for you.
【海外記事紹介】「C++の生みの親」Stroustrup氏が、ついにメモリ安全性に関する議論に参戦 — C++コミュニティの衰退に強い危機感
3月3日、海外のテクノロジーメディアThe Registerが「C++ creator calls for action to address 'serious attacks'」と題した記事を公開した。この記事では、近年C++言語がサイバーセキュリティ界から厳しく批判されるようになった背景と、それに対してC++の創始者であるBjarne Stroustrup氏が危機感を示して呼びかけを行った点について詳しく紹介されている。 以下に、その内容を紹介する。 近年、C++はメモリ管理をプログラマが手作業で行う仕様ゆえに、メモリ安全性の問題で批判を受けてきた。特にシステムへの深刻な侵害や脆弱性の多くがメモリ関連の不具合に起因していることから、サイバーセキュリティの専門家や各国政府機関は、Rust、Go、C#、Java、Swift、Python、JavaScriptなど、メモリ管理がより安全に行え
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? C言語を習得する３つの方法は、C言語を好きになってもらいたいわけではありません。 C言語は、これまでのCPU、OS、コンパイラ技術の歴史をひきずっている言語です。 16bitCPUから32bitCPUにOSを移植する時に、移植しやすい言語として設計しています。 もっと違う言語で、CPU、OS、コンパイラが記述できれば、置き換わる可能性があります。 現状では、CPU、OS、コンパイラを書こうとすると、C言語が習得できてしまうという趣旨です。 将来もこれでいいとは思っていません。 個人的にはアセンブラが一番好きで、その次がVerilog-H
GitHub - quick-lint/quick-lint-js: quick-lint-js finds bugs in JavaScript programs
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
TB
Tilde, my LLVM alternative I'm Yasser and I've made it my mission to produce an alternative to LLVM, the current king of compiler backend libraries. I'm calling it Tilde (or TB for tilde backend) and the reasons are pretty simple, i believe it's far too slow at compiling and far too big to be fixed from the inside. It's been 20 years and cruft has built up, time for a "redo". As a test case i wrot
ソフトウェア開発業界を対象とした調査会社RedMonkは2024年3月8日（米国時間）、2024年第1四半期のプログラミング言語の人気度ランキングを発表した。 このランキングは、プロジェクトホスティングサイト「GitHub」の利用状況と、開発者向けQ＆Aサイト「Stack Overflow」で話題になっている件数をそれぞれ調査した結果を基に2つのランキングを作成し、総合したもの。 調査の目的はプログラミング言語の利用状況を統計的に表現することではなく、2つの主要な開発者コミュニティーにおけるプログラミング言語の利用方法と議論状況を相関させ、今後の採用動向に関する洞察を得ることにあると、RedMonkは説明している。 RedMonkは、GitHubの利用状況（プロジェクト数）に基づく人気度ランキングを横軸に、Stack Overflowで話題になっている件数（タグの出現回数）に基づく人気度ラ
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 若者「C言語教えて下さい」 わい「Cコンパイラ写経すれば3週間でコンパイラ書ける様になります。」 若者「そんな事出来る様になったら忙しくなるから嫌です。」 わい「C言語理解したくないんですか？」 若者「C言語教えて欲しいだけです。」 老害よりたちが悪いか若害は皆で渡れば怖くないから #短歌 — naokiakutagawa (@naokiakutagawa) October 22, 2022 C言語(C++)が必要な人と必要ない人 https://qiita.com/kaizen_nagoya/items/2afe9e846b55b24
Python互換言語「Mojo」、Appleシリコンにネイティブ対応したMac版が公開。Pythonの9万倍、C言語に比肩する高速性 | テクノエッジ TechnoEdge
ITジャーナリスト／Publickeyブロガー。IT系の雑誌編集者、オンラインメディア発行人を経て独立。2009年にPublickeyを開始しました。 ModularはPythonの高速なスーパーセットと同社が位置づける開発中の新言語「Mojo」の、Appleシリコンにネイティブ対応したMac版をリリースしました。 Mojoは9月に初めてローカル環境でコンパイルなどを実行可能なLinux対応のツール群を公開しています。今回のAppleシリコンにネイティブ対応したMac版のリリースは、このLinux版のリリースに続いて登場しました。 ちなみに現時点でWindowsでのMojoの利用はWindows Subsystem for Linux（WSL）を用いてLinux版を使う方法が示されており、Windows版のリリース時期はまだ明らかにされていないようです。 MojoはPythonより高速にA
C++ Advent Calendar 2023 および Siv3D Advent Calendar 2023 18 日目の記事です。 本記事では、Visual Studio での C++ プログラミングの生産性向上に役立つ IDE の機能を、最近のバージョンで追加された無料機能を中心に紹介します。 1. コーディング用の合字フォント 日本語環境の Visual Studio のデフォルトのフォントは MS ゴシックなので、フォントにこだわりのない人は MS ゴシックを使い続けているかもしれません。英語環境では Visual Studio 2022 から Cascadia がデフォルトのフォントになっています。 Cascadia は、Microsoft が 2019 年にリリースしたコーディング用のオープンソースフォントで、合字（リガチャ）の有無に応じて Cascadia Code と C
はじめに C++ の std::set は素晴らしいライブラリです。自前でこれを実装しようとしてもなかなかここまで速いものは作れないでしょう。 std::set の代替手段として tatyam さんのライブラリが有名ですが、これは std::set がない Python のためのやつなので、Python ユーザー限定です。 Python に順序付き集合がないことはよく話題に上がることなのですが、C++ の順序付き集合である std::set も競プロをする上ではなかなか残念なので、C++ 用の順序付き集合ライブラリを公開すればみなさん嬉しいかもと思い、公開するに至りました。 競技プログラミングにおける活用 std::set にもつけ入る隙があります。 要素アクセスが線形時間 集約や遅延評価が載っていない 値の重複を許さない(これは std::map と併用するなどで解決できますが) これら
Retrofitting spatial safety to hundreds of millions of lines of C++
The latest news and insights from Google on security and safety on the Internet
GitHub - LadybirdBrowser/ladybird: Truly independent web browser
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
ラクラムシ「今回は C++ に関する内容ですね！」 謎の女性「どういった内容ですか？」 ラクラムシ「 C++ でコンパイル時にパスワードを要求する方法について説明していきます！」 謎の女性「よろしくお願いします！」 この記事では、C++ でコンパイル時にパスワードを要求する方法について説明します（ UNIX 系の環境に限ります）。 コンパイル時パスワード認証 みなさんは、プログラミングをするときにソースコードを公開していますか？ ソースコードを公開することで、ほかの人にバグを指摘してもらったり、新機能を提案してもらったりすることができます。 ソースコードを共有できるサイトはいろいろありますが、代表的なものに GitHub があります。 GitHub は無料で利用できるので、ソースコードを共有してみたいという人は使ってみましょう！ しかし、「コードを見られるのはいいけど、勝手にコンパイルされ
Helping Users Find Their Own Way: Creating Modern Search Experiences
Build Your Own Redis with C/C++ | Build Your Own Redis with C/C++
Introduction Build real-world software by coding from scratch. If you can build a Redis server, you can build almost any software beyond CRUD! Because it teaches you 3 fundamental skills: Network programming. The next level of programming is programming for multiple machines. Think HTTP servers, RPCs, databases, distributed systems. Data structures. Redis is the best example of applying data struc
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Llama.cpp の HTTPサーバー機能を試す｜npaka
Stop Saying C/C++ | Bryce Vandegrift's Website
C言語からRustへのトランスパイルを目指すC2Rustニュースをアップしました
プログラミング言語の人気ランキングで「C++」が急伸。来月にもPythonを抜いて1位の可能性？【やじうまWatch】
GCC undefined behaviors are getting wild
dart:ffiで既存のC++の資産をDart/Flutterから使用する方法
Mojo🔥：PythonとC言語のパフォーマンスを併せ持つ新しいAIプログラミング言語 - Qiita
PPL C++とJSを跨ぐ クロスコンポーネント ガベージコレクタ
「Visual Studio 2022」v17.5が公開 ～オールインワン検索や新しいAIコード提案を追加／「Visual Studio for Mac 17.5」も同時リリース
JITアセンブラXbyakを使ってみる（その１） - Qiita
プログラム解析入門、もしくはC/C++を安全に書くのが難しすぎる話
Windows 10で始めるC言語開発(1) Windows 10でC言語開発をしよう！LLVM/Clangで行く
C/C++言語のVisual Studio Code拡張機能がv1.0に到達、初の一般リリース／C/C++開発に便利なツールをひとまとめにした「C/C++ Extension Pack」も
Learn, improve and generate code with AI | Refraction
C言語を習得する３つの方法 - Qiita
プログラミング言語の人気ランキング、TypeScriptが上昇、C++は下落 RedMonk調べ
C言語教育はCコンパイラの写経で, OSEK(63) coding(140) - Qiita
C++ プログラミングの生産性を少し改善する Visual Studio の機能（2023）
自作 Set ライブラリ提供 : C++ の std::set が残念な件 - Qiita
C++ コンパイル時パスワード認証 〜コードを不正コンパイルから守ろう！〜 - Qiita
if constexpr文はテンプレート世界のラムダ式である
sunnyflowers.hatenablog.com
www.thecandidplanet.com
lunumaru.hatenablog.com
readwrite.com
www.tokyo-np.co.jp
www.imdb.com