Appleは大規模言語モデルをiPhone上でローカルに動作させることを目指している
Appleの研究者が「LLM in a flash: Efficient Large Language Model Inference with Limited Memory」と題した論文をプレプリントサーバーのarXivに公開しました。この論文では「メモリが限られたデバイス上で大規模言語モデル(LLM)の推論を効果的に行う道を開く解決策」、すなわちiPhoneなどのデバイス上でLLMを動作させるための技術が示されており、Appleは将来的にiPhone上でLLMを動作させることを目指していると考えられます。 [2312.11514] LLM in a flash: Efficient Large Language Model Inference with Limited Memory https://arxiv.org/abs/2312.11514 Paper page - LLM in
え？ PHPファイルを登録できるのはまずいでしょ…… Webアプリの「アップロード機能」に潜む“あるある”ワナ
え？ PHPファイルを登録できるのはまずいでしょ…… Webアプリの「アップロード機能」に潜む“あるある”ワナ：“典型的やられサイト”で学ぶセキュリティのワナ（1/3 ページ） ネット上で商売するのが当たり前な時代。自社でWebサイトやWebアプリを抱える企業も相当な数になっている。そこでインシデントが発生すれば信用、ブランド、収益……失うものは計り知れない。 本連載では情報セキュリティの専門家・徳丸浩さんが制作した脆弱性診断実習用のWebアプリ「BadTodo」を題材に、ストーリー形式でWebアプリ制作に潜む“ワナ”について学んでいく。 登場人物は全て架空の存在だが、ワナは全て現実にあり得るもの。せりふは徳丸さんの監修の下制作した。 カクーノ株式会社：Webアプリ開発を手掛ける企業。本記事に登場する企業・団体及び人物は全て架空の存在である。 荒井考人（あらいこうと）：入社したばかりの新人
東京２３区の粗大ごみ処理 “緊急事態 極力廃棄しないで”｜NHK 首都圏のニュース
東京２３区の粗大ごみを処理する江東区の施設で先月、リチウムイオン電池が原因と見られる火事が起きて稼働が停止し、緊急事態となっているとして、ごみ処理を行う組合は年末の大掃除では、粗大ごみを極力廃棄しないよう呼びかけています。 東京２３区のごみ処理を行う組合によりますと先月、江東区にある粗大ごみを破砕処理する施設のごみを運ぶコンベヤーで火事があり、ごみと鉄を選別する機器などが焼けたということです。 処理したごみのなかからは複数のリチウムイオン電池が見つかり、組合は電池が発火したことで火事が起きたとみています。 この影響で、施設の稼働は停止していて、粗大ごみについては同じ敷地内にあるガラスや小型家電などの不燃ごみの処理施設で対応していますが、同じようなトラブルが起きて、稼働できなくなった場合は、いずれのごみも受け入れができなくなるということです。 このため、組合は緊急事態だとして年末の大掃除では
Microsoft、Igniteで発表の小規模言語モデル「Phi-2」をAzureでリリース
米Microsoftは12月11日（現地時間）、11月開催の「Ignite 2023」で発表したSLM（小規模言語モデル）「Phi-2」をリリースしたと発表した。AIサービスの開発プラットフォーム「Azure AI Studio」のモデルカタログで利用できる。 SLMは、米OpenAIのGPTのような、汎用性はあってもトレーニングに膨大なリソースがかかるLLMとは異なる小規模な言語モデル。 Microsoftはまず6月、コーディング用に最適化された13億パラメータの「Phi-1」を発表。このモデルはベンチマークで、最大10倍のモデルを上回っていた。 Phi-2は27億パラメータで、常識、言語理解、論理的推論で性能を発揮するという。ベンチマークでは、米MetaのLlama 2の700億パラメータモデルを幾つかの分野で上回っている。 また、米Googleが7日に発表した生成AIモデル「Gemi
Pixel 8 Pro、生成AI「Gemini」が使える初のスマホに アップデートの配信スタート
米Googleは12月7日、同社のスマートフォン「Pixel」に最新機能を付与する「Feature Drop」において、発表したばかりの生成AI「Gemini」を「Pixel 8 Pro」に実装すると発表した。同日より、日本を含むグローバルでアップデートの配信を開始しているが、現時点の対応言語は英語のみとなる。 Geminiは、データセンターからモバイルデバイスまで広く動作できるよう、サイズが異なる3つのモデル（Ultra／Pro／Nano）を用意。Pixel 8 Proには、スマートデバイスでの利用を想定した最小モデルの「Nano」が搭載され、独自チップ「Google Tensor G3」上で動作する。ChatGPTアプリなどと異なり、スマートフォン単体で動作するため、ネットワークの接続なしに利用できる。 Gemini Nanoは、文字起こしに対応したボイスレコーダーアプリや仮想キーボー
LLM in a flash: Efficient Large Language Model Inference with Limited Memory
Large language models (LLMs) are central to modern natural language processing, delivering exceptional performance in various tasks. However, their substantial computational and memory requirements present challenges, especially for devices with limited DRAM capacity. This paper tackles the challenge of efficiently running LLMs that exceed the available DRAM capacity by storing the model parameter
Apple、iPhone上でのLLM実行を可能にする手法の論文を発表
米Appleは12月12日（現地時間）、iPhoneのようなメモリ容量の限られた端末上でLLM（大規模言語モデル）を実行するための技術に関する論文「LLM in a flash:Efficient Large Language Model Inference with Limited Memory」を公開した（リンク先はPDF）。 タイトルを直訳すると「一瞬でLLM：限られたメモリでの効率的な大規模言語モデル推論」となるが、「LLM in the flash」はフラッシュメモリに収まるLLMという意味も含まれている。 Appleはメモリ容量が限られた端末上でLLMを実行するアプローチとして、この制約に合わせた推論コストモデルを開発することで革新的な手法を編み出したという。 この手法を用いると利用可能なDRAMの最大2倍のサイズのLLMを実行でき、CPUでは従来の方法と比較して4～5倍、GP
一休レストランの XState 導入記 - 一休.com Developers Blog
このエントリーは 一休.comのカレンダー | Advent Calendar 2023 - Qiita の22日目の記事です。 レストランプロダクトUI開発チームの鍛治です。 一休レストランのフロントエンドを担当しています。 一休レストランでは Next.js App Router Remix を採用しています。 user-first.ikyu.co.jp 昨年の終わり頃から始まった一休レストランのリニューアルですが、フロントエンドは Nuxt v2 (Vue 2) から Next.js App Router (React) に、という大きな切り替えで、不慣れだった我々は React 初心者がひっかかる落とし穴を全部踏み抜いてきました。 例えば、チュートリアルに従って useState で変化する状態を定義して、最初はそれで全てがうまくいっていました。機能追加していく過程でいつの間にか一
Introducing the new Wasmer JS SDK · Blog · Wasmer
Back to articlesIntroducing the new Wasmer JS SDKToday we are incredibly excited to present `@wasmer/sdk`, a new library that allows running WASI(X) applications easily on the browser Dive into a world where running any WASI and WASIX package in your browser is a breeze. Whether it's Python, Bash, FFmpeg, or any package published in the registry, Wasmer Javascript SDK makes it all seamlessly possi
ルーズソックス再流行!?
先日、東京の某テレビ局から「ルーズソックスの再流行に関する番組を作るので監修をお願いしたい」という依頼が来た。なぜこういう変な依頼が来るのかといえば、私が女子高制服のデザインと着こなしを40年ほど観測していて、これまでに制服関連の単行本を10数冊出しているからだろう。変なことは変なやつに聞け、というわけだ。 テレビ局が今こういう企画を立てる理由もわかる。少し前にネットニュースで「現代の女子高生にルーズソックス人気が再燃」という記事が出た。ツイッターで話題になり、ワイドショーなどでも取り上げられた。ルーズソックス全盛期の90年代に女子高生だった母親世代の流行を現代の女子高生が再発見した結果、「平成ギャルのシンボル」ルーズソックスが令和に復活…というストーリーだ。テレビ局から送られてきた番組の企画書も、そんな筋立てになっていた。 実際、ルーズソックスは間違いなく90年代制服ファッションのシンボ
内山英俊さん「テクノベート・シンキングで1つ上の競争領域へ」 | GLOBIS学び放題×知見録
グロービス経営大学院の「テクノベートMBA」特別講座のうち、この10月期に開講した「テクノベート・シンキング」の講師、内山英俊氏にクラスの意義と意気込みを聞いた。 ◇ ◇ ◇ 20世紀は、人間が頭で考え、人間が手作業で処理することを前提とした思考プロセスの時代だった。それを極めた方法論が「クリティカル・シンキング」であり、ビジネスパーソンにとって最も基本的な思考スキルとして習得することが求められてきた。 21世紀の今は、クリティカル・シンキングをベースにしつつ、より上位の「テクノベート・シンキング」を学ぶ必要がある。 例えば、クリシンではMECE（Mutually Exclusive and Collectively Exhaustive、重複なく漏れなく）を真っ先に習うが、人間なら1秒に1個か2個ぐらいしか思いつかないものが、コンピュータなら1秒間に数億個の項目を列挙でき
経営者インタビュー： 内山英俊社長 unerry｜経営ノート
本コーナーで掲載する経営者インタビューは、Podcast「社長に聞く！in WizBiz」で配信中の経営者インタビューを編集しています。今回、ご紹介する経営者は、内山英俊氏（株式会社unerry 代表取締役CEO）です。（2022年9月28日 2022年10月 5日 配信） 今回は、株式会社unerryの内山英俊社長にお越し頂きました。 リアル行動データプラットフォーム「Beacon Bank」を運営する、東証グロース市場上場企業の社長様です。ミシガン大学大学院でコンピューターサイエンスを学ばれ、インターネット黎明期の裏舞台を目の当たりにされてきた内山氏。そんな彼の考える「事業戦略を練る上で一番重要なこと」とは？経営のヒントが得られますので、ぜひ、インタビューをお読みください。 新谷哲：今回の経営者インタビューは、株式会社unerryの内山英俊社長です。まずは経歴のご紹介です。ミシガン大学
ショッパーみえーる | 株式会社unerry
『ショッパーみえーる』とは？ 来店計測に基づいた実商圏、競合店舗とのシェア比較、来店客の属性や細かな行動嗜好等を見える化。 客観的データに基づき、売上アップのインサイトや、店舗課題の発見に直結するダッシュボードサービスです。 自店舗だけなく、競合店舗の来店傾向も把握でき、具体的な施策立案・効果計測が可能です。
お買物混雑マップ Powered by Beacon Bank
日用品お買物時に、スーパーやドラッグストア等のお店近辺の曜日・時間帯別混雑傾向が調べられます。「密」を避ける行動のための参考情報としてご利用ください。
株式会社unerry - 心地よい未来を、データとつくる。 -
実社会をデータ化し 新たな社会の「うねり」をつくる。 実社会のデータを解析し、 リアルとデジタルが融合した 「環境知能」を未来に実装する。 私たちは、未来のメガネで社会を見つめ、 より多様な選択肢や出会いにあふれる 時代の“うねり”をつくりだします。
Beacon Bank（ビーコンバンク）
約120のスマートフォンアプリに位置情報技術（GPS、ビーコン）を提供しており、これらのアプリユーザー約1.1億ID、月間300億件超（2022年5月末時点）の人流データが蓄積されています。 屋外はGPSで網羅的に、屋内・地下などはビーコンで人流を捉えています。 店舗や交通機関、自動販売機やサイネージなど、様々な場所のビーコンが既に210万個以上登録され、約120のスマートフォンアプリ（＝ 連携アプリ）と反応する大規模なビーコンネットワークが形成されています。 お持ちのビーコンを登録すると連携アプリと反応し、「せっかくビーコンを設置したのにアプリユーザーが少なくデータ活用できない」という課題が解決されます。
unerry、WEBサイト閲覧者の来店コンバージョンを分析するダッシュボード「Beacon Bank 来店計測 for WEB」を提供開始
unerry、WEBサイト閲覧者の来店コンバージョンを分析するダッシュボード「Beacon Bank 来店計測 for WEB」を提供開始～どのWEBコンテンツを見た人が来訪したか？どの流入経路でアクセスした人が来訪したか？ を明らかにし、広告戦略・コンテンツマーケティングの最適化を支援〜 リアル行動データプラットフォーム「Beacon Bank」を運営する株式会社unerry（本社：東京都港区、代表取締役社長CEO： 内山 英俊、以下unerry）は、WEBサイトを閲覧したユーザーの実店舗・施設への来訪を定量的に分析できるダッシュボード「Beacon Bank 来店計測 for WEB」を提供開始いたしました。本サービスの提供を通じ、実店舗や施設で消費者との接点をもつリテール・アミューズメント業界や消費財メーカー・ブランド企業など、広告戦略やコンテンツマーケティングに力をいれる事業者様を
unerry---「Beacon Bank 来店計測 for WEB」を提供開始 | 個別株 - 株探ニュース
当サイト「株探（かぶたん）」で提供する情報は投資勧誘または投資に関する助言をすることを目的としておりません。投資の決定は、ご自身の判断でなされますようお願いいたします。 当サイトにおけるデータは、東京証券取引所、大阪取引所、名古屋証券取引所、JPX総研、ジャパンネクスト証券、China Investment Information Services、CME Group Inc. 等からの情報の提供を受けております。日経平均株価の著作権は日本経済新聞社に帰属します。株探に掲載される株価チャートは、その銘柄の過去の株価推移を確認する用途で掲載しているものであり、その銘柄の将来の価値の動向を示唆あるいは保証するものではなく、また、売買を推奨するものではありません。決算を扱う記事における「サプライズ決算」とは、決算情報として注目に値するかという観点から、発表された決算のサプライズ度（当該会社の本決
CollectionsというOSSのヘッドレスCMSが良さそうだったのでAstro 4.0からの接続を試す - Qiita
これも素晴らしく簡単に起動しますね。 Collectionsと接続 AstroにはヘッドレスCMSと接続する方法がいくつも用意されています。 しかし残念ながら この中に Collections はまだ載っていないため、独自に作っていきたいと思います。（そのうちサポートされれば嬉しいですね） 上のGuidesをいくつか見てみたところ、Prepr（どなたか存じないですが）への繋ぎ方が真似できそうなので参考にしていきます。 export async function Collections(modelId: string): Promise<Response> { const endpoint: string = import.meta.env.COLLECTIONS_ENDPOINT as string; const token: string = import.meta.env.COLLEC
トキポナとは [単語記事] - ニコニコ大百科
トキポナ単語 トキポナ 4 0pt ほめる 掲示板へ 記事編集 概要発音文法単語関連動画関連リンク関連項目掲示板トキポナとは、人工言語の一つである。 概要 トキポナは、ソニャ・エレン・キサによって開発され、2001 年にネット上で公開された、カナダ発祥の人工言語である。 特徴としては、非常にシンプルであることが挙げられる。音素は 5 母音、9 子音の計 14 種類で構成され (後述)、単語数はなんと 120 語しか存在しない。 発音 トキポナには、a、i、u、e、o の 5 つの母音と、k、s、t、n、p、m、j、l、w の 9 つの子音がある。 日本語のように開音節言語であり、音節は n 以外すべて母音で終わる。また、これも日本語と同様、st などのような二重子音がない。 文法 文法は、英語などと同様、SVO (主語-動詞-目的語) の語順をとる。 トキポナには日本語でいうところの助詞の
![トキポナとは [単語記事] - ニコニコ大百科](https://cdn-ak-scissors.b.st-hatena.com/image/square/5bd1fac8d544d19340796767c18bdf23d7d3493d/height=288;version=1;width=512/https%3A%2F%2Fdic.nicovideo.jp%2Fimg%2Fog_b.jpg)
人工言語『トキポナ』にはまったので基本的な文法を解説する
toki! mi jan Ilapaja. mi jan Ilapaja li pana sona pi toki pona e sina. トキポナって？ソニャ・ラング氏が作った人工言語。その特徴はとにかくシンプルであること。 まず単語が 120 個くらいしかない。(※拡張パック的に追加された単語を除けば。) そして、文法もとても簡単。 何より日本語話者に嬉しいのが、発音がほとんど日本語で、むしろ日本語よりも音素の種類が少ないということ。 学習時間 30 時間程度で流暢に話せるようになるらしいが、たしかに自分も一夜漬けした程度で、トキポナで書かれた文章が概ね読めるようになった。 …ということで、この記事では現時点で学んだ(おそらくトキポナを理解するのに最低限の)知識を自分のメモとしてまとめておきたい。 発音発音は、 5 つの母音aeiou9 つの子音ptksmnlwjの組み合わせから成る
トキポナ
概要[] トキポナとは『良い言語』を意味し、ミニマリズムに基づいて、最小の複雑さで最大の意味が表現できることを目標に設計されている。 14の音素と120語のみの単語が定義されおり、採用されている単語は、あまり文化に依存せず比較的普遍で単純な概念や要素に絞り込まれている。また、語形は他の言語から借用され、トキポナの音韻に合うように変形され採用されている。借用元の言語は、トク・ピシン、フィンランド語、クロアチア語、エスペラント語等である。 限られた語彙しか持たないため、トキポナでは複雑な概念をより基本的な概念に分解して表現する。例えば、「教える」は「知っていることを与える」のように表現する。 表記文字は基本的にアルファベットを使用するが、その他にも、既存の文字や専用の表意文字による表記方法が提案されている。加えて、トキポナの単語に対応した手話が提案されている。 人工言語としては比較的盛んに使用
トキポナ - Wikipedia
この記事は検証可能な参考文献や出典が全く示されていないか、不十分です。出典を追加して記事の信頼性向上にご協力ください。（このテンプレートの使い方） 出典検索?: "トキポナ" – ニュース · 書籍 · スカラー · CiNii · J-STAGE · NDL · dlib.jp · ジャパンサーチ · TWL（2014年8月）
クラウドネイティブなPLATEAU - Qiita
はじめに 早いものでもう今年も終わりに近づきましたね。皆様大変お世話になりました。 今年の数あるGeospatialな話題の中でも群を抜いて光っているのは、クラウドネイティブの動きとDuckDBではないかと、空間クエリ好きな私は個人的に思っております。クラウドネイティブなフォーマットに関するガイドは、Cloud-Optimized Geospatial Formats Guideにお願いするとして、ここでは、私の働いているPSS社内プロジェクトとして、Plateauの建物CityGMLをGeoParquetとGeoPackageにして配布しようとしている中身をお伝えします。 やりたいことは、Plateauのデータを空間解析や表示に気軽に使えるようにしたいということです。下の方には、クリスマスプレゼントもありますのでお楽しみに！ GeoParquetについて GeoParquetは、ベクタデ
Generative Multimodal Models are In-Context Learners
1Beijing Academy of Artificial Intelligence 2Tsinghua University 3Peking University The human ability to easily solve multimodal tasks in context (i.e., with only a few demonstrations or simple instructions), is what current multimodal systems have largely struggled to imitate. In this work, we demonstrate that the task-agnostic in-context learning capabilities of large multimodal models can be si
開発速度を高めるためのPdMの工夫と気概 - Kyash Product Blog
この記事は Kyash Advent Calendar 2023 21日目の記事です。 Kyashでプロダクトマネージャーをやっている Ueda です。 プロダクト開発に勤しむ皆様も、きっと今ごろ年内最後のリリースに向けて奮闘中でしょうか。 私もなんだか忙しいなあと思う日々が続いており、「なんでこんなに忙しく感じるのだろうか？これが師走か？」とふと振り返った時に自分がプロダクト開発において無意識に意識していることが影響していそうだというのに気づきました。 今回はその「自分がプロダクト開発において意識していること」、具体的には「開発速度を高めるために意識していること」について書いてみようと思います。 *テクニカルな内容を書くつもりはなく、とても当たり前な内容を、未来の自分に釘を打つ意味でも書いています 「開発速度をあげたい」という声 「開発速度をあげたい」という願望を持った方、またはそういう
StreamDiffusion: A Pipeline-level Solution for Real-time Interactive Generation
We introduce StreamDiffusion, a real-time diffusion pipeline designed for interactive image generation. Existing diffusion models are adept at creating images from text or image prompts, yet they often fall short in real-time interaction. This limitation becomes particularly evident in scenarios involving continuous input, such as Metaverse, live video streaming, and broadcasting, where high throu
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OpenAI Platform
https://arxiv.org/pdf/2312.11514.pdf
https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pdf
https://www.un.org/en/ai-advisory-body
リアル行動データ 可視化・分析 | 株式会社unerry
カスタマイズ混雑マップ | 株式会社unerry
Beacon Bank AD | 株式会社unerry
(t,i,x,y) => "creative code golfing"
GitHub - baaivision/Emu: Emu Series: Generative Multimodal Models from BAAI
OpenLRM - a Hugging Face Space by zxhezexin
GitHub - cumulo-autumn/StreamDiffusion: StreamDiffusion: A Pipeline-Level Solution for Real-Time Interactive Generation