物理学者の逆襲!?Entropixはわずか3億6000万パラメータで1000億パラメータ級の回答を引き出す!Claude-3でも間違う問題を360Mが正しく解く｜shi3z
物理学者の逆襲!?Entropixはわずか3億6000万パラメータで1000億パラメータ級の回答を引き出す!Claude-3でも間違う問題を360Mが正しく解く 物理学者たちがノーベル物理学賞をホップフィールドとヒントンが受賞すると知った時、まあまあ微妙な気持ちになったことは想像に難くない。 我々コンピュータ科学者にとっては、ノーベル賞は全く無縁なものだった。むしろ「ノーベル賞をコンピュータ科学者が取ることは永久にない」と言い訳することさえできた。コンピュータ科学の世界にはチューリング賞という立派な賞があるし、ノーベル賞よりも賞金が高かった京都賞は、アラン・ケイやアイヴァン・サザーランド、ドナルド・クヌースなど、コンピュータ科学者たちが堂々と受賞している。その割には本来マイクロチップの最初の設計者である嶋正利などが京都賞にノミネートされていなかったり、サザーランドの弟子であるアラン・ケイの
開発者がAIコーディングアシスタントから得る恩恵はほとんどない？ - YAMDAS現更新履歴
www.cio.com 先月末にこの記事を見たときは、これは日本の技術系ニュースサイトでも取り上げられるだろうなと思ったのだが、観測範囲が狭いのかそういうのを見かけなかったので、一応紹介しておく。 コーディングアシスタントは、生成 AI のユースケースとして有望視されているが、期待される生産性の向上はほとんどないという話である。 多くの開発者が AI のコーディングアシスタントで生産性が向上すると言っているが、Uplevel 社の研究によると有意な利益は見られず、それどころか GitHub Copilot を使用するとバグが4割以上多く発生したとな。また pull request のサイクルタイムを測定しても、Copilot を使用する開発者に有意な改善は見られなかったとのこと。 じゃあ、AI のコーディングアシスタントに全然意味がないのかというと、開発者の燃え尽き症候群についての調査では
可愛すぎかよ! ハッカーの新しい相棒 コマンドラインからLLMを使えるgptme｜shi3z
こういうのが欲しかったんだよ。マジで。 コマンドラインからLLMを呼び出せるgptmeというツールがアツい これは、gptmeコマンドを追加するというもの。 環境変数としてOPENAI_API_KEYとかAnthropicのキーとかを設定しておくと勝手にAPIを呼び出してくれる。もちろん、クラウドに送信するとかけしからんという勢にはローカルLLMでも対応できる。 こいつはコマンドライン版ChatGPTのようなものなので、コマンドラインで動くのだが、その真価は例えばパイプで繋いだ時とかに発揮される。 $ du -d 1|gptme "一番容量を食ってるフォル ダは何Gバイト使ってんの?" Found OpenAI API key, using OpenAI provider [10:13:32] No model specified, using recommended model for
ＡＩに奪われる職はわずか５％、ＭＩＴの著名経済学者が現実チェック
「私は人工知能（ＡＩ）悲観論者ではない」と、ダロン・アセモグル氏はインタビュー開始早々に宣言した。ＡＩの可能性は認めているという。 マサチューセッツ工科大学（ＭＩＴ）の著名な経済学者、アセモグル教授は迫り来る経済・金融の危機を警告する悲観論者的な声を上げるのは、ＡＩへの熱狂やそれがあおる投資ブームと驚異的なハイテク株急騰が、とどまらないところを知らないからだ。 ＡＩがどれほど有望であろうと、その過剰な期待に応えられる可能性は非常に低いとアセモグル氏は語る。ＡＩに奪われる職、あるいは少なくともＡＩに大いに依存する職は向こう10年でわずか５％に過ぎないというのが、同氏の計算だ。労働者には確かに朗報だが、生産性の急上昇を見込んでＡＩに巨額を投じている企業にはとても悪いニュースだ。 「多額の資金が無駄になるだろう」とアセモグル氏は話す。「５％では経済の革命は起きない」と述べた。
生成AIを活用したシステム開発の現状と展望 - 生成AI時代を見据えたシステム開発に向けて - ｜日本総研
現在、大規模言語モデル(LLM)に代表される生成AIがシステム開発の領域において注目を浴びており、システム開発プロセス全体の効率化から、特定の業務における自動化まで、その応用範囲は広がり続けている。本レポートでは、生成AIを用いたシステム開発についての現状を整理し、生成AIによって今後のシステム開発がどのように変化していくか考察したものである。 第1章では、生成AIがシステム開発において具体的にどのような場面(ユースケース)で活用できるかを述べ、ユースケースに対応した具体的な生成AIサービスとして、汎用的な生成AI(OpenAI社のChatGPTやGoogle社のGeminiなど)やエンジニアアシスタント型の生成AI(GitHub Copilot, Cursorなど)を紹介している。 第2章では、ITベンダやSIerでの事例を中心に、各企業におけるシステム開発領域での生成AI活用の動向につ
wordfreq/SUNSET.md at master · rspeer/wordfreq
This documentation page has gotten a lot of attention recently! I think most of the people who find it understand where I'm coming from. I'd like to highlight a couple of things, now that people are linking to this page from all sorts of contexts. I still work on open-source libraries. Here's ftfy, the popular multi-purpose Unicode fixer. You could see this freezing of wordfreq data as a good thin
自然言語ライブラリ「wordfreq」がAIで汚染され更新不可能になったと作者が報告
さまざまなデータベースをもとに、自然言語の使用頻度を調べるためのPythonライブラリが「wordfreq」です。そんなwordfreqが、「AIで汚染され更新不可能となってしまった」と開発者のRobyn Speer氏が報告しています。 wordfreq/SUNSET.md at master · rspeer/wordfreq · GitHub https://github.com/rspeer/wordfreq/blob/master/SUNSET.md wordfreqがデータベースとして利用しているのは、2021年までにオンライン上で公開されていた自然言語のスナップショットです。しかし、「2021年以降、人間の使用言語に関する信頼できる情報を持っている人がいなくなった」ことを理由にwordfreqを更新することができなくなったとSpeer氏が報告しました。 記事作成時点で、インター
AI models collapse when trained on recursively generated data - Nature
The development of LLMs is very involved and requires large quantities of training data. Yet, although current LLMs2,4,5,6, including GPT-3, were trained on predominantly human-generated text, this may change. If the training data of most future models are also scraped from the web, then they will inevitably train on data produced by their predecessors. In this paper, we investigate what happens w
Preparing for AI
Join the O'Reilly online learning platform. Get a free trial today and find answers on the fly, or master something new and useful. Learn more How can you partner with AI to deliver better results than either you or AI could on your own? AI isn’t magic. It isn’t some superhuman intelligence, despite the pronouncements of a few billionaires who have a vested interest in convincing you to give up an
生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明 モデル改良や回避システムでも不可避とする論文（生成AIクローズアップ） | テクノエッジ TechnoEdge
2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をピックアップして解説する連載「生成AIウィークリー」から、特に興味深い技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、大規模言語モデル（LLM）は自身が出力する「幻覚」（ハルシネーション）からは避けられない現象を指摘した論文「LLMs Will Always Hallucinate, and We Need to Live With This」に注目します。幻覚とは、事実と異なる出力をLLMが実行してしまう現象を指します。 この研究では、LLMの幻覚が単なる偶発的なエラーではなく、これらのシステムに内在する避けられない特性であると主張しています。研究者らは、幻覚がLLMの根本的な数学的・論理的
ChatGPT (o1-preview) にテストを渡してコードを実装させるとどうなるか試した
はじめに 前にも別のモデルでやってる ただ o1-preview は、やり取りを重ねるよりも一発で終わらせるほうがいいらしいので、最終的なテスト全体を渡すようにした。 情報の提示方法が異なると当然結果も変わるので、 gpt-4o でも同様なことを試した。 材料 プロンプトは以下。 基本的に最初にやったときと同じ。ペアプロではないのでその部分の調整をしている - 私がテストコードを提示するのでそのテストケースをパスする最小限の実装をしてください - Vue.js のバージョン 3 と Typescript で実装を行ってください - コードのみを示してくださいコードの解説などは必要ありません - スタイリングは必要ありません - テストケースに失敗したらその内容をチャットで送信するので最小限のコードの修正をしてください - テストのコードには vitest を利用しています jest と互換
生成AIと35年間培ってみたものの夕暮れ｜山本一郎（やまもといちろう）
16歳からパソコン通信的なものに（利用者として）携わり、ずっとキーボードで文字を書いてきて51歳になり、ちょうど満35年になります。 いかれたパソコン少年から4児を抱える小太りのおっさんに変貌する間も、ずっと趣味や仕事で何かモノを書いてきたんですが… 振り返ると、雑文も時事記事も証券レポートもコンサル向けペーパーも論文もソシャゲシナリオも企画書も全部合わせると何百万字出力してきたのでしょう。 んでまあ、関係先が大量の札束をバックに生成AIを含めた人工知能界隈のサービスに乗り出したり、お世話になっている国内ICTサービス大手が世界的ビッグテックと業務提携していたり、投資先が台湾企業に買われてまた上場準備していたりいろいろあるわけですけど、どうしても「生データが欲しい」のでお前のいままで書いてきた原稿のデータを売ってくれという依頼まで来るようになるのです。 裏を返すと、いままでワイがネットで公
失われゆくCOBOLの専門知識とレガシーシステムの近代化を支援するLLM「XMainframe」 | Ledge.ai
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
Macで完全ローカルで1万6千字の記事の作成から日本語訳まで行う｜shi3z
今、故あってTGVに乗っている。 TGVは、フランス版新幹線のようなものだが、日本の新幹線に比べると通信のつながりがそんなに良くない。したがって、AIに自由にアクセスするのも一苦労である。こんな時、ローカルで全て完結するLLMがあると非常に便利だ。 ちなみにコーディング支援にはmlx-community--codegemma-7b-it-8bitを使った。原稿生成と日本語訳にはshi3z/mlx-LongWriter-llama3.1-8b-8bitを使用。MacBook Pro M2 32GBを使用。ただし原理的にはM1でも動くと思われる MacBook M1以降のApple Siliconで使えるMLXというニューラルネット高速化ツールを使い、Macで完全ローカルでありながら1万6千字の記事を自動生成することに成功した。簡単にいえば、MacBookさえあればChatGPTなどへのAPI
顧客の要望から要件定義、システム生成まで自動化する「Babel」 OSSの「Zoltraak」がコア
AIと量子コンピューティングの研究開発を行なうKandaQuantumは、2024年8月31日、顧客の要望内容を元に自動的に要件定義を生成し、さらに自律的にシステムを構築する要件定義システム生成AI「Babel（バベル）」をリリースした。 Babelは一行の要望から要望一覧、要件定義まで一気通貫で記載する。「要件定義プログラミング」により、自然言語からコードへの直接変換を実現。顧客の要望やビジョンを入力するだけで、Babelが詳細な要件定義のYAMLファイルを自動生成する。その上で生成された要件定義に基づき、Babelが独自にシステムを設計、開発。技術的な詳細を指定することなく、望む機能やふるまいを記述するだけでシステムが構築される。
AIベンダーを活用しきれずPoCに失敗していないか？
AIベンダーを活用しきれずPoCに失敗していないか？ 2024.08.27 Updated by WirelessWire News編集部 on August 27, 2024, 11:00 am JST AIを使うことによってかつてよりも容易に行われるようになったPoC（Proof of Concept：概念実証）だが、残念ながら失敗に終わってしまうこともある。しかし実は、失敗に終わるケースにはパターンがあり、事前に知っておけばある程度の回避が可能だ。ここでは委託する側が陥りがちな失敗のパターンを紹介しよう。 その1：AIベンダー側に開発力が不足している AI開発を専門としない人々には全てのAIベンダーが高度な技術力を持つように見えるかもしれないが、実際はそうではない。AI開発には、深いドメイン知識に加えて、高度な開発スキルが必須である。開発力が不足している、または経験が浅いAIベンダー
「オープンソースAI」問題ついに決着、OSIが定義を発表
これまで明確な定義がなかった「オープンソースAI」の定義をオープンソース・イニシアティブ（OSI）が発表した。テック企業が「オープンソース」という言葉を都合よく使っているとの批判への回答となるか。 by James O'Donnell2024.08.26 10 この記事の3つのポイント オープンソースAIの定義がOSIにより発表された 定義はAIモデルの使用、検査、修正、共有の自由を規定している 訓練データの透明性については意見の相違があり折衷案となった summarized by Claude 3 オープンソースAIは現在、至る所に存在する。問題は、実際のところそれが何なのかということについて、意見が一致していないことだ。今、私たちはようやくその答えを得られたかもしれない。オープンソースであることの意味の裁定者を自任するオープンソース・イニシアティブ（OSI）が、新しい定義を発表したのだ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - ErikBjare/gptme: Your agent in your terminal, equipped with local tools: writes code, uses the terminal, browses the web, vision.
Javaプログラミングに最適化したコーディング支援AI「Oracle Code Assist」、オラクルがベータ版として公開。Oracle CloudWorld 2024
The AI Blues