Not-For-All-Audiences This repository has been marked as containing sensitive content and may contain potentially harmful and sensitive information. View content

はじめに こんにちは、Google Cloud Partner Top Engineer 2024 を受賞いたしました、クラウドエース データソリューション部の松本です。 クラウドエース データソリューション部 について クラウドエースのITエンジニアリングを担う システム開発統括部 の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのが データソリューション部 です。 弊社では、新たに仲間に加わってくださる方を募集しています。もし、ご興味があれば エントリー をお待ちしております！ 今回は、BigQuery で Vertex AI の LLM を使用して SQL のみで RAG を構築する方法についてご紹介します。 この記事はこんな人にオススメ BigQuery の SQL のみで LLM を使った問合せシステムを構築したい BigQue

はじめに 皆さんの組織では、Feature Storeを使っているでしょうか。 AIや機械学習をしていると、MLOPsとセットでFeature Storeについて様々なメリットを謳う記事を見るのですが、データサイエンティストをしている知人に聞いても、実はあまり使っていない・導入を考えたけど止めたという人が多いように思います。（私の周りだけかもしれませんが） よく、Feature Storeのメリットとして「特徴量を共有できる」ということが挙げられるのですが、大企業でデータサイエンティストが多数いる環境であればまだしも、中小企業やベンチャー企業にとっては、データサイエンティストの数が限られている（または1人しかいない）ので、そこまでそのメリットが見えないことが、導入につながっていない要因かもしれません。 しかし、実際に試してみると、それ以上のメリットがあるのではと思えてきました。 そこで、改

手放し運転のCMが流れるなど、自動運転の未来がすぐそこまで来ていることが実感できるシーンが増えてきた。その一方で、米国ではテスラが自動運転システム関連で200万台リコールされる現実もある。そんな難しい課題に取り組むのが、2021年に設立されたスタートアップのチューリング（Turing）である。LLM（大規模言語モデル）を活用し、自動運転AIを搭載した完全自動運転EV（Electric Vehicle）の実現を目指すチューリング共同代表CTOの青木俊介氏に、なぜLLMを自動運転に活用しようと思ったのか、同社が目指す完全自動運転システムの概要、その開発に携わる面白さなどについて話を聞いた。 「完全自動運転」を夢見て、チューリングの設立に至るまで チューリングは2021年8月20日、青木氏と将棋AI「Ponanza」の開発者、山本一成氏が共同で立ち上げた自動運転EVスタートアップである。代表取締

LoRA (Low-Rank Adaptation) is a popular technique to finetune LLMs more efficiently. This Studio explains how LoRA works by coding it from scratch, which is an excellent exercise for looking under the hood of an algorithm.

導入 Twitter でこんな投稿を見かけました。 「Phi-2 ベースのモデルをいくつか使って Mixture of Experts (MoE) を作ったら単体よりも良い性能が達成できました」という話です。学習済み LLM をマージするテクに関しては最近時々話題に上がっているのを見かけますが、MoE には Gating 部分で追加のパラメータが必要なはずで、そこはどうやっているんだろうと気になりました。中身を見てみたところ、Few-shot で Gating のパラメータを決める手法が使われていて面白かったので、それについて書いてみます。 Sparse Mixture of Experts (Sparse MoE) の推論時の処理 Phixtral は名前やワードアートからも分かる通り、Mixtral の Sparse MoE を踏襲しているので、まずその推論時の処理について書きます。

オラクルはOracle Cloudで生成AIのマネージドサービスを提供すると発表しました。API経由で生成AIの機能を呼び出して利用することが可能です。 提供される生成AIのモデルはMetaの「Llama 2」と、オラクルが投資もしている生成AI関連のスタートアップCohereが提供する「Cohere」の2種類です。 利用者がデータを用いてモデルをカスタマイズすることもできます。 テキスト生成機能による新製品の宣伝文句の生成やマーケティングメールの生成、テキストから特定のデータの抽出や長文の要約、テキストの分類、チャットボットの作成など、生成AIのさまざまなユースケースに対応します。

プログラミングを行う事でさまざまな作業をコンピューターに任せることが可能ですが、プログラムの作成はなかなか面倒くさいものです。今回はそうした面倒な作業をAIに任せるべく、音声認識エンジンの「AmiVoice」とプログラムの自動作成・実行支援ツールの「Open Interpreter」を使用して「声で指示するだけで指示したとおりのプログラムが生成・実行される」というツールを作成してみました。 AI音声認識のAPI・SDKなら-AmiVoice Cloud Platform（アミボイス） https://acp.amivoice.com/ AmiVoice API 利用申し込み https://acp.amivoice.com/amivoice_api/regist/ open-interpreter/docs/README_JA.md at main · KillianLucas/open-

経営、経済の世界では、データ解析や情報分析は不可欠となっている。そうした社会のニーズに対応するため、東京理科大学経営学部では「経営を科学する」をキャッチフレーズに、理工系総合大学ならではの強みを生かした科学的アプローチによる経営教育を行っている。東京理科大学で経営学を学ぶメリットや、これからの社会に求められる人材について、経営学部ビジネスエコノミクス学科の下川哲矢教授に話を聞いた(写真は、グループ研究によるプレゼンの授業。中央が下川教授)。 ◆数理数量的なアプローチで「経営を科学する」 東京理科大学経営学部では、理学・工学の知識に基づく数量的アプローチを積極的に活用し、文理の枠を超えた経営教育を行っている。データや論理性、抽象化などを駆使した「科学的アプローチ」で、経営を取り巻くさまざまな課題を分析・解析し、「創造的に解決できるイノベーションリーダーの育成」を目指している。 理工系総合大学

Pythonのデータサイエンス用のツールを使いこなすための実用的な情報が詰め込まれたリファレンスの待望の改訂版です。IPythonとJupyter、NumPy、pandas、Matplotlib、scikit-learnを利用し、データの操作、可視化、行列計算、時系列解析、統計分析、機械学習、データモデルの構築、複雑な科学計算まで、幅広いトピックをカバー。それぞれのトピックについて、押さえておくべき基本、tips、便利なコマンドなどを紹介します。Pythonでデータ処理を行う人にとってはいつも手元に置いておきたい「使える」一冊です。 『Python Data Science Handbook, Second Edition』への称賛 訳者まえがき はじめに Ⅰ部　Jupyter：Pythonより優れたPython 1章　IPython、Jupyter入門 1.1　IPythonシェルの起動

ポイント Stable LM 2 1.6B は、英語、スペイン語、ドイツ語、イタリア語、フランス語、ポルトガル語、オランダ語の多言語データで学習された、最新の16億パラメータ小型言語モデルです。 このモデルのコンパクトなサイズとスピードは、ハードウェアの障壁を下げ、より多くの開発者が生成AIのエコシステムに参加できるようにします。 プリトレーニング済み、およびインストラクションチューニング済みのバージョンに加え、プリトレーニングの収束前の最後のチェックポイントをリリースします。開発者が微調整や実験を行いやすいように、最適化関数の状態も含んでいます。データの詳細については、次回のテクニカルレポートで紹介します。 Stable LM 2 1.6Bは、Stability AI メンバーシップ にご参加いただくと商用でご利用いただけます。またHugging Face でテストしていただけます。 新

記事のポイント 米国内では各州で新たなプライバシー保護法が施行されているが内容には差異があり、企業は複数の州法に対応する必要があるといった難しい課題を抱えている。 EUはAI規制法案に大筋合意し、AIの開発と利用に関する包括的な規則を定める方針だが。これが広告分野に与える影響も考えられる。一方、新法や法廷闘争がAIモデルのトレーニング用データの取り扱いなどに影響を与え、個人データの利用方法が変更される可能性もある。 プライバシー保護規則はほかの法律分野、たとえば競争政策、AIガバナンス、貿易政策、言論の自由、国家安全保障、市民の安全と交錯する可能性があり、2024年はその対立が高まる可能性がある。 2024年に入り、AIの規制に向けて政策立案者と企業の議論が続いているが、データプライバシー規制に関しても今後、大きな動きがありそうだ。 今年は、関連法の動向を追う人々にとって忙しい1年になるだ

「2027年のAIの浸透度」はどのくらい？　IDCがデータセンターのAIサーバの電力量を推計：ハイパースケールDCの2～3棟分の電力が必要？ IDC Japanは、国内データセンターのAIサーバ向け電力キャパシティーの推計値を発表した。2027年末のAIサーバ向け電力キャパシティーは、2024年末の約1.5倍の80MW超になるとしている。

EngineeringA developer’s second brain: Reducing complexity through partnership with AIAs we look to empower developers with AI tools, we inadvertently integrate AI deeper into the way developers work. How do developers feel about that? And what are the most impactful ways to introduce more AI into workflows? We recently conducted 25 in-depth interviews with developers to understand exactly that. A

GitHubの次世代プロジェクトに取り組む研究者とエンジニアのチームであるGitHub Nextは2024年1月17日（米国時間）、25人の開発者に対するインタビュー調査の結果をまとめたブログ記事「開発者の第2の脳：AIとの連携による複雑さの軽減」を公開した。 このインタビュー調査は、開発者のワークフローへのAI（人工知能）の統合が進み、開発者の働き方に大きな変化をもたらす中、「開発者はこうした動きをどのように感じているか」「開発者の仕事の質やアイデンティティーを高めるような形でAIをワークフローに統合するには、どうすればよいか」「AIを用いて開発者に価値を提供する次の機会は何か」を明らかにするために行われた。 GitHub Nextは、「理解できないものは測定できないため、こうした目的に向けて測定指標や統計を開発する前に、インタビュー調査で開発者の意識や考え方を定性的に把握しておくことは

アメリカ合衆国のニューハンプシャー州において、有権者にかけられた電話で「大統領予備選挙に投票しないようにジョー・バイデン大統領の声で呼びかける録音メッセージ」が流される事件が発生しました。このメッセージはAIによってバイデン大統領の声で生成されたフェイクと判明しており、ニューハンプシャー州司法省の選挙法部門が調査を行っています。 Voter Suppression Robocall Complaint to Election Law Unit | News Releases | NH Department of Justice https://www.doj.nh.gov/news/2024/20240122-voter-robocall.html Fake Joe Biden robocall tells New Hampshire Democrats not to vote Tuesd

ポケットペアの新作ゲーム『Palworld / パルワールド』は、早期アクセス開始からわずか3日で近年まれにみるヒットゲームになっただけでなく、大きな論争も巻き起こした。 一部のアーティストやゲーム開発者、そして一般ユーザーは、主に2つの点でこのゲームを非難している。1つ目は「パル」のデザインが『ポケットモンスター』のモンスターをつぎはぎしたものだという主張。2つ目は、開発元のポケットペアが生成AIを使用して同作を開発したという疑惑だ。 しかし、実際に生成AIが使われたことを示す証拠は今のところない。この疑惑が生じたのにはそれなりの理由があるものの、現時点ではゲームのデザインやアセットに生成AIが使われているという決定的な証拠はない。以下に、疑惑の根拠として指摘されていることを簡単に紹介する。 ・ポケットペアの溝部拓郎社長は2021年のツイートで、非常に初期的なAIツールでポケモンを生成す

ITジャーナリスト／Publickeyブロガー。IT系の雑誌編集者、オンラインメディア発行人を経て独立。2009年にPublickeyを開始しました。 Googleは1月17日付でリリースしたChrome 121のAndroid版で、QualcommとArmのGPUを搭載したデバイスではWebGPUがデフォルトで有効になったことを明らかにしました。 下記はGoogle ChromeエバンジェリストFrançois Beaufort氏のポストです。 WebGPUは、これまでWebブラウザ上でJavaScriptを用いた2次元や3次元の高速なグラフィックスの描画を行うWeb標準として使われてきたWebGLの後継となるWeb標準です。 WindowsのDirect 3D 12やmacOSのMetal、LinuxのVulkanのような、ローカルマシンに搭載されているGPUの能力を最大限に発揮できる