YaLM 100B is a GPT-like neural network for generating and processing text. It can be used freely by developers and researchers from all over the world. The model leverages 100 billion parameters. It took 65 days to train the model on a cluster of 800 A100 graphics cards and 1.7 TB of online texts, books, and countless other sources in both English and Russian. Training details and best practices o

2022-03-14, 言語処理学会 第28回年次大会でのチュートリアル「最適輸送と自然言語処理」のスライドです。当日利用版から増補改訂しました。 講演動画 (YouTube)

2022-08-27 データ抽出に特化したAirbyteによるEL(T) 環境構築の実践 データ基盤 Airbyte ELT こんにちは。今回は、データ基盤の構築の一部を実際に体験してみたいと思います。 データ基盤を作成するにあたり、まずは、社内に眠る様々なデータを集めてくる必要があります。前回の記事では、その機能を「収集」と紹介していました。 データ基盤とは何か… データ基盤 データ分析基盤 実践 2022-08-18 Metaflowでモデルの学習をpipeline化するまで MLOps Metaflow Pipeline 皆さんは「MLOps」について取り組んでいらっしゃるでしょうか。私は2018年頃からデータクレンジングや機械学習モデルの構築や運用をしてきましたが、当時の日本で私の耳にはMLOpsという言葉が入ってくることはありませんでした。 ただMLOpsの元となった「Dev…

はじめに 初めまして。おとです。 ecbeingに入社して1年ちょっと、日々データサイエンスや機械学習について学びつつ業務に勤しんでおります。 機械学習について学び始めてから半年ほど経ちます。その中で、 ・Microsoftが提供するAzure Machine Learning ・AWSが提供するAmazon SageMaker 2つの機械学習サービスのチュートリアルを何度か行いました。 その中でも自動機械学習機能が機械学習初心者である私にとってとても便利だと感じたのでご紹介したいと思います。 はじめに 自動機械学習 Azure Machine Learning の自動機械学習 データの選択 ジョブの構成 タスクと設定の選択 検証とテスト 実験 モデルデプロイ エンドポイント Amazon SageMaker の自動機械学習 実験 モデル エンドポイント おわりに 自動機械学習 通常、機械

TensorFlow.jsの待望の入門書。TensorFlow.jsはGoogleが開発したオープンソースのJavaScriptライブラリです。JavaScriptで機械学習したければ選択肢はTensorFlow.jsだけと言っても過言ではありません。本書では、JavaScriptエンジニアやAIエキスパートを対象に、サンプルを使った実践的なアプローチでTensorFlow.jsの基礎から応用までを解説します。読者はウェブ開発者という立ち位置を変えずにJavaScriptとブラウザで学べます。JavaScriptでAIを活用しようと真剣に考えているエンジニアにお勧めです。 賞賛の声 序文 訳者まえがき まえがき 1章　AIは魔法 1.1　JavaScriptを用いたAIへの道 1.2　知能とは何か？ 1.3　AIの歴史 1.4　ニューラルネットワーク 1.5　今日のAI 1.6　なぜTen

今日(2022/06/21)の朝9時がKaggleのコンペ終了の時間。結果は即座に表示されるので、チームメンバーと見守る。結果はPublic LB(サンプルで抽出されたスコア)順位と変わらずの1975チーム中8位で金メダル。Kaggleコンペ初参加でチームに恵まれた幸運の結果であった。 チームの解法は英語では公開されていて、日本語でも別途公開されると思うので、ここでは解法ではなく主に初参加の感想を。40日ぐらい前に特許と自然言語処理処理コンペであるU.S. Patent Phrase to Phrase Matchingをやらない？とAota氏に誘ってもらい始める。Kaggleは初学者用の本を読んで練習用タイタニックコンペをやった程度の知識だったので、より具体的な進め方やチームで大切にする時の考え方を教えてもらう。 ツールとしては情報共有にNotion(主にboardでkanban)を使い

Amazon Web Services ブログ 機械学習モデルの開発環境を構築する方法について解説する動画を公開しました！ 「ML Max!」 ということで、今週も機械学習の価値を最大化するための解説動画、ML Enablement Series (※)の、 機械学習モデルの開発環境を構築する【ML-Light-02】【AWS Black Belt】 を公開しました。 ※ ML Enablement Series とは、機械学習プロダクトにかかわる全ての人向けの機械学習の知識をお届けする Light パートと、機械学習のマネージドサービスを活用して MLOps を推進したいエンジニア向けの Dark パート から構成されており、週１回を目安に Light と Dark を交互に配信中 今回は Light パートの 第 2 回目として、機械学習モデルを開発する環境の構築する方法と、プロダクシ

株式会社アイスマイリーは、各業界のAI導入推進の支援の一環として自然言語処理搭載サービスをまとめた「自然言語処理カオスマップ」を2022年6月21日に公開したと発表した。 このカオスマップは自然言語処理搭載AIを用途ジャンル別で探せるように「議事録作成」「文章校正」等のカテゴリーに分け、合計111サービスをマッピングしている。

株式会社ベネッセコーポレーション（本社：岡山県岡山市、代表取締役社長：小林 仁、以下「ベネッセ」）は2022年8月より、中国経済連合会が主催する「データサイエンス人材育成講座」で新設される「リスキリングコース」の提供を開始いたします。 「データサイエンス人材育成講座」は、中国経済連合会が中国地方の企業社員を対象にＤＸ人材を育成することを目的としています。ベネッセは、この講座の１つとして新たに設けられた『リスキリングコース』において、オンライン学習サービス「Udemy Business（ユーデミー・ビジネス）」を活用したプログラムを提供いたします。 ■提供の背景 DX人材の育成が全国的に求められている現在、企業ニーズに即した実践的なカリキュラムが少ないことが課題となっています。中国経済連合会は、この課題解決に向けて、昨年から「データサイエンス人材育成講座」において、実務で求められる知識や技術

「63％の企業がAIが持つ力の表層部分しか使っていない」　アクセンチュアが世界15カ国を調査：上位12％の企業は「AIを武器に競合他社を圧倒中」 アクセンチュアは、企業のAI導入と活用に関する調査レポート「『AI活用浸透』の極意：実践から成果へ」を発表した。それによるとAIを導入する企業の大多数が概念実証段階にとどまり、競争優位性につなげられている企業はわずか12％だという。 アクセンチュアは2022年6月23日、企業のAI（人工知能）導入と活用に関する調査レポート「『AI活用浸透』の極意：実践から成果へ」を発表した。それによるとAIを導入する企業の大多数が概念実証段階にとどまり、競争優位性につなげられている企業はわずか12％だという。 調査は16業界（航空宇宙・防衛、自動車、消費財・サービス、化学、エネルギー、金融サービス、ヘルスケア、産業機器、ライフサイエンス、天然資源、公共サービス、

アクセンチュアは、グローバル最新調査を実施し、AIを導入する企業の大多数が概念実証段階に留まり、AIを競争優位性につなげられている企業はわずか12％であると発表した。 同調査によると、市場における競争優位性の度合いを表すAI活用浸透度の中央値は36で、大半の企業はAIを活用して高い価値を生み出す余地が大きいことが明らかになったという。また、上位12％の企業はAI活用先進企業に分類され、AIをテコに競合他社を圧倒していることが分かった。AI活用先進企業のスコアは64と調査対象全体のほぼ2倍で、収益成長率も50％高い結果となったとしている。 また、63％の企業はAI実証企業に分類。AI活用浸透度は29で、AIが持つ潜在力の表層部分しか享受できていないことが分かった。AI戦略先行企業（全体の13％、AI活用浸透度50）とAI運用先行企業（全体の12％、AI活用浸透度44）は、AI実証企業に比べ取

Amazon Web Services（AWS）は開催中のイベント「Amazon re:MARS 2022」で、機械学習を用いてプログラミングを支援する「Amazon CodeWhisperer」のプレビュー公開を発表しました。 Transform plain ol’ text into lines of code. Amazon CodeWhisperer uses #MachineLearning to generate code recommendations based on developers’ natural language comments & prior code—reducing app build time. AbraCODEabra, it’s #ML magic. https://t.co/kVaKk5HnxB #AWS pic.twitter.com/oRTD

AI model株式会社（本社：東京都渋谷区、CEO：谷口 大季）は、2022年6月14日、「AI model モデル撮影サービス」（https://ai-model.jp/lp1/）を開始します。 アパレルのモデル撮影はコスト負担が大きい アパレル企業のささげ撮影やカタログ撮影などにおいて、モデル着用イメージは商品購入を左右する重要なポイントです。しかし、モデル撮影はコスト負担が大きく、多くの企業がささげ業務に悩みを抱えています。 【撮影クオリティが担保できない】 予算が限られるECのモデル撮影やカタログ撮影などは、 質の高いモデルを起用するとキャスティング費用が大きい。 【独自性が打ち出せない】 他社とモデル起用が被り、独自性が打ち出せない。 【掲載までのリードタイムが長い】 商品の手配から、実際のモデル撮影、ECサイト掲載までに時間がかかる。 AIで生成したファッションモデルが課題を

AI（人工知能）の発達が目覚ましく、一部では人の能力をしのぐほど進化している。そのうちの1つがAIに俳句を詠ませる俳句AIだ。俳句の場合は人の「心」をくみ取る必要のある芸術的な価値観が問われるが、すでにAIが創作した一部の俳句は人が詠んでいるように感じるものにまで進化している。この俳句AIの研究を通して、人とAIがどう共存していくべきかが見えてきた。俳句AIの研究を進める、北海道大学 大学院情報科学研究院 教授の川村 秀憲氏が俳句AIの研究記録を交えながら、AIとのあるべき関わり方について解説した。 俳句を詠む“AI一茶くん”が凄すぎる 川村氏が所属している北海道大学の調和系工学研究室では、社会と人との調和を前提としたAIの技術、およびその応用を研究しており、AI技術の社会実装を目指して産学共同による研究も行っている。2017年には、AIに俳句を詠ませるプロジェクト「AI一茶くん」をスター