本稿は「本当は書籍『評価指標入門』に書きたかったんだけど諸般の理由により書ききれなかった内容をgihyo.jpを借りて成仏させていく企画」の第一段「カリブレーション(Calibration、確率較正)」です。特に「機械学習のカリブレーションとビジネスの関係性を検討」してみたいというモチベーションで執筆します。 日本語では“確率較正”とも呼ばれるこの計算ですが、個人的にはカリブレーションという方が好きなので、ここではカリブレーションと統一して書きます。 早速ですが、まずカリブレーションとは「分類問題において、機械学習モデルの出力([0, 1]の値)をデータのクラス分布に近づける」ことです。例えば、二値分類問題において、モデルがあるデータ点に対して1を予測する確率が0.8である場合、そのデータ点が実際に1である割合も0.8になるように確率の数値を修正してしまう(これが較正)ということで
It's really strange to look back now over the past ten to fifteen years and see a very small pendulum that no one really cares about swing around. I've spent the last ten years trying to convince you that structured prediction is RL; now I'm going to tell you that was a lie :). Short Personal History Back in 2005, John Langford, Daniel Marcu and I had a workshop paper at NIPS on relating structure
Brax is a fast and fully differentiable physics engine used for research and development of robotics, human perception, materials science, reinforcement learning, and other simulation-heavy applications. Brax is written in JAX and is designed for use on acceleration hardware. It is both efficient for single-device simulation, and scalable to massively parallel simulation on multiple devices, witho
Large-scale data sets on scholarly publications are the basis for a variety of bibliometric analyses and natural language processing (NLP) applications. Especially data sets derived from publication's full-text have recently gained attention. While several such data sets already exist, we see key shortcomings in terms of their domain and time coverage, citation network completeness, and representa
【DL輪読会】Efficiently Modeling Long Sequences with Structured State Spaces This document summarizes a research paper on modeling long-range dependencies in sequence data using structured state space models and deep learning. The proposed S4 model (1) derives recurrent and convolutional representations of state space models, (2) improves long-term memory using HiPPO matrices, and (3) efficiently compu
こんにちは、全ての経済活動をデジタル化したいTomoakiです。 推しのコンビニスイーツはセブンイレブンの草もちです。 今回は読み取りの精度の先の体験を追求するバクラクのAI-OCR機能について紹介します。 TL;DR バクラクでは国税関係書類に対してOCRを実行し、書類の内容の入力作業の負担を減らしている お客様の業務をラクにするには、帳票に記載されている値をそのままサジェストするのでは不十分 バクラクのAI-OCR機能では、読み取った帳票に記載の値を活用しつつ、お客様の業務に寄り添った形に変換してサジェストすることで、なめらかなプロダクト体験を提供している バクラクのOCR 会社の営みにはファイルが溢れています。 取引先から届く請求書、会食で利用したレストランの領収書、業務委託メンバーに毎月渡す支払通知書など、会社規模によっては毎月何十万、何百万という枚数の書類が扱われています。そして
ChatGPT 4がリリースされてから、近い将来プログラマという職業はどうなってしまうのだろうと、と不安になったのですが、ようやく考え方が整理できたので書いてみたいと思います。 AIと過去のテクノロジーの違い今までもディスラプティブなテクノロジーは自分の人生で何回か登場しています。そもそもパーソナルコンピュータが衝撃的でしたし、自分が大学生の時に体験したインターネットもそうでした。スマートフォンもかなりのものでした。 しかし、私はそれのどれも「脅威」は感じたことがありませんでした。なぜかというと、やりたいなら、それを自分がそれをやればよいので、そんなには困りません。ところが、今回のAIの場合は、たとえAIを自分がやったとしても、そんなに遠くないうちに自分はいらなくなるでしょう。モデルをトレインする人は必要かもしれませんが、たぶんそんなに多くの人は必要ありません。 そうでなければ、AIをイン
こんにちは。エンジニアリンググループ プロダクト支援チームでプロダクトマネージャーをしている中村です。 突然ですが3月末というタイミングは、多くのプロダクトマネージャーの方が1年間の成果を振り返るタイミングかと思います。 私は昨年4月に育休から復帰してからというもの、育児と仕事に追われる日々を過ごしており、この1年間は光陰矢の如しでした。 振り返ってみると、目先のタスクに追われプロダクトマネージャーとして最も重要な未来を考えるということが十分に行えていなかったように思います。 そこで今回は、目先のタスクに忙殺されがちなプロダクトマネージャーが未来を考えるために工夫できること、というテーマでブログを書きます。 はじめに:小さな未来予測と大きな未来予測 常に目的に立ち戻る 2つの問い 【1】シュートを打っているか? 【2】自分が競合のプロダクトマネージャーだったら何をやるか? おわりに We
ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog こんにちは。ヤフーの音声認識エンジン「YJVOICE」の研究開発を担当している前角です。この記事ではヤフーにおける音声処理技術の研究開発の最新の取り組みの中から、自己教師あり学習を用いた音声言語モデルの改善手法について取り上げます。今回は音声向けの表現学習モデル「HuBERT」を用いたところ、学習データが不足する状況下でも、すべての評価指標において前回提案した手法を上回る性能を達成できました。 なお、今回の内容は前回紹介した「ラベルなしの音声データを用いて言語理解が可能に?音声言語モデルの性能改善手法のご紹介」の続きですので、そちらも合わせてご覧いただければと思います。 また、本研究は米国カーネギーメロン大学の渡部晋治准教授との共
At Meta, we have developed measurement processes for specific metrics about AI systems that can be used to make managing models more effective and efficient, and we’ve tested these processes across a diverse ecosystem of tools and systems. We believe these techniques can be applied broadly in other organizations managing AI ecosystems, so we are sharing them here. AI development ecosystems are inc
State-of-the-art and curated Computer Vision algorithms for AI. Kornia AI is on the mission to leverage and democratize the next generation of Computer Vision tools and Deep Learning libraries within the context of an Open Source community. >>> import kornia.geometry as K >>> registrator = K.ImageRegistrator('similarity') >>> model = registrator(img1, img2) >>> import torch.nn as nn >>> import kor
ANNOUNCING OPENFLAMINGO: AN OPEN-SOURCE FRAMEWORK FOR TRAINING VISION-LANGUAGE MODELS WITH IN-CONTEXT LEARNINGby: Anas Awadalla and Irena Gao, 28 Mar, 2023 Overview. We are thrilled to announce the release of OpenFlamingo, an open-source reproduction of DeepMind's Flamingo model. At its core, OpenFlamingo is a framework that enables training and evaluation of large multimodal models (LMMs). Check
The main goal of llama.cpp is to enable LLM inference with minimal setup and state-of-the-art performance on a wide variety of hardware - locally and in the cloud. Plain C/C++ implementation without any dependencies Apple silicon is a first-class citizen - optimized via ARM NEON, Accelerate and Metal frameworks AVX, AVX2 and AVX512 support for x86 architectures 1.5-bit, 2-bit, 3-bit, 4-bit, 5-bit,
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く