用語「LogLoss」について説明。分類タスク（問題）に対する評価指標の一つで、「機械学習モデルによる予測が正解にどれくらい近いか」、つまり予測の確実性の高さを表す。 連載目次 用語解説 統計学／機械学習におけるLogLoss（Logarithmic Loss、対数損失）とは、二値分類や多クラス分類のタスク（問題）に対する評価指標の一つで、機械学習モデルによる予測が正解にどれくらい近いかを表す値である。0.0（＝近い）～∞（＝遠い）の範囲の値になり、0.0に近づくほど（つまり数値が小さいほど）より良い。 正解率（Accuracy）が「分類の正確さ」を表すのに対し、LogLossは「予測の確実性の高さ」を表している（図1）。 例えば陽性（Positive）／陰性（Negative）のどちらかに分類する二値分類のタスクにおいて、その閾値（しきい値）が0.5の場合に「正解率」を計算する際には、正

BERTにセンター試験を解かせてみて分かった、得意な問題と苦手な問題の傾向：センター英語を例に分かる、自然言語処理入門（3） センター試験を例に、自然言語処理の基礎を解説する本連載。第3回はセンター試験英語の穴埋め問題を自然言語処理で解答し、その結果について考察する。 前回は、BERTによる文脈理解について説明しました。今回は、BERTの事前学習モデル（bert-base）をそのまま使ってセンター試験英語穴埋め問題にチャレンジします。 大学入試センター試験 センター試験は全ての問題がマークシート形式で出題され、複数の選択肢の中から正解を選んで解答します。2022年10月現在はセンター試験が廃止されており、代わりに大学入学共通テストが実施されています。もちろん現行の試験でも問題なく解くことは可能ですが、センター試験はデータセットが公開されているため、そのデータセットを利用しました（※引用に際

QMULのBen Hayes氏らが、勾配降下法で周波数推定を行う手法を論文で発表しました。ICASSP2023に投稿したそうです。 きわめてシンプルな手法なのですが、機械学習系音声合成にとってはたいへん重要な成果だと思うので、紹介します。 論文リンク：Sinusoidal Frequency Estimation by Gradient Descent ソースコード：https://github.com/ben-hayes/sinusoidal-gradient-descent 背景：DDSPの限界 DDSP(Differentiable Digital Signal Processing)とは、微分可能な計算式を持つDSPモジュールをDNNに組み込んで機械学習をやる手法で、Google Magentaプロジェクトが最初に打ち出したアイデアです。 今ではもうDDSPシリーズと呼べるほど多様

If you've got some treasured, old, low-res images, you can upscale and restore them with GFPGAN for free. In the last decade, having a 5 MP camera would help you capture the best possible picture. However, the same image would look inferior in quality, since today, you can get much clearer and more high-definition photos. GFPGAN is a free-to-use open-source software that can increase the resolutio

RTX3090を選んだのはもちろんVRAMサイズが理由です。バッチサイズを少しでも大きく取りたい。24GBはA100に比べれば落ちますが、ColabのV100は16GBなのでそれよりは大きいですし個人でなんとか買える価格の範囲ではこれが最大でした。 Tiになってしまったのはたまたま安かったのと成り行きですが、性能差は僅かですので消費電力の低い無印のほうがよかったような気はします。同じ学習をさせたときに消費電力がどれくらい違うのかは知る由もありませんが。 GPUだけは1年保証は怖いので延長保証をつけてみました。気休めかもしれませんが。玄人志向とかGigabyteとかだと保証が長いそうです。あとショップによっていろいろな延長保証があるので自分のような心配な人は調べてみたら少しは不安感が軽減されるかしれません。実際壊れたらちゃんと延長保証が役に立つかはわかりませんが、それを知らないで済むに越した

深層学習をまじめにやるなら、どう考えても専用のPCが必要になる。 僕は現在、Memeplexというサービスを運営していて、これはさくらインターネットさんから大量のGPUを借りている。借りたGPUは、さくらインターネットの石狩データセンターで動いている。 さらに、ABCIは企画の段階から立ち会って、実際に仕事ではよく使っている。ABCIは5000以上のGPUを擁するGPUクラウド基盤で、その実態はスーパーコンピュータである。 ABCIを使えば、ほとんどの難しいタスクを恐ろしく安い料金で行うことができる。GoogleやAmazon AWSのようなサービスを展開することができない本邦においては、国家が設立し、民間利用可能なABCIは国民にとっての天叢雲剣あめのむらくものつるぎである。 それでもなお、手元には深層学習用のPCが必要だ。しかも一台では足りない。 ABCIがいかに安くても、PCほどの利

はじめに こんにちは。 前置きが思いつかないので、突然本題に入ります。 Stable Diffusionをはじめとする、Latent Diffusion Model(以下LDM)の追加学習手法は、その登場以来様々なやり方が提案されてきました。 例えば、学習データの表現を語に埋め込み、txt2imgの結果を直感的に操作するTextual Inverisionや、学習データによってDenoising U-Netのパラメータを変換するDNNを挿入するHyperNetworksはその代表的な手法です。 しかし、どの手法にも良い点と悪い点があり、こちらが決定的に良い、ということはなく、追加学習によるアウトカムの良し悪しを決定する最も大事なことは変わりません。 それは、適切な学習データを用意することです。 しかし、適切な学習データとは何か？という話はなかなか簡単に済ませられる話ではなく、モデルやタスク

画像生成AI「Stable Diffusion」が2022年8月に一般公開されて以降、高機能なUIや特定の画風に特化したモデルなどが有志によって続々と開発されています。新たに、1枚のイラストを追加学習するだけで、イラストの画風を模倣して高品質かつ多様な構図の画像を生成できる手法「「Advanced Prompt Tuning(APT)」が開発されました。 GitHub - 7eu7d7/DreamArtist-stable-diffusion: stable diffusion webui with advance prompt tuning https://github.com/7eu7d7/DreamArtist-stable-diffusion propose an advanced Prompt Tuning method (APT), can super dramatically

文章を入力するだけで好みの画像を生成できるAI「Stable Diffusion」には、画像の続きを描画する「アウトペインティング」や、画像の一部を生成画像で置き換える「インペインティング」などの機能も搭載されています。そんなアウトペインティングやインペインティングを直感的に利用できるようにしたUI「Hua」が公開されていたので、実際にHuaを用いて画像を生成する手順をまとめてみました。 GitHub - BlinkDL/Hua: Hua is an AI image editor with Stable Diffusion (and more). https://github.com/BlinkDL/Hua Huaは、Stable Diffusionの高機能UI「Stable Diffusion web UI(AUTOMATIC1111版)」と連携させて使えるUIです。Stable Di

Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 香港城市大学と英University of Bathの研究チームが発表した論文「UniColor : A Unified Framework for Multi-Modal Colorization with Transformer」は、白黒写真をさまざまな編集方法で色付けできるフレームワークを提案した研究報告だ。 ストロークで塗る箇所と色を指定、別の画像を参照、テキストで指示の3つの編集方法を組み合わせて、白黒画像に対して詳細なカラー指定を行い、高品質で色鮮やかな色付けを実行する。 グレースケール画像に色を付けるタスクであるカラー化は、近年活発に研究されている。また部分的に色付けを編集し

呪文(プロンプト)の生成方法 このページはAI画像生成をサポートするため制作しました 呪文(キーワード)を生成するためにから好みの条件を選択してくだい 条件が決まったらをクリック！ 自動的にAI画像生成用にチューニングされた呪文(キーワード)が発行されるよ 呪文(プロンプト)の強化・弱体化 を押すと【NovelAI ⇔ Diffusion】を切り替わるよ で出てきた条件ボタンをクリック！ NovelAIの場合は {} が追加でき、Diffusionの場合は () が追加されるよ をクリックすれば【効力up ⇔ 効力down】に切り替わるよ 効力downモードは [] がNovelAI・Diffusion のどちらでも条件ボタンを押すと追加されます ☆()や{}は呪文を強調させる☆ ☆[]は呪文を弱体化させる☆ NovelAIは{}、Diffusionは()で呪文強化 重ね掛けで効果up リ

欧米の大手銀行が人工知能（AI）の活用を拡大している。不正防止や融資の判断などに導入しているほか、スポーツビジネスを分析するAIスタートアップと提携するなど新たな分野にも挑んでいる。行内の開発体制を整えるため、人材の獲得競争も激しくなりつつある。時価総額上位50行からAI投資で先行する3行をCBインサイツが選び、どのようにAI技術を活用しているのかをまとめた。リテール（個人向け）銀行は顧客との関

凸版印刷は11月11日、明治期から昭和初期（以下、近代）の手書き文字に対応したAI-OCRを開発したと発表した。同社提供の江戸時代のくずし字を対象にした古文書解読サービス「ふみのは」のAI-OCRを近代の多様な筆跡の手書き文字にまで対応範囲を拡張させたもの。11月から実証実験を行い、2023年4月から正式サービスを開始する予定。 凸版印刷によると、近代の手書き文字は、書き手によるくずし方のバラつきが大きいという。原因は筆記用具の多様化や片仮名語の混在、旧字旧仮名遣い表記などがあるためで、解読は非常に困難としている。今回開発したAI-OCRではこれに対応するため、さまざまなパターンの文字をAIに学習させ、文字の解読精度を向上させた。

軽貨物の配送ドライバーらが加盟する「建交労軽貨物ユニオン」などは11月10日、ドライバーの待遇改善を訴えるシンポジウムを都内で開いた。 シンポには、アマゾンの荷物を運んでいた元ドライバーが登壇して「荷物の積載数や配達エリアをAIで決められるようになった結果、交通安全が守られなくなった」と批判。 ユニオン関係者らはシンポジウム終了後、アマゾンジャパン本社を訪れ待遇改善に関する要望書を渡そうとしたが、「門前払い」に遭い文書の受け取りも拒否されたという。 ●荷物量、配達エリアをAIが決めることで生まれるリスク 配送ドライバーの多くは、個人事業主として運送会社などと業務委託契約を結び、荷物を運んでいる。個人事業主は本来、契約企業の指揮命令を受けずに自己裁量で作業の進め方を決められるはずだが、実態は雇用されたドライバーと同じ仕事をしている、というケースも珍しくない。 アマゾンの荷物を配送するドライバ

2022/11/11 凸版印刷、明治期から昭和初期の手書き文字を解読する AI-OCRを日本で初めて開発