GPTを生んだ先端技術「Transformer」、その基礎を正しく理解する
対話型AIサービス「ChatGPT」で使われている自然言語モデルの核になっている技術が「Transformer」だ。自然言語処理を例に、Transformerの仕組みを解説する。 すっかり市民権を得た対話型AIサービス「ChatGPT」。ChatGPTで用いられている自然言語モデルが「GPT」（Generative Pre-trained Transformer）です。いわゆる「大規模言語モデル」（LLM：Large Language Model）の1つであり、本稿執筆時点（2023年12月）の最新バージョンは「GPT-4 Turbo」です。バージョンを追うごとに、精度向上などの進化を遂げてきました。 このGPTの核となるディープラーニング（深層学習）のモデルが「Transformer」です。前述のGPTの正式名称を見直すと、「T」はTransformerのTであることがわかります。このネ
Whisperのlarge-v2モデルを30倍早く処理できる、Gladiaをすぐ試せる方法｜Sangmin Ahn
こんにちは、Choimirai Schoolのサンミンです。 【主なアップデート】 （2023.02.23）YouTube動画に特化したnoteへのリンクを追加 【書いた📝】 Whisperの文字起こしを30倍も早く処理させる方法をまとめたnote（👉https://t.co/LCCS1SQQEw）です。今すぐ試せる @GoogleColab Notebookへのリンクあり。1時間のYouTube動画がダウンロードを含め、3分あれば書き起こしができる📺。しかも、日本語にも対応していて無料👏！ https://t.co/MoxkuOR1zD pic.twitter.com/FXFt8FjucX — sangmin.eth @ChoimiraiSchool (@gijigae) February 18, 2023
翻訳：人工知能 — 革命いまだ成らず - シンギュラリティ教徒への論駁の書
以下は、カリフォルニア大学バークレー校のコンピュータ科学、統計学教授マイケル・I・ジョーダン氏の記事 "Artificial Intelligence — The Revolution Hasn’t Happened Yet" の翻訳です。 人工知能 — 革命いまだ成らず 人工知能 (AI) は現代の真言(マントラ)である。この言葉は、技術者、研究者、ジャーナリストやベンチャーキャピタリストによっても唱えられている。他の数多くの言葉と同様にテクニカルな学問分野から一般的な流通へと至るにつれて、言葉の用法に著しい誤解が伴っている。けれども、一般大衆が科学者を理解できないのは今に始まったことではない。—ここでは科学者もたいてい一般人と同様に混乱している。現代は、人類自身の知能と競合するシリコン製知能の出現を目撃しつつあるという考えは、我々みんなを楽しませるものだ。—我々を魅了し、また同じ程度
Google機械翻訳の仕組み&できるようになったこと/まだ難しいことについて、社内の機械学習勉強会で説明します - yasuhisa's blog
社内の機械学習勉強会で最近話題になった機械学習関連のエントリを取り上げているのですが、ここ一ヶ月ではGoogle Neural Machine Translation(GNMT)がとても話題になっていました。GNMTで使われているEncoder-Decoderやattentionのような仕組みを直近で使う予定は特にはないですが、機械学習を使うエンジニアとして知っておいて損はないし、技術的に何が変わったことにより何ができるようになって、何はまだできないのかを知ろう、というのが目的です。技術的な項目は興味ない人も多そうなので、最後に持っていきました。 Google Neural Machine Translation(GNMT)の最近の進化について できるようになったこと 定量的な評価 まだまだ難しいこと 技術的な詳細 Encoder-decoder Attention based encod
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Otter Voice Meeting Notes - Otter.ai
TechCrunch | Startup and Technology News
AIで日本史研究者やマニアが狂喜乱舞する「くずし字」の翻訳ツールが開発 - PC Watch
