「GPT-3」は思ってたより「やばい」ものだった。話し言葉でプログラミングまでこなすAI - CUBE MEDIA
このサイトを立ち上げて、執筆するとき、いくつか心のなかで決めたことがありました。 その中の一つに「タイトルで”やばい”という言葉は使わないようにしよう」というものがあります。まとめサイト等で、対して大きな事件でもないものを「やばすぎるｗｗｗ」等と囃し立ててアクセスを取る行為が嫌いだったからです。 しかしその禁を今日破ります。「GPT-3」は、私が思っていた以上に「やばい」代物でした。 もちろん「ライターが要らなくなる」とか「１ヶ月後にはロボットが秘書になる」とか、そういった大げさなものではありませんが、 思ったより早く「AI社会」の片鱗が落ちてきた、という印象です。 まだ多くの方は「GPT-3」という単語を聞いたことがないかもしれません。GPT-3は「Generative Pretrained Transformer」の頭文字を取ったもので、1750億個のパラメータを使用した「文章生成言語
自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか？
OpenAIが開発する「GPT-3」は、ほとんど違和感のないブログ記事を生成できてしまうほど高い精度を誇る言語モデルです。そのGPT-3がテキストを生成する仕組みについて、オンライン学習プラットフォーム「Udacity」でAIや機械学習関連の講座を持つJay Alammar氏が解説しています。 How GPT3 Works - Visualizations and Animations – Jay Alammar – Visualizing machine learning one concept at a time. https://jalammar.github.io/how-gpt3-works-visualizations-animations/ The Illustrated GPT-2 (Visualizing Transformer Language Models) – Ja
超高精度な言語モデル「GPT-3」は本当に「人間そのもの」な会話ができるのか実験した結果は？
「GPT-3」は、人間が書いたものと見分けが付かないほどの精度が高い文章を生成してくれる言語モデルです。そんなGPT-3に、第二次世界大戦でナチス・ドイツが使った暗号であるエニグマの解読や、近代コンピューティングの基礎を築いたことで知られるアラン・チューリングが考案したマシンと人間の判別テスト「チューリング・テスト」を行った結果が公開されました。 Giving GPT-3 a Turing Test http://lacker.io/ai/2020/07/06/giving-gpt-3-a-turing-test.html GPT-3は、人工知能を開発する非営利団体OpenAIが開発した次世代文章生成言語モデル。一世代前のバージョンであるGPT-2ですら、その優秀さゆえに開発陣から「危険すぎる」という評価を受けてしまうほどの性能でした。 AIによる自動文章作成ツールがあまりにも高精度のテキ
超巨大高性能モデルGPT-3の到達点とその限界. この記事では、超巨大言語モデルGPT-3の技術的な解説、GPT-3達成したことと… | by akira | Jul, 2020 | Medium
この記事についてこの記事ではGPT-3[1]の解説をします。内容のサマリは以下の通りです。 GPT-3の前身であるGPT-2では、巨大なデータセット＋巨大なネットワークで言語モデルを構築し、各タスクで学習させなくても良い結果が得られた。GPT-3では、さらに巨大なデータセット＋さらに巨大なネットワークで言語モデルを構築し、数十のサンプルを見せると凄く良い結果が得られた一方、様々なタスクに言語モデルのスケールアップのみで対応することへの限界が見えてきた。人種、性別、宗教などへの偏見の問題や、悪用に対する課題もある。この記事の流れは以下の通りです。 Transformer, GPT-2の説明GPT-3のコンセプトと技術的な解説GPT-3ので上手くいくタスクGPT-3で上手くいかないタスク偏見や悪用への見解 Transformerまず、GPT-3の前身となったGPT-2に入る前に、その中に使われ
GPT-3の衝撃 - ディープラーニングブログ
この1週間はGPT-3のユースケースの広さに驚かされる毎日でした． シリコンバレーでは話題騒然ですが日本ではほとんど話題になっていないので，勢いで書くことにしました． GPT-3はOpenAIが開発した言語生成モデルです．名前の由来であるGenerative Pretrained Transformerの通り，自然言語処理で広く使われるTransformerモデルを言語生成タスクで事前学習しています． 先月申請すれば誰でもGPT-3を利用できるOpenAI APIが発表され，様々な業種の開発者によって驚くべきデモンストレーションがいくつも公開されています． 特に話し言葉からJSXやReactのコードを生成するデモは著名なベンチャーキャピタルから注目を集め，誇大広告気味だと警鐘を鳴らす事態に発展しています． This is mind blowing. With GPT-3, I built
「GPT-3はビットコイン以来の破壊的な可能性を秘めている」というブログ記事が大反響を呼ぶ理由とは？
分散システムの開発者向けツールを構築するOpenZeppelinの元CTOであるマヌエル・アラオス氏が公開した「OpenAIのGPT-3はビットコイン以来で最大のものかもしれない」というブログ記事が大きな反響を呼んでいます。高精度なテキストを作れる言語モデル・GPT-3は確かにすごい技術なのですが、このブログ記事のポイントはまた別のところにありました。 OpenAI's GPT-3 may be the biggest thing since bitcoin https://maraoz.com/2020/07/18/openai-gpt3/ 記事は冒頭に「OpenAIの新たな言語予測モデル(GPT-3)を用いた初期の実験内容を共有します。なぜ私がGPT-3にブロックチェーン技術に匹敵する破壊的可能性があると思っているのかという理由を説明します」という要約があります。 本文では、bitco
OpenAIが超高精度な言語モデル「GPT-3」用いたAIモデルをAPIとして利用可能に、Wikipediaの内容を「質問」で検索するデモムービーも
非常に精度の高い文章を生成できるため「あまりにも危険過ぎる」と危惧されていた言語モデル「GPT-2」の開発元である「OpenAI」が、次世代文章生成言語モデルの「GPT-3」を用いたAIモデルが利用可能になるAPIを発表しました。これにより、OpenAIのAIモデルを製品に組み込んだり、AIモデルを駆使した新しいアプリケーションを開発したりすることが可能になります。 OpenAI API https://openai.com/blog/openai-api/ OpenAI to sell its headline-grabbing text generator as an API https://thenextweb.com/neural/2020/06/11/openai-to-sell-its-headline-grabbing-text-generator-as-an-api/ Op
Microsoftが28万5000基のCPUコアと1万基のGPUを搭載したスーパーコンピューターをOpenAIと連携して開発
Microsoftが開発者向けオンラインカンファレンス「Build 2020」で、AIを研究する非営利団体OpenAIとの提携にともなって構築した新しいスーパーコンピューターのサービスをMicrosoft Azureで提供することを発表しました。構築されたスーパーコンピューターは世界上位5位にランクインするほどの性能を誇るとのことです。 Microsoft announces new supercomputer, lays out vision for future AI work - The AI Blog https://blogs.microsoft.com/ai/openai-azure-supercomputer/ Microsoft teamed up with OpenAI to build a massive AI supercomputer in Azure | Tech
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
TechCrunch | Startup and Technology News