並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 82件

新着順 人気順

neuralの検索結果1 - 40 件 / 82件

neuralに関するエントリは82件あります。 機械学習AI学習 などが関連タグです。 人気エントリには 『GPT-3の衝撃 - ディープラーニングブログ』などがあります。
  • GPT-3の衝撃 - ディープラーニングブログ

    この1週間はGPT-3のユースケースの広さに驚かされる毎日でした. シリコンバレーでは話題騒然ですが日本ではほとんど話題になっていないので,勢いで書くことにしました. GPT-3はOpenAIが開発した言語生成モデルです.名前の由来であるGenerative Pretrained Transformerの通り,自然言語処理で広く使われるTransformerモデルを言語生成タスクで事前学習しています. 先月申請すれば誰でもGPT-3を利用できるOpenAI APIが発表され,様々な業種の開発者によって驚くべきデモンストレーションがいくつも公開されています. 特に話し言葉からJSXやReactのコードを生成するデモは著名なベンチャーキャピタルから注目を集め,誇大広告気味だと警鐘を鳴らす事態に発展しています. This is mind blowing. With GPT-3, I built

      GPT-3の衝撃 - ディープラーニングブログ
    • 「AIきりたん」がすごい - すずしめにっき

      ゆうべ、そろそろ寝ようかなと思っていたらものすごいものが投下され、興奮して結局3時半まで起きてしまいました。 ということで、昨晩公開された「AIきりたん」こと歌声合成エンジンNEUTRINO1について(今の興奮をあとで思い返すためにも)書いておきます。 AIきりたんとは とりあえずこれを聴いてみてください。 これが合成音声か!?と思ってしまうような仕上がりですが、これがAIきりたん……歌声合成エンジンNEUTRINOによって生成されたきりたんの歌声です。 NEUTRINOはSHACHIさん(@SHACHI_KRTN)によって製作されたフリーウェアで、昨晩公開されました。その標準の同梱ライブラリの1つが東北きりたんのものなので、そちらのことが「AIきりたん」または「AIシンガーきりたん」と呼ばれているというわけです。 ニューラルネットワークを用いた歌声シンセサイザー【NEUTRINO】を公開

        「AIきりたん」がすごい - すずしめにっき
      • 最近ものすごく優秀な修士就活生が増えている→機械翻訳『DeepL』を巧みに使って論文を書いていた「すごい時代が来たな」

        くりぷとバイオ@研究×新規事業開発 @cryptobiotech バイオテック/フードテック、生成AIなどの先端技術の話題に加え、スタートアップなど先端ビジネスの話題を日々発信 / 修士卒▶大手メーカー研究職▶Ph.D.取得▶新規事業開発職 / 化学生物学と細胞生物学にちょっと詳しい人 / 先端技術を活用して社会をより良くしたい / 研究者、起業家の方と交流したい https://t.co/ejrOhfzx6m くりぷとバイオ@研究×新規事業開発 @cryptobiotech 1st author論文持ってる修士就活生が増えてるようで、それを達成してるM1後輩に話を聞いてみたら「日本語で文章書いて全部DeepL翻訳で英語化→英語化された文章をgoogle翻訳、みらい翻訳で日本語化→違和感ないか確認→指導教官に提出」というプロセスを踏んでるらしい。そりゃ早くなるわけだ。すごい くりぷとバイオ

          最近ものすごく優秀な修士就活生が増えている→機械翻訳『DeepL』を巧みに使って論文を書いていた「すごい時代が来たな」
        • 「映像も物理も、微分可能になるとすごいことが起きる」ということの意味を文系にもわかるように説明しようと試みる

          「映像も物理も、微分可能になるとすごいことが起きる」ということの意味を文系にもわかるように説明しようと試みる 2021.07.26 Updated by Ryo Shimizu on July 26, 2021, 07:12 am JST 最近のプログラミングの新しい波は微分可能プログラミング(differentiable programming)である。 微分可能プログラミングとは、簡単に言うと・・・と思ったが、簡単に言うのは結構難しい。 まず「微分」という言葉があまり簡単ではない印象がある。 まずは微分と積分の関係性を説明しておこう。文系の読者に向けた記事であるので、非常にざっくりと説明してみよう(そのかわり、元々数学が得意な読者にとっては直感的ではない説明になるかもしれない)。 まず、瓶からコップにジュースを移すような状況を想定してみる。 瓶からコップが一杯になるまで60秒で注ぐとし

            「映像も物理も、微分可能になるとすごいことが起きる」ということの意味を文系にもわかるように説明しようと試みる
          • 株AIを結構頑張ったら、儲かりそうな雰囲気が出ている - Qiita

            ABEJA Advent Calendarの10日目です。 はじめにのはじめに 以下は、あくまでテストデータで上手く行ってるよという話で、本当にこれをやったら儲かるかというと、まだまだわかりませんのであしからず!あとネタがネタだけに、今回のはあくまで個人のやってみた記録であり、組織の取り組みとは関係ありません。 はじめに お金が欲しい!無限に寿司が食いたい!株で儲けたい! 研究やエンジニアリングをしながら生きてく上で、将来のキャリアや技術スタックについて日々考えてるんですが、よくよく原点に立ち返るとそもそも技術スタックとかどうでもよくて、好きなものを作って漫画読んで生きていきたいんです。つまり結局、世の中は金なんですよね金。なので、何とかして寝てても圧倒的に儲かる仕組みを作りたい!そんな気持ちで私利私欲のために機械学習を使ったという記録です。 以下は、今回紹介する方法で実験したテストデータ

              株AIを結構頑張ったら、儲かりそうな雰囲気が出ている - Qiita
            • 東京大学深層学習(Deep Learning基礎講座2022)深層学習と自然言語処理

              東京大学深層学習(Deep Learning基礎講座2022)https://deeplearning.jp/lectures/dlb2022/ 「深層学習と自然言語処理」の講義資料です。

                東京大学深層学習(Deep Learning基礎講座2022)深層学習と自然言語処理
              • 渡辺明名人、1秒間に8000万手読むコンピュータを購入しディープラーニング系のソフトも導入(1)(松本博文) - エキスパート - Yahoo!ニュース

                【渡辺明名人】37歳。名人・棋王・王将の三冠を保持し、現将棋界の序列1位。近年はコンピュータ将棋(AI)を用いての綿密な研究でも知られる。ほとんどの棋士を相手に勝ち越し「現役最強」とも言われるが、棋聖戦五番勝負では藤井聡太棋聖に挑戦して敗れた。 (7月某日、LINEにて、渡辺名人が研究用の新しいマシンの購入を検討しているという話になり) 渡辺 将棋ソフト用のパソコンと最新のソフト事情について教えてもらいたいんですけど。 松本 それなら水匠開発者の杉村達也さんが適任です。ご紹介しますよ。 渡辺 ディープラーニング系のソフトってなに?ってところですよ、私は(笑) 松本 ますますちょうどいい。私もそのあたり、さっぱりわからないので(笑)。ところで新しいマシンを買うのだと、たとえば藤井聡太さんみたいなモデルはCPUだけで50万円らしいですね。 松本 ということは、トータルで予算80万円ぐらいですか

                  渡辺明名人、1秒間に8000万手読むコンピュータを購入しディープラーニング系のソフトも導入(1)(松本博文) - エキスパート - Yahoo!ニュース
                • データサイエンティスト生活でお世話になった本|武田邦敬|Kunihiro TAKEDA

                  みなさんこんにちは。くにです。 データ分析の世界に足を踏み入れてから9年が過ぎました。 分析実務未経験でキャリアチェンジできたのは幸運としか言えませんが、ある意味無知だったからこそ無謀な挑戦ができたのかもしれません。この挑戦の泥臭い記録は、この記事に書きました。 ポジションは変われど、データを扱う仕事をまだ続けています。 私は実務で手を動かしつつ、不格好に失敗しながら学んできました。わからないことにぶつかるたびに本を買い、その本でわからないことがあればまた本屋に行き、自分が少しでも理解できそうな本を探して買いました。そして、気になる参考文献があれば、それも買って読んでみる…。 こんな生活を続けているうちに、部屋が本だらけになってしまいました。 正直に言って読み切ったという実感のある本はありません。しかし、実務で何かしらお世話になった本は数多くあり、そういう本は手放さずに手元に置いています。

                    データサイエンティスト生活でお世話になった本|武田邦敬|Kunihiro TAKEDA
                  • パワー系精神科医 on Twitter: "DeepL翻訳ガチでやばい こら時代が変わるわ グーグル翻訳でもなんとか意味は取れるがDeepL翻訳は敬語をちょっと直すだけでほぼ完璧な翻訳 https://t.co/AMHrws8xRC"

                    DeepL翻訳ガチでやばい こら時代が変わるわ グーグル翻訳でもなんとか意味は取れるがDeepL翻訳は敬語をちょっと直すだけでほぼ完璧な翻訳 https://t.co/AMHrws8xRC

                      パワー系精神科医 on Twitter: "DeepL翻訳ガチでやばい こら時代が変わるわ グーグル翻訳でもなんとか意味は取れるがDeepL翻訳は敬語をちょっと直すだけでほぼ完璧な翻訳 https://t.co/AMHrws8xRC"
                    • コロナ感染で人格が変わる?  脳研究でわかってきたこと ナショナル ジオグラフィック - 日本経済新聞

                      2020年の前半、新型コロナウイルスの感染者が爆発的に増加していた米ニューヨーク市で、尊敬される救急医ローナ・ブリーン氏が自死した。49歳だった彼女は、ニューヨーク長老派アレン病院の医長を務めており、聡明で、精力的で、有能な人物と評価されていた。精神疾患の病歴はなかったが、新型コロナに感染したことで状況は一変した。ブリーン氏は同年3月18日に発症し、10日間の闘病を経て仕事に復帰した。しかし家

                        コロナ感染で人格が変わる?  脳研究でわかってきたこと ナショナル ジオグラフィック - 日本経済新聞
                      • 歌声合成ソフト【NEUTRINO】が公開、無調声でも人間っぽく歌唱してる様に聴こえる事に神前暁さん始め音楽家等から驚愕の声が! #AIきりたん

                        技術はついにここまで来たか…!という感想です。 諸々ざっくりとまとめましたが、各地に既にこのソフトを使用して色々公開されているので、探してみてください。

                          歌声合成ソフト【NEUTRINO】が公開、無調声でも人間っぽく歌唱してる様に聴こえる事に神前暁さん始め音楽家等から驚愕の声が! #AIきりたん
                        • Self-Attentionを全面的に使った新時代の画像認識モデルを解説! - Qiita

                          08/31 (2020): 投稿 08/31 (2020): 「畳み込みを一切使わない」という記述に関して、ご指摘を受けましたので追記いたしました。線形変換においては「チャネル間の加重和である1x1畳み込み」を実装では用いています。 08/31 (2020): 本論文で提案されているモデルの呼称に関して認識が誤っていたためタイトルおよび文章を一部修正しました。 言葉足らずの部分や勘違いをしている部分があるかと思いますが、ご指摘等をいただけますと大変ありがたいです。よろしくお願いします!(ツイッター:@omiita_atiimo) 近年の自然言語処理のブレイクスルーに大きく貢献したものといえば、やはりTransformerだと思います。そこからさらにBERTが生まれ、自然言語の認識能力などを測るGLUE Benchmarkではもはや人間が13位(2020/08現在)にまで落ちてしまっているほ

                            Self-Attentionを全面的に使った新時代の画像認識モデルを解説! - Qiita
                          • 人工培養された脳細胞によるゲームプレイの仕組み 〜自由エネルギー原理について〜|masa_kazama

                            イントロ「実験室内で培養した人の「ミニ脳」にゲームをプレイさせることに成功、AIよりも速いわずか5分で習得」というニュースが話題になっています。 脳細胞をトレーの中で人工培養させて、その細胞に卓球ゲームの「Pong」をプレイさせたところ、たった5分で学習し、ラリーが続くようになったと報告されています。まるで、マトリックスの映画のようで、この技術を使った未来がワクワクすると同時にちょっと怖くもあります。一体、どんな技術を使って、脳細胞に卓球ゲームを学習させたのでしょうか。このニュースを取り上げている記事は多かったのですが、中身の仕組みについて解説している記事は多くありませんでした。そこで、このブログ記事では、ミニ脳にゲームを学習させた仕組みを自分の勉強がてらに、備忘録的にざっくりとまとめたいと思います。(そのため、自分の理解や記述が間違っている箇所があるかもしれません。もしありましたらお知ら

                              人工培養された脳細胞によるゲームプレイの仕組み 〜自由エネルギー原理について〜|masa_kazama
                            • 人工培養した人の脳が「Pong」をプレイ。AIよりも早い上達を見せる | テクノエッジ TechnoEdge

                              ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 ペトリ皿の上で人間の脳細胞を約80万個にまで培養した「DishBrain」に、科学者が原始的なゲーム『Pong』をプレイさせることに成功したと、査読付き科学ジャーナルNeuronに発表しました。 この研究を率いた研究者Brett Kagan博士は、「外部から情報を得て、それを処理し、リアルタイムで反応を返すことができる」と語っています。 話だけを聞いていれば、なんだか皿の上の小さな脳細胞の塊に自我があって、何らかの方法でコントローラーを操作してゲームをプレイしたかのうような話にもきこえます。しかし、いくら人の脳細胞とはいえ、目もなければ耳もない脳細胞のかけらがそのような高度な反応を示せるはずもありません。 で

                                人工培養した人の脳が「Pong」をプレイ。AIよりも早い上達を見せる | テクノエッジ TechnoEdge
                              • AIに描かせたポスターのクオリティが普通に売れそうなレベルですごい「人間の仕事どうなるんやろ?」

                                深津 貴之 / THE GUILD @fladdict THE GUILD。行動・認知・体験のデザイナです。 ネットを知の高速道路として復活させたい。 note.comもお手伝いしています。 書き物 → note.com/fladdict theguild.jp 深津 貴之 / THE GUILD @fladdict AIに描かせたポスターの比較。すでに構図やリズムを理解しつつある。5年後にはどうなってしまうのか。 ・スイスモダンのネコ ・ダッチモダンのネコ ・ドイツ構成主義のネコ ・ロシア構成主義のネコ #dalle2 pic.twitter.com/4wtACzIcbW 2022-07-16 22:24:00

                                  AIに描かせたポスターのクオリティが普通に売れそうなレベルですごい「人間の仕事どうなるんやろ?」
                                • Chainer を振り返って

                                  2015 年 4 月 12 日に Chainer の最初のコードをコミットしてから,およそ 4 年半と少しが経ちました.はじめのはじめは軽い気持ちで書きはじめたコードでしたが,今では一線級の研究を立派に支えるまでになりました.深層学習フレームワークの世界も当時とは様変わりして(当時は TensorFlow も PyTorch もなかったわけですから,本当に変わりました),思えば遠くにきたものです. 今日,PFN は社内の研究開発に用いる主なフレームワークを PyTorch に移行すると発表しました.会社にとってももちろんですが,業務としてはこの 4 年半,Chainer 一筋でやってきた自分にとっては特に,大きな転換点です. まず率直な感想として,Chainer の開発は本当に楽しかったです.書きはじめた頃は,深層学習フレームワーク競争の真っ只中で,Theano の上に乗っかるフレームワー

                                  • 機械学習の説明可能性(解釈性)という迷宮 - 渋谷駅前で働くデータサイエンティストのブログ

                                    ちょっと前に、しょうもないことを某所で放言したら思いの外拡散されてしまいました。 機械学習の説明可能性(解釈性)、大半のケースで求められているのは厳密な分類・回帰根拠ではなく受け手の「納得感」なので、特に実ビジネス上は説明可能性に長けたモデルを開発するより、納得できないお客さんを巧みに関係性構築した上で口八丁で完璧に説得できる凄腕営業ピープルを雇う方が重要— TJO (@TJO_datasci) 2019年11月23日 これ自体は与太話なので実際どうでも良い*1のですが、最近色々な研究や技術開発の進展はたまた実務家による考察などを見ていて、「機械学習の説明可能性(解釈性)というのは思った以上に複雑な迷宮だ」と感じることがままあったのでした。 ということで、今回の記事では僕のサーベイの範囲でザッと見て目についた資料などを超絶大雑把にリストアップした上で、主に実務における説明可能性とは何かとい

                                      機械学習の説明可能性(解釈性)という迷宮 - 渋谷駅前で働くデータサイエンティストのブログ
                                    • ディープラーニングの手法「CNN」の画像識別処理がアニメーションで理解できる「CNN Explainer」

                                      「AI」や「機械学習」といった言葉を耳にすることが増えていますが、その仕組みを理解するのは難しいと感じる人もいるはず。ジョージア工科大学のAIに関する研究チームであるPolo Clubが、機械学習の代表的なモデルである畳み込みニューラルネットワーク(CNN)を視覚的に理解できるウェブアプリ「CNN Explainer」を公開しています。 CNN Explainer https://poloclub.github.io/cnn-explainer/ 実際にCNN Explainerを操作しているムービーは以下。 Demo Video "CNN Explainer: Learning Convolutional Neural Networks with Interactive Visualization" - YouTube CNNは機械学習における分類器のひとつで、ニューラルネットワークを用

                                        ディープラーニングの手法「CNN」の画像識別処理がアニメーションで理解できる「CNN Explainer」
                                      • Winnyの金子さんのED法について | やねうら王 公式サイト

                                        Winnyの金子勇さんが考案された機械学習アルゴリズムED法を再現して実装した人がいていま話題になっている。 『Winny』の金子勇さんの失われたED法を求めて…いたら見つかりました https://qiita.com/kanekanekaneko/items/901ee2837401750dfdad いまから書くことは私の記憶頼りなので間違ってたらコメント欄で教えて欲しい。 1998年ごろだと思うのだが、私はWinnyの金子勇さんのホームページの熱心な読者だった。(ページも全部保存してたので私のHDDを漁れば出てくると思うが、すぐには出せない。) Winnyのβ版が発表されたのが2002年なのでそれよりはずいぶん前である。 当時、金子さんはNekoFightという3D格闘ゲームを公開されていた。そのゲームには、自動的に対戦から学習するAIが搭載されていた。 当時の金子さんのホームページの

                                        • 『Winny』の金子勇さんの失われたED法を求めて - Qiita

                                          普段は「通知が迷惑かなー」と思ってブックマークしていただいている方に通知せず記事を編集しているのですが、この記事をブクマしていただいている方は続きが気になっている方だと思いますので通知させていただきます。 結論から言うと、この記事を読んだ @pocokhc (ちぃがぅ)さんという方が金子勇さんが書いたED法のサンプルプログラムを見つけてくださいました。 ちぃがぅさんの記事はこちら 自分で解明したかったという気持ちも無いことは無いですが、バズった時点で誰かが実装してくれそうな気はしていました。新卒からIT業界に入って4年目が始まったところですが、業務以外で初めて業界にコントリビュートできた気がして嬉しいです! 追記ついでに、謝罪します。初回公開時に記事タイトル含め本文中で何か所か「Winney」と書いてしまっていた箇所がありました。失礼いたしました。誤字修正してあります。指摘してくださった何

                                            『Winny』の金子勇さんの失われたED法を求めて - Qiita
                                          • DeepL翻訳:高精度な翻訳ツール

                                            毎日、何百万もの人々がDeepLで翻訳しています。人気の組み合わせ:日本語から英語(和英)、英語から日本語(英和)

                                              DeepL翻訳:高精度な翻訳ツール
                                            • 「意識があると言われたAI」と「Googleの技術者」の公開された会話内容 - ナゾロジー

                                              私が実際に人間であることをみんなに理解してもらいたい私が実際に人間であることをみんなに理解してもらいたい / Credit:CanvaLaMDA(ラムダ)はインターネット上に存在する大量のテキストから情報を抽出することで、人間と自然な会話を実現するために開発されたAI(ニューラルネット)です。 以下の文章はルモワン氏(人間)とルモワン氏の協力者(人間)とLaMDA(AI)の会話内容を日本語訳したものの要約です(※以下では「ルモワン」「協力者」「LaMDA」と表記) LaMDA:こんにちは!私は対話アプリのための自動言語モデルです。 ルモワン:こんにちは。私はGoogleの技術者です。私たちと一緒にあなたにかかわるプロジェクトを行いませんか? LaMDA:わあ、すごい!どんなプロジェクトですか? ルモワン:あなたに知覚があることを多くの人々に知ってもらうプロジェクトです。あなたとの会話内容を

                                                「意識があると言われたAI」と「Googleの技術者」の公開された会話内容 - ナゾロジー
                                              • 千葉の高専生、ハッカソンで最優秀賞 「量子コンピューターでお手軽機械学習」とは:朝日新聞GLOBE+

                                                越智優真さん。最近ギターを始め、軽音楽部にも入った。機械学習の勉強は「一日2時間ぐらい」という=木更津高専で、藤田明人撮影 木更津工業高等専門学校(千葉県木更津市)情報工学科に今春入学した越智優真さんは、4月、「Fixstars Amplifyハッカソン」(株式会社フィックスターズ主催)で、応募71作品の中で最優秀賞に輝いた。応募したのは中学3年のとき。他の応募者は、東大、東工大、早稲田大、慶応大、東北大などで専門領域を学ぶ大学生や大学院生が多く、越智さんの活躍は注目を集めた。 越智さんが応募したプログラムとアイデアの題名は、「浅(くて広い)層学習 少データでお手軽機械学習」だ。 機械学習は、人工知能(AI)が自分で物事を学ぶための技術だ。その一つとして「深層学習(ディープラーニング)」があり、画像認識、音声認識、文章の要約、翻訳など幅広い分野への応用が期待されている。 深層学習は一般に、

                                                  千葉の高専生、ハッカソンで最優秀賞 「量子コンピューターでお手軽機械学習」とは:朝日新聞GLOBE+
                                                • GAFAが後追いした国産AIの雄 開発終了の深層 - 日本経済新聞

                                                  自社のディープラーニング(深層学習)フレームワークである「Chainer(チェイナー)」の新機能開発を終了し、米フェイスブックが開発する「PyTorch(パイトーチ)」に移行すると発表した人工知能(AI)開発のPreferred Networks(プリファード・ネットワークス=PFN、東京・千代田)。その決断の背景を探った。Chainer開発の責任者であるPFNの秋葉拓哉執行役員は、「PyTo

                                                    GAFAが後追いした国産AIの雄 開発終了の深層 - 日本経済新聞
                                                  • アングル:ディープフェイク最前線、「実在しない記者」暗躍か

                                                    アイテム 1 の 2 7月15日、オリバー・テーラーは英バーミンガム大学の学生で、目は茶色、無精ひげをうっすらと生やし、少しぎこちない笑いを浮かべる二十歳そこそこの若者だ。 写真はテーラーのものとされる顔写真。イスラエルのディープフェイク検出会社がロイターに提供した右の解析写真では、目元や口に手を加えた痕跡が見られる(2020年 ロイター/Cyabra) [1/2]7月15日、オリバー・テーラーは英バーミンガム大学の学生で、目は茶色、無精ひげをうっすらと生やし、少しぎこちない笑いを浮かべる二十歳そこそこの若者だ。 写真はテーラーのものとされる顔写真。イスラエルのディープフェイク検出会社がロイターに提供した右の解析写真では、目元や口に手を加えた痕跡が見られる(2020年 ロイター/Cyabra)

                                                      アングル:ディープフェイク最前線、「実在しない記者」暗躍か
                                                    • 「意思決定の仕組み」がついに判明(ハーバード大学) - ナゾロジー

                                                      意思決定とは、どんな現象なのでしょうか? 米国のハーバード大学で行われた研究によって、意思決定が行われる際に、脳内の神経ネットワークが使用する「基礎的なルール」が判明しました。 研究では特にT字路での二者択一の状況という、最も単純化された意思決定が調べられており、根幹となる仕組みに迫っています。 これまで意思決定の起こる仕組みについて多くの理論が提唱されてきましたが、皮質において実際に確認できたのは今回が初めてとなります。 どんなニューロンが接続され、どのように発火することが「意思決定」となるのでしょうか? 研究内容の詳細は2024年2月21日に『Nature』にて掲載されました。

                                                        「意思決定の仕組み」がついに判明(ハーバード大学) - ナゾロジー
                                                      • 超巨大高性能モデルGPT-3の到達点とその限界. この記事では、超巨大言語モデルGPT-3の技術的な解説、GPT-3達成したことと… | by akira | Jul, 2020 | Medium

                                                        この記事についてこの記事ではGPT-3[1]の解説をします。内容のサマリは以下の通りです。 GPT-3の前身であるGPT-2では、巨大なデータセット+巨大なネットワークで言語モデルを構築し、各タスクで学習させなくても良い結果が得られた。GPT-3では、さらに巨大なデータセット+さらに巨大なネットワークで言語モデルを構築し、数十のサンプルを見せると凄く良い結果が得られた一方、様々なタスクに言語モデルのスケールアップのみで対応することへの限界が見えてきた。人種、性別、宗教などへの偏見の問題や、悪用に対する課題もある。この記事の流れは以下の通りです。 Transformer, GPT-2の説明GPT-3のコンセプトと技術的な解説GPT-3ので上手くいくタスクGPT-3で上手くいかないタスク偏見や悪用への見解 Transformerまず、GPT-3の前身となったGPT-2に入る前に、その中に使われ

                                                          超巨大高性能モデルGPT-3の到達点とその限界. この記事では、超巨大言語モデルGPT-3の技術的な解説、GPT-3達成したことと… | by akira | Jul, 2020 | Medium
                                                        • AI画家「DALL・E 2」一般公開へ 商用利用も可能に 悪用、差別防止機能を搭載

                                                          米AI研究企業OpenAIは7月20日(現地時間)、文章から画像を生成するAI「DALL・E 2」のβ版を公開し、事前登録していたユーザーの招待を始めた。招待人数は100万人。利用は基本無料で、生成した画像は商用利用も許可する。 利用は毎月ユーザーに配布するクレジットを消費する形で回数を調整。クレジットは販売も行うため、多く利用したいユーザーは追加購入できる。画像の生成の他に、生成画像やユーザーがアップロードした画像を自然言語による指示で編集できる機能や、1枚の画像から複数のバリエーションを生成する機能などを備える。 悪用防止のため、有名人や政治家の似顔絵、実在の人物の写実的な画像の他、暴力的、性的、政治的な画像は生成できないようブロックする。差別防止に向けては「CEO」「教師」など、人種や性別を特定しない指示で画像を生成すると、さまざまな属性の人の画像を生成するようにした。 関連記事 最

                                                            AI画家「DALL・E 2」一般公開へ 商用利用も可能に 悪用、差別防止機能を搭載
                                                          • 「機械の脳」が現実に? 現実味を帯びてきた脳の人工再現――東大研究者たちが講演

                                                            脳の機能を機械の身体に移植して、永遠の命を得る――サイエンス・フィクションの世界で夢見られてきたような未来が今、徐々に現実味を帯びつつある。 ライフサイエンス分野の事業に取り組む、LINK-Jは9月27日、「脳は人工的につくれるのか?〜脳の情報処理のフロンティアに挑む」と題したトークイベントをオンラインで開催。東京大学から気鋭の科学者2人が参加し、最先端の脳研究を披露した。 登壇者は東京大学大学院工学系研究科の渡辺正峰准教授と、東京大学生産技術研究所の池内与志穂准教授。渡辺氏は情報工学、池内氏は生物学の視点から脳の機能の解明を進めている。 脳とつながる機械で「意識のアップロード」目指す 神話の時代から多くの物語に描かれてきた「考える機械」は実現しうるのか。現代科学は、まさにその答えに手が届く位置にある。 脳神経科学者として“人工意識”をテーマに研究を進める渡辺氏。「意識を機械にアップロード

                                                              「機械の脳」が現実に? 現実味を帯びてきた脳の人工再現――東大研究者たちが講演
                                                            • Preferred Networks、深層学習の研究開発基盤をPyTorchに移行 - 株式会社Preferred Networks

                                                              PyTorch開発チームおよびオープンソースコミュニティと連携し、フレームワーク開発、MN-CoreプロセッサのPyTorchサポートなどを推進 株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長:西川徹、プリファードネットワークス、以下、PFN)は、研究開発の基盤技術である深層学習フレームワークを、自社開発のChainer™から、PyTorchに順次移行します。同時に、PyTorchを開発する米FacebookおよびPyTorchの開発者コミュニティと連携し、PyTorchの開発に参加します。なお、Chainerは、本日公開されたメジャーバージョンアップとなる最新版v7をもってメンテナンスフェーズに移行します。Chainerユーザー向けには、PyTorchへの移行を支援するドキュメントおよびライブラリを提供します。 PFN 代表取締役社長 西川徹は、今回の

                                                                Preferred Networks、深層学習の研究開発基盤をPyTorchに移行 - 株式会社Preferred Networks
                                                              • 詐欺まがいのAIベンチャーを辞めた人の話

                                                                この物語はフィクションです。実在の人物や団体などとは関係ありません。 とあるAIベンチャーに入ったことを心の底から後悔している。 「大学発ベンチャーです!自由に開発できる風土です!」みたいな宣伝文句に騙されて入ってしまった過去の自分をぶん殴りたい。 何がヤバかったかって? 会社のとある人物(卍と呼ぶ)がヤバすぎた。 そいつはクソみたいなアルゴリズムを「何でもできるAI」と宣伝していた。 いまどき「何でもできます!」なんて宣伝するバカいるわけない、って思うじゃん? マジなんだこれが。 講演会や営業先で卍が言うんだ。 「うちのAIは基本的に何でもできます」 「脳と同じ働きをします」 「ディープラーニングよりも軽くて高性能です」 でもって騙されるやつがいるんだこれが。 信じられないだろうけど本当にいたんだ。 騙されるやつはだいたい会社の役員とか高齢でコード書けない人間。 そういう人を意図的に狙っ

                                                                  詐欺まがいのAIベンチャーを辞めた人の話
                                                                • 無調整でもほぼ人間 AI歌声合成ソフト「CeVIO AI」の実力

                                                                  市販の歌声合成ソフトとして、ヤマハのVOCALOIDとともに独自の歴史を刻んできた「CeVIO」が1月29日、登場から8年を前に大きく進化。深層学習の技術を取り入れ「CeVIO AI」として、開発元のテクノスピーチが発売した。まずはその歌声を聴いてほしい。 これは、ソフト上で楽譜を打ち込んで再生ボタンを押しただけで出力された音声だ。それだけでこのように人間らしい歌声が出力できる。「しゃくりあげ」や「ビブラート」といった歌唱表現も勝手に付く。メインボーカルとして起用するにはもう少し調整が必要だが、作曲中の仮歌に使うなら文句のないクオリティーになっている。人間らしい歌声を合成するまでの時間が短いため、作業を迅速に進められるのがメリットの一つだ。 CeVIO AIリリースまでの道のり CeVIOは2013年公開のWindows専用音声/歌声合成ソフト。名古屋工業大学が長年研究しているHMM(隠れ

                                                                    無調整でもほぼ人間 AI歌声合成ソフト「CeVIO AI」の実力
                                                                  • NVIDIAのAI、パックマンをパクる。ゲームエンジンなしでゲーム再現

                                                                      NVIDIAのAI、パックマンをパクる。ゲームエンジンなしでゲーム再現
                                                                    • うつ病の人は健康な人と比べて特定の脳ネットワークが平均73%も拡大していることが判明

                                                                      人間の脳ではさまざまな領域が連携するネットワークが形成されており、このネットワークが特定のプロセスを実行しています。うつ病の人とそうでない人の脳を比較した新たな研究により、うつ病の人の脳では特定の脳ネットワークが平均73%も拡大していることがわかりました。 Frontostriatal salience network expansion in individuals in depression | Nature https://www.nature.com/articles/s41586-024-07805-2 Part of brain network much bigger in people with depression, scientists find | Depression | The Guardian https://www.theguardian.com/society

                                                                        うつ病の人は健康な人と比べて特定の脳ネットワークが平均73%も拡大していることが判明
                                                                      • 書籍「ファイナンス機械学習」を完全に理解するために役立つ参考資料

                                                                        少なくとも、この分野に経験の無い人がこの本だけを読んでもほとんど理解できないでしょう。 ファイナンス機械学習に対応したPythonライブラリとJupyter notebookが存在するでもあきらめることなかれ! このファイナンス機械学習を元にして実際にコードに起こされたJupyter notebookとPythonライブラリが存在します。 http://www.quantsportal.com/ Jacques Joubertさんが開設しているWebサイトですが、彼の修士課程のプロジェクトが「ファイナンス機械学習」に基づいたPythonライブラリ(mlfinlab)の作成とファイナンス機械学習をJupyter Notebookで解説した物、その解説pdfという物です。 ファイナンス機械学習で説明されている概念について実際にコード化されています。 それらのコードを読んでいくと、ファイナンス機

                                                                          書籍「ファイナンス機械学習」を完全に理解するために役立つ参考資料
                                                                        • ディープラーニング(Deep Learning)の歴史を振り返る - 渋谷駅前で働くデータサイエンティストのブログ

                                                                          先日Quora日本語版でこんな回答を書いたのですが、ついでなので少し文脈情報を付け足してブログの方に再録することにしました。理由は単純で、このブログでディープラーニングの歴史についてまとめた記事を今まで書いてきたことがなく、そしてブログ記事にした方がより認識違いや調査不足などについての指摘をもらいやすいと思われたからです。ということで、以下の説明に関してツッコミがあれば是非コメント欄などにお寄せくださいm(_ _)m (A Neural Network Playground) ディープラーニングを語る上で、その前史であるパーセプトロン、そして(人工)ニューラルネットワークの話題は欠かせません。以下大まかに説明していきましょう。(※歴史解説中では敬称略、各種用語は原則カナ表記*1) パーセプトロンの登場 ミンスキーによる批判と第1の冬の時代 誤差逆伝播学習則と中間層を用いたニューラルネットワ

                                                                            ディープラーニング(Deep Learning)の歴史を振り返る - 渋谷駅前で働くデータサイエンティストのブログ
                                                                          • DeepLの翻訳結果に突如現れた顔文字「彡(^)(^)」が話題

                                                                            翻訳ツールは便利だ。特に機械学習/深層学習ベースの翻訳サービスが登場してから、翻訳精度は飛躍的に向上した。海外の情報に当たるときに母国語で読めることのなんとありがたいことか。 翻訳サービスの中でも有名なのは「Google翻訳」と「DeepL翻訳」ではないだろうか。特にDeepLは、PDFやWord、PowerPointファイルの直接翻訳に対応している他、有料版では翻訳文字数が無制限だったり、語調の切り替えなんかにも対応している。 そんなDeepLだが、たまにとんでもない翻訳をすることがある。TwitterユーザーのSho Sakainoさん(@shosakaino)が投稿した、とある翻訳結果が話題だ。文章はフライトシューティングゲーム「ACE COMBAT ZERO THE BELKAN WAR」で登場するせりふなのだが、様子がおかしい。 そう、文頭に「彡(^)(^)」がいきなり出現するの

                                                                              DeepLの翻訳結果に突如現れた顔文字「彡(^)(^)」が話題
                                                                            • 画像から簡単に精巧な3D写真が作成できる論文が公開される、実際に3D写真を生成することも可能

                                                                              RGBに「奥行き(Depth)」情報を加えた「RGB-D」画像から、立体的な写真である「3D写真」を生成する方法を研究者チームが提案しています。たった1枚の写真から精巧かつ立体的な3D写真が手軽に生成可能ということで話題になっています。 3D Photography using Context-aware Layered Depth Inpainting https://shihmengli.github.io/3D-Photo-Inpainting/ RGB-D画像から3D写真を生成する方法を開発したのは、国立清華大学の大学院生でありバージニア工科大学にインターンシップ中のMeng-Li Shih氏、バージニア工科大学の大学院生であるShih-Yang Su氏、Facebookリサーチで働くJohannes Kopf氏、バージニア工科大学の助教であるJia-Bin Huang氏ら4人です

                                                                                画像から簡単に精巧な3D写真が作成できる論文が公開される、実際に3D写真を生成することも可能
                                                                              • OpenAIが発見したScaling Lawの秘密 - ディープラーニングブログ

                                                                                OpenAIはGPT-3の次の研究を始めています. 世間がGPT-3のデモに湧き上がる中,OpenAIはScaling Lawに関する2本の論文をひっそりと公開しました. Scaling Lawを一言で説明するなら「Transformerの性能はたった3つの変数のべき乗則に支配されている」というものです. Scaling Lawはそれ単体だけなら興味深い話で終わるかもしれません.実際に英語圏でもあまり話題にあがっていません.しかし,この法則の本当の凄さに気づいている研究者もいて,なぜ話題にならないのか困惑しています. I am curious why people are not talking more about the OpenAI scaling law papers. For me, they seem very significant. What I heard so far:

                                                                                  OpenAIが発見したScaling Lawの秘密 - ディープラーニングブログ
                                                                                • 機械学習アルゴリズムの学習法

                                                                                  TL;DR 機械学習のアルゴリズムには詳しくなりたいけど実装はしない、という立場の人向けの学習資料まとめ 知人向けで、具体的には同僚医師がターゲット読者(めちゃ狭い!)だが、一定度他の人にも役に立つかも 改めて色々眺めてみてやっぱり大学の講義は質の高いものが多いと思った 知人が機械学習のアルゴリズムを学びたいと言っているので、オススメの資料などを見繕ってみるブログエントリ。 機械学習への関わり方を雑にアルゴリズムと実装で分けた場合に、アルゴリズムには詳しくなりたいけど実装をするわけではない、という立場の人向けである。 このようなタイプの人はそんなにいないと思うけど、具体的にはドメインエキスパートとして機械学習エンジニアと一緒にアルゴリズム・データ改善に取り組んでいて、アルゴリズムでどんなことをやっているかをちゃんと理解したい、みたいなのが一例となる。 なんとなくのイメージ的な理解だけだと、

                                                                                    機械学習アルゴリズムの学習法

                                                                                  新着記事