「意思決定の仕組み」がついに判明（ハーバード大学） - ナゾロジー
意思決定とは、どんな現象なのでしょうか？ 米国のハーバード大学で行われた研究によって、意思決定が行われる際に、脳内の神経ネットワークが使用する「基礎的なルール」が判明しました。 研究では特にT字路での二者択一の状況という、最も単純化された意思決定が調べられており、根幹となる仕組みに迫っています。 これまで意思決定の起こる仕組みについて多くの理論が提唱されてきましたが、皮質において実際に確認できたのは今回が初めてとなります。 どんなニューロンが接続され、どのように発火することが「意思決定」となるのでしょうか？ 研究内容の詳細は2024年2月21日に『Nature』にて掲載されました。
ニューラルネットワークの中身を分割してAIの動作を分析・制御する試みが成功、ニューロン単位ではなく「特徴」単位にまとめるのがポイント
GoogleやAmazonが投資するAIスタートアップのAnthropicの研究チームが、ニューラルネットワークがどのように言語や画像を扱っているのかを解き明かす研究において、個々のニューロンを「特徴」と呼ばれる単位にまとめることでニューラルネットワークの中身を解釈しやすくなるという研究結果を発表しました。 Anthropic \ Decomposing Language Models Into Understandable Components https://www.anthropic.com/index/decomposing-language-models-into-understandable-components 大規模言語モデルは多数のニューロンが接続されたニューラルネットワークで、ルールに基づいてプログラミングされるのではなく、多数のデータを元にトレーニングを行うことでタス
生成AIの飛躍的性能アップの秘密「グロッキング」とは？
ChatGPTなどの優れたAIモデルを開発するAI研究団体のOpenAIが発見した、ディープラーニングにおける最も魅力的な謎のひとつとされる「グロッキング」について、GoogleのAI研究者が位相変化との関係を指摘しています。 [2301.05217] Progress measures for grokking via mechanistic interpretability https://arxiv.org/abs/2301.05217 A Mechanistic Interpretability Analysis of Grokking - AI Alignment Forum https://www.alignmentforum.org/posts/N6WM6hs7RQMKDhYjB/a-mechanistic-interpretability-analysis-of-grokk
人工培養した人の脳が「Pong」をプレイ。AIよりも早い上達を見せる | テクノエッジ TechnoEdge
ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 ペトリ皿の上で人間の脳細胞を約80万個にまで培養した「DishBrain」に、科学者が原始的なゲーム『Pong』をプレイさせることに成功したと、査読付き科学ジャーナルNeuronに発表しました。 この研究を率いた研究者Brett Kagan博士は、「外部から情報を得て、それを処理し、リアルタイムで反応を返すことができる」と語っています。 話だけを聞いていれば、なんだか皿の上の小さな脳細胞の塊に自我があって、何らかの方法でコントローラーを操作してゲームをプレイしたかのうような話にもきこえます。しかし、いくら人の脳細胞とはいえ、目もなければ耳もない脳細胞のかけらがそのような高度な反応を示せるはずもありません。 で
最近ものすごく優秀な修士就活生が増えている→機械翻訳『DeepL』を巧みに使って論文を書いていた「すごい時代が来たな」
くりぷとバイオ@研究×新規事業開発 @cryptobiotech バイオテック/フードテック、生成AIなどの先端技術の話題に加え、スタートアップなど先端ビジネスの話題を日々発信 / 修士卒▶大手メーカー研究職▶Ph.D.取得▶新規事業開発職 / 化学生物学と細胞生物学にちょっと詳しい人 / 先端技術を活用して社会をより良くしたい / 研究者、起業家の方と交流したい https://t.co/ejrOhfzx6m くりぷとバイオ@研究×新規事業開発 @cryptobiotech 1st author論文持ってる修士就活生が増えてるようで、それを達成してるM1後輩に話を聞いてみたら「日本語で文章書いて全部DeepL翻訳で英語化→英語化された文章をgoogle翻訳、みらい翻訳で日本語化→違和感ないか確認→指導教官に提出」というプロセスを踏んでるらしい。そりゃ早くなるわけだ。すごい くりぷとバイオ
Self-Attentionを全面的に使った新時代の画像認識モデルを解説！ - Qiita
08/31 (2020): 投稿 08/31 (2020): 「畳み込みを一切使わない」という記述に関して、ご指摘を受けましたので追記いたしました。線形変換においては「チャネル間の加重和である1x1畳み込み」を実装では用いています。 08/31 (2020): 本論文で提案されているモデルの呼称に関して認識が誤っていたためタイトルおよび文章を一部修正しました。 言葉足らずの部分や勘違いをしている部分があるかと思いますが、ご指摘等をいただけますと大変ありがたいです。よろしくお願いします！(ツイッター:@omiita_atiimo) 近年の自然言語処理のブレイクスルーに大きく貢献したものといえば、やはりTransformerだと思います。そこからさらにBERTが生まれ、自然言語の認識能力などを測るGLUE Benchmarkではもはや人間が13位(2020/08現在)にまで落ちてしまっているほ
人工神経回路による脳の理解はどこまで進んだか - 知識のサラダボウル
(著) 山拓 神経科学 Advent Calendar 2019の2記事目です。人工神経回路 (Artificial neural network, ANN) を用いた研究により、脳の理解はどこまで進んだか、次に何が調べられるべきなのかということについて解説します。 昨年の年末からhttps://github.com/takyamamoto/BNN-ANN-papersにANNと脳に関する論文リストを作成しており (これは先に研究が出てしまう悲劇が頻発したための措置ですが)、このリストがそのまま参考文献となっています。 本記事は特に(B.A. Richards, T.P. Lillicrap, et al. Nat. Neurosci. 2019)での議論を参考にしています(翻訳ではないです)。 この論文はANNと脳についての研究を先導してきた多くの研究者が共著者となっています（一体どうや
畳み込みニューラルネットワークの高精度化と高速化
2012年の画像認識コンペティションILSVRCにおけるAlexNetの登場以降，画像認識においては畳み込みニューラルネットワーク (CNN) を用いることがデファクトスタンダードとなった．CNNは画像分類だけではなく，セグメンテーションや物体検出など様々なタスクを解くためのベースネットワークとしても広く利用されてきている．本講演では，AlexNet以降の代表的なCNNの変遷を振り返るとともに，近年提案されている様々なCNNの改良手法についてサーベイを行い，それらを幾つかのアプローチに分類し，解説する．更に，実用上重要な高速化手法について、畳み込みの分解や枝刈り等の分類を行い，それぞれ解説を行う． Recent Advances in Convolutional Neural Networks and Accelerating DNNs 第21回ステアラボ人工知能セミナー講演資料 http
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NTT、「人のように音を聞く」人工ニューラルネットワーク