laniusのブックマーク / 2024年5月10日

ローカルLLM のリリース年表｜npaka

主な「ローカルLLM」のリリース年表をまとめました。 2022年11月30日 OpenAI - ChatGPT リリース 2023年2月24日 LLaMA7B、13B、33B、65B を研究者向けの限定リリース。

lanius 2024/05/10

リンク

本家Examplesで知る、新たなニューラルネットワーク『KAN』の威力 - Qiita

文中の図は理がない限り、原論文あるいはドキュメントからの引用です。 KANってなに？ KAN（Kolmogorov-Arnold Networks）は2024年4月30日にプレプリント公開サイトarXivに投稿された論文にて提案された従来のMLPとは異なる新たなニューラルネットワーク構造です。1 コルモゴロフ・アーノルド表現定理（Kolmogorov-Arnold representation theorem）に基づいて設計されており、非線形な活性化関数そのものを直接学習することから、パラメータ効率が良く、学習結果の解釈可能性が高いことが特徴です。上の画像は$x, y$を入力として$\exp(\sin(\pi x)+y^2)$を正解として学習させるケースを示した図ですが、元の関数の関係性がそのまま活性化関数の形状として学習され現れていることが読み取れます。コルモゴロフ・アーノルド表

lanius 2024/05/10

機械学習

リンク

Neuralinkの脳インプラント手術を受けた四肢マヒ患者が「マリオカートなどのゲームを考えるだけでプレイ可能になった」という術後100日レポート

イーロン・マスク氏が創業した脳インプラント企業「Neuralink」は、2024年1月に最初のヒト臨床試験を実施しました。この臨床試験で脳インプラント手術を受けたノーランド・アーバー氏の術後100日レポートが2024年5月8日(水)に公開されました。 PRIME Study Progress Update — User Experience | Blog | Neuralink https://neuralink.com/blog/prime-study-progress-update-user-experience/ Neuralinkは「神経信号を受信して体外にワイヤレス送信する脳コンピューティングインターフェース(BCI)」を開発する企業で、マヒ患者の脳にデバイスを埋め込むことで患者の独立性を回復し生活を改善することを目指しています。アーバー氏は、2024年1月にNeuralink