70年以上未解決であった「ミルズの定数の無理数性」が解決か！？ - INTEGERS
旧知の仲である数学者 齋藤 耕太 氏（筑波大学、学振PD）が、昨日数学の未解決問題を解決したとするプレプリントをプリプリントサーバーarXivに投稿されました： arxiv.org 論文自体は「現状分かるところまで研究しつくす」という素晴らしい態度で執筆されているので主定理の記述は十行ありますが、その特別な場合をとり出した ミルズの定数は無理数である という定理（これは論文のタイトルにもなっています）が、ある程度長い期間未解決であったと思われる数学上の問題の解決を意味しています。 無理数性の証明はかっこいい 実数という数学的対象は有理数と無理数に分けられます。有理数は などのように という表示を持つ実数であり（ここでは自然数は正の整数を意味するものとします）、有理数ではない実数のことを無理数といいます。 高校数学でも証明込みで学ぶことと思いますが、無理数の典型例としては があげられます。こ
速報：話題の 1ビットLLMとは何か？｜寺田英雄（㈱オープンストリームCTO）
2024-02-27にarXiv公開され，昨日（2024-02-28）あたりから日本のAI・LLM界隈でも大きな話題になっている、マイクロソフトの研究チームが発表した 1ビットLLMであるが、これは、かつてB-DCGAN(https://link.springer.com/chapter/10.1007/978-3-030-36708-4_5; arXiv:https://arxiv.org/abs/1803.10930 )という「１ビットGANのFPGA実装」を研究していた私としては非常に興味をそそられる内容なので、論文を読んでみた。今回は速報として、その内容のポイントを概説したい。 論文情報 Ma, S. et al. (2024) ‘The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits’, arXiv [c
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
LK-99は本当に常温常圧超伝導を達成しているのか - 理系のための備忘録
先月末、「常温常圧で超伝導を示す物質が作成できた」というニュースが飛び込んできた。合成の成功を主張しているのは韓国の高麗大学の研究チームである。超伝導転移温度は歴代最高温度を大幅に塗り替える127℃と報告されており、これが常圧（大気圧）下で超伝導性を発現するとのことである。現在様々な追試が世界中で進められており、ネット世界をリアルタイムで大いに騒がせている。 本稿では、現時点におけるこの周辺の状況について情報を整理したい。 プロローグ：Lu-HN系の超伝導性？ 時はやや遡り、今年の3月。アメリカ合衆国ロチェスター大学の教授であるランガ･P･ディアス（Ranga P. Dias）の研究グループは、294 K（≈ 20.85℃）、1万気圧（≈ 1 GPa; 1ギガパスカル）の条件で含窒素ルテチウムハライド結晶（Lu-HN系）が超伝導性を示すと主張する成果をNature誌において報告した[1]。
GPT-4登場以降に出てきたChatGPT/LLMに関する論文や技術の振り返り - Platinum Data Blog by BrainPad
本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 この記事では、GPT-4の登場から執筆日（2023年5月31日時点）までの2ヶ月間で登場した論文を振り返りながら、まとめて紹介していきます。 LLM/ChatGPTの動向 オープンソースLLM モデル オープンソースLLMの調整 Adapter、LoRA Instruction Tuning Human Feedback プロンプトエンジニアリング プロンプトエンジニアリングの課題①：プロンプトに大量の情報を入れられない プロンプトエンジニアリングの課題②：複雑なタス
2022年の深層学習ハイライト - Qiita
はじめに 2023年になって日が経ってしまいましたが、今年も深層学習の個人的ハイライトをまとめたいと思います。今回は研究論文5本と応用事例4つを紹介します。他におもしろいトピックがあれば、ぜひコメントなどで教えて下さい。 AIの研究動向に関心のある方には、ステート・オブ・AIガイドの素晴らしい年間レビューもおすすめします。また、私が過去に書いた記事（2021年、2020年、2019年）もよろしければご覧ください。 * 本記事は、私のブログにて英語で書いた記事を翻訳し、適宜加筆修正したものです。元記事の方も拡散いただけると励みになります。 ** 記事中の画像は、ことわりのない限り対象論文からの引用です。 研究論文 Block-NeRF: Scalable Large Scene Neural View Synthesis 著者: Matthew Tancik, Vincent Casser,
筋力低下の難病を患う女性が独学で論文を読みあさり「オリンピック陸上銅メダリストと自身に共通する遺伝子変異」を発見するまでの物語
病気を患っている人々は自然とその病気について詳しくなりがちですが、さすがに科学論文まで読みあさって専門知識を蓄える人はそれほど多くはいません。しかし、アメリカに住むジル・ヴァイルズという女性は、自らも筋力が低下して歩行すら困難になる難病を患いながら独学で科学論文を読みあさり、「オリンピック銅メダリストと自身に共通する遺伝子変異」を発見したとのことです。 The DIY Scientist, the Olympian, and the Mutated Gene — ProPublica https://www.propublica.org/article/muscular-dystrophy-patient-olympic-medalist-same-genetic-mutation 1974年に生まれたヴァイルズ氏は幼少の頃から体が非常に細く、3歳の頃には体を支えきれずにトイレにはまったり
話題爆発中のAI「ChatGPT」の仕組みにせまる！ - Qiita
オミータです。ツイッターで人工知能のことや他媒体の記事など を紹介しています。 @omiita_atiimoもご覧ください！ 話題爆発中のAI「ChatGPT」の仕組みにせまる！ 注意：ChatGPTはまだ論文が出ていないため、細かい箇所は不明です。本記事では公式から出た記事およびInstructGPTの論文をもとにChatGPTの仕組みを探っていきます 本記事の流れ: 忙しい方へ ChatGPTとは GPT-3 InstructGPT ChatGPT まとめと所感 参考 0. 忙しい方へ ChatGPTは、InstructGPTをベースとしたモデルだよ InstructGPTは、「人間の好みに合った文を出力するように微調整したGPT-3」だよ InstructGPTの学習では、以下の3つが重要だよ GPT-3の教師ありファインチューニング Reward Modelの学習 RLHF（＝Re
AIで数学の新たな定理発見 英DeepMindと数学者がNatureに共同論文
新たな数学の定理の発見や、未証明の予想の解決にAIが役立つ──そんな研究結果を、囲碁AI「AlphaGo」などで知られる英DeepMindが発表した。順列に関する新しい定理を発見した他、ひもの結び目を数学的に研究する「結び目理論」についても、異なる数学の分野をつなぐ、予想していなかった関係性を見つけたという。 DeepMindは、豪シドニー大学と英オックスフォード大学の数学者とともに数学研究を支援するための機械学習フレームワークを構築。これまでも数学者は、研究対象を調べるためにコンピュータを使い、さまざまなパターンを生成することで発見に役立ててきたが、そのパターンの意義は数学者自身が考察してきた。しかし、研究対象によっては何千もの次元があることから、人間による考察も限界があった。 今回開発したアルゴリズムは、こうしたパターンを検索する他、教師あり学習を基にその意味を理解しようと試みるという
なぜリベラルの声は中間層に届かないのか？（鳥海不二夫） - エキスパート - Yahoo!ニュース
Scientific Reportsという論文誌に"Japanese conservative messages propagate to moderate users better than their liberal counterparts on Twitter"という論文が掲載されました． 日本国内の話ですので，折角だから解説したいと思います． 今北産業安倍政権時代の安倍晋三元首相に関する1億2千万件以上の大量ツイートを分析した結果，保守派のツイートの方がリベラル派のツイートよりも穏健な中間層によく届いていることが明らかになりました． もうちょっと詳しく東京大学・豊橋技術科学大学・香港城市大学の国際共同研究グループは、1億2千万件を超える安倍元首相に関するツイート（「安倍」または「アベ」が含まれるツイート）を解析し，保守派のツイートの方がリベラル派のツイートよりも穏健な中間層によく
「敬語をちょっと直すだけでほぼ完璧な翻訳」Google翻訳以上？DeepL翻訳がスゴいという話
精神科医K @dwdaai DeepL翻訳ガチでやばい こら時代が変わるわ グーグル翻訳でもなんとか意味は取れるがDeepL翻訳は敬語をちょっと直すだけでほぼ完璧な翻訳 twitter.com/jaguring1/stat… 2020-03-20 19:31:09 小猫遊りょう（たかにゃし・りょう） @jaguring1 試しに、いま僕が読み返している、グーグルのAI開発を率いている大天才Jeff Deanの論文（2019年11月13日）の概要を、DeepL翻訳（1枚目）とグーグル翻訳（2枚目）に入れてみた。 Jeff Deanの論文 arxiv.org/abs/1911.05289 DeepL翻訳 deepl.com/translator グーグル翻訳 translate.google.com/?hl=ja pic.twitter.com/9o5VJkfm11 2020-03-20 18
本１冊を機械翻訳で訳してみた - Qiita
昨年暮れに、新 企業の翻訳者を目指す皆さんへという本を出版しましたが、その本を機械翻訳を使ってまるまる１冊英語に翻訳してみました。翻訳済みの英語はこちらです。PDFファイルを無料でダウンロードいただけます。 使った機械翻訳システムはみらい翻訳です。Google翻訳やMicrosoft Translatorも試してみましたが、少なくとも昨年夏にいろいろ試した結果、（英日はわかりませんが）日英の翻訳品質が一番良い印象でした。もっとも、定量的な評価をしたわけではないので、あくまでも「印象」です。 私は1980年代の終わりころに機械翻訳の研究をしていました（学位も機械翻訳の研究でいただきました）。ですので、ある程度は機械翻訳のことはわかっていると思っていました。初期のもくろみは、辞書の整備と十分な前編集を行うことで、ほぼ後編集なしで本１冊をまるまる英訳することでした。後で述べるように、今の機械翻訳
宇宙際タイヒミューラー理論（IUTeich）の論文を巡る現状報告： 「数学界に出現している悲惨なブラックホールの物語」 - 新一の「心の一票」：楽天ブログ
2020.01.05 宇宙際タイヒミューラー理論（IUTeich）の論文を巡る現状報告： 「数学界に出現している悲惨なブラックホールの物語」 カテゴリ：研究関連の現状報告 記事の標題にあるテーマについて度々聞かれますので、この際、内容をきちんと整理して皆さんにお伝えしたいと思います。この内容は報告とも言えますが、広い意味での、一種の「内部告発」とも言えます。 まず強調しなければならないことは、理論に関わっている研究者の、約7年半に及ぶ大変な努力によって、理論の論理構造は細部まで徹底的に分析・議論され、何十回もの単独講演や何件もの大きな研究集会で詳細に解説され、また何名もの研究者により（いわゆる「サーベイ」という形で）解説原稿が出版され、特に理論の正しさは何十回、何百回と確認されており、この検証活動によって多数の軽微な記述上の不備等は発見され直ちに修正されているものの、理論の本質的な正しさに
ゴリゴリの文系がＡＩをほぼ独学した半年 - Qiita
ゴリゴリの文系（偏差値４０前半）がAIを学んだ半年 どうも、ゴリゴリの文系です。 商業高校卒業したあと、文系学部にいったので、そこらへんの文系とは格が違います。 文系界のサラブレットです。 肝心な数学力ですが、高校で数学Aまで勉強して、大学で数学入門とっただけです。 つまり、戦闘力0.1ぐらいです。 これから勉強する人に向けてポエムをつらつらと書いていきます。 やってきたこと 実装から始めたい人はある程度参考になるかと。 理論から始めたい人は微積、線形代数、確率統計の基礎を習得してからcouseraに行くのが良いのではないでしょうか。（個人の感想です。） 独学はモチベドリブンでやんないとしんどいので自分でカスタマイズしていってください。 0ヶ月目 会社の研修でプログラミングの基礎を習得。 ここでJavaを勉強してそこそこ組めるようになりました。 研修が終わってから2日くらいかけて、pyth
Googleが作った分散アプリケーション基盤、Borgの論文を読み解く -その1- - inductor's blog
このエントリーについて このエントリーを書き始めた経緯は下記にあります。 inductor.hatenablog.com 上記の理由の通り、目的は論文を翻訳することだけではなく、最終的にこれを踏まえて自分の見解をつらつらと書いていくところにもあります。 おそらく一番時間がかかるのはそれなので、一旦は翻訳を一通り終えた上で更に頑張っていきます。ゆっくりお待ちいただければと思います＞＜ 1. Introduction(まえがき) Borgが内部的に呼び出すクラスター管理システムは、Googleが実行するすべてのアプリケーションを許可、スケジュール、起動、再起動、および監視します。この論文ではその方法を説明します。 Borgには3つの主な利点があります。 リソース管理と障害処理の詳細を隠すため、ユーザーは代わりにアプリケーション開発に集中できます。 非常に高い信頼性と可用性で動作し、同じことを行
プログラミングできる人とできない人との間の深い溝 - masatoi’s blog
どうしてプログラマに・・・プログラムが書けないのか?を読んでいて出てきたので出展の一つを訳してみた。Separating Programming Sheep from Non-Programming Goatsの和訳。 プログラミングというものには向き不向きが強く出るということはわりと知られていると思うが、このエントリではプログラミングができるかできないかは比較的簡単なテストによって、プログラミングの訓練を始める前の段階で分かると主張している。どうしてプログラマに・・・プログラムが書けないのか?では、そもそもこの事前テストをパスしていないような人達までプログラマとして応募してくると言っており、その判定法として有名なFizzBuzz問題を挙げている。 追記（2019/2/28) 注意： なおこの論文はしばらく前に著者の一人によって撤回されたようです Camels and humps: a r
土星の1日の長さが判明、太陽系で唯一謎だった
土星の環の一部に本体の影が落ちている。NASAの探査機カッシーニが2016年10月に最後に撮影した数点の画像を合成したもの。（PHOTOGRAPH BY NASA/JPL-CALTECH/SPACE SCIENCE INSTITUTE） 土星を取り巻く繊細な環。美しいのはもちろんだが、魅力はそれだけではない。信じられないような科学的な事実も打ち明けてくれるのだ。 このほど天体物理学の学術誌「The Astrophysical Journal」に、環に生じる波を利用して、土星の1日の長さを解明した論文が発表された。論文によると、土星の1日は10時間33分38秒であるという。科学者たちはこれまで、土星の1日の長さがわからないことを何十年も歯がゆく思っていた。 これは重要な発見だ。「太陽系のどの惑星についても、1日の長さは根本となる特性ですから」と、NASAの土星探査機カッシーニのミッションに参
独りで学ぶ 論文検索｜学ぶ素人｜note
皆さんは「学術論文」を読んだことがあるでしょうか。 大学生や大学院生なら、自分の分野の論文は読んでいることでしょう。 情報が広く共有される現代でも、 「学術論文は専門家や研究者が読むもの」 「普通の市民は論文など読めない」 というイメージは今でもかなり強いように感じます。 私はこれを非常に「もったいない」と思っています。 実際には、「素人が専門の論文にアクセスする」ためのハードルは年々下がっているからです。 今や、素人でも「専門家が読んでいるのと同じ文献」をその気になれば読める時代になりました。 にもかかわらず「科学論文を読む素人」や「分野外の論文を読む学徒」が増えないのは、「論文の読み方」を大学以外でなかなか習えない、というのが一つの障壁になっているのかもしれません。 「論文の調べ方」「論文の読み方」に王道などありませんが、今回はあくまで私の例として、論文を探して読むためのハウツーを簡単
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
AI 激動の年！2022年の人工知能10大トレンドと必読論文
全ての機械学習の論文は新しいアルゴリズムを提案しているのですか？
