大学で読んだ情報科学関連の教科書 - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
先日、博士（情報学）になりました。学部と大学院をあわせた 9 年間で読んだ情報科学関連の教科書・専門書を思い出を振り返りつつここにまとめます。私は授業はあまり聞かずに独学するタイプだったので、ここに挙げた書籍を通読すれば、大学に通わなくてもおおよそ情報学博士ほどの知識は身につくものと思われます。ただし、特に大学院で重要となる論文を読み書きすることについては本稿には含めておりません。それらについては論文読みの日課についてや論文の書き方などを参考にしてください。 joisino.hatenablog.com 凡例：（半端）とは、数章だけ読んだ場合か、最後まで読んだものの理解が浅く、今となっては薄ぼんやりとしか覚えていないことを指します。☆は特におすすめなことを表します。 学部一年 寺田 文行『線形代数 増訂版』 黒田 成俊『微分積分』 河野 敬雄『確率概論』 東京大学教養学部統計学教室『統計学
Google、PDF論文を劇的に読みやすくするChrome拡張「Google Scholar PDF Reader」
Google、PDF論文を劇的に読みやすくするChrome拡張「Google Scholar PDF Reader」 米Googleが「Google Scholar PDF Reader」というPDF形式の論文を読みやすくするChromeブラウザ拡張機能の提供を開始した。 プラットフォームやOSに依存せず、クリーンで、文章の構造が一貫しているPDFは、学術文書の標準的なフォーマットとして広く利用されている。しかし、一方で、引用されている他の文献にジャンプするのが難しかったり、あるいは特定のセクションを閲覧したくても、PDFの構造上、簡単に移動できないなど、閲覧性に関して不便と感じる面もある。Googleは「Google Scholar」という学術論文の検索エンジンを提供している。シンプルで分かりやすい画面構成で、良質な学術文書を効率的に見つけられるサービスである。Scholar PDF R
人だと正解率92％なのに、GPT-4だと15％になる新型テスト集「GAIA」 米Metaなどが開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Metaや米HuggingFaceなどに所属する研究者らが発表した論文「GAIA: a benchmark for General AI Assistants」は、難しいタスクではなく、人間にとって簡単なタスクを達成する大規模言語モデル（LLM）を評価するためのベンチマークを提案している。この研究は、人間が日常で当たり前に実行してほしいタスクを正確にこなすLLM構築を目指すためのテスト集である。 現在のベンチマークは、人間にとってより困難なタスクを求めており、LLMには数学や法律などの複雑なタスクや、一貫性のある本を書くなどの複雑な課題が
計算エラーの発生時にSSHの秘密鍵が盗み取られる危険があることを研究者が実証
SSHは暗号や認証技術を利用して安全にリモートコンピュータと通信するためのプロトコルですが、その通信の開始時に行うRSA署名の際に計算エラーが発生するとSSH秘密鍵が解析されてしまうことが実証されました。 (PDF)Passive SSH Key Compromise via Lattices https://eprint.iacr.org/2023/1711.pdf In a first, cryptographic keys protecting SSH connections stolen in new attack | Ars Technica https://arstechnica.com/security/2023/11/hackers-can-steal-ssh-cryptographic-keys-in-new-cutting-edge-attack/ SSHでは接続時にユ
Natureなどの論文約4,800本でGPT-4による査読能力が検証され、「LLMは査読にも有用」と結論 | AIDB
スタンフォード大学などの研究者らによる最新の研究では、Nature誌をはじめとする約4,800本の論文に対して、GPT-4を用いた査読の品質が大規模に検証されました。この研究は、科学的なフィードバックの生成における大規模言語モデル（LLM）の有用性を改めて（あるいは初めて）体系的に評価するものです。 結果からは、「LLMは査読サポートツールとしても有用」という結論が導かれました。また論文の初期段階での推敲においても、LLMのフィードバックが研究者に有益である可能性は高いとされています。 本記事では、研究内容を詳しく見ていきます。 参照論文情報 ・タイトル：Can large language models provide useful feedback on research papers? A large-scale empirical analysis ・著者：Weixin Liang
「世界を覚醒させるようなAI研究を」東大・谷中 瞳准教授
産業技術総合研究所（産総研）は2023年、若手AI研究者の育成を支援する「覚醒プロジェクト」を立ち上げた。35歳未満の若手研究者を対象に独創的な研究テーマを募集し、採択された研究者には研究資金や計算資源、プロジェクトマネージャー（PM）による助言などの支援を提供する。応募は10月13日まで、同プロジェクトのサイトで受付中だ。 ホットなAI分野で先端を走るプロジェクトマネージャーたちは、「覚醒」にどのような研究者を求めているのか？ PMの一人で、自然言語処理を専門とする東京大学大学院 情報理工学系研究科の谷中 瞳准教授に話を聞いた。 東京大学大学院 情報理工学系研究科 准教授（卓越研究員） 谷中 瞳氏 2013年、東京大学大学院工学系研究科化学システム工学専攻修士課程修了。同年、株式会社野村総合研究所に入社し、特許検索システムの開発に従事。2018年、東京大学大学院工学系研究科システム創成学
GPT-4、Bard、Claude2などの異なるLLMが円卓を囲み議論した結果の回答は品質が高いとの検証報告。円卓ツールも公開 | AIDB
異種LLM同士の議論 米ノースカロライナ大学の研究者らは、異なる種類の大規模言語モデル（LLM）同士に議論させるというアプローチを採りました。 このアイデアの背後には、異なるモデルがそれぞれの強みと弱みを持っているという認識があります。例えば、GPT-4は一般的なテキスト生成に優れている一方で、Bardは物語生成に特化しています。これらのモデルを組み合わせることで、より高度な推論が可能になると考えられています。 研究者らは、複数の異なるLLM（GPT-4、Bard、Claude2など）を円卓会議のような形で議論させるアイデアを形にしました。各モデルは独自の視点と推論能力を持ち寄り、最終的な回答や結論を出す過程が検証されました。 異種LLMs円卓会議ツール 研究者らはただ実験を行って報告するだけでなく、LLM同士に議論させて答えを提出させるプロセスを自動化するツールも提供しています。このツー
LINE、商用利用が可能な日本語大規模言語モデルをOSSで公開
「japanese-large-lm」は、同社が以前から取り組んでいる日本語の大規模言語モデル「HyperCLOVA」の研究開発プロジェクトと並行して、Massive LM開発ユニットにより開発された。 なお、本モデルのライセンスは、商用利用が可能な「Apache License 2.0」となっている。 同モデルの訓練には、同社独自の大規模日本語Webコーパスが利用され、Web由来のテキスト特有のノイズを除去するために、同社NLPチームのメンバーが開発したOSSの「HojiChar」によるフィルタリング処理が適用されている。また、最終的な学習には約650GBのコーパスが利用されている。加えて本モデルでは、「3D Parallelism」「Activation Checkpointing」などの手法を用い、学習を高速化している。 学習したモデルの性能評価には、Perplexityスコア（PP
型理論 - Wikipedia
型理論（かたりろん、英: Type theory）とは、プログラミング・数学・言語学等に現れる型の概念及びそれらが成す型システムを研究対象とする数学・計算機科学の分野である。特定の型システムのことを型理論と呼ぶこともある。集合論の代替となる数学の基礎として役立てられる型理論（型システム）も存在する。そのような例としてアロンゾ・チャーチの型付きラムダ計算やマルティン・レーフの直観主義型理論が有名である。 20世紀初頭にバートランド・ラッセルが発見した、ラッセルのパラドックスによるフレーゲの素朴集合論の欠陥を説明する中で提起されたtheories of typeが型理論の起源であり[1]、後年にAxiom of reducibilityが付随された型理論は、ホワイトヘッドとラッセルの 『プリンキピア・マテマティカ』に収録されている[2]。 単純階型理論（Simple Theory of Typ
ボトム型 - Wikipedia
ボトム型（ボトムがた、英: Bottom type）とは、型理論や数理論理学において値を持たない型のことである。ゼロ型または空型とも呼ばれ、アップタック記号（⊥）で表記される。戻り値の型がボトム型である関数は、いかなる値も返さない。カリー＝ハワード同型対応ではボトム型は偽に対応する。 計算機科学への応用[編集] 部分型付けシステムにおいて、ボトム型はすべての型の部分型である[1] 。（ただしその逆は成り立たない。つまり、すべて型の部分型が必ずしもボトム型であるとはいえない。）値を返さない関数（例えば無限ループや例外の送出、プログラムの終了など）の戻り値の型を表すのに使われる。 ボトム型は正常な返却ではないことを示すために使用されるので、普通は一切の値を持たない。これとは対照的にトップ型はシステム上可能なすべての値におよび、また、ユニット型はただ1つの値を持つ。ボトム型はいわゆるVoid型と
Fitbitの新しい特許によって動脈硬化を測定する機能が追加されるかもしれません | HelenTech
Fitbitが新たに申請した特許から、光電脈波計(PPG)の技術を利用して心臓の健康状態をモニタリングする技術の開発を進めており、ユーザーの動脈硬化などをウェアラブルデバイスで測定できる可能性があることが示されました。 また、Gadget & Wearablesによれば手首に装着したデバイスから血圧測定などにも利用できる可能性があることを伝えています。 このほかに特許に関する情報として、Fitbitの新しいウェアラブルの構造や慣性センサー、PPGセンサー、いくつかのCPUなどが含まれており、持久力トレーニングや体力トレーニングといった複数の場面で使用されることを想定しており、ユーザーが眠っているか、仕事をしているか、座っているかといった場面の想定も含まれているとしています。 技術的な詳細は省きますが、少なくともFitbitは新しいセンサーと技術を導入し、測定項目を増やしてウェルネス機能の強
国際交流基金 - 日本語教育通信 日本語・日本語教育を研究する 第33回
早稲田大学大学院日本語教育研究科教授 舘岡 洋子 ピア・ラーニング Peer Learning １．ピア・ラーニングとは 「ピア・ラーニング」とは、文字通りにはピア（peer：仲間）と学ぶ（learn）ことですが、対話をとおして学習者同士が互いの力を発揮し協力して学ぶ学習方法です。ピア・ラーニングにおいてもっとも重要な概念は、「協働」、つまり、人と人とが互いに力を出し協力して創造的な活動を行うことです。では、ピア・ラーニングと「協働的学習(collaborative learning)」とはどこが違うのでしょうか。協働的学習は協働による学び一般を指しますが、ピア・ラーニングはその中で相手が仲間（クラスメート）である場合に限定し、とくに教室場面での学習を想定しています。仲間同士の対等で互恵的な関係の中で、互いに貢献しあい学びます。現在、日本語の教室では、学習者が対話をとおして読みを深める「ピ
自動プログラミングAIの「AlphaCode」をDeepMindが発表、競技プログラミングレベルのコード生成が可能
DeepMindが競技プログラミングレベルのプログラミングが可能な人工知能(AI)の「AlphaCode」を発表しました。AlphaCodeのほかにも自動でプログラミングが可能なAIは存在しますが、AlphaCodeは414億ものパラメーターを保持した特に精度の高いAIに仕上がっているとのことです。 Competitive programming with AlphaCode | DeepMind https://deepmind.com/blog/article/Competitive-programming-with-AlphaCode Competition-Level Code Generation with AlphaCode (PDF)https://storage.googleapis.com/deepmind-media/AlphaCode/competition_leve
DeepMindのAI｢AlphaCode｣が人間のプログラマーと互角になってきた
DeepMindのAI｢AlphaCode｣が人間のプログラマーと互角になってきた2022.12.23 20:0020,014 Mack DeGeurin - Gizmodo US ［原文］ （ 禿頭帽子屋/Word Connection JAPAN ） 人工知能（AI）に秘められた能力の段階的な発達をたどるという話になると、なぜかチェスや囲碁といった昔ながらのボードゲームが持ち出されがちです。その例は挙げればきりがないほどで、つい最近にも、戦略ゲーム｢ディプロマシー｣をプレイできるAIが話題になりました。しかし、こうした事例で示されるのは、あくまでもAIが現実世界の問題を解く能力の範囲に限られます。 これよりずっといい｢力試し｣になりそうなのが、AIと人間をプログラミングのコンテストで競わせることです。Alphabet傘下のDeepMindが保有するAIモデルAlphaCodeが、実際に
ネット接続していないPCをスマホでハッキング 壁越しでも2m離れた場所から無線で攻撃
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 イスラエルのBen-Gurion University of the Negevに所属する研究者が発表した論文「COVID-bit: Keep a Distance of (at least) 2m From My Air-Gap Computer!」は、ネットに接続していないコンピュータ（エアギャップPC）を離れた場所から無線でハッキングするサイバー攻撃を提案した研究報告である。壁越しでも2m以内であれば、アンテナを搭載したスマートフォンで電磁波を介して機密情報などを受信できるという。 エアギャップとは、ネットワークやデバイスをインターネットなどの外部ネットワークから物理的に隔離するセキ
Q&A形式で分かる 量子コンピューターの 基礎知識
Fundamentals of Quantum Computing Q&A形式で分かる 量子コンピューターの 基礎知識 次世代コンピューティング技術として注目される量子コンピューター。原理や実装方式など、量子コンピューター関連記事を読む上でのガイドとなる基礎知識をQ&A形式でまとめた。（文：宇津木健 監修：藤井啓祐＝大阪大学教授） by MIT Technology Review Japan2022.12.15 35 17 Q：量子コンピューターとはどんなものか？ A：量子力学の原理に基づいた新しいコンピューター 量子コンピューターは「量子力学特有の物理状態を積極的に用いて高速計算を実現するコンピューター」と言える。量子力学特有の物理状態とは、たとえば原子や電子、光子などのミクロな世界で見られる「量子重ね合わせ状態」や「量子もつれ状態」という、量子力学によって説明される状態のことを指す。こ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
人間の脳を模倣した？「ニューラルネットワーク」とは何か。 ｜ SiTest (サイテスト) ブログ
マイクロソフトの「Seeing AI」アプリ、Android版も提供--周囲の状況を音声で説明（CNET Japan） - Yahoo!ニュース
【緊急寄稿】全銀システム障害に日本全体が向き合うべき理由──“切り戻しできなかった”背景にあるもの
東大、これまでに解かれたことのない次元の暗号解読を実現
