理系大学院で卒業間近に修士論文不合格をくらって留年が確定した話
こんにちは，oyoshiです． 先週，本大学院で修論審査が行われました． ただ，これまで取り組んできた研究成果を発表したのですが，落ちて(不合格となって)しまいました，，，． 研究成果はうまいことまとめたつもり(70枚くらい？)なのですが，修士レベルに達していないとのことです． どうして審査に落ちたのかまず大学生が提出する卒業論文には大きく3種類あります． まず，文系大学生の卒業論文では，「参考文献をもとに自らの考察を書く」ことが重要です(あくまで知人の話を聞いた限りですが，，，)． また，理系大学生の卒業論文では，「何かモノを作って，それに対する評価・考察を書く」ことが重要です． 自分は情報工学専攻なので，自分が考えたテーマ(課題)を設定して，それを解決するためのプログラムを実装し，その内容(自分が何をしたか)を卒業論文としてまとめるということをしました． そして，理系大学院生の卒業論文
【2019年版】自然言語処理の代表的なモデル・アルゴリズム時系列まとめ - Qiita
はじめに これまでに提案されてきたNLPモデル一つ一つについて詳しく知りたかった＆改良の歴史を知りたかったため、特に有名だと思われるものをまとめました。MikolovらによるRNNLM以降を対象としています。 注）提案年については主にarXivのSubmission historyを参照しています。詳細な日付まで分からなかったものもあります。 代表的なNLPモデル・アルゴリズム一覧 RNNLM 提案年：2010 提案者：Tomáš Mikolov1,2, Martin Karafiát1, Lukáš Burget1, Jan “Honza” Černocký1, Sanjeev Khudanpur2 提案者所属： 1Speech@FIT, Brno University of Technology, Czech Republic 2Department of Electrical and
心理テストとAIで生徒の成績を予測（AI×教育）【論文】 | アイブン
教育心理学も統計学 文科省によると、現代はキャリア教育の重要性が叫ばれている時代である。子供たちを取り巻く社会環境、産業・経済、雇用の事情は劇的に変化し続けている。そんな中、子供たちの学習能力におけるパフォーマンスを予測するために教育心理学を用いることが増えてきた。 心理学は統計的手法を武器にして物事の傾向を把握する学問であるが、教育に役立つ心理学を特に教育心理学という。そして統計技術は機械学習によって進化している。 ブラジルにあるFaculdade Independente do NordesteのHudson F. Golinoら研究者は、機械学習アルゴリズムにはいくつかのタイプがあり教育研究分野にも応用できる中で、Random Forest（ランダムフォレスト。機械学習アルゴリズムの一つ）の教育心理学における可能性に注目し、生徒を事前に成績上位クラスか下位クラスかを予測するモデルを作
BERTはまだまだ進化する！軽くて強いALBERTが登場！
3つの要点 ✔️BERTの構造に2つの改善を施し、大幅なパラメーター削減を実現 ✔️BERTで効果がないとされていた学習タスクを改善し、より文法を捉えた学習を実現 ✔️パラメーター削減による速度の向上だけでなく、性能の向上をも実現 ALBERT: A Lite BERT for Self-supervised Learning of Language Representations written by Zhenzhong Lan, Mingda Chen, Sebastian Goodman, Kevin Gimpel, Piyush Sharma, Radu Soricut (Submitted on 26 Sep 2019 (v1), last revised 9 Feb 2020 (this version, v6)) Comments: Published by ICLR 202
フェイクニュースの言語パターンを特定、MIT研究チームがAIモデルを開発
マサチューセッツ工科大学（MIT）の研究チームは、フェイク（偽）ニュースを自動検出するシステムの研究成果を2019年2月6日に発表した。 開発した機械学習モデルは、本物の記事と偽の記事について、微妙ながらも一貫性のある言葉選びの違いを捉えることに成功したという。 研究の結果、フェイクニュース検出システムを実用化するためには、正しい記事のサンプルなどについてより厳密なテストを重ねる必要があることも示した。 フェイクニュースの問題は、ドナルド・トランプ氏とヒラリー・クリントン氏が立候補した2016年の米国大統領選挙で広く知られるようになった。これを受けて、偽の記事が含む言語上の手掛かりを認識するニューラルネットワークによるフェイクニュース自動検出システムの開発が、研究者によって行われるようになった。 こうしたシステムは、管理された環境においてかなり高い精度でフェイクニュースを見分けられるように
自然言語処理技術の活用法 ーDoc2VecとDANを使って論文の質を予測してみた！ー - Platinum Data Blog by BrainPad
本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 自然言語処理の技術は近年、飛躍的に発展しており、検索エンジン、自動翻訳、チャットボットやスマートスピーカーの自動応答など、私たちの生活の中でも様々な場面で使われています。本ブログでは、自然言語処理の研究開発で得られた知見をもとに実施した、Doc2VecとDANを使って論文の質を予測するという取り組みについてご紹介します。 イントロダクション こんにちは、アナリティクスサービス本部の金田です。 現在私は、自然言語処理の研究開発チームにいます。直近では、文書間の類似度や文書クラスの判別について、最新の知見をキャッチアップして、社内に共有しています。本ブログでは、自然言語処理手法の一つであるDoc2VecとDANを使った論文の質の予測をご紹介します。 今回は、私が大学で専攻した素粒子理論の論文デ
Language Models are Unsupervised Multitask Learners
Language Models are Unsupervised Multitask Learners Alec Radford * 1 Jeffrey Wu * 1 Rewon Child 1 David Luan 1 Dario Amodei ** 1 Ilya Sutskever ** 1 Abstract Natural language processing tasks, such as ques- tion answering, machine translation, reading com- prehension, and summarization, are typically approached with supervised learning on task- specific datasets. We demonstrate that language model
Papers with Code - The latest in Machine Learning
X-LoRA: Mixture of Low-Rank Adapter Experts, a Flexible Framework for Large Language Models with Applications in Protein Mechanics and Molecular Design ericlbuehler/mistral.rs • 11 Feb 2024 Starting with a set of pre-trained LoRA adapters, our gating strategy uses the hidden states to dynamically mix adapted layers, allowing the resulting X-LoRA model to draw upon different capabilities and create
「国際ハゲタカ学会」横行 料金払えば審査なく参加 「業績」ではく付け（毎日新聞） - Yahoo!ニュース
ずさんな審査で論文を掲載し掲載料を得るインターネット専用の粗悪学術誌「ハゲタカジャーナル」と同様に、参加料収入が目的とみられる国際学会が国内外で開かれている。学会の体裁をとるが発表内容の事前チェックはほとんどなく、研究者は事実上、参加料を払うだけで「国際学会で発表した」というお墨付きが得られる。専門家は「ハゲタカ学会」と呼び、問題視している。 【「国際ハゲタカ学会」横行の流れ】 大東文化大のジェームス・マクロスティ教授（英語教育論）は2014年、ハゲタカ学会の実態調査のため、ハゲタカ学会の疑いがある学会主催者に科学的に無意味な内容の発表概要を送った。すると、台湾やタイ、ポーランドなどが拠点の6学会の主催者がそのまま受理し、学会発表を認めた。学会参加料は約4万5000～8万円だった。 国際学会での発表は論文発表と共に研究業績の一つに数えられ、国の科学研究費補助金の研究実績報告書などに記載され
【NIPS 2018最優秀賞論文】トロント大学発 ： 中間層を微分可能な連続空間で連結させる、まったく新しいNeural Networkモデル | AI専門ニュースメディア AINOW
【NIPS 2018最優秀賞論文】トロント大学発 ： 中間層を微分可能な連続空間で連結させる、まったく新しいNeural Networkモデル 論文：Ricky T. Q. Chenほか（2018）Neural Ordinary Differential Equations 今年（2018年）も残すところあと１週間です。 今年を振り返る方法には各人各様の方法があると思いますが、僕は少し背伸びして（そして気取って）、情報処理と人工知能の学術分野で最高峰レベルの国際論文誌であるNIPS（Neural Information Processing Systems）で採択された論文を振り返ってみました。 （なお、NIPSは正式名称は変わらないものの、略称はNIPSではなく、NeurIPSに変わったようです。しかし、まだNIPSという略語が研究界隈では定着していると思いますので、この記事ではこれまで
論文解説 Attention Is All You Need (Transformer) - ディープラーニングブログ
こんにちは Ryobot (りょぼっと) です． 本紙は RNN や CNN を使わず Attention のみ使用したニューラル機械翻訳 Transformer を提案している． わずかな訓練で圧倒的な State-of-the-Art を達成し，華麗にタイトル回収した． また注意を非常にシンプルな数式に一般化したうえで，加法注意・内積注意・ソースターゲット注意・自己注意に分類した．このうち自己注意はかなり汎用的かつ強力な手法であり他のあらゆるニューラルネットに転用できる． WMT'14 の BLEU スコアは英仏: 41.0, 英独: 28.4 で第 1 位 Attention Is All You Need [Łukasz Kaiser et al., arXiv, 2017/06] Transformer: A Novel Neural Network Architecture f
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - openai/gpt-2: Code for the paper "Language Models are Unsupervised Multitask Learners"
Page not found
http://cl.naist.jp/~kevinduh/papers/han12chinese.pdf
Syntactic Based Reordering Rules for Chinese-to-Japanese Machine Translation
https://dlgateway.acm.org/delivery.cfm?urlpath=10.1145/1870000/1868886/p244-isozaki.pdf?ip=113.35.183.247&id=1868886&acc=OPEN&key=4D4702B0C3E38B35.4D4702B0C3E38B35.4D4702B0C3E38B35.6D218144511F3437&__acm__=1541272341_85ba2b21dd090047a75ceea0d86ab437
統計的機械翻訳におけるRIBESによる最適化の効果
日本語のラベル付き依存構造解析の検討
目的言語の構文解析器を用いた機械翻訳のプレオーダリング
目的言語の構文解析器を用いた機械翻訳のプレオーダリング