ML and NLP Research Highlights of 2021
Credit for the title image: Liu et al. (2021) 2021 saw many exciting advances in machine learning (ML) and natural language processing (NLP). In this post, I will cover the papers and research areas that I found most inspiring. I tried to cover the papers that I was aware of but likely missed many relevant ones. Feel free to highlight them as well as ones that you found inspiring in the comments.
共役勾配法によるニューラルネットのパラメータ推定 - 人工知能に関する断創録
Courseraの機械学習ネタの続き。前回は、ロジスティック回帰のパラメータ推定（2014/4/15）に共役勾配法（Conjugate Gradient: CG法）を使いました。今回はより複雑なニューラルネット（多層パーセプトロン）のパラメータ推定に共役勾配法を適用してみました。 以前、多層パーセプトロンで手書き数字認識の実験をしたとき（2014/2/1）は、共役勾配法ではなく、勾配降下法（Gradient Descent）を用いてパラメータの更新式を自分で書いていました。 self.weight1 -= learning_rate * np.dot(delta1.T, x) self.weight2 -= learning_rate * np.dot(delta2.T, z) 勾配降下法は、学習率（learning rate）を適切な値に設定しないと収束が遅い、発散するなど欠点があります
汎用人工知能研究会
汎用人工知能（Artificial General Intelligence) は、人間のように十分に広範な適用範囲と強力な汎化能力を持つ人工知能です。かつては実現への道が遠いと考えられていましたが、2010年代の深層学習技術の進展などを契機としてその実現性が高まり、世界的に研究活動が拡がりました。 私たちはこの分野は中長期的に大きなイノベーションが期待されると同時に社会への影響が大きな研究領域であると考え、国内における汎用人工知能に関わる研究活動を支える母体として汎用人工知能研究会（SIG-AGI）を2015年に立ち上げ、現在は人工知能学会の第二種研究会として活動を行っています。 主な活動 第26回 人工知能学会 汎用人工知能研究会 (SIG-AGI) (2024年3月8日) 第25回 人工知能学会 汎用人工知能研究会 (SIG-AGI) (2023年11月24日) イベントのリスト 関
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
