40歳プログラマが英語を学び始めた
こんにちは、今年40歳のプログラマ@zaruです。今更ながらですが英語学習を初めました。まぁ何事にも学ぶのに遅すぎることはないって言うくらいだし、40歳から始めても良いでしょう。 この記事では、英語学習を始めて2–3ヶ月経過し、今のところ継続ができているので学習記録の最初の1つとしてやっていることと感想を書き残しておきます。 基本、手で書いて、本で学ぶスタイル今の英語力はどれくらい？ぼくは中学・高校時代はまともに授業を聞かずずっと本を読むか、教室から抜け出して学校をウロウロして過ごしていることが多かったため成績がめっちゃ悪かったです。赤点マン。英語も当然できません。 4–5年くらい前に受けたTOEICでは450点くらい。先月、英検準2級の過去問を解いたら合格ラインを超えてた、くらいの感じです。 海外では全く英語が話せず雰囲気で過ごしていましたし、日本で海外からの観光客に道を英語で聞かれて身
大学で読んだ情報科学関連の教科書 - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
先日、博士（情報学）になりました。学部と大学院をあわせた 9 年間で読んだ情報科学関連の教科書・専門書を思い出を振り返りつつここにまとめます。私は授業はあまり聞かずに独学するタイプだったので、ここに挙げた書籍を通読すれば、大学に通わなくてもおおよそ情報学博士ほどの知識は身につくものと思われます。ただし、特に大学院で重要となる論文を読み書きすることについては本稿には含めておりません。それらについては論文読みの日課についてや論文の書き方などを参考にしてください。 joisino.hatenablog.com 凡例：（半端）とは、数章だけ読んだ場合か、最後まで読んだものの理解が浅く、今となっては薄ぼんやりとしか覚えていないことを指します。☆は特におすすめなことを表します。 学部一年 寺田 文行『線形代数 増訂版』 黒田 成俊『微分積分』 河野 敬雄『確率概論』 東京大学教養学部統計学教室『統計学
大規模言語モデルをフルスクラッチする練習 (環境構築ー前処理ー事前学習ーファインチューニングー評価まで)｜Kan Hatakeyama
はじめに以下のオープンなプロジェクトの一環で､大規模言語モデルをフルスクラッチで作る練習をします｡24年3月現在､協力者も募集中です｡ リポジトリ当該プロジェクトの標準コードが公開※されたので､それを走らせてみます｡ ※24/3/5時点で､まだレポジトリ内に､工事中の箇所が多々､あります｡ このリポ上では､事前学習ー事後学習ー評価まで､一気通貫(?)したパイプラインが提供されています※｡ 0. 環境構築プロジェクトの本番環境はクラウドですが､今回は手持ちのubuntuを使います｡ Dockerはお手軽な一方で､スパコン上で使うと､どうやら速度が落ちるらしいとの噂を聞いたので､condaで作ります(とはいえ､pipしか使わないので､pyenvでもいけると思います)｡ 必要なマシン適当なlinux: 例えばUbuntu 22.04.3 LTS GPU: 20 GBくらいは欲しいかも? ディスク
驚異の1ビットLLMを試す。果たして本当に学習できるのか?｜shi3z
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装
The Software Pro's Best Kept Secret.
Stop following tutorials designed for beginners. Start working on projects that actually challenge you. Become a better engineer through deliberate practice.
プロトコルスタックを写経してネットワークを完全に理解したかった日記
Webページはどうやって表示されるのでしょうか． 「ブラウザでアドレスバーにURLを入力してEnter押してからページが表示されるまでに何が起きているか説明してください」面接で使っていた質問が面白いと話題に 上記の質問には様々なレイヤーでの回答があると思うのですが，私はネットワークの動作に興味を持ちました．というのも，TCP，IP，ARP，Ethernetといったキーワードが関連しているのは教科書や講義で聞いた気がするのですが，それ以上のことはうまく説明できなかったからです． これらのプロトコルは，普段はカーネル内部に隠れていてあまり意識できません． しかし，以下の資料を参考にプロトコルスタックを写経すれば，少しは身近に感じられるかもしれないと思いました． 3月に開催したプロトコルスタック自作キャンプの講義資料を公開しました。1週間でTCP/IPのプロトコルスタックを自作してUDPやTCP
理系の大学生・大学院生向け英語学習法ミニマム｜のーねん
自己紹介: 大阪大学理学部物理学科卒業、大阪大学理学研究科 博士前期・後期課程修了(博士: 理学)。現在は某国立大学で物理の研究をしてます。英語の資格は英検一級、TOEIC LR: 950/S: 160/W: 200、TOEFL97。 設定読者: 研究室内や国際会議での英語での発表や議論のために、英語を勉強しようと思っている大学生や大学院生を想定してこの記事を書いています。就活のためにTOEICの点数を上げたい人は想定していません。 はじめに: 研究室では様々な場面で英語を必要とします。論文執筆、国際共同研究者との議論、研究室内のでのゼミ発表、国際会議での発表等が挙げられます。英語での議論では、自分の研究内容を伝える、相手の発言を聞き取った上で自分の意見を伝える、といったことをしなければなりません。 このような場面に備えて、非ネイティブの人は日頃から英語の勉強をする必要がある、と考える人も
2000時間の遠回り英語学習を経てたどり着いた、1日30分でネイティブの会話が聞き取れるようになる練習法
英語学習ノウハウの記事が定期的に話題に上がるが、自分も含め多くの方は「とりあえずブクマ」してそれっきりにしていると思う。 役に立ちそうなツールや教材をあれもこれもと紹介しているので「とりあえず後で読みそう」とブクマされる。しかし、そういった記事はとにかく情報量が多い。リーディングには○○、リスニングにはXXと、ライティングには□□、発音には△△…と網羅的でとてもやり遂げられる気がしない。いくら素晴らしいウェアやギアやサプリを紹介してもらっても「では今からフルマラソンをやるぞ！」とはなかなかならないのと同じだ。結果、「役に立ちそう」と「でも大変そう」との葛藤を、私たちはブクマという形で折衷させている。 そこでここでは、2000時間の英語学習経験からたどり着いた、「1日30分、この練習だけ続けてもらえれば英語力が着実に伸びるはず」というシンプルな方法を述べてみる。僕は海外在住や留学経験ゼロのド
東京電力がYouTubeで配信している「電気の原理」シリーズは神コンテンツなので電気に興味があるなら必見である
Kentaro Ebisawa @ebiken 東京電力YouTube「電気の原理」シリーズ、神コンテンツで必見 "新型コロナウィルス感染症拡大を受けて、ご自宅等で電気について学習されている方々向けに、発電所・変電所等に設置されている電力機器や電力ネットワーク、電気の基礎・原理について詳しく解説した映像をご紹介" youtube.com/playlist?list=… pic.twitter.com/WJJ7wVkSAO リンク YouTube 映像解説「電気の原理」 新型コロナウィルス感染症拡大を受けて、ご自宅等で電気について学習されている方々向けに、発電所・変電所等に設置されている電力機器や電力ネットワーク、電気の基礎・原理について詳しく解説した映像をご紹介します。 （2001年、2007年 制作） 91
CS50 for Japanese: コンピュータサイエンスの入門 – 当ウェブサイトは、Creative Commons ライセンスに基づいて管理されています。
お知らせ: 2022/9/1 CS50 を活用した非営利／協賛企業による「コロナ学生支援」プロジェクトを実施中 ▼ 学生の方へ：CS50 の学習（履修証明書の取得）を一緒に取り組むプロジェクト CS50日本語版の翻訳コントリビューターである CODEGYM が主催する、非営利／無償のプロジェクト「CODEGYM Academy (外部リンク)」は、昨年に続き2022年度（春/秋）も、キャリア選択を控えた学生に対し、以下の企業の協賛により無償で17週間のプログラミング教育カリキュラムを提供します。 CODEGYM Academy 協賛企業（2022年） https://codegym.jp/academy/ 今年度のエントリーは締め切りました — ようこそ！ このページは、ハーバード大学 CS50 の日本語版翻訳プロジェクトのページです。当サイトのドメインに掲載されているコンテンツは、Cre
Exercism
Get really good at programming. Develop fluency in 74 programming languages with our unique blend of learning, practice and mentoring. Exercism is fun, effective and 100% free, forever.
エンジニアはどのようにして技術を学べば良いのか
はじめに この記事は、エンジニアがどのように技術を学べば良いのかということについて、おもに西尾泰和氏の書籍・記事で主張されている内容を元に、特定の問題を対象として自分の考えを加えて考察したものです。特定の問題としては、以下の3つを設定しています。 何を学べば良いのか分からない 技術書を読んでもすぐ忘れる 学習する時間がない もちろん、学ぶ上で考えるべきことは上記の問題にとどまりませんが、ここでは、比較的身近で耳にすることが多いと感じるものを問題として設定します。 定義 この記事ではスコープを特定の範囲に限定しているため、一般的な用語について、一部を以下のようにローカル定義しています。そのため、一般的な用語そのままの意味においては、この記事の内容はコンテキストを維持できないことがある点に注意してください。 エンジニア Web 系企業に勤めており、主にプログラミングをはじめとしたコンピュータサ
【全編無料】GoogleによるAI解説・機械学習やゲーム作成・ブロックチェーンなどがわかるUdemy無料講座まとめ
「Udemy」はさまざまな講座をムービー形式で視聴できる学習プラットフォームで、13万件を超える講座があり、その総受講者数は世界で4000万人以上です。講座は有料のものが多いのですが、無料で質の良い講座も存在しており、中には「無料なのに受講しないのはもったいなさすぎる」と思わせる講座も。今回はそうした良質な無料講座の中からぜひとも一度は見ておきたい講座を5つピックアップしてみました。Udemyにはもともとプレビュー機能があり、有料の講座であっても一部を無料で視聴可能ですが、ピックアップした5つの講座は講座の全てのパートを完全に全編無料で受講できます。 オンラインコース -世界最大級のオンライン学習プラットフォーム- Udemy https://www.udemy.com/ ・目次 ◆AIの仕組みや利用法を一発で理解できるGoogleの解説講座 ◆ゲームを実際に作成して「Unity」の利用方
Ruby on Railsを学ぶ方法 - toyoshiの日記
[追記]本エントリは2012年のものです 2019年1月現在おすすめの学ぶ方法は Ruby on Rails チュートリアル：実例を使って Rails を学ぼう をやることです。こちらは有志によって作成・翻訳されている素晴らしい教材で、RailsだけでなくGitやテストといったことも学べます。盛りだくさんですのでおすすめは最初はGitやテストについては無視して1周やってみて、わかったらそれらも含めて2周目をやるという方法です 以下オリジナル記事 前回のエントリは僕が新しく請求書管理サービスmisocaを手伝ってくれる人にRailsを教えたときに思ったことだ。（追記：その人はプログラミングは十分わかってる人だ） 一応アンサーエントリとして、次に教えるならこうするというのをメモしておく 準備 Windowsで開発しない（Windowsの人はVMWareなどでUbuntuとかのLinux環境をい
機械学習超入門II 〜Gmailの優先トレイでも使っているPA法を30分で習得しよう！〜 - EchizenBlog-Zwei
最近の論文で The Learning Behind Gmail Priority Inbox D.Aberdeen, O.Pacovsky & A.Slater というのがある。これはGmailの優先トレイで使っている機械学習のアルゴリズムについて解説したもの。というと難しそうな印象があるが、この論文で紹介されているPassive-Aggressiveという手法は実装がとても簡単。なので今回はこれについて解説するよ。 参考資料: Gmail - 優先トレイ Online Passive-Aggressive Algorithms K.Crammer et al. The Learning Behind Gmail Priority Inbox読んだメモ - 糞ネット弁慶 わかりやすい日本語解説 機械学習超入門 〜そろそろナイーブベイズについてひとこと言っておくか〜 - EchizenBl
Programming Languages - Google Code University - Google Code
Programming Languages Google's Python Class This is a complete online introduction to Python programming, including writen materials, lecture videos, and coding exercises. The class is geared for people with a little bit of programming experience, and is used within google to introduce Python. Below are video-taped lectures from Google Video on various technology areas. These videos are great oppo
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
一家に1枚｜科学技術週間 SCIENCE & TECHNOLOGY WEEK
エンベーダー | エンジニア予備軍のためのITインフラ学習ゲーム
NHKの英語学習の知見がたった500円に濃縮されたNHKラジオ英会話を使わないのはもったいなさすぎる
Vim部｜広報ブログ｜北海道札幌市・宮城県仙台市のVR・ゲーム・システム開発 インフィニットループ