全３回のシリーズパート２の本記事では、GPTの能力と可能性をAttention/Transformerの仕組みをふまえて考察します。 というつもりでしたが、凄く長くなってしまったのでパート2は以下の3回に分けようと思います。 （2.1）各技術の定性的な説明（本記事） （2.2）Transformerのアルゴリズム詳細 （2.3）GPTの能力と可能性について 2.1 各技術の定性的な説明 自然言語の構造を考えてみる まず我々が使う言語についてちょっと振り返るところから話を始めましょう。 文や文章は、おおもとのデータである文字から始まって、単語、文節、句、節、文、文章、さらにその上の意味、という風に階層的な構造を持っていると我々は概念的に認識してますよね。 構文の階層 そして、各階層や階層間には、文法や語法といった言葉のルールがあります。 深層学習はその名の通り、層を深くしたニューラルネットワ
この記事は、プログラミングの専門教育（大学のコンピューターサイエンスなど）を受けておらず、独学でプログラミングを学習している方へ贈るアドバイスです。 ＝タイムマシンがあったら、過去の自分に会いに行って教えたい話です。 （自分で自分に話しかけるつもりで書いてみますｗ） プログラミング言語はひとつマスターすれば他もできる？ - t-hom’s diary [プログラミング] [設計] [教育] プログラミングパラダイムは(1)命令型（チューリングマシン）、(2)宣言型（ラムダ計算）に大別される。両方理解したら全部カバーできる。言語は開発の背景（動機、歴史）を知るとなじみやすい。例：JSはScheme＋Selfで誕生 2019/09/16 06:49 b.hatena.ne.jp ↑はてなブックマークでこの記事が目にとまりました。 なるほどと思いつつ、自分なりに考えてみたことをメモ。 勉強のコツ
オンライン試験って不正し放題じゃないの？ 英語技能試験のDuolingoに聞く対策法 技術でむしろ厳密に（1/2 ページ） PCを使ってオンラインで試験を受ける「CBT」。自宅で一人で受けられるのなら不正もし放題なのではないかと思うかもしれない。英語技能試験を実施するDuolingoに具体的な不正対策を聞いた。 本格的な受験シーズンが到来し、親子ともに緊張感を増している。合格のために英語検定などの資格試験を受験した高校生も多いだろう。日本ではまだ普及していないが、資格試験の受験方法の一つとして「Computer Based Testing」（CBT）と呼ばれる形態がある。PCがあれば受験できる手軽さが売りの方法だ。 CBTは簡単にいえば、PCを使ってオンラインでテストを受けられる試験方式。受験票を紛失する恐れがなく、特に自宅PCで受験できる場合は、遠方の試験会場に出向く必要もない。試験を実
地球の裏側アルゼンチンのiOS技術カンファレンス Swiftable 2023 参加レポート (DAY 2) | DevelopersIO
はじめに 多くのクラスメソッドの社員さんはアメリカ・ラスベガスのAWS re:Invent 2023に参加していた中、一人だけアメリカ大陸を南下したリルオッサです。 この度、アルゼンチンのブエノスアイレスで開催されるiOS技術カンファレンス Swiftable 2023に提出したプロポーザルが採択されたのでスピーカーとして現地に行きました。 アルゼンチンで開催と言っても、スピーカーや参加者の方の国籍は多種多様でスペイン、ドイツ、オランダ、ウクライナ、アメリカ、メキシコ、ウルグアイ、ブラジル、ペルー等といった国際的なカンファレンスになっています。 Day 1の記事は地球の裏側アルゼンチンのiOS技術カンファレンス Swiftable 2023 参加レポート (前夜祭 ~ DAY 1) Day 1の雰囲気はこんな感じでした。 This is Swiftable - Day 1 🧉 🇦🇷
ソフトウェアエンジニアのコナー・タンブルソン氏が、自分の経歴を使って会社に就職しようとするなりすましがあったことを報告しています。タンブルソン氏がなりすましの存在を知ったきっかけは、なりすまし事案に関与した人物からのタレコミによるもので、被害者はタンブルソン氏だけではないことが示唆されています。 Someone is pretending to be me. https://connortumbleson.com/2022/09/19/someone-is-pretending-to-be-me/ Someone is pretending to be me | Hacker News https://news.ycombinator.com/item?id=32996953 2022年9月14日、タンブルソン氏はアンドリューと名乗る人物から「あなたになりすまして私に面接を受けさせようとす
変数名の付け方をまとめてみた
今回は変数名の付け方についていろんなサイトや書籍を漁ってみたので、自分の解釈でまとめてみました。 最後におすすめサイトも紹介しているので、そちらを見ていただくとより理解が深まると思います！ 良い変数名とは 良い変数名は「必要な情報が含まれている」といえます。 例えば「name」という変数名はフルネームなのか名字なのか名前なのかが分かりませんが、 「fullName」だと「フルネームなんだな」と理解できます。「name」だと情報不足なことがあります。 良い変数名をつけると「無駄なコメントが減る」「他の開発者にとって読みやすい」などのメリットがあります。 無駄なコメントは開発者を混乱させますし読みにくいコードはバグが生まれる原因になるので、変数名はかなり重要です。 変数名をつけるコツ ①広く意味を持つ名前をつけない 先程例に上げた「name」は広い意味を持ってしまっているのでフルネーム？名字？
はじめに 新規追加する関数名に悩むとき、通常の翻訳サイトだと物足りないこともありますよね。 で、「確かQiitaで命名に関するチートシート記事があったよな～」という記憶だけが残っており、その時に見つけ出せなかったので半分自分用にサイトをまとめておこうと思います。 何かいいものがあったら随時更新していきます。 命名するその前に：既存プロジェクト開発ならプロジェクトの規則・文化も考慮する もし既存プロジェクトに参入し、そこで新規関数や変数を作ろうとしている場合には、以下のような点があるかも意識した方がいいと思います。 そのプロジェクトでの命名規則 「こういう機能ではこの単語を使うべし！」みたいな暗黙の文化 既存プロジェクト内のソースコードと全然違う命名をしてしまうと、同一機能のgrepに引っかからなくなる等デメリットもあるので。 特に歴史の長いプロジェクトに新規参入した場合等は、正当な理由での
ジャニーズ会見の司会者・元NHKの松本和也アナの“裏の顔”「カンペの誤字に激昂」「スタッフに罵声」業界関係者が囁く悪評 | 週刊女性PRIME
嵐・大野智が出資しているとされるバーが投稿した絵は「ジャニー喜多川氏の肖像画では」と噂されている（バーのインスタグラムより） 10月2日に開かれた故・ジャニー喜多川氏による所属タレントらへの性加害問題をめぐる記者会見。 1文字でも誤字があると激昂 4日には、質疑応答時に指名を避けるべき記者の名前や写真を載せた“NGリスト”の存在が報じられ、波紋を広げている。 「なぜ後ろばかり指名するんですか」 一部記者からそうした声が上がる中、なだめつつ会場を制していた司会者。やがて「（記者の）顔を覚えられなくなってきました」と、まごつく場面も見られ、この発言が“NGリストの存在を知っていたからでは”と注目を集めている。 会見で司会を務めた元NHKの松本和也アナウンサーは6日、NGリストを受け取っていたとしながらも、リストに沿った質問者指名はしなかったとするコメントを発表。しかし、現実として松本アナはNG
【共通テスト】 マスクから鼻を出していた受験生が失格 1 名前：ハゲ頭ちゃん ★：2021/01/17(日) 22:12:07.63 ID:AcLI3Btv9 大学入学共通テストを運営する大学入試センターは17日、マスクを正しく着用するよう試験監督が再三指示したにもかかわらず従わなかった受験生1人を不正行為があったとみなして失格にしたと発表した。センターは新型コロナウイルス感染対策で、受験するにはマスクを正しく着用しなければならないと募集要項などで周知していた。 担当者によると、受験生は16日の東京都内の会場で、試験中に鼻を出したままマスクを着けていた。地理歴史・公民から受験し、試験監督が鼻まで覆うよう6回注意したが従わなかったため、英語の試験中に不正行為とみなしたという。 https://www.nikkei.com/article/DGXZQODG171YR0X10C21A100000
「カンニングペーパーをつくって勉強する」効果がすごいらしいので試してみた（※悪用厳禁） - STUDY HACKER（スタディーハッカー）｜社会人の勉強法＆英語学習
「日々勉強に励んでいるけれど、最近モチベーションが低下気味。効率も悪くなっている気がする……」とお悩みなら、一風変わった勉強法を取り入れて、事態の改善を図りましょう。 それは「カンニングペーパーをつくる」という勉強法！ 筆者も勉強がマンネリ状態になっていたので半信半疑のまま試してみたところ、驚きの効果を実感しました。実践法とともに詳しくお伝えします。 「カンニングペーパーをつくる」勉強法とは カンニングペーパーをつくると勉強効果が高まる理由 「勉強を楽しむ」と脳のパフォーマンスが上がるから 「自らまとめる」ことで記憶が強くなるから カンニングペーパーをつくってみた 1. カンニングのシチュエーションを決める 2. カンニングペーパーの素材を用意する 3. カンニングペーパーを作成する カンニングペーパーをつくって感じた効果 【効果1】復習時間を短縮できた！ 【効果2】考え抜いたことで理解と
さて皆様お久しぶりです。前回の記事から2年も経ってしまいましたが、先日うちの会社にてVercelのエンジニアさんに遊びに来てもらうイベントをやった際ブログを再開すると公言したり、最近実は近しい人がブログ毎日更新してるのを目の当たりにしたり、あと最近読んだなんかの本で書いてあった「企業のトップは自分の日々の考えを伝える努力が必要だ」とかなんだとかって話に影響され、とりあえず鉛のように思い腰を持ち上げて執筆作業を再開させて頂く流れとなりましたセナです。 2年もブランクがあると何から書き出してよいのかわからないのが正直な所で、とりあえずタイトルにもある通り僕がカナダでFrogという会社を作って今年で丁度10年、円を稼がなくなって16年、最高の妻に出会って10年を振り返り、何かシェア出来ることがあればという思いで、とにかく暴力的に『書き殴る』ということに注力したいと思います。全部思いつきで書き出す
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPTの仕組みと限界についての考察（2.1） - conceptualization
プログラミングの仕組みを理解する方法 - JavaScript勉強会
オンライン試験って不正し放題じゃないの？ 英語技能試験のDuolingoに聞く対策法 技術でむしろ厳密に
何者かが自分になりすまして職を得ていることを知ったエンジニアの体験談
プログラミングの変数名、関数名を命名する際に便利なサイト・記事 - Qiita
【共通テスト】 マスクから鼻を出していた受験生が失格 : 痛いニュース(ﾉ∀`)
高卒の僕が北米で会社作って10年が過ぎた結果と、日本が世界で戦うためにリターンズ | バンクーバーのうぇぶ屋