全３回のシリーズパート２の本記事では、GPTの能力と可能性をAttention/Transformerの仕組みをふまえて考察します。 というつもりでしたが、凄く長くなってしまったのでパート2は以下の3回に分けようと思います。 （2.1）各技術の定性的な説明（本記事） （2.2）Transformerのアルゴリズム詳細 （2.3）GPTの能力と可能性について 2.1 各技術の定性的な説明 自然言語の構造を考えてみる まず我々が使う言語についてちょっと振り返るところから話を始めましょう。 文や文章は、おおもとのデータである文字から始まって、単語、文節、句、節、文、文章、さらにその上の意味、という風に階層的な構造を持っていると我々は概念的に認識してますよね。 構文の階層 そして、各階層や階層間には、文法や語法といった言葉のルールがあります。 深層学習はその名の通り、層を深くしたニューラルネットワ
Googleに入社します｜ばやしこ
こんにちは。ばやしこと申します。 2022年7月より、Googleでソフトウェアエンジニアとして働くことになりました。 アメリカのTexas A&M大学のMaster of Computer Scienceを今年の5月に無事卒業し、卒業後の職としてGoogleからフルタイムのオファーを頂くことができました。 今後Googleを目指す方の助けになればと思い、Googleからオファーをもらうまで自分がどんな勉強や対策をしていたかについて、書かせていただきます。 また、留学に至るまでの流れはこちらの記事を読んでいただければと思います。 (入社予定のDurham, NCオフィス) はじめにこちらは私の体験をもとに書いている記事です。諸々の条件が異なれば、面接の構成や対策も大きく異なります。例えばシニア以上（GoogleだとL5以上、MetaだとE5以上。私はL4でオファーをもらいました）でのポジシ
こんにちは。こばると（https://twitter.com/428sk1_guardian）です。 前回の記事では、友達に「連歌会」と称した訳のわからないゲームに参加させられ、訳も分からず優勝の座を奪われました。 umector.hatenablog.jp 終わった後に連歌のルールをきちんと調べてみたら、マジで何もかも全部もれなく違っていて愕然としました。これを友達に知らせようとしたのですが、「ルールを知らないままの自分でいたい。邪魔しないで」と言われ拒否される始末です。訳がわかりません。 今回はそんな彼らに、真の教養を叩き込みます。そう、俳句によって。 俳句のイメージ画像 皆さんは、俳句をご存知ですか？ 五七五の調べに乗せて情景を紡ぐ、日本の伝統文芸の一つです。 昨今では「プレバト」などのバラエティ番組でも、美しい日本語の表現力の資金石としてその知名度を高めていますね。 www.mbs
翻訳は難しい。。。デンベレ＆グリーズマン選手の発言の日本語訳は、どう変だったか：サッカー界の差別問題（今井佐緒里） - エキスパート - Yahoo!ニュース
問題の渦中にいるデンベレ(右)２４歳と、グリーズマン・３０歳。写真は２０１９年（写真:ロイター/アフロ） EURO2020は、イタリアが優勝しました！ まさかのベスト１６で敗退したフランスですが、ウスマヌ・デンベレ代表選手の発言が問題になっています。 デンベレ選手とグリーズマン選手は、日本でホテルの同じ部屋にいます。グリーズマン選手はテレビ画面を使ってゲームをしているが、何か不具合があったようで、ホテル従業員の複数の日本人男性が、解決しようと何か色々やっているというシーンです。 参考記事（朝日新聞）：仏サッカー代表選手が人種差別か 「醜い顔」発言で謝罪 ご存知のように、最初に発表された日本語の記事の数々では、翻訳がどうもおかしなことになっていたのです。 この記事では、翻訳がどのようにおかしくなったのか、一つひとつ細かく読み解いて行こうと思います。かなり詳細な話になります。 それと、ツイッタ
「, （カンマ）+which ～」 が使えたら途切れなく英語が話せる【同時通訳者・横山カズ】 - ENGLISH JOURNAL
同時通訳者の横山カズ先生が、英語スピーキングの大人気講師としても活躍する中で、実際に役に立った「無限のスピーキング力上達法」を教えます。第7回は、「, （カンマ）＋ which 」 を使って英語をとぎれなく話せるようになる方法を紹介します。 皆さん、こんにちは。同時通訳者の横山カズです。 前回まで は英語スピーキングの瞬発力を得るためのテクニックをお伝えしてきましたが、今回は、日常の会話や、会議でも気後れしないで自分のタイミングで会話に切り込んでいく、「返し技」のテクニックを紹介します。 which 」">スピーキングのカウンター技！「,（カンマ） which 」「英語だと言い返せない」「質問されても瞬時に返事ができない」「ほとんど話せなかった」「聞き取れるのに何も言えない」。このような、悔しい思いを経験したことはありませんか？英語のスピーキングを習得する過程では必ずぶつかる壁のようです。
ChatGPTの研究から得られた英語学習のノウハウを詰め込んだ書籍『英語は10000時間でモノになる』。著者の橋本大也氏が、ChatGPTを活用した勉強法について解説します。本記事では、ChatGPTを「英語の先生」のように活用する学習法を紹介します。 前回の記事はこちら ChatGPTは、まるで人間のような「英語の先生」にもなる 橋本大也氏（以下、橋本）：CopilotやBing Chat、ChatGPTにもWebブラウズ機能がありますので、そうしたWeb検索機能を連動させて使うと、「今日の話題で英語の先生になってもらう」ということが可能です。 例えば「英語の○○の使い方を教える専門の先生として講義をお願いします。今日のニューストピックを例文にしてください」とお願いをしてみました。これはChatGPT＋Webブラウズ機能、あるいはBing ChatかWindowsのCopilotを使うと
【自然言語処理入門】日本語ストップワードの考察【品詞別】 - ミエルカAI は、自然言語処理技術を中心とした、RPA開発・サイト改善・流入改善レコメンドエンジンを開発
ストップワードの除去は自然言語処理やテキストマイニングにおける重要な作業です． 解析の精度を上げるために不要な記号や単語を等をデータセットから除去します． ストップワードの選定にはタスクに特化した分析が必要ですが，ある程度整理されているデータがあるととても助かります． そこで，今回は私が自然言語処理のタスクでよく行う，日本語のストップワードについてまとめました． また単語の分布などから，品詞ごとのストップワードに対する考察も行いました． このことからストップワードを介して自然言語処理のあまり語らることのない知識などをご共有できればと思います． （この記事の考察部分は主に自然言語処理の初心者を対象とした入門記事です．） 目次 1. 自然言語処理・ストップワードとは 2. 分析の対象 3. 単語の分布に対する考察 ┣ 出現頻度 上位300件 ┗ 出現頻度と単語 4. 品詞ごとに考察 ┣ 名詞
Happy New Year! 今日は冬休みの英作文。 親戚の家に行った。お年玉をもらった。神社にお参りに行った、最新のゲームを買った、など子供達がよく書いている文を紹介します。 「気にしない」「〇〇に参加する、勝った」など、教科書に載っている表現も織り交ぜています。 By the way, we had a lot of snow the other day. The whole place was covered with snow. I know it’s really exciting. But be careful when you walk on the frozen street, especially the door step is very slippery. ( ところで先日はたくさん雪がふりました。すべてが雪に覆われましたね。ワクワクしますよね。でも凍った道を歩くと
1 テニス女子世界ランキング2位の大坂なおみさんが、2021年5月、ツイッターに、ご自身がdepressionに苦しんできたことを記している。 本稿 Ms. 大坂なおみ suffered depression は、そのツイッターの文章をめぐるものではあるが、テーマはうつ病であって、大坂なおみさんではない。大坂なおみさんの精神状態について何か書かれているのではないかと期待してこのページにいらした方には申し訳ないが、そのようなものは一切書いてないので、画面をすぐに閉じることをお勧めする。他方、うつ病についての真実に関心をお持ちの方にはこのページはなにがしかの意味があるはずである。 2 ツイッターは「全訳」としていくつもの新聞に掲載された。いくつか引用してみる。いずれも2021年6月1日にアクセスした電子版からの引用で、文中、下線は林が引いたものである。 3 私は2018年の全米オープン以降うつ
「テレビから消えた芸人」村本大輔との出会い――左半身が麻痺した私に彼が与えてくれた希望 | 集英社オンライン | 毎日が、あたらしい
芸人、村本大輔を見つけたのは2018年、上京して初めての夏だった。 私は舞台俳優になるために地元大阪から上京し、代官山のレストランでアルバイトとして働いていた。 その日はとても暑い日で、同伴したペットのために仕方なくテラス席に座ったお客様たちはみんな、暑い暑いとこぼしていた。店内外でモヒートがよく売れた。 初めてテレビで彼を観たのは、2013年の「THE MANZAI」優勝のときだった。それから数年が経ち、彼はぱたっとテレビ画面から姿を消した。 炎上、ゲス、左翼芸人……。ネット上では不穏な言葉が彼の名前に付いて回り、『政治的な発言で干された』と書かれていた。彼が全国放送の番組で発信したことの内容そのものより、そのロックな生き様に感銘を受けた。 ある日の朝。店内の窓際の席に座った彼は、テーブルの上に英語のテキストを広げていた。 “Hello. Sorry if I’m bothering y
みなさん、こんにちはこんばんは！Rinです！ 今回は、英語で「嬉しい」の表現方法をみなさんに紹介していきたいと思います！ 「嬉しいって基本的な表現だけど、あまり詳しく勉強したことないな。英語ではなんて言えばいいのかな？」 「色々な嬉しいの英語表現を知りたい！」 「ネイティブがよく使う嬉しい、喜びの英語表現を知りたい！」 そんな方に向けて今回は記事を書いていきたいと思います！ 嬉しいって英語で何て言えばいい？ １ Happy 日常生活で、シンプルに「嬉しい」と言える表現！ ２ glad 安心した、ホッとしたというニュアンスを含む！ ３ Pleased 丁寧に「嬉しい」と表すことができる！ 嬉しいを強調して使いたいとき！ 「嬉しい」以外の、よろこびや嬉しさを表せる英語表現！ Yes! よしっ！ Oh my God! オーマイゴッド！ I’m walking on air. ふわふわした嬉しい感
Before He Cheats -浮気への復讐- - Damn Good Life -愛する人生-
今回は、【洋楽】を使って英語を勉強していこう。 ということで、タイトルは釣り。私は関係ないっす笑 【Before He Cheats】はCarrie Underwood（キャリー・アンダーウッド）の2006年の楽曲だ。彼女は、超有名なTV番組であるAmerican Idolのシーズン4で優勝し、2007年にはグラミー賞最優秀新人賞も受賞した、アメリカのカントリーシンガーである。 では、早速PVをどうぞ。 Carrie Underwood - Before He Cheats (Official Video) 10年以上前の作品ということで、まぁPVのちゃっちさは否めないけれど苦笑 英語が分からなかったとしても、なんとなくストーリーは想像できただろうか？ 要は、【浮気した彼氏への復讐の曲】である。 最後の方はもう怒りで街中壊しちゃうようなアメコミ仕様になってるのがウケる笑 ではでは、歌詞をv
「番狂わせ」って英語で何て言う？ 海外メディアで多く使われたのは“giant-killing” ではなく…… | GetNavi web ゲットナビ
「番狂わせ」って英語で何て言う？ 海外メディアで多く使われたのは“giant-killing” ではなく…… いやぁ、誰が予想したでしょうか。前回の日本対アイルランド戦は日本の見事な勝利でしたね！。ついこの間まで世界ランキング1位だったアイルランドに勝った日本を、海外のメディアは次々と「番狂わせ」と報道しました。 では「番狂わせ」って英語でサラッと言えますか？ 「番狂わせ」の定番表現 “upset”「番狂わせ」の表現で最もよく使われるのは “an upset” だと思います。 “upset” と言えば「怒っている、動揺している、悲しい」といった “unhappy” を表すときに使われる形容詞ですが、名詞で「番狂わせ」という意味もあるんです。 もともと形容詞の “upset” は「心がひっくり返されて乱されている状態」を表すので、そこからイメージを膨らませていくと名詞の「番狂わせ」もすんなり
僕と英語と、移住と学校。① - とある獣医の豪州生活Ⅱ
Chapter 0 - Landing Prologue - The Light of Hope Chapter 1.1 - Reality Chapter 1.2 - Figuring Out Chapter 1.3 - Away From Home Chapter 1.4 - Absorbing Knowledge Chapter 1.5 - Loneliness Chapter 1.6 - Collapse Chapter 1.7 - And "It" Flames Chapter 0 - Landing 空港のドアが開くと、へばり付くような残暑が身体を包み込んだ。湿度や蝉の喧騒のない暑さはにじみ出る汗を瞬く間に蒸発させ、不思議なほどに不快感は感じられない。 2004年、3月30日。 少年は桜散るアジアの極東から、夏の名残が照らす南半球の小大陸へ一歩踏み出す。その日、少年は日本という
「シチズンシップについてのわかりやすい話」みたいな解説がどこかにあったら、ぜひ読みたいと思っていた。というのも（あんまりはっきり書くと不都合もあるのでやや事実を枉げて書くのだけれど）大学を受験する高3生から「世界市民としてあなたはどう生きるか」というお題について質問を受けたからだ。「入試の小論文なんですけど、世界市民って、どういうことなんでしょうか」というわけだ。尋ねられたって困る。私も知らない。 知らないでは務まらないのが家庭教師だ。知らなくても、言葉の背景ぐらいは説明できる。そこで私はおもむろにホワイトボード（「白紙」と書きたいけどオンライン授業なんで）を広げ、説明をはじめた。 一家庭教師のシチズンシップ理解 「市民」の概念は、「都市国家」に遡る。「都市国家」はメソポタミアや中国にも発生したけれど、現代に続く「市民」の概念についてはギリシアまで遡れば十分だ。世界史の教科書だか資料集だか
「ネギトロ」は「ねぎ取る」に由来するのか？｜はてな匿名ダイアリー（2020/09/29付） 飯間浩明さんも、2015年11月の時点で「疑いの余地があります」と表明されていました。 「ネギトロ」の語源は「葱＋トロ」ではなく「中落ちをそぎ取ることを『ねぎる』『ねぎ取る』」と呼んだから（ウィキペディア）という説があります。これは疑いの余地があります。「ねぎ取る」という語形の確例がほかで見つからないのです。『三省堂国語辞典』などでは「葱＋トロ」と解釈しています。 — 飯間浩明 (@IIMA_Hiroaki) November 1, 2015 しかし残念ながら、これら先行研究の知見が2021年のいま世間一般に広く行き渡っているとは言えません。思うに、穏当なトーンで疑問を提示するだけでは、総じてつまらない真実よりも面白いでたらめを好む一般人に対してアピールが弱いのでありましょう。 そこでこれら先行研究
10月11日はウィンクの日、鯛の日、リンゴの唄の日、ハンドケアの日、爪休めの日、鉄道安全確認の日、安全・安心なまちづくりの日、カミングアウト・デー、国際ガールズ・デー、等の日 - 風に吹かれて旅するブログ (話題・記念日＆ハッピートーク)
おこしやす♪～ 10月11日は何の日? その時そして今日何してた? 2022年令和4年 10月11日はウィンクの日、鯛の日、リンゴの唄の日、ハンドケアの日、爪休めの日、鉄道安全確認の日、安全・安心なまちづくりの日、カミングアウト・デー、国際ガールズ・デー、等の日です。 ●『ウィンクの日（オクトーバーウィンク）』 ： ※流行りのウインクチャレンジ www.youtube.com 目の愛護デーの（１０月１０日）が見開いた目に見えるということで、１０と１１は倒して見ると、ウィンクをしているように見えることから、女子中学生の間ではやったおまじないで、この日、朝起きた時に相手の名前の文字数だけウィンクをすると、片思いの人に気持ちが伝わると言われました。 ●鯛の日 日本有数の真鯛の養殖地である三重県の三重県漁業協同組合連合会が制定。三重県の鯛の美味しさをＰＲすることによる消費の拡大が目的。日付は１０月
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPTの仕組みと限界についての考察（2.1） - conceptualization
カスのプレバト〜俳句の才能査定ランキング〜 - 六代目：生活の困難
難しい単語や教材にないスラングはChatGPTに聞いてみる まるで本物の先生に教わるかのような、AIを活用した英語学習
【冬休みの英作文】親戚の家に行った、お年玉をもらったなど の文
Ms. 大坂なおみ suffered depression | Dr林のこころと脳の相談室
嬉しいって英語で何て言えばいい？嬉しさや喜びを表す英語フレーズ！ - ー世界へのDOORー
シチズンシップについてのわかりにくい話 - 天国と地獄の間の、少し地獄寄りにて
ネギトロの語源・由来にでっち上げられた日本語「ねぎ取る」の起源を調べてみました！