【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ
第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長（GPTが文脈を意識できる過去の単語数）」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構（そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み）」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。
ChatGPTの使い方のコツをまとめる - BioErrorLog Tech Blog
面白いなと思った使い方、大事だなと思ったコツの個人的な備忘録です。 はじめに 前提 ChatGPTのTipsまとめ 基本編 鵜呑みにしない 途中で文章が途切れた時は "続けて" 汎用Tips 文脈を伝える 条件/制約や質問を明示する 相手の立場を指定する 回答の特性を指定する 英語で入力する 無茶振りする レビュアーや反論者を用意する おわりに はじめに ChatGPT、面白いですね。 難しく考えず素朴にChatGPTと会話するのも十分面白いですが、コミュニケーションを工夫することでより良い体験が得られたりします。 (対人コミュニケーションと同じですね) 今回は、個人的にChatGPTを使ってる中での好みのコツをまとめます。 ChatGPTのコツを書いているはずが、いつの間にか対人コミュニケーションの話みたいになってしまった ChatGPTの使い方のコツをまとめる - BioErrorLo
『マスタリングLinuxシェルスクリプト 第2版』、こういう1冊手元に有るとずっと使える本はちゃんと買っておきたいですね - Magnolia Tech
マスタリングLinuxシェルスクリプト 第2版 ―Linuxコマンド、bashスクリプト、シェルプログラミング実践入門 作者:Mokhtar Ebrahim,Andrew MallettオライリージャパンAmazon 令和最新版のシェルスクリプトの入門書とリファレンスがセットになった1冊。手元に置いておくと安心感ありますよね。 令和最新版なので、冒頭からデバッグしたいならVisual Studio Code がオススメ、と出てきます。 コンテナ使おうと思ったらシェルスクリプトの読み書きの出番がどんどん増えていって、コンテナに一番必要なスキルはシェルスクリプトのスキルでは？と思っている今日この頃です(違います)が、そのくらいの用途に必要な要素は全部盛り込んであり、シェルスクリプトの文法と実践的な使い方に加えて、一緒に利用されることの多いgrep、awk、sedといったコマンドの解説も併せて載
相手に動いてもらえないのは、一言目で“地雷”を踏んでいるから 仕事でも私生活でも役に立つ、人を動かす「伝え方」の極意
本の学びを深めるオンライン講座「flier book camp」を運営する株式会社フライヤーが主催したイベントに、ゲストとして登場したのは、『無敗営業』シリーズ著者の高橋浩一氏。今回はファシリテーターにフライヤーアドバイザー荒木博行氏を招き、「言える・伝わる・あのひとが動く『伝え方の原則』」をテーマに対談します。高橋氏は、相手にうまく動いてもらえない時は“地雷”を踏んでいる場合が多いのだと語り、気持ちよく人を動かすための「伝え方」のポイントを解説しました。 相手にうまく動いてもらえない時は“地雷”を踏んでいる 荒木博行氏（以下、荒木）：浩一さんはものすごく大量にいろんな人の営業トークやコミュニケーションの現場に立ち会われていて、ロールプレイもかなりやってらっしゃると思うし、そこでのフィードバックもけっこうされているわけですよね。 「やっぱりここでコミュニケーションが躓いちゃうのか」というも
真面目なプログラマのためのディープラーニング入門
はじめに: 本講座は「機械学習ってなんか面倒くさそう」と感じている プログラマのためのものである。本講座では 「そもそも機械が『学習する』とはどういうことか?」 「なぜニューラルネットワークで学習できるのか?」といった 根本的な疑問に答えることから始める。 そのうえで「ニューラルネットワークでどのようなことが学習できるのか?」 という疑問に対する具体例として、物体認識や奥行き認識などの問題を扱う。 最終的には、機械学習のブラックボックス性を解消し、所詮は ニューラルネットワークもただのソフトウェアであり、 固有の長所と短所をもっていることを学ぶことが目的である。 なお、この講座では機械学習のソフトウェア的な原理を中心に説明しており、 理論的・数学的な基礎はそれほど厳密には説明しない。 使用環境は Python + PyTorch を使っているが、一度原理を理解してしまえば 環境や使用言語が
禁止事項と各種制限措置について - はてなブックマークヘルプ
はてなブックマークのご利用にあたっては、はてな利用規約が適用されます。利用規約で禁止する行為や利用状況が確認された場合、注意勧告、表示制限、利用停止などの制限措置の対象となることがあります。 ▽はてな利用規約 https://policies.hatena.ne.jp/rule また、はてなブックマークはユーザーが情報発信を行うプラットフォームであり、その運営方針はコミュニティガイドラインに基づきます。利用規約と合わせてご確認ください。 ▽はてなコミュニティガイドライン https://policies.hatena.ne.jp/community-guideline はてなブックマークでの禁止事項、禁止行為 以下に、はてなブックマークにおいて禁止している事項と、制限措置の対象となり得る具体的な禁止行為を記載します。これは代表的な例であり、ここに挙げていない行為であっても、実態として禁止事
プログラミングというより物事が出来るようになる思考法｜牛尾 剛
私が人生でずっと悩んで追い求めていたものがついに解決した。それは、なんでも良いから何かが「出来るようになる」ことだ。 昔からいくらその対象に時間をかけても、努力しても、人並みにすらならない。人にやってもらうとか自分がやらないことに関してはうまくいくのだが、自分が何かが出来るようになるということに関しては人生５０年目だが、絶望的で、それが自分の自己肯定感や、人並みに生きることへの罪悪感を生んでいた。人生で解決したかった問題 No.1 だ。だからそれをずっと解決しようと頑張ってきた。 ギター演奏での解決方法私はクソ不器用で、なにやってもできないので、人生で出来たらいいことを２つだけ定めた。ギター演奏と、プログラミング。ギター演奏に関しては少し前に解決した。根本的な問題を一つ上げるとすると、「ゆっくりから、メトロノームで練習する」これだけだ。 ギターはもう何十年も演奏しているのに弾ける感がなかっ
【お手軽】爆速で恋人を狂わせる方法【簡単】｜Gigandect
やっほー！ “女を殴ってそう“で有名なGigandectだよ。 みんな、恋人はいる？ 恋人がいる人は「あ〜！恋人を意のままに扱いてえな〜！」って思うよね！ そんなあなたにとても役に立つ方法を知ってるから教えてあげるね！ これを実践すればあなたも恋人を意のままに操れてハッピーライフが送れるよ！ 01. 悩む時間を与えない恋人ってよく「ちょっと考えたいから１人で考えてみる」とか言う時あるよね。そういう時に１人にすると（自分にとって都合が）良くないことばっかり考えちゃうからなるべく１人にさせない方が良い。 例えば、「ちょっと考えたいから旅行に行く」と言ったりとか、距離置きたいとか言って1週間くらい離れたりすることがあると思うんだけど、そういう時は「１人で行かせるのが不安だ！」とか言って付いて行ったりとか、ビデオ通話ずっとしたりとかしてなるべく１人で考えさせないようにすると良いよ。 02. 恋人や
松本人志の採点でも裁量しきれなかった「キングオブコント2021」の熾烈さ 「空気階段」優勝の背景（堀井憲一郎） - エキスパート - Yahoo!ニュース
2021年キングオブコントは空気階段が優勝した。 熾烈な戦いであった。 お笑いコンテストは、出場順に左右されるものだと痛感した大会でもあった。 あまりに優劣がつけがたく、出てくる順番が変わればおそらく結果が違っていたのだろうとおもわせる展開がみられた。 キングオブコントは1回目から全力でやりきる 最初に出てきたのが蛙亭で、出てきただけでおもしろみを感じさせるコンビは「女科学者と人造人間」のコントを展開した。とてもおもしろい。 蛙亭が最終ステージに進んでも不思議ではないとおもわせるできあがりであった。 キングオブコントでは10組が登場し、そのうち採点によって3組が「ファイナルステージ」へ進む。 上位3組だけ2回目のパフォーマンスを見せ、1回目と2回目の得点の「合計」で優勝が決まる。 1回目の採点がそのまま生かされるところが「M−1」の採点とは違う。 1回目に全力を出し切っていいんである。ネタ
記者に「プログラミングのスキル」って必要なの？ちなみにNHKニュースの画像生成も記者がコードを書いてます｜NHK取材ノート
記者に「プログラミングのスキル」って必要なの？ちなみにNHKニュースの画像生成も記者がコードを書いてます 新型コロナウイルスの新規感染者の数を示す日本地図に、毎日厳しい視線を送る男がいる。 コロナの感染拡大の今後が懸念されるが、地図がきちんと描画されているかも気になってしまう。 それはこの「新型コロナ感染者数マップ作画システム」をプログラミングしたのが彼だから。 ちなみに彼は技術部局のエンジニアではなく、いつもはテレビで解説している記者だったりする。 このシステム、記者が作りましたこんにちは、NHK解説委員の三輪誠司といいます。専門はITやサイバーセキュリティで、主に「シブ5時」や「くらし解説」などでニュースの解説を担当しています。 新型コロナウイルスの「感染者数マップ作画システム」は、1週間で作成しました。 言語はJava、地図はSVGで、ブラウザの画面をそのまま放送で使っています。SV
グラフ理論入門 | DevelopersIO
こんにちは、ドイツのモナでございます〜 いろんなサイエンスにおいてグラフ理論がとても重要な用具となっていますが、グラフ理論ってそもそも何なのかご存知ない方も少なくもないですね。 ということで、今日は簡単にグラフ理論の基本や用語など紹介したいと思います！なお、入門のため誰にでも分かるように数学的な定義は避けるようにします。 また、グラフ理論の応用は別の話ですので今回は応用の話しません〜 なぜグラフが面白いのか 具体的な応用の話はしませんが、たくさんの分野においてグラフ理論が重要となっています。 ネットワーク（例：トポロジー、ルーティングアルゴリズム） AI（例：ニューラルネットワーク） コンピューターサイエンス（例：ファイルシステム） 社会科学（例：ソーシャルネットワーク分析） 皆さんの生活の中（例：カーナビの最短ルートの計算） グラフ理論とは？ ここで議論するグラフというのは、よく思い浮か
なぜ「できない人」ほど、人に聞けないのか。 | Books&Apps
できない人が質問をしに来ない、という傾向は、それなりにどこの会社でも見られるようである。 例えば新人が聞きに来ない、若手が聞きに来ない、あるいは「不出来なベテラン」だと、誰にも相談できなくて行き詰まる、なんて話もある。 つい先日も、あるテクノロジー系の企業で「聞きに来ないメンバー」をなんとかしたいが、どうすればよいか、という話があった。 聞くと、力量の低いメンバーの一人が、報告が苦手で、かつ聞きに来ないので、こちらがかなり監視をしているが、手間がかかってしょうがない、という。 仕事の進捗を入れたり、週報を書いたりするような社内システムもあるのだが 力量の低い人ほど入力率も低く、入力した報告の内容も拙いという。 結局、上司が直接、成果品を逐一覗いてチェックをしているそうだが、それも限界がある。 こまったこまった、という話だ。 ＊ こういった事象について 「できない人」は、「何がわからないのか
社内でよく使う VSCode の機能紹介 - Techtouch Developers Blog
テックタッチのバックエンドエンジニアの taisa です。 社内勉強会で、Visual Studio Code（以降 VSCode と記載）ナレッジ共有会を実施したのでその内容を紹介します。 今回の趣旨は「VSCode で各自がよく使う機能やショートカット、ちょっとしたノウハウを共有することで開発効率を向上させたい」というものです。自分自身 VSCode を使いこなせておらず、他のメンバーの使い方に興味がありました。共有会では、みんなで順番に画面共有しながら進めていきました。 コマンドパレット編 シンボル検索編 ショートカット編 最近開いたプロジェクトを開く 最近開いたファイルを開く / ファイルを検索する サイドバーを開く/ 閉じる、パネルを開く/ 閉じる、エクスプローラを開く 指定のエディタに移動する Grep する 特定の文字列を選択して置換する 定義へ移動、直前の場所に戻る、直前の
ハーバード大のプログラミング講座を日本語化 無料で学べる「CS50.jp」公開
米ハーバード大が無償公開しているプログラミング入門講座を日本語に訳したWebサイト「CS50.jp」が公開された。プログラミング教育ベンチャーのLABOTが、「コロナ禍などで大学のキャンパスの環境が不安定になる中、多くの学ぶ意欲がある学生に、良質な教材に母語でアクセスしてほしい」と翻訳作業を進めてきたという。 公開したのは、ハーバード大コンピューターサイエンス学部のデビッド・J・マラン教授が、無料オンライン教育サービス「edX」で公開している人気講座「CS50」のうち、コンピュータサイエンス入門と、Python・JavaScriptを使ったプログラミング講座を日本語訳したもの。YouTubeの英語教材とあわせ、日本語のテキストで学べる。 CS50は、非営利で再配布・改変可能なクリエイティブ・コモンズライセンス（CC BY-NC-SA 4.0）で公開されており、非営利なら改編や再配布が可能だ
ブラウザレンダリングの仕組み
フロントエンド用語を100秒で解説するチャンネルを作りました！ よかったらチェックしてみてください！ はじめに 以前書いた記事「Webページがブラウザに表示されるまでに何が起こるのか？」で ブラウザレンダリングについて詳細に知りたいという意見をいただいたので、調べてまとめてみました。 全体図 レンダリングの大まかな流れです。 HTMLのダウンロード サーバから送られてきたHTMLをダウンロードします。 HTMLの解析 サーバから送られてきたHTMLファイルは、「0」と「1」でできたデータになっています。 ブラウザは、サーバから受け取ったデータをそのままHTMLとして解釈することはできないので、自分で扱うことができる形、つまりDOMに変換する必要があります。この作業を 解析 ( Parse ) と言います。 HTMLをダウンロードしたら、すぐにこの解析作業に入ります。作業は以下のようなステッ
おうちで味わえる温泉気分。1万点以上の入浴剤を試してきたお風呂のソムリエが選んだ10商品 #ソレドコ - ソレドコ
こんにちは、ソレドコ編集部です。 新型コロナウイルスの影響で、なかなか遠出しにくい情勢が続いています。「そろそろ旅行したい！」「温泉へ行きたい！」という方も多いのではないでしょうか。 そんな方にこそオススメしたいのが、おうちで温泉気分を味わえる「入浴剤」。自宅で気軽に“非日常”に浸れる入浴剤を、お風呂のソムリエ・松永武さんに教えていただきました。 はじめまして。お風呂のソムリエ、松永武と申します。 お風呂好きが高じて、2005年にバスリエという会社を創業、お風呂グッズの専門店「お風呂のソムリエSHOP！」を手掛け、これまでに5万点以上のバスグッズを使ってきました。 今も日々、自宅のお風呂をはじめ、温泉や銭湯など、さまざまなシーンでの楽しみ方を探索。お風呂文化を啓蒙する「お風呂のソムリエ」として、自らバスグッズを開発しているほか、その人に合った入浴方法の提案なども行っています。 ▶ バスグッ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Git研修【MIXI 23新卒技術研修】
ChatGPTの仕組みを理解する | HireRoo Tech Blogs
Google製のJavaScript教育ツール「Grasshopper」は基礎から学べて初心者に優しい！【どれ使う？プログラミング教育ツール】
年末年始に振り返る 2021年の人工知能10大トレンドと必読論文
