LLMの根幹「Transformer」とは？並列処理に最適なワケ
2017年にGoogleの研究者が提唱した深層学習モデルで、チャットAI「Chat GPT」などに使われる。「どこに注目するか」を重視したことで、自然言語処理での精度や処理速度を大幅に高めた。 米OpenAIの「ChatGPT」は2022年に公開されるやいなや、その精度の高さに世界が衝撃を受けた。このChatGPTは、同社の大規模言語モデル（LLM）「GPT（Chat Generative Pre-trained Transformer）」をベースにしている。Transformerこそ、LLMの根幹である。 Transformerはエンコーダー（符号器）とデコーダー（復号器）で構成し、「どこに注目するか」を重視するアテンション機構を中心としている。大規模並列処理に向いたモデルで、GPUでの処理を想定して設計した。 Transformerは米Google Brain（現在の米Google D
コマンドラインにオートコンプリート機能を簡単に導入できる「inshellisense」が面白そう | DevelopersIO
こんにちは、CX 事業本部 Delivery 部の若槻です。 2 週間ほど前に、Microsoft が inshellisense（インシェリセンス） というツールを公開しました。 inshellisense は、コマンドラインの入力時にインテリセンスを表示してくれる オートコンプリート機能 をシェルに簡単に導入できるツールです。600 以上のコマンドに対するオートコンプリートをサポートしており、現在は RC（Release Candidate）バージョンとして公開されています。 基本情報 サポートしている OS 環境 macOS Linux Windows サポートしているシェル bash zsh fish pwsh powershell 前提条件 node >= 16.x 導入方法 npm install -g @microsoft/inshellisense 導入がとても簡単なのも
ChatGPTに社内文書に基づいた回答を生成させる仕組みを構築しました - コネヒト開発者ブログ
はじめに はじめまして、8月にコネヒトに入社したy.ikenoueです。 突然ですがみなさん、生成AIは使っておりますでしょうか？ ChatGPTやStable Diffusionといった代表的な生成AIの発表から約1年が経過し、そろそろブームも落ち着くかと思っていたのですが、つい先日もOpenAI DevDayにてChatGPTに関する様々なアップデートが発表されるなど、相変わらず目まぐるしい日々が続いていますね。 弊社における生成AIの活用状況はというと、以前に下記の記事にて、Slack上でChatGPTと会話できる環境を社内提供しているという取り組みをご紹介しました。 tech.connehito.com 本日は、上記の社内ツールに新たに追加した「社内文書の参照機能」についてご紹介します。 「社内文書の参照機能」の概要と開発動機 まずは「社内文書の参照機能」の概要と開発にいたった動機
アジャイルやスクラムに関するよくある質問
アジャイルコーチングや各種トレーニングの際によく聞かれる質問についてまとめました。 なお、内容については十分注意を払っておりますが、有効性等は状況によって変わります。お客様の自己責任にてご利用ください。 https://assets.attractor.co.jp/wp-content/uploads/2023/11/0098.webp 675 1200 admin https://assets.attractor.co.jp/wp-content/uploads/2019/12/logo_attractor_medium-300x138.png admin2023-11-10 21:00:162023-11-11 22:16:21Q. プロダクトバックログアイテムはいつ見積もればいいですか？ https://assets.attractor.co.jp/wp-content/upload
スマホの負け組“マイクロソフト”、「10年越しの完成形」爆誕、敗者復活となるか？
米マイクロソフトが中国レノボ傘下のモトローラと提携し、「ポケットで持ち歩けるパソコン」と銘打ったスマホを誕生させた。ThinkPhoneと名付けられた、一見何の変哲もないスマホだが、USBタイプCケーブルでモニターに接続すると「Windows 365 クラウド PC」に早変わりする。スマホ全盛の時代の中でマイクロソフトはスマホ事業で失敗を繰り返してきたわけだが、今回のThinkPhoneは一体何がどう違うのか。想定される利用シーンやThinkPhoneの仕組みなどと併せて解説する。 米NBCニュースの東京総局、読売新聞の英字新聞部、日経国際ニュースセンターなどで金融・経済報道の基礎を学ぶ。現在、米国の経済を広く深く分析した記事を『週刊エコノミスト』などの紙媒体に発表する一方、『Japan In-Depth』や『ZUU Online』など多チャンネルで配信されるウェブメディアにも寄稿する。海
UnJS にどんなツールがあるのか、上位30件すべて紹介してみた
タイトル通り、JavaScriptツール群「UnJS」にどんなライブラリが存在するのかをひたすら見てみよう！ という記事です。 本当は全て紹介しようと思ったのですが、全75個あり、1つの記事に入れるとあまりにも多すぎるので、この記事では2023年11月4日時点のStar数の順に沿って上位30個を紹介していきます。 UnJS とは UnJSは、Nuxt 開発チームが中心となって開発・メンテナンスされている、あらゆるJavaScriptフレームワーク上で統一的に動作するユーティリティーツール・ライブラリ群です。 UnJSというプロジェクトが何であるかについては、2022年11月に公開された講演映像「UnJS: Nuxt 3 behind the scenes by Pooya Parsa」を観て頂くのが最もわかりやすいと思います。Nuxt 3 正式リリース直後ということもあって、かなり詳細な背
Designing tables
I plan to continue to design, code, and write about UI components and patterns for enterprise SaaS. I aim to create a product that allows software designers and engineers to plug into a comprehensive set of UI components to build amazing interfaces. Stay tuned! If you’re interested, sign up to stay informed on my progress.
(追追記致しました)(追記致しました)国民皆保険制度になくなってほしい
（追追記） 思ったよりバズり困惑する一方でこの話題に感心を持ってもらって嬉しくも思います。表現の汚さは、連休中日の当直後、概日リズムを崩すまいと、徹夜明けのハイな状態で書いていた文章である事を以て言い訳とさせてください。 一点、誤解されている点を追記させてください。あんな文章を書いておいてアレなのですが、私個人は、皆保険制度をまるごと消滅させるべきとは考えておりません。医者が他人の金をクソの山に埋める事を生業としている現状を変えたいと思っているのです。 現状は、様々なプレイヤーが種々の程度で皆保険チャンに乱暴を加えている状況であり、それが日本の衰退を惹起させているのだと認識しております。 (そして、すべてが手遅れになった際には、全て医師のせいにされるのであろうという、強い予感も感じております。) しかしながら、ルールが悪用されるに当たっては、悪いのは悪用されるルールの方です。日本だとこのル
市町村変遷パラパラ地図
版別に探す 完全版 樺太｜ 北海道｜ 青森県｜ 岩手県｜ 宮城県｜ 秋田県｜ 山形県｜ 福島県 茨城県｜ 栃木県｜ 群馬県｜ 埼玉県｜ 千葉県｜ 東京都｜ 神奈川県 新潟県｜ 富山県｜ 石川県｜ 福井県｜ 山梨県｜ 長野県｜ 岐阜県｜ 静岡県｜ 愛知県 三重県｜ 滋賀県｜ 京都府｜ 大阪府｜ 兵庫県｜ 奈良県｜ 和歌山県 鳥取県｜ □島根県｜ 岡山県｜ 広島県｜ 山口県｜ 徳島県｜ 香川県｜ 愛媛県｜ 高知県 福岡県｜ 佐賀県｜ 長崎県｜ 熊本県｜ 大分県｜ 宮崎県｜ 鹿児島県｜ 沖縄県 □は外部リンク、リンク先の方の作成（□:DMさん） 簡易版 北海道｜ 青森県｜ 岩手県｜ 宮城県｜ 秋田県｜ 山形県｜ 福島県 茨城県｜ 栃木県｜ 群馬県｜ 埼玉県｜ 千葉県｜ 東京都｜ 神奈川県 新潟県｜ 富山県｜ 石川県｜ 福井県｜ 山梨県｜ 長野県｜ 岐阜県｜ 静岡県｜ 愛知県 三重県｜ 滋賀県｜
魔法のシンボルで出てくる「六芒星」が漫画等で使用できず再デザインされる事態が起きている「ダイの大冒険も変わってた」
SOW＠ @sow_LIBRA11 作家のはしくれでございます。「戦うパン屋と機械じかけの看板娘」（HJ文庫）全１０巻。「剣と魔法の税金対策」（ガガガ文庫）全６巻「機動戦士ガンダムSEED ECLIPSE（ストーリー担当）」ガンダムエースにて連載中です！ SOW＠ @sow_LIBRA11 そういや、「六芒星」って今は魔法的なシンボルで漫画とかで使っちゃいけなくて、「特定の国や民族を意味するため」って理由なんだが、なので昔は胸に六芒星があったキャラが、今は違う意匠で再デザインされていたりするんですよ。 2023-10-09 15:58:42 リンク ダイヤモンド・オンライン 六芒星を描いたwebマンガ非公開に…表現の「自主規制」どこまで？ 昨年末、ある漫画家のTweetが物議を醸した。作中に「六芒星」が描かれているという理由から、漫画投稿サイトの運営元によって、作品が非公開にされてしまった
実践要件定義入門以前 - 勘と経験と読経
最近ネットを見ていると要件定義入門的な記事が目についたので思ったことを書いてみる記事。ITシステム開発における要件定義に関するあれこれ。 【2023/10/10追記】続編の記事を書きました。実践要件定義入門 - 勘と経験と読経 目次 要件定義に関するおすすめ書籍 その要件定義は必要か 要件は決められるのか 要件定義をすることがルールで定められているから要件定義をする必要がある 要件は定義できるのか 現行の業務マニュアルをベースに要件定義をするつもりのあなたへ 現行システムをベースに要件定義をするつもりのあなたへ 外部業者を呼ぶ前に考えるべき事 どこから外注するかを考える 要件定義の作業期間を見積もる 要件定義に関するおすすめ書籍 この後に何度も引用することになると思うので、最初に要件定義のおすすめ書籍を紹介しておく。と言っても紹介するのは1つだけだ。 ユーザのための要件定義ガイド第2版 作
全ての開発者が知っておくべきUnicodeについての最低限の知識
2003年には「プレーンテキストなんてものは全く存在しない」と言われ、テキストの解読には文字コードの情報が必須となっていました。しかし、2023年になるまでの20年の間に絵文字などのおかげでUnicodeの利用率は98％へと到達し、再び文字コードを気にせずにすむ時代がやってきています。そんな時代において、正しくUnicodeを使うために必要な知識をエンジニアのニキータ・プロコポフさんが解説しています。 The Absolute Minimum Every Software Developer Must Know About Unicode in 2023 (Still No Excuses!) @ tonsky.me https://tonsky.me/blog/unicode/ Unicodeの歴史と利用率の推移をまとめたグラフは下図の通り。2000年代後半から急速に普及が進んでいったこ
Boston Consulting Group | SlideShare
Boston Consulting Group is a global management consulting firm and the world's leading advisor on business strategy. We partner with clients in all sectors and regions to identify their highest-value opportunities, address their most critical challenges, and transform their businesses. bcg boston consulting group consulting management consulting business the boston consulting group strategy digita
もう初回コードレビューはAIに任せる時代になった - CodeRabbit -
どんな人向けの記事？ レビューによって心理的なダメージを受けやすい方 非エンジニアだが、エンジニアチームがどんな機能を作っているか知りたい方 業務が溜まっていて、レビューに割く時間を捻出するのに苦労している方 コピペできるコードも公開します 初回レビューをAIに任せると、いろんなロールの人の役に立つ レビューは得意ですか？ 優秀なエンジニアしかいないチームであれば、PRは1トピックに絞って小さく明確なコミットによって作成され、適切な要約とともに提供されることでしょう。 しかし、実際にはいろいろな制約から、PRが想定よりずっと大きくなってしまったり、関連トピックと異なるコードが混じってしまうこともあります。 実際のところ、大きなPRを適切にレビューするのは難しいことです。また、自分が詳しくない領域のレビューを行わなければいけない機会もあります。 今回の記事は、レビューを作成してくれるAI C
インボイス制度開始にあたって副業エンジニアが考えるべきこと - おかしんワークス
はじめに令和5年10月1日からインボイス制度が開始されるにあたって、副業情シスとしてはどのように対応すべきか気になったので色々調べてみました。 注意点この記事では私を含めた副業情シスやエンジニアをターゲットにしているので、インボイス制度における声優やデザイナーなどに影響する「インボイス制度では本名を晒さないといけない」という問題は取り上げません。 また、この記事は売上1000万に満たない免税事業者の副業個人事業主をターゲットにしています。 また、私は税務の専門家ではなく、あくまで自分の理解の為に自分が調べたことを書いておりますので記事の正確性・完全性は担保できません。不安な方は必ず税理士などの専門家に相談して対応してください。
BudouX: 読みやすい改行のための軽量な分かち書き器
.app 1 .dev 1 #11WeeksOfAndroid 13 #11WeeksOfAndroid Android TV 1 #Android11 3 #DevFest16 1 #DevFest17 1 #DevFest18 1 #DevFest19 1 #DevFest20 1 #DevFest21 1 #DevFest22 1 #DevFest23 1 #hack4jp 3 11 weeks of Android 2 A MESSAGE FROM OUR CEO 1 A/B Testing 1 A4A 4 Accelerator 6 Accessibility 1 accuracy 1 Actions on Google 16 Activation Atlas 1 address validation API 1 Addy Osmani 1 ADK 2 AdMob 32 Ads
プラットフォームエンジニアリングがわからない
先週、エーピーコミュケーションズによるプラットフォームエンジニアリングについての勉強会に参加したのだが、全然理解できなかった。理解した前提のレポート記事は無理なので、せめて解説のどこで詰まって、なにがわからなかったのかくらいは理解しておきたい。勉強会の模様を追いながら、自身の思考を追いかけていくことにする。 とにかくグローバルでは注目が集まっているらしい 勉強会を行なったエーピーコミュニケーションズ（以下、APC）はNeoSIerを標榜するエンジニア集団。2023年1月現在で社員は430名で、AWSやAzureの有資格者が各100名以上在籍している。DockerEnterpriseを買収したミランティスとJVを設立したり、最近話題になったネットワーク機器のカプセルトイ（関連記事：「手のひらネットワーク機器」のサンプル入手！ 企画元にも開発秘話を聞いた）を手がけたり、ユニークな取り組みを行な
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ソフトウェアの内部品質に生じる様々な問題は組織設計にその原因があることも多い / Internal Quality Issues Caused by Organizational Design
[第236話] ワンパンマン - 原作/ＯＮＥ/漫画/村田雄介 | となりのヤングジャンプ![[第236話] ワンパンマン - 原作/ＯＮＥ/漫画/村田雄介 | となりのヤングジャンプ](https://cdn-ak-scissors.b.st-hatena.com/image/square/3cce558d2d2cd44cc56364925e1cdd2603469fcd/height=288;version=1;width=512/https%3A%2F%2Fcdn-img.tonarinoyj.jp%2Fpublic%2Fseries-thumbnail%2F13932016480028984490-19d3b2e1b3a4d5695b13048b42e21ab3%3F1711941439)
dアカウントの認証、かんたんログインやスマホ認証を廃止し「パスキー」に統一
