【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ
第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長（GPTが文脈を意識できる過去の単語数）」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構（そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み）」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。
AWS・Azure・GCPの「IoT」を徹底比較 なぜAzureが先駆者のAWSを追い越せたのか
この記事の概要 大手3社クラウドサービスプロバイダーは、世界のIoTパブリッククラウド市場の80％以上を占めています。 マイクロソフトとAWSの両社にとってIoT向け戦略の重要性が高く、グーグルはそれほど優先していません。 大手クラウドサービスプロバイダーは、IoT構想の基幹となるパブリッククラウドにおいて、多くのサービスを提供しています。 なぜAzureは“先駆者”AWSを追い越せたのか？ IoT Analyticsの最新調査によると、IoTに特化したパブリッククラウドサービスでは、大手クラウドサービスプロバイダー3社（AWS、Microsoft Azure、GCP）が80％以上の市場シェアを占めています。 IoTデバイスを接続するためのパブリッククラウドサービスの提供は、まだ3社の主要な事業ではありませんが、IoTサービスおよび関連するクラウド投資は、一般のパブリッククラウド支出よりも
PowerShell(パワーシェル)で何ができる？ 6つの活用例とメリットでひも解く保守運用術
言うまでもないが、システムは開発する期間より、運用する期間のほうがはるかに長い。そのため、システム全体の品質向上とコスト低減を考える場合、運用に関わる検討は避けて通れない。こうした場面で用いられるのがコマンドラインインターフェイス（CUI）のシェルおよびスクリプト言語だ。UnixやLinuxなどではあって当たり前だったが、Windows 7以降はWindows OSにも「Windows PowerShell（以下、PowerShell）」が標準搭載されるようになった。このPowerShellもバージョンを重ねており、今では他のシェルに引けを取らない機能を備えるようになっている。ここではPowerShellの具体的な活用方法や利用するメリット・デメリットなどを詳しく解説していこう。
AWS認定資格まとめ、どんな試験があり、どんな取得メリットがあるのか？
今や企業システムで何らかのクラウドサービスを利用するのは当たり前の時代になりました。さまざまなクラウドベンダーがひしめくなか、業界のガリバーとされるのが「Amazon Web Services（AWS）」です。AWSが2006年にAmazon S3を開始してから14年、今では数多くのサービスを提供していますが、それを使いこなすには体系だった知識が欠かせません。その一助となるのがAWS認定資格です。ここではAWSに精通した専門家たちが同資格の全体像と取得メリット、初学者向けのAWS認定クラウドプラクティショナーについて紹介します。 佐々木拓郎 NRIネットコム クラウド事業推進部 部長。専門はクラウドに関するコンサルティングから開発まで。クラウドの対象範囲拡大にともない、AIやIoTなどさまざまな領域に進出することになる。趣味は新幹線でワインを飲みながらの執筆。新幹線で、ソムリエナイフでワイ
【独占取材】テスラの生産体制を空から丸ハダカにした米テックのスゴさ
「テスラが直面する課題は生産地獄から物流地獄に移った」。米電気自動車大手テスラの「お騒がせ」最高経営責任者（CEO）のイーロン・マスク氏は9月16日、同社の生産の問題が解消されたとの認識をツイートした。だが、その根拠は示されず、一部投資家やアナリストはマスクCEOの主張に疑いをいだく。そこで出番となるのが、テスラ出荷場の衛星写真のデータ解析だ。この分野で急成長する米国シカゴのRSMetrics社のトップにインタビューし、データ解析の驚くべき進歩とイノベーションに迫る。 米NBCニュースの東京総局、読売新聞の英字新聞部、日経国際ニュースセンターなどで金融・経済報道の基礎を学ぶ。現在、米国の経済を広く深く分析した記事を『週刊エコノミスト』などの紙媒体に発表する一方、『Japan In-Depth』や『ZUU Online』など多チャンネルで配信されるウェブメディアにも寄稿する。海外大物の長時間
どうすれば「職場のアホ」と戦わないですむのか？ スタンフォード教授が真剣に考えた
暴言を吐く、仲間をいたぶる、ミスを決して許さない、とんでもない制度を導入する。そんな意地悪な人があなたの職場にもいないだろうか？ 経営科学・工学、組織行動論を専門とするスタンフォード大学 ロバート・サットン教授のもとには、世界中から毎日のようにそうした悩みのメールが届くという。サットン教授は、そうした害悪をまき散らす人を「アホ」と断言。「職場のアホ」と戦わないですむ方法を伝授してくれた。 世界中に「アホ」はいる 「職場に意地悪な人がいて、毎日心が折れそう。助けてください！」 私はこれまで何千通とこんなメールを受け取ってきた。きっと今日も多くの人が、世界のどこかでひどい目に遭っている。 参考までに私のところに寄せられたメールをいくつか紹介しよう。 「院長がことあるごとに暴言を吐くんです。毎日耐えて、患者さんの治療に精一杯取り組んではいます。でもゴミ扱いされたんじゃ、まったくやる気になりません
ブロックチェーンの仕組みをわかりやすく解説 P2P、ハッシュ、ノードも図解
ブロックチェーンの誕生、その特徴と課題 ブロックチェーンのアイデアは、2008年にSatoshi Nakamoto氏が発表した論文「Bitcoin: A Peer-to-Peer Electronic Cash System」の中で誕生した。もともと本論文で開発されたブロックチェーンの仕組みは、以下のような性質を持ったビットコインを作るために開発された。 (A) 第三者機関を必要としない直接取引の実現 (B) 非可逆的な取引の実現 (C) 少額取引における信用コストの実現 (D) 手数料の低コスト化 (E) 二重支払いの防止 この仕組みには、従来の集中管理型システムに比べ、改ざんが極めて困難であり、耐久性の高さや維持費の安価さなどのメリットがあった。しかし、その一方で、以下のような課題も存在した。 (A) 取引完了までに数分間かかるため、即時性が求められる処理に向かない。 (B) 新たなチ
ブックオフのビジネスモデルはなぜ「破綻寸前」なのか
仕入れ、販売ともに振るわず ブックオフは4月10日、同社の松下展千社長が代表権のない取締役に退き、後任に堀内康隆取締役執行役員が昇格する人事を発表した。同社はこのところ業績の伸び悩みに直面しており、2016年3月期の決算では上場以来、初の赤字決算に転落。2017年3月についても13億円の赤字を見込んでいる。 同社の業績が低迷しているのは、主力商品である書籍の販売が低迷しているからだ。2016年3月期における同社の販売実績（直営店）は、前年比4.2％のプラスだったが、店舗の人件費や新規事業である中古家電のプロモーション費用などコスト増加分を吸収できなかった。 商品別では、活字の書籍が前年比6.4％とプラスだったが、コミックはほぼ横ばい、その他書籍は14.4％の大幅なマイナスとなった。今年に入っても状況はあまり改善しておらず、2017年3月時点における書籍の販売実績は前年同月比マイナス3.6％
「私ゼロから監視設計できます」と言える人、いますか？ 運用監視の自動化を考える
運用監視の自動化は、複雑化するアプリケーションやサービスに対して効率的かつ確実な運用監視を実現する上で、またコスト削減の意味でも重要な要素になってきています。運用監視の自動化は、どのように考えて実現していけばいいのでしょうか。 7月24日に産業技術大学院大学で行われたイベント「July Tech Festa 2016」のセッション「運用自動化のための Re:ゼロから始める監視設計」は、そのための知見を得る上で大変参考になるものでした。この記事では、そのダイジェストを紹介します。 運用自動化のための Re:ゼロから始める監視設計 前佛雅人氏。 今日の私の話は、業界経験が豊富な方には当たり前すぎる内容かも知れませんが、自分だったら20年前にこれを知りたかったな、ということをまとめてみたつもりです。 私はもともとデータセンターの運用をずっとやっていました。 最近ではテクニカルエバンジェリストなど
ソフトバンクG 孫社長、ARM買収の目的は「IoTのチャンスをつかむこと」
ソフトバンクグループは18日、マイクロプロセッサなどの半導体知的所有権（SIP）を保有する英ARM社の株式14億1200万株を、240億ポンド（約3.3兆円）で買い取ると正式に発表した。ARM株式1株当たりの価格は1,700ペンスで、前営業日のARM株式1株当たりの終値1,189ペンスに対して43％のプレミアムが反映されていることになる。買収は9月30日に完了する見込みで、完了すればARMはソフトバンクグループの完全子会社となる。 今回の買収発表にともない、ソフトバンクグループ 孫 正義社長は「これまで、ARMを世界的に名高いテクノロジー企業であり、この分野における圧倒的マーケットリーダーとして高く評価してきました。今回の投資の目的は『IoT』がもたらす非常に重要なチャンスをつかむことにあり、ARMは、当社グループの戦略において重要な役割を果たしていくでしょう」とコメント。 そのうえで「今
IoTで絶対に知っておくべきテクノロジーのトップ10、ガートナーが発表
本発表にあたって、ガートナーのリサーチ バイス プレジデント兼最上級アナリストのニック・ジョーンズ氏は次のように語っている。 「IoTには非常に広範囲の新しいテクノロジーとスキルが求められますが、多くの企業はまだこれらを使いこなしていません。IoTの領域では、テクノロジーとサービス、さらにはこれらを提供するベンダーが未成熟であるということがテーマとして繰り返し話題に上ります。IoTに関して取り組みを進める、あるいはこれから始める企業にとって、このような未熟性を念頭に置いて開発を進めること、ここから生じるリスクを管理することが、これからの重要なチャレンジとなります。また、IoTに関する多くのテクノロジー領域では、スキル不足も大きな課題になるでしょう」 ガートナーが発表した2017年および2018年に注目すべきIoTテクノロジーのトップ10は次のとおり。 IoTセキュリティ IoTアナリティク
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
PythonによるExcel自動化は何がスゴい？インストールからコードサンプルまで実践詳解
10分で理解する「AWS」まとめ、全体像や主なサービスがわかる入門書