OpenAIのリリースによりLLMの利用率が爆発的に増えてきました。 当初はChatGPTとの会話形式だけだった利用シーンも独自のナレッジから答えさせるRAGアーキテクチャなど、LLMのアプリケーションへの組み込みがされはじめています。 本資料では主にAzure OpenAIのLLMをアプリケーションへ組み込む際により堅牢かつ安全にアプリケーション実装ができるポイントについて紹介します。 本資料は以下のイベントで発表した内容です。 第1回 Azure Travelers 勉強会 札幌の旅 https://jat.connpass.com/event/303868
バクラクの爆速開発を支えるDevOpsチームの「のびしろ」！ #のびしろウィーク - LayerX エンジニアブログ
こんにちは！バクラク事業部DevOpsチームです。 この記事は LayerXテックアドカレ2023 の37日目の記事です、前回はid:kikuchyさんが『歳末！バクラク申請・経費精算モバイルアプリ のびしろ大放出祭 』という記事を書いてくれました。また、38日目はid:suguruが『バクラク Enabling Team の課題とのびしろ #のびしろウィーク』を書いてくださいました！ 今回はのびしろウィークということで、バクラクのDevOpsチームの伸びしろをお伝えできればと思います！ のびしろウィークとは のびしろウィークとは、LayerXの各チームメンバーが自分たちのチームの「のびしろ」について対外的に発信する期間です！ 過去の対外的な発信では社内でうまく行った事例などについては各種発信していましたが、どういう課題があってどういった方の協力を求めているかについての発信はあまり行なって
オラクル、MySQLのデータベースエンジンでJavaScriptをサポート、ストアドプロシージャなどJavaScriptで記述可能に。プレビュー版をリリース
オラクル、MySQLのデータベースエンジンでJavaScriptをサポート、ストアドプロシージャなどJavaScriptで記述可能に。プレビュー版をリリース オラクルは、MySQLのストアドプロシージャやストアドファンクションの記述言語としてJavaScriptをサポートすると発表し、対応したMySQL Enterprise Editionのプレビュー版を公開しました。 Oracle CloudやAWS、Microsoft Azure上でオラクルが提供しているマネージドサービス、MySQL Heatwaveでも利用可能になっています。 JavaScriptのサポートでMySQLエコシステムの拡大を狙う ストアドプロシージャやストアドファンクションは、データベースエンジン側にあらかじめまとまったクエリの処理などを登録しておき、必要に応じて呼び出すことでその処理を実行できるという機能です。 複
誕生から20年近く経つクラウド・コンピューティングは、今や社会で重要な役割を果たすようになっている。2024年現在、注目するべきクラウドの動向とは一体何なのか。そしてこれから先、企業がクラウド戦略を立てる上では、どのような点を意識するべきなのか。ガートナー ジャパン ディスティングイッシュトバイスプレジデント、アナリストの亦賀忠明氏が解説した。 ライター。2010年、IT製品・サービスに関する情報提供を目的とするWebサイトにて医療チャンネルの立ち上げに参画し、担当記者として医療分野のIT推進の動向を取材して記事を制作。2011年、日本医療情報学会認定の医療情報技師資格を取得後、病院・診療所向け合わせて30社以上の電子カルテベンダーを取材した実績がある。医療関連システムの製品情報や導入事例、医療IT政策・市場動向に関する取材を行ってきた。
三流エンジニアの逆転劇！ 周りの一流から学び、大きな成果を出す秘訣とは？ 現在、Microsoft Azureのサーバレスプラットフォーム「Azure Functions」の開発チームに所属し、現役プログラマーとして活躍する牛尾氏。そんな牛尾氏は、自身の原点を「プログラマーに憧れたコンピュータ好き少年」と説明し、その後社会人として得た経験から、自分はコンサルティングのような「他の人にやってもらう仕事」には才能を感じるものの、プログラミングなど「自分でやる仕事」に関しては三流と自己分析する。 「一流のプログラマーには憧れますが、正直言って僕は三流。では、その三流がどうやって外資系に就職できたのか、今でもまだクビにならずにいられるか。それは自分の能力とそれ以外の部分で、工夫をしたところがあるからです」（牛尾氏） 牛尾氏の工夫とは、一言で言うと「観察」だ。自分の周りにいる一流のプログラマーが、ど
関連キーワード VMware vSphere | VMware | サーバ仮想化 VMware（Broadcom が2023年11月に買収）のハイパーバイザー「ESXi」を含むサーバ仮想化製品群「VMware vSphere」（以下、vSphere）のバージョン6.5と6.7は、2023年11月にEoTG（End of Technical Guidance：テクニカルガイダンス期間の終了）を迎えた。EoTGを過ぎたバージョンのvSphereは、セキュリティパッチ（パッチ：修正プログラム）の配布や新機能の追加がされなくなる。 本連載は、vSphereの古いバージョンを使い続けるリスクと、ESXiのバージョン7.0以降に搭載された新機能を解説してきた。vSphereのサポート終了は、バージョンアップだけでなく、ESXi以外のハイパーバイザーを検討する機会でもある。ハイパーバイザーの選択肢はさま
DifyとKnowledge bases for Amazon Bedrockを連携させてRAGを構築する - Taste of Tech Topics
こんにちは。ベランダで育てていたバジルが虫に食べられてしまいました。ハヤトです。 しかし植物の生命力というのはすごいもので、残った茎から再び葉っぱが成長してきています。次はぜひ私が食べたいものです。 さて、成長著しいといえば生成AIアプリ開発の分野はまさに日進月歩ですが、 なかでも「Dify」は、LLMワークフローが特に便利で、注目度が急上昇中です。 今回はそんなDifyとKnowledge bases for Amazon Bedrockを連携させてRAGを構築してみます。 Difyとは？ Knowledge bases for Amazon Bedrockとは？ 今回作成するチャットボットについて AWS側の設定手順 ナレッジベースの作成 APIの作成 Lambdaの作成 API Gatewayの作成 Dify側の設定手順 カスタムツールの作成 チャットボットの作成 まとめ Difyと
機械学習エンジニアのKe Fang氏が、AIをコミュニケーション相手にできるアプリ「Dolores」を開発した経緯とそこから得た学びを自身のブログでまとめています。 A Failed AI Girlfriend Product, and My Lessons | TL;DR https://mazzzystar.github.io/2023/11/16/ai-girlfriend-product/ Fang氏は、2023年4月にスタンフォード大学が発表した生成AIエージェントについての論文を読み、記憶・熟考・計画・行動を組み合わせたフレームワークを用いて、人間とGPTとのコミュニケーションを、映画「her/世界でひとつの彼女」のように、AIをガールフレンドとみなしてコミュニケーションをはかることができるのではないかと考えました。 Amazon | her/世界でひとつの彼女 ブルーレイ&D
はじめまして。株式会社ナレッジセンスの門脇です。普段はエンジニア兼PMとして、「社内データに基づいて回答してくれる」チャットボットをエンタープライズ企業向けに提供しています（一応、200社以上に導入実績あり）。ここで開発しているチャットボットは、ChatGPTを始めとしたLLM（Large Language Models）を活用したサービスであり、その中でもRAG（Retrieval Augmented Generative）という仕組みをガッツリ利用しています。本記事では、RAG精度向上のための知見を共有していきます。 はじめに この記事は何 この記事は、LlamaIndexのAndrei氏による『A Cheat Sheet and Some Recipes For Building Advanced RAG』[1]という記事で紹介されている「RAGに関するチートシート」について、And
iOS/iPadOS用Microsoft リモート デスクトップがついに外付けディスプレイ対応。広い画面でリモートPC操作可能に | テクノエッジ TechnoEdge
著書に『宇宙世紀の政治経済学』（宝島社）、『ガンダムと日本人』（文春新書）、『教養としてのゲーム史』（ちくま新書）、『PS3はなぜ失敗したのか』（晋遊舎）、共著に『超クソゲー2』『超アーケード』『超ファミコン』『PCエンジン大全』（以上、太田出版）、『ゲーム制作 現場の新戦略 企画と運営のノウハウ』(MdN)など。 iPhoneやiPadからWindows PCをリモート操作できるアプリ「Microsoft リモート デスクトップ」がアップデートでバージョン10.5.1になり、ついに外部モニター表示機能を追加しました。 AirPlayまたは物理ケーブルを使って外付けディスプレイに接続して、広い画面でリモートPC上の作業ができます。 本アプリは、Azure Virtual DesktopやWindows 365、管理者が提供する仮想アプリやデスクトップ、またはリモートPCに接続できるツールで
デジタル庁は、政府の共通クラウド基盤「ガバメントクラウド」の選定基準を見直す方針だ。これまでの技術要件は要求事項が多岐にわたり、1社で基準を満たせるのは米大手ベンダーのみという状態だった。しかし8月下旬に実施予定の公募では、他社製のものなど複数サービスを組み合わせることで要件を満たす形態を認め、これまで参入できなかった国産クラウドサービスも参入しやすくするという。同庁が8月15日に明らかにした。 ガバメントクラウドは、政府やデジタル庁が主導するデジタル改革の一つ。自治体や政府が使うシステムの基盤を共通化する取り組みで、データの移行性向上や、サーバ導入コストの削減などを見込む。政府は基幹業務システムを利用する全ての地方公共団体に対し、原則2025年までにガバメントクラウド上へ移行するよう促している。 現時点でガバメントクラウドに採択されているのはAWSやMicrosoft Azureなど4サ
AWS環境を可視化できるソリューション【Lucidscale】を使って構成図を自動生成してみた | DevelopersIO
こんにちは。 繁松です。 はじめに AWS,Azure,GCPなどのクラウド環境を可視化できるサービス「Lucidscale」を使ってAWSの構成図を自動生成してみたのでブログにしました。 Lucidscaleを使うことで以下のような構成図を自動で生成することができます。 やってみた アカウント作成 Lucidscaleのアカウントを作成します。 https://lucidscale.com/ja 料金 2週間は無料で利用できます。 無料期間以降も継続利用する場合の料金は以下です。 インディビジュアルプラン（個人利用プラン） 1ユーザー（作成者）：￥269,000/年 チームプラン（チーム利用プラン） 1ユーザー（作成者）；￥269,000/年 1ユーザー（エクスプローラー）：￥54,900/年 https://lucid.app/ja/pricing/lucidscale#/pricin
逆境でも乗り越えられたのは、心の底からJavaが好きだから。「#てらだよしおがんばれ」に支えられた半生 - Findy Engineer Lab
日本におけるJavaの普及に、多大なる貢献をした人物がいます。その方とは、日本人で2人目のJava Championである寺田佳央（@yoshioterada）さん。寺田さんは、これまで複数の企業でJavaやその関連製品のエバンジェリストを務め、日本におけるJavaの利用促進・啓蒙活動に従事してきました。 約25年にわたり、Javaと向き合ってきたキャリア。活動を継続できた理由は何にあったのでしょうか。今回は寺田さんにその歩みを振り返っていただきました。 それはiPhoneやKubernetesの登場にも等しい衝撃だった 今いるのが自分の望んだ場所ではなくても、その経験はいつか役に立つ オラクルによる買収後、初の登壇は本当に恐ろしかった オラクルで初めてのJavaOne Tokyo 2012 コミュニティに所属することでキャリアはより豊かになる それはiPhoneやKubernetesの登
ばおーばおーばおーばおー（法螺貝の音）。 はい、というわけでお約束していたクラウド戦国時代の話だよ。合戦物はいくつになったって男の子は大好きなものさ！ ああ別に女の子も見ていっても大丈夫だよ。グロ画像とか出ないから。いやちょっと出るかな。 クラウドベンダーの市場シェアさて、それでは始めよう。まずはビッグピクチャーをつかむために基礎的な数値から押さえておきたいと思う。ここら辺ができるコンサルっぽいね。クラウドベンダの市場シェアを見てみよう。 2024年1Qのクラウドベンダーの市場シェアこのグラフを見て驚くのは、まずAzureの躍進である。もう来年にはAWSを抜くのではないかという勢いだ。Google Cloudも健闘している。実数ではまだまだだが、伸び率は非常に良い。しかし今日の主役はこの二社ではない（関係はするけど）。シェアで見ると――申し訳ない言い方だが「ゴミ」にしか見えない――Orac
プロンプティングからOpenAI API、さらには周辺のライブラリやHubのエコシステムまで広く活用の助けになる知見を共有し、みんなで手を動かして楽しむためのコミュニティ「ChatGPT Meetup」。3回目に登壇したのは、吉田真吾氏。HRテックのSaaS「CYDAS PEOPLE」における、ChatGPTを活用したチャット機能開発について発表しました。 HRテックのSaaS「CYDAS PEOPLE」のチャット機能にChatGPTを活用 吉田真吾氏：どうもみなさんこんばんは。今日私からは、本番リリースに向かってLLMアプリケーションを構築している話をしようかなと思います。 第0回（ChatGPT Meetup Tokyo #0）でもお話をしたのですが、私は現在、RAG（Retrieval-Augmented Generation）フローを使ったLLMアプリケーションを作っています。 サ
この記事は新野淳一氏のブログ「Publickey」に掲載された「Google Cloud、顧客のシステムを間違って全削除した大規模障害の原因を報告。プライベートクラウドの期間を1年と設定ミス」（2024年5月28日掲載）を、ITmedia NEWS編集部で一部編集し、転載したものです。 米Google Cloudは、同クラウドユーザーであるオーストラリアの年金基金「UniSuper」で発生した大規模障害の原因について報告する記事「Sharing details on a recent incident impacting one of our customers」を公開しました。 今月（2024年5月）初旬、Google Cloud上で稼働していた数百の仮想マシン、データベース、アプリケーションを含むUniSuperのプライベートクラウドが突如として原因不明のまま削除され、復旧されるまでの
［速報］マイクロソフト、Copilotを一連のタスクを自律的に実行できる「エージェント」へと拡張。受注したら在庫確認して顧客へ発送などが可能に
マイクロソフトは、日本時間5月22日未明から開催中のイベント「Microsoft Build 2024」で、Copilotを一連のタスクを自律的に実行できる「エージェント」へと拡張するCopilot Studioの新機能を発表しました。 Copilot StudioはMicrosoft Copilotの拡張やカスタマイズを可能にする開発環境です。今回の新機能では、Copilotがエージェントとして機能するように、以下の拡張が可能になります。 一定期間実行が継続されるビジネスプロセスの自動化 ユーザーからの入力とアクションについての推論 過去の記録からコンテキストを理解する ユーザーからのフィードバックによって学習を行う 具体的には、Copilotに対して処理の内容と手順を「インストラクション」で具体的に説明し、「トリガー」となるプロセスを指定。さらに参照すべき「ナレッジ」を指定し、どのよう
ヨコヤマ(横山哲也) @yokoyamat リモートミーティング中、猫が乱入して慌ててカメラをオフにする人がいる。完全にマナー違反だと思う。猫が来たらカメラで姿を映すのがマナーではないか 2024-05-09 21:19:06 ヨコヤマ(横山哲也) @yokoyamat ■トレノケート株式会社 trainocate.co.jp の社員 ■Windows&Azure関連教育を担当 ■個人ブログ yokoyama-tetsuya.cocolog-nifty.com ※すべてのポストは個人的なもので、勤務先の管理下にはありません yp.g20k.jp ヨコヤマ(横山哲也) @yokoyamat バズってるようなので宣伝 仲よさそうで、微妙に嫌がってます(どちらもすでに他界してますが) あと6月に新刊書が出ます 徹底攻略 Microsoft Azure Fundamentals教科書［AZ-900
Azure OpenAI Service リファレンスアーキテクチャからみる本番システムレベルの LLM アプリに必要な検討項目の解説 / From Azure OpenAI Reference Architecture to Production-Ready LLM Apps #serverlessdays #serverlesstokyo
ServerlessDays Tokyo 2023 で Azure OpenAI Service リファレンスアーキテクチャからみる、本番システムレベルの LLM アプリに必要な検討項目の解説 / From Azure OpenAI Reference Architecture to Production-Ready LLM Apps というタイトルで紹介しました HP: https://tokyo.serverlessdays.io/ Ticket: https://serverless.connpass.com/event/290640/ #serverlessdays #serverlesstokyo
こんにちは、LayerX CTOの@y_matsuwitterです。最近はパン作りにハマっています。無心に小麦と酵母の声を聞くことで精神の安寧を求めています。 この記事は LayerXテックアドカレ2023 19日目の記事です。前回は @shota_tech が「Go の linter 雰囲気で使っていたから調べ直した #LayerXテックアドカレ」を書いてくれました。次回はEMオフィスの@serimaより「Engineering Officeの話」がポストされる予定なのでご期待ください。 ISUCON13 昨日開催のISUCONに参加してきました。とても楽しい問題ですし、これだけの人数での開催を支えている運営の皆さんには頭が上がりません。個人でもLayerXとしてもスポンサーさせていただきました。ありがとうございます！ 10年近く一緒に出場している.datというチームで、私はプロンプトを
CloudbaseはPostgreSQLのORMとしてPrismaを使用しています CloudbaseはAWS, Azure, Google Cloud等のパブリッククラウドを対象にしたセキュリティリスクの検出・管理SaaSです。 個人情報の入ったS3バケットを公開してしまうなどの設定ミスや、近年騒がれたLog4Shellなどの脆弱性をエージェントを使用せず検出し、その修正をサポートするプロダクトです。 CloudbaseではAPIサーバとしてNode.js、DBとしてPostgreSQLを使用し、そのORMとしてPrismaを使用しています。本記事では入門を超えて本番環境でPrismaを使いこなすために必要な知識、弊社がPrismaを運用する中で得た知見を共有していきます。 対象読者 PrismaをRDBのORMとして使っている人 雰囲気でPrismaを使っている人 これからPrisma
グローバルのクラウドインフラ市場シェア、この3カ月でマイクロソフトのシェアが2％増加。2023年第3四半期、Synergy Researchの調査結果
グローバルのクラウドインフラ市場シェア、この3カ月でマイクロソフトのシェアが2％増加。2023年第3四半期、Synergy Researchの調査結果 調査会社のSynergy Research Groupは、2023年第3四半期のグローバルにおけるクラウドインフラのシェアを発表しました（これまで四半期ごとにクラウドインフラのシェアを発表していたCanalysの調査結果は、今四半期はまだ発表されていません）。 クラウドインフラとは、IaaS、PaaS、ホステッドプライベートクラウドを合わせたものを指します。 発表によると、第3四半期の前年同期比成長率は18％で、前2四半期とほぼ同水準だったとのことです。 マイクロソフトがシェアを2％伸ばす クラウドベンダ別に見るとマイクロソフトとGoogleが比較的順調にシェアを伸ばしており、特にマイクロソフトはこの四半期、つまりこの3カ月でシェアを2％伸
はじめに Linuxの良い所の一つにsuやsudoと言った特権管理の仕組みがあります。普段は通常アカウントで入って、例えばインストールなどの特権作業が必要な時だけsu/sudoで一時的な権限昇格が可能ですし、/etc/pam.dで誰がどのユーザにスイッチ出来るかなどは細かく制御できます。 一方で、クラウドの権限管理は悩みの種で、誤操作が怖いので普段はRead Onlyの権限にしておきたいのですが、手軽に権限を昇格する方法がありません。なので、別の管理者ユーザを作って、そちらでログインしなおしたり、それを半自動化するCyberArkやBeyondTrustといったPAM系ソリューション、あるいは最近流行りのCIEM(PAM機能を持つもの)を導入する必要がありました。 Azureでは結構以前からPIM(Privileged Identity Management)がネイティブで組込まれており非
マイクロサービスアーキテクチャのリポジトリ構成を漸進的にモノレポに移行した話 - Sansan Tech Blog
Sansan Engineering UnitでSansan Data Hubの開発をしている藤原です。 前回はニッチに深く潜り過ぎたので、今回は（使い古されたネタではありますが）モノレポ化についてお話ししたいと思います。 おさらい：モノレポ（mono repo）とは 一連のソースコードを単一のリポジトリで管理している状態のことです。 特に、実装言語、またはサブシステムやドメインといった何らかの区切りでリポジトリを分けている場合に、それらを集約することをモノレポ化と言います。 逆に、複数のリポジトリに分けている状態をポリレポ（poly repo）と言います。 モノレポのメリットとデメリット モノレポ化することで、以下のようなメリットが得られます。 プロダクト全体で統一したい設定、たとえばCIスクリプトやlinter設定などの管理が楽になる。 検索が楽になる。GitHubの検索で事足りること
OCIについて知らない方向け AWSは知ってるがOCIを知らないという方は取り急ぎ以下のようなページを読むとイメージが掴みやすいかと思いますのでリンクを貼っておきます。 本件では細かい用語の違いなどの説明は省略します。 OCIへの移行理由 今回移行した理由はコスト削減が最大の理由でした。 オンプレからAWSに移行したのは3年前の2021年2月で当時のドル円相場は約106円でした。 2021年のAWS移行当時、RDSのReserved InstancesとEC2のSavings Plansを3年で購入していました。（通常は1年などで購入されるケースの方が多いと思いますが、歴史のあるサービスなので急激なリソースの増減はあまり無さそうではと考えたためとなります。結果としては円が強いタイミングで安く買えて助かりました） 移行を検討し始めたのはRI/SPが切れる1年前くらいで、その時点のドル円レート
はじめに まず、大事なこと イベント開催告知まで 開催告知初日 2日目 3日目以降 企画に関して 認知に関して 最後に 本記事の内容を以下のイベントで話します。YouTube Liveでオンラインです。 【天下一武道会裏話】3000人集客のためにやったことなど話します - connpass はじめに 去る2024年2月1日に『第1回 AWSコスト削減天下一武道会』という勉強会を開催しました。 このイベントはわたくし、西谷が個人で企画して運営したイベントですが最終的な申し込み数は3692人とかなりの規模になります。 これがどのくらいの数かと言うと昨年Connpassで募集されたイベントで1番のものが日本ディープラーニング協会主催のイベントでちょうどGPT4が発表されて大注目を浴びたタイミングで開催されたものであり、4900人以上とすごい数になっています。さすがにこれには及ばず、2番目に多かっ
Azure OpenAI よくある質問
Azure OpenAI利用について、よく聞かれる質問についてまとめてみました。 この記事はGitHubで管理されています。これも追加したらいいんじゃない？という内容はプルリクエストまたは本記事へのコメントでお気軽にお寄せください！ 実際にOpenAIのモデルを使わなくても基本料金はかかりますか？ いいえ。基本的には使った分（トークン≒入出力をさせた文量）だけの従量課金制です、使わなければ課金されないし、逆に使った分だけ青天井で課金されます。 「基本的には」というのはファインチューニング（微調整）をしたモデルを使う場合にはホスティング費用が基本料金としてかかります。 プロンプトのログを取りたいのですが、標準機能でできますか？ Azure OpenAIだけではプロンプトのログを取る機能はありません。Azure標準機能の「診断設定」で取得できるログにも出力されません。 そのため、Azure O
清水銀行と西京銀行は2024年5月6日、預金や為替など銀行業務の中核を担う勘定系システムを刷新した。いずれも富士通の勘定系システムである「PROBANK」を利用していたが、清水銀行はNTTデータ、西京銀行はBIPROGY（旧日本ユニシス）のシステムに切り替えた。両行の新システム移行に伴い、PROBANKの顧客はゼロになった。 両行とも2024年5月7日午後1時ごろの時点で、新システムについて、「大きな問題なく稼働している」（清水銀行経営企画部）、「特に問題なく正常に稼働している」（西京銀行総合企画部）としている。 清水銀行はNTTデータの共同化システムである「STELLA CUBE」に、西京銀行はBIPROGYが提供するクラウド勘定系システムの「BankVision on Azure」にそれぞれ切り替えた。2024年1月には、PROBANKのファーストユーザーだった東邦銀行も日本IBMが支
「gettyimages」より ここ10年ほど続くクラウドブームを受け、システム運用をオンプレミスからクラウドサービスへ移行する動きが広がるなか、いったんはクラウドへ移行したもののオンプレミスに戻す企業も出始めている。その理由は何なのか、そして浮き彫りになりつつあるクラウド導入のデメリットとは何か。専門家の見解を交えて追ってみたい。 自前でサーバなどのハードウェアを保有・構築してシステムを運用するオンプレミスに対し、専用事業者が保有するシステム環境をインターネット経由で利用するクラウドコンピューティング。米アマゾン・ドット・コムは2006年に企業向けクラウド「Amazon EC2/S3」を、米グーグルは08年に「Google Cloud Platform」を、米マイクロソフトは10年に「Microsoft Azure」を提供開始し、世界的に普及。日本では2000年に米セールスフォース・ドッ
概要 GitHub Copilot WorkspaceはAIが組み込まれた開発環境。「見えてきたプログラマー不要時代」で有名。テクニカルプレビュー中で、ウェイトリストに申請すると招待が来る。 githubnext.com 巷で言う”仕様書から開発自動化コーディングエージェント”とはちょっと違って、あくまでCopilot WorkspaceはCo-pilotの役割のみで、コーディングするのは自分、と考えると良い。今までブロック単位のコード補完だったものがレポジトリ全体に及んでる、というようなアナロジーだと思う。 自然言語を使用してタスクを指定し、AIが生成したコードの微調整、レビュー、繰り返しをユーザーが行うことができる。タスクの定義をIssueからインポートすると画像も認識する。 特徴 自然言語で目的(Task)、現在値・期待値(Specification)、変更計画(Plan)の各フェー
登壇者の自己紹介 蒲生弘郷氏：「ChatGPTの10ヶ月と開発トレンドの現在地」というタイトルで、蒲生から発表します。よろしくお願いいたします。 ちょっと私の自己紹介です。Azure OpenAI Champという立場で、外部発信などをやっています。いっぱい自己紹介をしていきたいところですが、本日はあまり時間もないので省略して、次にいきたいと思います。 今回は、けっこう開発者向けの発展的な内容を扱っていきますが、もし基本的な内容から確認していきたいという場合には、「Azure OpenAI 大全」というものを公開していて、リンクを貼っておくので、そちらの資料を併せてご確認いただければと思います。 「ChatGPT」の登場から今までを振り返る では、本日のテーマとして「ChatGPT」の登場から10ヶ月（※登壇当時）ということで、2022年11月から登場したChatGPTに関する技術について
米Microsoftが支援する仏Mistral AIは5月29日（現地時間）、同社としては初のコーディング向け生成AIモデル「Codestral」を発表した。 コード生成タスクを明示的に設計されたオープンウェイト（モデルの重みを公開している）の生成AIモデルで、HuggingFaceからダウンロードし、MistralのAPIプラットフォームを通じて利用できる。 Python、Java、C、C++、JavaScript、Bashを含む80以上のプログラミング言語の多様なデータセットでトレーニングされている。また、SwiftやFortranでも「優れた性能を発揮する」という。 3万2000トークンのコンテキストウィンドウを持つ220億パラメータモデル。コード生成の長期評価のRepoBenchでは、競合する米MetaのCode Llama（4000／700億）や中国DeepSeekのDeepSe
生成AIを使って海外AIニュースの要約を社内Teamsに投稿してみた - AITC - ISID | AI トランスフォーメンションセンター コラム
こんにちは、AIソリューショングループの太田です。 昨年から引き続き生成AIブームが止まらない中、自主的に進めていた取り組みを紹介します。それは海外AIニュースの要約を、社内で使用しているTemasのチャネルに投稿する取り組みです。 投稿自体はPower AutomateやAzure Function、Azure OpenAI Serviceなどを活用することで自動的に投稿しており、数ヶ月運用した結果を踏まえて最近アルゴリズムの改善をおこなったので、改めて方法とノウハウをまとめたいと思います。 はじめに アーキテクチャ紹介 Power Automate Azure Functions Bing Search Azure OpenAI Service（AOAI） Log Analytics 海外ニュース要約 APIの処理フロー 検索ワードの翻訳 Bing 検索 HTMLの読み込み ニュース記
iPhone・iPad・Mac・Windows PCからWindowsデバイスやアプリをリモートで使えるようになるアプリ「Windows App」をMicrosoftがプレリリース
Microsoftが、Azure Virtual DesktopやWindows 365、Microsoft Dev Box、リモートデスクトップなどにアクセスするためのアプリ「Windows App」のベータ版をiOS・iPadOS・macOS・Windows向けにプレリリースしたことを発表しました。 What is Windows App? - Windows App | Microsoft Learn https://learn.microsoft.com/en-gb/windows-app/overview Windows App - Microsoft Apps https://apps.microsoft.com/detail/9N1F85V9T8BN Windows App in TestFlight https://aka.ms/macOSWindowsAppBeta Wi
gpt-4o はじめに こんにちは、ACS事業部の佐竹です。 今回のMicrosoft Buildで発表されたGPT-4oについて、どの程度レスポンスが良くなったか是非触ってみたく、今回の記事を書くことにしました。 1.1.5.Azure OpenAI Serviceの主なAIの進化 news.microsoft.com 以前、Azure Communication ServiceとAzure OpenAI Serviceを使って、コールセンターを作ってみたのですが、そこにGPT-4oを組み込む形でGPT-4-32kとの速度比較を行いました。 techblog.ap-com.co.jp 上記の記事はハンズオン形式で記載しておりますので、お手隙の際に是非手を動かしていただけますと幸いです。 概要 全体アーキテクチャは以下のようになります。 アーキテクチャ図 全体の流れは以下の通りです。 ユー
明けましておめでとうございます。 2023年9月にINGAGEにジョインしたSREチームのanecho108です。 さっそくですが本記事の内容に入りたいと思います。 弊社のサービスは、AWS上のオブザーバビリティを獲得する方法としてNew Relic を利用していましたが、 そこからDatadogに乗り換えました。 Datadogの導入は僕が主体で行っていましたので、その時に考えていたことや反省点をまとめました。 なお、Datadogを肯定するわけでも、New Relicを否定するわけでもございませんのであしからず。 なぜ乗り換えしようとした？ New Relicのコスト問題 日本語テクニカルサポートが受けられていなかった "僕"がオブザーバビリティの獲得に至っていなかった 周りにDatadogを使ってます勢が多い 日本リージョンがある そんなところへDatadogから営業メール Data
GPT-4を使って「やさしい日本語」へ言い換えてみよう - NTT Communications Engineers' Blog
この記事は、NTTコミュニケーションズ Advent Calendar 2023 20日目の記事です。 はじめに こんにちは。 コミュニケーション&アプリケーションサービス部の吉仲です。 新卒2年目で、普段はB向け/C向けメールシステムと文書要約APIサービスの開発・運用に関する業務に取り組んでいます。 今回は、昨年から引き続き話題の生成AIのひとつ、大規模言語モデル (LLM: Large Language Model) を題材に、LLMを使って文章を「やさしい」表現へ言い換える例を紹介します。 この記事の内容 この記事では、以下の内容を扱います。 やさしい日本語 言い換え技術とテキスト平易化 LLMを使ったやさしい日本語への言い換え 前半にやさしい日本語、言い換え技術・テキスト平易化について簡単に解説し、後半はLLMによるやさしい日本語への言い換えの例を紹介します。 なお、この記事では
2024年7月30日から31日にかけて、世界中のMicrosoft 365および、クラウドコンピューティングサービスのMicrosoft Azureのサービスが9時間ほど停止しました。Microsoftはそのサービス停止について、分散型サービス妨害(DDoS)攻撃によって引き起こされたと発表しました。 Azure status history | Microsoft Azure https://azure.status.microsoft/status/history/ Microsoft says massive Azure outage was caused by DDoS attack https://www.bleepingcomputer.com/news/microsoft/microsoft-says-massive-azure-outage-was-caused-by-dd
@Hiroki__IT が目の前にやってきて私にIstioのこと教えてくれた。- Istio in Action の読書感想文 - じゃあ、おうちで学べる
はじめに マイクロサービスアーキテクチャの台頭により、サービスメッシュ技術は現代のクラウドネイティブ環境において外せない選択肢の一つとなっています。 その理由は明確です。マイクロサービスに求められる非機能要件の多くは類似しており、これをアプリケーション側で個別に実装すると、開発者やインフラエンジニアの負担が増大するからです。 ここで登場するのがサービスメッシュです。サービスメッシュの採用により、これらの非機能要件をインフラ層で一元管理することが可能となり、アプリケーション開発者とインフラエンジニアの責務を明確に分離できます。つまり、各エンジニアが自身の専門領域にフォーカスできるのです。これは単なる効率化ではなく、イノベーションを加速させるためサービス開発する上での労苦をなくします。 そして、サービスメッシュの世界で圧倒的な存在感を放っているのがIstioです。その包括的な機能と広範な採用で
“学内ChatGPT”で学生1万人からの問い合わせに対応──武蔵野大学が生成AIで挑戦 取り組みの現在地（1/2 ページ） いち早く生成AIの学内利用を始めた武蔵野大学。学生1万人からの問い合わせに対応するため、“学内ChatGPT”を開発し、提供しているという。取り組みの詳細を聞いた。 企業や自治体での活用が進む生成AI。すでにベネッセホールディングス、KDDI、三井不動産、神戸市などが、文章生成AIの活用を始めている。一方で、大学などの教育機関はまた別だ。業務改善を目的とした利用についてはまだ企業や自治体ほどに積極的ではなく、ベンダーなどが公開している事例も多くない。 とはいえ、いちはやく生成AIを業務改善に生かそうとする大学もある。例えば武蔵野大学では、7月末に生成AIを活用した新しい学内チャットbotを開発。主に学生向けの問い合わせ窓口の一つとして、すでに利用を始めている。実際に利
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Azure OpenAIと周辺機能を活用して 堅牢なLLMアプリケーションを開発しよう
AWSなどクラウド「3強」時代はもう終わり？ガートナーが予想する2030年の未来
牛尾剛氏が語る『世界一流エンジニアの思考法』への道──英語力や技術力を覆す、三流ならではの戦略とは？
ESXi「サポート切れ」後の代替候補になるHyper-V、KVM、AHVの違いはこれだ
iPhone上でAIが恋人になってくれるアプリ「Dolores」開発者がアプリの開発経緯と教訓を語る
RAGでの回答精度向上のためのテクニック集（応用編-B）
ガバメントクラウドの選定要件、見直しへ “国産クラウド”に追い風
Oracle Cloud - クラウド戦国時代のゲームメーカー｜ミック
「“クールな”LLMアプリは簡単に作れるが、リリースレベルは難しい」 Azure OpenAIとCognitive Searchを使ったチャット機能開発
Google Cloudによる「顧客のシステムを間違って全削除」、発生の原因は？ 報告記事が公開に
リモート会議中に猫が乱入し、慌ててカメラをオフにする人はマナー違反だと思う「ちゃんとこうするべき」
ISUCON13にLLM活用担当で参戦しました - LayerX エンジニアブログ
Prisma ORMを使いこなす ~歴史と対RDB運用の知見を添えて~
クラウドでもsuが出来る! GCPにPAM(特権管理)がついに登場
AWS から OCI に移行してコストを約半額にした話 - Qiita
【天下一武道会裏話】3500人を集めるためにやったこと - Sweet Escape
富士通「PROBANK」の顧客がゼロに、清水銀行と西京銀行の新システム移行で
クラウドに移行→オンプレミスに戻す、なぜ広まる？自前サーバへ回帰の理由
GitHub Copilot Workspace ファーストインプレッション - laiso
Microsoft社のアーキテクトが説く、LLM実装の最前線 登場から今までを振り返って、予想する未来像
Mistral AI、コーディング用生成AIモデル「Codestral」リリース
GPT-4oがどれぐらい早くなったのかコールセンターに導入して試してみた話 - APC 技術ブログ
New RelicからDatadogに乗り換えした話 - インゲージ開発者ブログ
DDoS攻撃で全世界のMicrosoft 365とAzureが9時間停止
“学内ChatGPT”で学生1万人からの問い合わせに対応──武蔵野大学が生成AIで挑戦 取り組みの現在地