AWS Lambda（Python）でAmazon Bedrockの出力をレスポンスストリーミング対応してみた - Taste of Tech Topics
こんにちはイワツカです。 今年の夏は、特に猛暑日が続いていたので、例年にも増して素麺を食べてました。 さて今回は、AWS Lambda（Python）でLambda Web Adapterを用いてレスポンスストリーミングする方法を試してみたので紹介します。 1. 概要 1.1 レスポンスストリーミングとは？ 1.2 Lambda Web Adapterとは？ 2. アプリ作成 2.1 実行環境 2.2 ディレクトリ構成 2.3 FastAPIの実装 2.4 Streamlitの実装 3. アプリを動かして見る 3.1 チャットアプリをデプロイ 3.2 Streamlitを起動する 3.3 チャットを試してみる 4. まとめ 1. 概要 1.1 レスポンスストリーミングとは？ レスポンスストリーミングとは、HTTPリクエストに対してサーバーがレスポンスを一度にまとめて送るのではなく、データを
はじめに この記事はFindy Advent Calendar 2024 21日目の記事です。 adventar.org データソリューションチーム、エンジニアの土屋(@shunsock)です。本日は、Findy Toolsのデータ基盤を構築したので、その内容を共有します。 Findy Toolsは、2024年1月23日にリリースされた開発ツールのレビューサイトです。利用者は開発者向けツールのレビューやアーキテクチャの記事を閲覧、投稿できます。 Findy Toolsのデータ基盤のシステム設計の紹介 システム設計の目標、要件 今回の構築では、「Findy Toolsを訪れたユーザーの行動ログとデモグラフィックデータを組み合わせて分析可能にする」という目標がありました。Findy Toolsではユーザーの行動ログにユーザーidやリファラーを保存しています。また、ユーザー情報をはじめとしたデー
AST vs. Bytecode: Interpreters in the Age of Meta-Compilation
233 AST vs. Bytecode: Interpreters in the Age of Meta-Compilation OCTAVE LAROSE, University of Kent, UK SOPHIE KALEBA, University of Kent, UK HUMPHREY BURCHELL, University of Kent, UK STEFAN MARR, University of Kent, UK Thanks to partial evaluation and meta-tracing, it became practical to build language implementations that reach state-of-the-art peak performance by implementing only an interprete
Over the course of my Spring 2020 semester at Harvey Mudd College, I developed a self-hosting compiler entirely from scratch. This article walks through many interesting parts of the project. It’s laid out so you can just read from beginning to end, but if you’re more interested in a particular topic, feel free to jump there. Or, take a look at the project on GitHub. Table of contents What the pro
Solving Quantitative Reasoning Problems With Language Models
Solving Quantitative Reasoning Problems with Language Models Aitor Lewkowycz∗, Anders Andreassen†, David Dohan†, Ethan Dyer†, Henryk Michalewski†, Vinay Ramasesh†, Ambrose Slone, Cem Anil, Imanol Schlag, Theo Gutman-Solo, Yuhuai Wu, Behnam Neyshabur∗, Guy Gur-Ari∗, and Vedant Misra∗ Google Research Abstract Language models have achieved remarkable performance on a wide range of tasks that require
とうとうRyzen + RADEONのAMD環境にもWindowsで動くStable Diffusionがきた - 徒労日記
やっと来たAMD最初の一歩。DirectMLでAMD GPUを動かす 定期的にAMDｘSD x Winのことを調べていますが、今回この記事に行き当たりました。Running Stable Diffusion on Windows with an AMD GPU Unfortunately, in its current state, it relies on Nvidia’s CUDA framework, which means that it only works out of the box if you’ve got an Nvidia GPU. Fear not, however. Because Stable Diffusion is both a) open source and b) good, it has seen an absolute flurry of activ
こんにちは。サービス開発室の武田です。 このエントリは、2018年から毎年公開している AWS全サービスまとめの2025年版 です。昨年までのものは次のリンクからたどってください。 AWSにはたくさんのサービスがありますが、「結局このサービスってなんなの？」という疑問を自分なりに理解するためにまとめました。 今回もマネジメントコンソールを開き、「サービス」の一覧をもとに一覧化しました。そのため、プレビュー版など一覧に載っていないサービスは含まれていません。また2024年にまとめたもののアップデート版ということで、新しくカテゴリに追加されたサービスには[New]、文章を更新したものには[Update]を付けました。ちなみにサービス数は 250個 です。 まとめるにあたって、次のドキュメントや、弊社の多数のブログを参考にしました。 コンピューティング Amazon EC2 正式名称は Amaz
Microsoft Presidio: 個人情報保護に特化したオープンソースツール | 豆蔵デベロッパーサイト
近年、個人情報の保護に対する意識がますます高まっていると感じます。 その背景には、大規模言語モデル(LLM)の導入と普及があります。LLMはさまざまな場面で活用されていますが、取り扱うデータの中に個人情報が含まれる可能性があるため、適切な管理が求められています。 そんな状況の中で、今回Microsoftが提供するオープンソースツール Presidio に注目しました。 https://github.com/microsoft/presidio/ Presidioは、個人を特定できる情報(PII: Personally Identifiable Information)を検出し、匿名化するために設計されたPythonフレームワークです。 これにより、企業や開発者はLLMや他のシステムで安全にデータを活用することが可能になります。 Presidioの特徴としては、非構造化データの中から個人情報
Terraform sandboxes: 公式のサンドボックス環境で Terraform を勉強しよう - kakakakakku blog
HashiCorp 公式の Terraform サンドボックス環境「Terraform sandboxes」を使うとブラウザ上で Terraform の勉強ができる💡LocalStack（AWS エミュレータ）もプリインストールされてて Terraform AWS Provider の勉強にもなる． 最近までなかったように思うけど（僕の勘違いの可能性もある）さっそく試してみた❗️ developer.hashicorp.com バージョン確認 ドキュメントを読むと Terraform Docker LocalStack AWS CLI の4種類がプリインストールされてると記載されていた． 2026年1月時点でバージョンを確認してみた．ちょっと古めかなと思う😶 Terraform 1.12.2 Terraform AWS Provider 5.87.0 Docker 28.4.0 Loc
使い慣れたプログラミング言語でAWSのインフラ管理をする ～AWS CDKのススメ～ - ABEJA Tech Blog
1. AWS CDKとは 2. AWS CDKを触ってみる 2.1 環境構築 Volta Node.js CDK 2.2. とりあえずLambdaを作成するところまでやってみる 2.2.1. プロジェクト作成 2.2.2. デプロイ用のLambda関数を書く 2.2.3. CDKのStackにLambda関数を記載する 2.2.4. デプロイしてみる 2.2.5. お片付け 2.3. CRUDっぽいAPIをAPI Gatewayで公開してみる 2.3.1. Lambda関数を用意する 2.3.2. CDKを用意する 2.3.3. デプロイして動かしてみる 2.3.4. お片付け 2.3.5. 詰まったところ 3. 感想 We Are Hiring! ABEJAでプロダクト開発をしている平原です。ABEJAアドベントカレンダー2023の6日目の記事です。皆さんはAWSでIaCを利用する時には
はじめに InspectorのECR継続スキャン[1]において、最新のコンテナイメージで検知した脆弱性は、基本的には古いコンテナイメージでも検知される。 理由としては、MWバージョンが最新のコンテナイメージ < 古いコンテナイメージとなることは基本的にはなく、最新のコンテナイメージで脆弱性を含んでいるMWバージョンは、古いコンテナイメージのMWバージョンでも同じ脆弱性を含んでいる可能性が高いからである。 InspectorのECR継続スキャンはレポジトリに保存されているコンテナイメージ全てを対象とする為、例えばコンテナイメージのライフサイクルを10世代としている場合、最新のコンテナイメージで検知した脆弱性は、残りの9個のコンテナイメージでも検知される可能性が高く、この場合は同じ脆弱性が10個重複して検知されてしまう。 実際に、あるシステムで後からInspectorを有効化した際、大量の脆弱
こんにちは。株式会社GA technologies、Advanced Innovation Strategy Center（AISC）の三田です。 AISCではAWS Lambdaを使用することが非常に多いです。Lambdaはスケーラビリティやコスト効率が高くメリットが多いためです。 しかし一方でLambdaにはインスタンスを初回起動する際は関数の実行までに時間がかかる「コールドスタート」と呼ばれる問題も存在し、Lambdaとどう付き合っていくのがいいのかについては部内でもよく話題に上がります。 部内で出ていた仮説のひとつに Lambdaはコンテナイメージでデプロイするよりもzipでデプロイしたほうがコールドスタート時間が短いのではないか という説があります。 ファイルサイズで比較すれば、コンテナイメージとソースコードのzipでは非常に大きな差があります。AWSの公式Python3.12イ
Amazon Bedrock AgentCore が GA したので人間の実働 3 分で Runtime を動かす
本ブログはAWS AI Agent ブログ祭り(Zenn: #awsaiagentblogfes, X: #AWS_AI_AGENT_ブログ祭り)の第 1 日目です。 Amazon Bedrock AgentCore is Generally Available 出ました。 AgentCore 今北産業（個人のお気持ち） AI エージェントを本番環境で利用しようとすると、AI Agent のホストだったり、会話履歴の管理だったり、認証だったり…大変です！ Agent そのもの以外は AgentCore にオフロードしようぜ！ だから開発者は AI エージェントの開発に注力しようぜ！ この記事は？ Agent Runtime というエージェントをホストするサービスを 3 分で試すものです。とりあえず動かす方法がわかれば、動いているエージェントを改変することで独自のエージェントを作れるようにな
Introducing the Amazon Linux 2023 runtime for AWS Lambda | Amazon Web Services
AWS Compute Blog Introducing the Amazon Linux 2023 runtime for AWS Lambda This post is written by Rakshith Rao, Senior Solutions Architect. AWS Lambda now supports Amazon Linux 2023 (AL2023) as a managed runtime and container base image. Named provided.al2023, this runtime provides an OS-only environment to run your Lambda functions. It is based on the Amazon Linux 2023 minimal container image rel
概要 以前別の記事で、少し触ってみたという記載しました。 私自身、Github Actionsに対する知識はまだまだ少ないですが、 この機会で nektos/act に触れながら、Github Actionsに対する理解も深められればと思って始めました。 どういうもの？ Github Actionsのworkflowをローカルで動作させるために使用するライブラリです。 Github Actionsの挙動確認のために、都度git add → commit → push→workflow確認、という操作を何度も実行するのは手間、だと思います。 ターミナル上でworkflowの挙動が確認出来ると便利ではないでしょうか！ 初回リリースが6年前ですので、新しいライブラリではありませんが、 2025年9月現在、Starsが65.6kとなっています。 記事公開時のStarsはもう覚えていませんが、支持さ
AgentCore Runtime のデプロイを Github Actions で自動化してみた - サーバーワークスエンジニアブログ
英語版はこちらをご覧ください！ blog.serverworks.co.jp こんにちは。愛猫リンゴちゃんが大好きなローです。 今回は、AWS CDK L2 Construct を使って Amazon Bedrock AgentCore Runtime への AI エージェントデプロイを完全自動化した取り組みをご紹介します。 注意事項 本記事で使用している @aws-cdk/aws-bedrock-agentcore-alpha はアルファリリースのパッケージです。本番環境での利用は各自の責任において慎重にご検討ください。また、API が変更される可能性があります。 はじめに ソリューションアーキテクチャ プロジェクト概要 構成 技術スタック L2 Construct の威力：必要なリソース定義の比較 Before: L1 Construct - 6つの AWS リソースを明示的に定義 A
AWS Compute Blog Serverless ICYMI Q4 2023 Welcome to the 24th edition of the AWS Serverless ICYMI (in case you missed it) quarterly recap. Every quarter, we share all the most recent product launches, feature enhancements, blog posts, webinars, live streams, and other interesting things that you might have missed! In case you missed our last ICYMI, check out what happened last quarter here. Server
Python 3.14 runtime now available in AWS Lambda | Amazon Web Services
AWS Compute Blog Python 3.14 runtime now available in AWS Lambda AWS Lambda now supports Python 3.14 as both a managed runtime and container base image. Python is a popular language for building serverless applications. Developers can now take advantage of new features and enhancements when creating serverless applications on Lambda. You can develop Lambda functions in Python 3.14 using the AWS Ma
sam init では対話的に設定の入力を求められるため、ミニマムな設定で構築をしていきます。以下のもの以外はデフォルト(=何も入力せずEnter)で構いません。 テンプレートソース : 1 - AWS Quick Start Templates クイックスタートテンプレート : 1 - Hello World Example ランタイム : 17 - python3.12 パッケージタイプ : 1 - Zip プロジェクト名 : dify-tools-api (任意) CLIのインタラクションの内容も参考までに記載しておきます。 SAM CLIのインタラクション You can preselect a particular runtime or package type when using the `sam init` experience. Call `sam init --help
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Findy Toolsのデータ基盤を1ヶ月前倒しで新規構築した話 - Findy Tech Blog
Kalyn: a self-hosting compiler for x86-64
【2025年】AWS全サービスまとめ | DevelopersIO
InspectorのECR継続スキャンで最新のコンテナイメージの脆弱性のみを検知する方法
AWS Lambdaのコールドスタートはコンテナイメージを使うと悪化するのか｜Masayoshi Mita
nektos/act を使って、ローカルからGithub Actionsを動かしてみる - Qiita
Serverless ICYMI Q4 2023 | Amazon Web Services
DifyとAmazon Kendraを組み合わせて社内向けRAGチャットを構築する - Qiita