並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 35 件 / 35件

新着順 人気順

lambda timeout limitの検索結果1 - 35 件 / 35件

  • TrivyでAWSアカウントのセキュリティスキャンができるようになりました | DevelopersIO

    中山です trivyのv0.31.0でAWSアカウントのセキュリティスキャンができるようになりました。 feat: Add AWS Cloud scanning (#2493) Releases / v0.31.0 なお、v0.31.0でスキャンを実行するとクラッシュするバグがあり、すぐにv0.31.2がリリースされました。 Releases / v0.31.2 どんな感じか気になったので、軽く触っておこうと思います。 ドキュメントを確認 まずはドキュメントを確認します。 Amazon Web Services ポイントになると思った点をまとめます。 CIS AWS Foundations Benchmark standardに準拠したチェックが可能 認証方法はAWS CLIと同じ すべてのAWSリソースに対する参照権限が必要 (ReadOnlyAccess) サービス・リージョン・リソー

      TrivyでAWSアカウントのセキュリティスキャンができるようになりました | DevelopersIO
    • Lambda からアクセスする DB に SQLite を使ってみる

      select クエリはこんな感じ。 select * from sample_master limit 10000; Aurora MySQL 最大時間: 2.911370515823364 最小時間: 1.679802656173706 平均時間: 2.2446921920776366 SQLite 最大時間: 1.0608539581298828 最小時間: 0.9547784328460693 平均時間: 1.0193749523162843 これは、想定外で、想像以上に SQLite が早かったです。 update クエリはこんな感じで、これを 100 件更新します。 update sample_master set user_name="hoge" where user_id=1; Aurora MySQL 最大時間: 4.00672483444214 最小時間: 2.28909

        Lambda からアクセスする DB に SQLite を使ってみる
      • プロと読み解くRuby 3.3 NEWS - STORES Product Blog

        テクノロジー部門CTO室の笹田(ko1)と遠藤(mame)です。今年の 9 月から STORES 株式会社で Ruby (MRI: Matz Ruby Implementation、いわゆる ruby コマンド) の開発をしています(Rubyのこれからを STORES で作る。Rubyコミッター笹田さん、遠藤さんにCTOがきく「Fun」|STORES People )。お金をもらって Ruby を開発しているのでプロの Ruby コミッタです。 本日 12/25 に、恒例のクリスマスリリースとして、Ruby 3.3.0 がリリースされました(Ruby 3.3.0 リリース)。クックパッド開発者ブログで連載していたように、今年も STORES Product Blog にて Ruby 3.3 の NEWS.md ファイルの解説をします(ちなみに、STORES Advent Calendar

          プロと読み解くRuby 3.3 NEWS - STORES Product Blog
        • プロと読み解く Ruby 3.2 NEWS - クックパッド開発者ブログ

          技術部の笹田(ko1)と遠藤(mame)です。クックパッドで Ruby (MRI: Matz Ruby Implementation、いわゆる ruby コマンド) の開発をしています。お金をもらって Ruby を開発しているのでプロの Ruby コミッタです。 昨日 12/25 に、恒例のクリスマスリリースとして、Ruby 3.2.0 がリリースされました(Ruby 3.2.0 リリース)。今年も Ruby 3.2 の NEWS.md ファイルの解説をします。NEWS ファイルとは何か、は以前の記事を見てください。 プロと読み解く Ruby 2.6 NEWS ファイル - クックパッド開発者ブログ プロと読み解くRuby 2.7 NEWS - クックパッド開発者ブログ プロと読み解くRuby 3.0 NEWS - クックパッド開発者ブログ プロと読み解く Ruby 3.1 NEWS -

            プロと読み解く Ruby 3.2 NEWS - クックパッド開発者ブログ
          • GitHub - modelcontextprotocol/servers: Model Context Protocol Servers

            Official integrations are maintained by companies building production ready MCP servers for their platforms. 21st.dev Magic - Create crafted UI components inspired by the best 21st.dev design engineers. 2slides - An MCP server that provides tools to convert content into slides/PPT/presentation or generate slides/PPT/presentation with user intention. ActionKit by Paragon - Connect to 130+ SaaS inte

              GitHub - modelcontextprotocol/servers: Model Context Protocol Servers
            • ローカルLLMの検索ツールとして Gemini 2.5 Flash-Lite を試す|npaka

              ローカルLLMの検索ツールとして「Gemini 2.5 Flash-Lite」を試してみたのでまとめました。 1. ローカルLLMに検索能力を与えてみる「日本語ローカルLLM」の性能は、ここ最近で一気に上がりました。しかし、パラメータサイズが10B以下だと、持ってる知識が限られるため、検索能力がほしくなります。 ローカルLLMに検索能力を与えるMCPは、次のとおりです。 ・Brave Search MCP 公式MCPが提供されている。 月間約1,000リクエストまで無料 ・Google Custom Search MCP 公式APIで信頼性高い。 1日100リクエストまで無料 ・Tavily MCP LLM向けに設計された検索API エージェント用途に相性が良い ・DuckDuckGo MCP 導入は簡単 ただし非公式実装が多く、長期安定性はやや不安 ・SearXNG MCP 自己ホスト可

                ローカルLLMの検索ツールとして Gemini 2.5 Flash-Lite を試す|npaka
              • RDS Proxyを導入して、数ヶ月で撤去した話

                こんにちは。 Dress Code株式会社でプロダクトエンジニアをしているぽこひで(@pokohide)です。 アプリ用のAurora PostgreSQLにRDS Proxyを導入し、数ヶ月運用した末に撤去しました。導入から撤去までの経緯と、判断の根拠にした実測値をまとめます。 先に結論です。 Prismaが生成する16KB超のSQLテキストは、RDS Proxyのセッションピン留めを引き起こす。AWS全エンジン共通のハード制限で、設定では回避できない 弊社では全クライアントセッションの約2割でピン留めが発生し、接続の多重化がほぼ機能していなかった 月数百ドルのコストとProxy層固有の障害面だけが残ったため撤去。Prisma 7で接続挙動の制御がアプリに戻っていたので、スパイク対策はpg.Poolの設定に置き換えた 導入の経緯 弊社のバックエンドはNestJS + Prismaで、AP

                  RDS Proxyを導入して、数ヶ月で撤去した話
                • Raspberry PiとAWSを利用して子どもたちのゲーム時間を可視化してみた | DevelopersIO

                  DynamoDBの作成 さっそくテーブルをCDKで構築してみます。 from aws_cdk import ( Stack, RemovalPolicy, aws_dynamodb as dynamodb, # DynamoDBのライブラリをimport ) from constructs import Construct class GameCounterStack(Stack): def __init__(self, scope: Construct, construct_id: str, **kwargs) -> None: super().__init__(scope, construct_id, **kwargs) # The code that defines your stack goes here # ここから下に追記していきます。 # DynamoDB ログデータ格納用

                    Raspberry PiとAWSを利用して子どもたちのゲーム時間を可視化してみた | DevelopersIO
                  • [アップデート]AWS Lambdaでストリーミングな応答が可能になりました | DevelopersIO

                    初めに 昨日のアップデートでAWS Lambdaは実行結果の返却値を一括の応答ではなくストリーミングな徐々に応答するようなことが可能となりました。 いざ日本語に直そうとすると微妙に難しいタイトルで実際の公式の翻訳がどうなるか次第では少しタイトルを調整するかもしれません。 これまでの方式ではLambdaの機能としては処理完了まで返却値を返すことができず、そういった機能が必要な場合はWebSocket等別の手段をユーザ側で実装する必要がありました。 今回のアップデートではTransfer-Encoding: chunked形式による返却に対応しHTTP/1.1の仕様の範囲内で徐々に値を返却できるようになりました。 またこの方式は応答サイズの上限が従来の6MBではなく20MBまでの対応となるためより大きなレスポンスを返すことができるようです。 Configuring a Lambda funct

                      [アップデート]AWS Lambdaでストリーミングな応答が可能になりました | DevelopersIO
                    • Recommended alarms - Amazon CloudWatch

                      The following sections list the metrics that we recommend that you set best practice alarms for. For each metric, the dimensions, alarm intent, recommended threshold, threshold justification, and the period length and number of datapoints is also displayed. Some metrics might appear twice in the list. This happens when different alarms are recommended for different combinations of dimensions of th

                      • Qlibを使った機械学習パイプライン環境の構築 投資の取引戦略最適化と機械学習モデル作成の省力化を目指して - 株のシステムトレードをしよう - 1から始める株自動取引システムの作り方

                        概要 はじめに Qlibの試用 動作条件 使用したrequirements.txt データの取得 予測の実施 出力 図示 ソースコード バックテストでのポートフォリオ分析 リスク分析、分析モデル おわりに 概要 本記事では、Qlibを使用して、機械学習パイプライン環境を構築する第一歩について述べる。 はじめに このブログの趣旨としては、当初は「戦略作成」→「戦略検証」→「戦略稼働」→「成果の評価」→「戦略へフィードバック」といったサイクルを管理できるような自動トレーディングシステムを作ることを考えていた。 最近、すこし株取引から離れていたのだが、最近になってまたやり始めようかなと思い、色々と現在の状況を調べはじめた。 その中で、MicrosoftのリポジトリにQlibというものがあるのを見つけた。これが2020年の8月から作られたもので、現在でもメンテされており、もしかするとこれがやりたい

                          Qlibを使った機械学習パイプライン環境の構築 投資の取引戦略最適化と機械学習モデル作成の省力化を目指して - 株のシステムトレードをしよう - 1から始める株自動取引システムの作り方
                        • 8 best practices for optimizing Lambda functions — Cloudash Blog

                          Published onMonday, April 18, 20228 best practices for optimizing Lambda functionsAuthorsNameTomasz ŁakomyTwitter@tlakomy AWS Lambda is the backbone of every serverless architecture. While browsing endless serverless patterns, architectures and solutions available online, it's hard to find one without at least a single lambda function. Since its announcement in 2014, AWS Lambda has become a de-fac

                            8 best practices for optimizing Lambda functions — Cloudash Blog
                          • How Async/Await Really Works in C# - .NET Blog

                            Missed .NET Day on Agentic Modernization? Watch the coding demos and agentic workflow sessions on demand. Several weeks ago, the .NET Blog featured a post What is .NET, and why should you choose it?. It provided a high-level overview of the platform, summarizing various components and design decisions, and promising more in-depth posts on the covered areas. This post is the first such follow-up, d

                              How Async/Await Really Works in C# - .NET Blog
                            • Rails 8.0 Changelog(全項目リンク付き)|TechRacho by BPS株式会社

                              【速報】Rails 8.0.0がリリースされました Rails 8.0(v8.0.0タグ)は、7.2.0リリースから半年後のリリースということもあり、メジャーリリースとしてはChangelogの変更件数が少なめなのが特徴です。機能面では、Strong Parametersのexpect追加や、MySQL 5.5のサポート廃止が目につきます。大きなbreaking changesも今のところ見当たりません。 rails/rails at v8.0.0 以下、Rails 8.0のChangelogを件数の多い順に見ていきます。なお、原則として削除のChangelogは、その項目が非推奨化されたときのプルリク情報にリンクしています。 なお、以下の機能にはChangelogがありません。 Action Mailbox Action Mailer 🔗 Active Record(56件) Rail

                                Rails 8.0 Changelog(全項目リンク付き)|TechRacho by BPS株式会社
                              • What's New in Emacs 31.1?

                                What’s New in Emacs 31.1? Emacs 31.1 adds a slew of quality-of-life features. It retires its quirky unexec dumper; there are general improvements to tree-sitter, including a much-wanted auto-installer for grammars; and much more. Emacs 31.1 is finally out! Unlike earlier Emacs versions, there is not a singular big-bang feature in this release. From what I could gather, the new garbage collector wa

                                  What's New in Emacs 31.1?
                                • Rethinking Serverless with FLAME

                                  Rethinking Serverless with FLAME Author Name Chris McCord @chris_mccord @chris_mccord Imagine if you could auto scale simply by wrapping any existing app code in a function and have that block of code run in a temporary copy of your app. The pursuit of elastic, auto-scaling applications has taken us to silly places. Serverless/FaaS had a couple things going for it. Elastic Scale™ is hard. It’s eve

                                    Rethinking Serverless with FLAME
                                  • Solving Quantitative Reasoning Problems With Language Models

                                    Solving Quantitative Reasoning Problems with Language Models Aitor Lewkowycz∗, Anders Andreassen†, David Dohan†, Ethan Dyer†, Henryk Michalewski†, Vinay Ramasesh†, Ambrose Slone, Cem Anil, Imanol Schlag, Theo Gutman-Solo, Yuhuai Wu, Behnam Neyshabur∗, Guy Gur-Ari∗, and Vedant Misra∗ Google Research Abstract Language models have achieved remarkable performance on a wide range of tasks that require

                                    • ECSからGCPの通信でWorkload Identityを導入して、GCPのサービスアカウントキーを撲滅した - Adwaysエンジニアブログ

                                      初めまして!エージェンシー事業でアプリケーションエンジニアをしている22年新卒入社の内原です。 今回は、私が所属するチームのシステム(AWS ECS/Fargate)にWorkload Identityを導入してGCPのさまざまなサービスへサービスアカウントキーを利用せずにアクセスする方法について紹介と思います。 背景 課題 基礎編: Workload Identityの導入方法 1. IAMロールの作成 2. Workload Identity PoolとProviderの作成 3. Workload Identityとサービスアカウントの連携 4. 認証構成ファイルの取得 5. 認証構成ファイルを利用してECSでアプリケーションを実行 応用編: Workload Identity連携におけるアクセス制限について 方法1: 属性マッピングと条件 方法2: サービスアカウントの紐付け時の条

                                        ECSからGCPの通信でWorkload Identityを導入して、GCPのサービスアカウントキーを撲滅した - Adwaysエンジニアブログ
                                      • Terraform sandboxes: 公式のサンドボックス環境で Terraform を勉強しよう - kakakakakku blog

                                        HashiCorp 公式の Terraform サンドボックス環境「Terraform sandboxes」を使うとブラウザ上で Terraform の勉強ができる💡LocalStack(AWS エミュレータ)もプリインストールされてて Terraform AWS Provider の勉強にもなる. 最近までなかったように思うけど(僕の勘違いの可能性もある)さっそく試してみた❗️ developer.hashicorp.com バージョン確認 ドキュメントを読むと Terraform Docker LocalStack AWS CLI の4種類がプリインストールされてると記載されていた. 2026年1月時点でバージョンを確認してみた.ちょっと古めかなと思う😶 Terraform 1.12.2 Terraform AWS Provider 5.87.0 Docker 28.4.0 Loc

                                          Terraform sandboxes: 公式のサンドボックス環境で Terraform を勉強しよう - kakakakakku blog
                                        • Rails8.1のマイナーフィーチャーで気になったもの

                                          rails8_1_new_features.md これはなに 2025/10/22にRails8.1がリリースされましたね Ruby on Rails 8.1 Release Notes — Ruby on Rails Guidesにリリースノートが書かれている 上記メジャーフィーチャーに含まれなかったマイナーフィーチャーのうち、気になったものをざっくりまとめています 間違いの指摘や、これも追加してくれ〜という物があればコメントお願いします railties ヘルスチェック用のパスに来たリクエストをログに残さない、の拡張 allow path regexp in SilenceRequest middleware by rainerborene · Pull Request #53561 · rails/rails · GitHub Silence healthcheck requests

                                            Rails8.1のマイナーフィーチャーで気になったもの
                                          • AWS Lambda Function URLsをServerless Frameworkで使ってみた | DevelopersIO

                                            Serverless FrameworkがAWS Lambda Function URLsに爆速対応!最高です! はじめに こんにちは、サービスグロースチームの筧です。 AWS Lambda Function URLsという、熱いアップデートがきましたね。 AWS Lambda Function URLs: built-in HTTPS endpoints for your Lambda functions Announcing AWS Lambda Function URLs: Built-in HTTPS Endpoints for Single-Function Microservices | Amazon Web Services Serverless Framworkはいつ頃対応するかなとか思いつつ、Serverless FrameworkのNewsを確認すると、、 AWS La

                                              AWS Lambda Function URLsをServerless Frameworkで使ってみた | DevelopersIO
                                            • Lambda関数でPrismaを利用するときのTips - 理系学生日記

                                              Lambda関数からRDSを利用する必要が生じ、次世代のO/Rマッパと称されるPrismaを利用することにしました。 Lambda関数自体は、Serverless Frameworkで管理しています。 本エントリでは、Serverless Framework + Prisma + Lambdaの構成におけるノウハウを記述していきます。 Prismaのアーキテクチャ Prisma Engine Prisma Schema Prismaのデプロイ Prisma Engine Serverless Frameworkでのバンドル データベースアクセス 接続 コネクションプール RDS Proxy 感想 Prismaのアーキテクチャ まず前提となるのが、Prismaのアーキテクチャです。 Prismaは以下の3つの要素で構成されますが、今回はPrisma Clientのみを対象とします。 Pris

                                                Lambda関数でPrismaを利用するときのTips - 理系学生日記
                                              • GithubActionsのrunnerにBlackSmithを使って高速化とコスト削減する - APC 技術ブログ

                                                はじめに こんにちは。クラウド事業部の上野です。 今回はxでBlackSmithという面白そうなTopicを見つけたのでどんなものなのか試してみました。 GithubActionsのコスト削減と高速化に役立ちそうなので興味のある方は見ていただけると幸いです。 はじめに BlackSmithとは? QuickStart 高速化される仕組み コロケーションキャッシュを用いた高速化 Dockerレイヤーの永続化 即実行可能 高性能なマシンを利用 使用できるストレージ 料金について そもそものGithubActionsの料金体系 BlackSmithの料金体系 実際に改善されるか試す docker buildの結果を比較 ubuntu-latest blacksmith-2vcpu-ubuntu-2404 検証に使用したDockerfile, workflowファイル まとめ BlackSmith

                                                  GithubActionsのrunnerにBlackSmithを使って高速化とコスト削減する - APC 技術ブログ
                                                • AWS上にマラソンマッチ用のジャッジ環境を作った - yunix_kyopro’s blog

                                                  背景 システムの概要 CDKやその他のコード テスト実行結果 コスト 他のアイデア Lambdaのメモリに関する実験など LambdaのメモリとCPUに関する仕様 Lambdaに割り当てるメモリ量を変えながら実験 不満ポイント ※この記事は包括的な解説というよりは、同じようなことをやろうとした人へのインプットになればいいかなと思っています。C++のソースコード用に書きましたが、少し手を入れれば他の言語でも使えると思います。 AWSを触ったことがない人向けには書いていないです。すいません... <7/23追記> Lambdaのメモリと処理能力について理解があやふやだったので検証した記録を残しました。メモリは1.8GBくらいにするのが良さそうです。 <8/20追記> 実際にコンテストで使ってみたところ、この構成だと不満が多かったです。それに関するレポートを書きました。 <11/7追記> 実際に

                                                    AWS上にマラソンマッチ用のジャッジ環境を作った - yunix_kyopro’s blog
                                                  • Should you use a Lambda Monolith, aka Lambdalith, for your API?

                                                    Should you use a Lambda Monolith, aka Lambdalith, for your API? This post looks at some arguments for and against a monolith Lambda API function (aka Lambdalith) compared to single-purpose Lambda functions per API route. It challenges “best practices” and argues that a monolith Lambda function is better in many cases when it comes to an API. IMPORTANT. This post is only applicable to the API facin

                                                      Should you use a Lambda Monolith, aka Lambdalith, for your API?
                                                    • Cloud DataflowでGCS→BQのパイプラインをPythonで試してみる | DevelopersIO

                                                      はじめに データアナリティクス事業本部のkobayashiです。 GoogleCloudのETLサービスのDataflowを調査する機会があり、Google Cloud Storage(以降GCS)にあるCSVファイルをBigQueryにロードする処理をPythonスクリプトで試してみましたのでまとめます。 Dataflow  |  Google Cloud Cloud Storage Text to BigQuery DataflowはマネージドなApache Beam Runnerでプログラミング言語としてはJava,Python,Goを使うことができます。今回やろうとしている「Cloud Storage Text to BigQuery」に関してはGoogle提供のバッチテンプレートがありますが、このテンプレートはJavaで記述されているため使用せずPythonで実装してみます。 B

                                                        Cloud DataflowでGCS→BQのパイプラインをPythonで試してみる | DevelopersIO
                                                      • Building responsive APIs with Amazon API Gateway response streaming | Amazon Web Services

                                                        AWS Compute Blog Building responsive APIs with Amazon API Gateway response streaming Today, AWS announced support for response streaming in Amazon API Gateway to significantly improve the responsiveness of your REST APIs by progressively streaming response payloads back to the client. With this new capability, you can use streamed responses to enhance user experience when building LLM-driven appli

                                                          Building responsive APIs with Amazon API Gateway response streaming | Amazon Web Services
                                                        • LangChainに入門すべきでない3つの理由|philoludum

                                                          LangChainは、本が出たり、入門記事がネットたくさんあったり、一見すごそうなフレームワークに見えますが、クソです。 どうも調べてみると2023年後半頃から悪い評判が出ています。この記事一番よくまとまっていますが、要するに過度な抽象化と複雑なコードベースのせいでカスタマイズが非常に困難ということです。したがって、プロダクション環境でLangChainを採用すべきでないことはよくわかります。 プロダクション環境ではともかく、LangChainは一見すると、LLM入門にはよいようにもみえます。 しかし、LangChainはLLM入門に向いていないどころか有害です。 その理由は3つです。 不要で応用が利かない概念 大してシンプルにならない 処理の内容が一生わからない 以下では、私がちょっとしたLLMアプリケーションを作ろうとしていかにLangChainが有害だったか、同じ轍を踏む人が出ないよ

                                                            LangChainに入門すべきでない3つの理由|philoludum
                                                          • What's New in Emacs 28.1?

                                                            Try Mastering Emacs for free! Are you struggling with the basics? Have you mastered movement and editing yet? When you have read Mastering Emacs you will understand Emacs. It’s that time again: there’s a new major version of Emacs and, with it, a treasure trove of new features and changes. Notable features include the formal inclusion of native compilation, a technique that will greatly speed up y

                                                            • Nginx 接続数制限 (limit_conn) を設定してab検証する | Oji-Cloud

                                                              概要 Nginx では標準で提供されている limit_conn モジュールを使用して、接続数制限を提供します。 接続数制限によって、同一の接続元からの接続が制限でき、DoS攻撃から防御できます。あるいは、TCPの接続数を制限することによって、高負荷時にもWebサービスの処理を継続させることが目的です。 今回は、Nginx 接続数制限 (limit_conn) の設定方法、ab (apache bench) による接続数制限の検証方法をまとめます。 事前準備 EC2 の Amazon Linux 2 インスタンスを起動します。 インスタンスのUser data 設定に、下記を記載します。Amazon Linux 2 のnginx は、amazon-linux-extrasを使用します。amazon-linux-extras の詳細はこちらを参照。 #!/bin/bash sudo yum

                                                                Nginx 接続数制限 (limit_conn) を設定してab検証する | Oji-Cloud
                                                              • 従来の LangChainエージェント から LangGraphエージェント への移行手順|npaka

                                                                以下の記事が面白かったので、簡単にまとめました。 ・How to migrate from legacy LangChain agents to LangGraph 1. はじめに従来の「LangChainエージェント」から「LangGraph エージェント」への移行手順を解説します。LangChainエージェント (特に AgentExecutor) には複数の構成パラメータがあります。これらのパラメータを LangGraphエージェント(ReactAgentExecutor) にどのようにマップされるかを示します。 2. 準備(1) パッケージのインストール。 # パッケージのインストール !pip install -U langgraph langchain langchain-openai(2) 環境変数の準備。 左端の鍵アイコンで「OPENAI_API_KEY」を設定してからセル

                                                                  従来の LangChainエージェント から LangGraphエージェント への移行手順|npaka
                                                                • Solid Queue README -- DBベースのActive Jobバックエンド(翻訳)|TechRacho by BPS株式会社

                                                                  概要 MITライセンスに基づいて翻訳・公開いたします。 英語記事: solid_queue/README.md at main · basecamp/solid_queue バージョン: v1.5.0 原文更新日: 2026/07/28(517a974) ライセンス: MIT 日本語タイトルは内容に即したものにしました。 2024/09/27: 更新 2025/02/18: 更新 2025/09/29: 更新 2026/02/24: 更新(asyncモードの追加) 2026/07/23: 更新(v1.5.0: 設定検証機能の追加、動的スケジューリング・アンスケジューリングの追加、Ruby 3.1サポート廃止など) Solid Queue用では公式GUIダッシュボード「Mission Control Jobs」も使えます↓。 Rails: Mission Control Jobs gem R

                                                                    Solid Queue README -- DBベースのActive Jobバックエンド(翻訳)|TechRacho by BPS株式会社
                                                                  • AWS Lambda Function URLs with Serverless Framework

                                                                    AWS just released a brand new feature called "Lambda Function URLs", and we are happy to announce that Serverless Framework supports Lambda Function URLs immediately. A Lambda Function URL is a simple solution to create HTTP endpoints with AWS Lambda. Function URLs are ideal for getting started with AWS Lambda, or for single-function applications like webhooks or APIs built with web frameworks. Wh

                                                                      AWS Lambda Function URLs with Serverless Framework
                                                                    • SageMaker + vLLM で LLM API を構築 - asken テックブログ

                                                                      目次 はじめに この記事で学べること 前提知識 技術スタックの全体像 各コンポーネントの詳細解説 パフォーマンス設計 構築手順 まとめ 参考リンク はじめに この記事は、株式会社asken (あすけん) Advent Calendar 2025の12/23の記事です。 こんにちは。AX推進部(テックリード・AIエンジニア)の山口です。 今回は、SageMakerでvLLMを動かす方法を説明したいと思います。 LLM を API として提供する際の課題 ChatGPT のような LLM を自社サービスに組み込みたい場合、以下のような課題があります: レイテンシ(応答時間): ユーザーがテキストを入力してから結果が返るまでの時間。長いとユーザー体験が悪化します スループット(処理能力): 同時に多くのリクエストを処理できるか コスト: GPU は高価なので、効率的に使いたい 運用負荷: サーバ

                                                                        SageMaker + vLLM で LLM API を構築 - asken テックブログ
                                                                      • Ollama で NVIDIA Nemotron 2 Nano 9B Japanese を試す|npaka

                                                                        「Ollama」で「NVIDIA Nemotron 2 Nano 9B Japanese」を試したのでまとめました。 1. NVIDIA Nemotron 2 Nano 9B Japanese「NVIDIA Nemotron-Nano-9B-v2-Japanese」 は、9BパラメータのSLMです。「Nemotron-Nano-9B-v2」という高効率な基盤モデルを元に、日本語処理能力を 大幅に強化して作られたモデルです。日本語の自然言語処理を重視したバージョンで、チャット、QA、ツール呼び出し、指示追従など幅広いタスクに対応できるよう設計されています。 「Nemotron-Nano-9B-v2」は、以下のような特徴を持っています。 ・高い推論速度 ・高効率アーキテクチャ ・ハイブリッド Transformer/Mamba 設計 また、商用利用可能なライセンスで公開されているため、社内や企

                                                                          Ollama で NVIDIA Nemotron 2 Nano 9B Japanese を試す|npaka
                                                                        1