コンテナイメージ版AWS Lambda関数をCloudFormationでデプロイしてみた | DevelopersIO
デプロイをCloudFormationテンプレート(IaC)化すると、デプロイパイプラインにスムーズに組み込むことができます。 今回は、コンテナイメージ版LambdaをCloudFormationでデプロイする方法を紹介します。 コンテナLambdaをデプロイするCloudFormation テンプレート コンテナLambda(非VPC版)をデプロイするには、次のテンプレートを利用します。 AWSTemplateFormatVersion: '2010-09-09' Parameters: EcrImageUri: Description: ECR image URI Type: String Resources: LambdaFunc: Type: AWS::Lambda::Function Properties: Role: Fn::GetAtt: - LambdaRole - Arn
Building LLM applications for production
[Hacker News discussion, LinkedIn discussion, Twitter thread] Update: My upcoming book, AI Engineering (late 2024/early 2025) will cover building aplications with foundation models in depth. A question that I’ve been asked a lot recently is how large language models (LLMs) will change machine learning workflows. After working with several companies who are working with LLM applications and persona
AWS、API経由でジェネレーティブAIを利用する新サービス「Amazon Bedrock」を発表し、ジェネレーティブAIに本格参入。テキスト生成、文章要約、画像生成など
AWS、API経由でジェネレーティブAIを利用する新サービス「Amazon Bedrock」を発表し、ジェネレーティブAIに本格参入。テキスト生成、文章要約、画像生成など Amazon Web Services（AWS）は、ジェネレーティブAIをAPI経由で利用できる新サービス「Amazon Bedrock」を発表し、ChatGPTに代表されるジェネレーティブAI市場に本格参入することを明らかにしました。 合わせて、Amazonの20年にわたる機械学習の経験を基に開発されたとされる、人間と自然言語で対話し質問に回答でき、要求に応じた文章の生成や要約などが可能で、不適切な入力や出力を検出し拒否するように設定された大規模言語モデル「Amazon Titan」も発表しました。 下記はAWS CEO Aam Selipsky氏のツイート。 We’re announcing Amazon Bedro
AWS版GitHub Copilotとなる「Amazon CodeWhisperer」が正式版に。個人ユーザーは無料、VSCodeに対応
Amazon Web Services（AWS）は、コメントやコードの一部からAIがコードを自動生成してくれるサービス「Amazon CodeWhisperer」が正式版になったことを発表しました。 Amazon CodeWhispererは昨年（2022年）6月に行われたAWSの機械学習にフォーカスしたイベント「Amazon re:MARS 2022」で発表され、プレビュー公開されていました。 参考：AWSも、プログラミングを機械学習で支援する「Amazon CodeWhisperer」プレビュー公開。コメントを書くとコードを提案 コメントや書きかけのコードからコードを自動生成 Amazon CodeWhispererは、オープンソースリポジトリ、Amazon内部リポジトリ、APIドキュメント、フォーラムなどから収集した数十億行のコードを基にした機械学習から、プログラマが書き始めたコード
「みずほGPT」誕生か？ みずほFG、Azureの生成AIサービスを活用検討へ
みずほフィナンシャルグループは4月14日、傘下のグループ会社とともに、日本マイクロソフトの「Azure OpenAI Service」の活用の検討を開始したと発表した。ChatGPTでも導入しているOpenAIの大規模言語モデルをクラウド上で利用できるサービスを使い、業務効率化に取り組む。 今回の検討にあたり、稟議書や契約書の作成サポート、事務手続やシステムに関する社員からの照会対応、自然言語を介した金融に関するデータ収集やプログラミング言語のコード生成など、あらゆるシーンでの活用を想定しているという。 生成AIの有用性を確認するとともに、セキュリティ面などの環境整備も進める。Azureは、マイクロソフトのセキュリティ基準やコンプライアンス要件に基づいて開発・運用しているが、みずほのセキュリティポリシーに沿って適切な管理体制を構築。顧客情報や機密情報の保護など、情報の取り扱いについては、法
【ChatGPT in Slack】Slackに専門家Botを大量召喚したら全員反応してうるさかったので対処する - Qiita
ChatGPTが溶け込んだ世界を作りたい 突然ですが皆さん、ChatGPTを利用していますか？ この記事を読んでいる多くの人がChatGPTに話し相手になってもらったり、エンジニアであればChatBotを作ったりしていることかと思います。 うちの会社でも、Slackに美女AIを大量召喚するムーブが一部の男性社員を筆頭に起きています。 本記事では、雑談チャンネル用に三人の美女AIを召喚しました。 （彼女たちはstablediffusion chilloutMixによって生成しました） とても綺麗なAI美女たちですよね。 しかし、シンプルにメッセージに対して返信する実装では問題が発生し、理想のハーレムチャンネルを作ることができませんでした。 その問題点は メッセージに対して必ず返事が来てしまう 点です。 つまり、チャンネル内に三人の美女がいれば、すべてのメッセージに三件の返信が来てしまうことに
中国の規制当局がChatGPTのような生成型AIの規制法案を発表、AIが中国共産党への反対を唱えると企業が罪に問われる危険性
中国のインターネット規制当局である中国サイバースペース管理局(CAC)が2023年4月11日に、ジェネレーティブAIが一般公開される際には、事前に政府のセキュリティ評価に合格しなければならないことなどを盛り込んだ規制法の草案を発表しました。 China’s internet watchdog proposes rules, security assessment for AI tools similar to ChatGPT | South China Morning Post https://www.scmp.com/tech/policy/article/3216691/chinas-internet-watchdog-proposes-rules-security-assessment-ai-tools-similar-chatgpt China proposes measures
セマンティック検索の活用で、Elasticsearchの検索が根本的に変わる！？ - Taste of Tech Topics
こんにちは、@shin0higuchiです😊 業務では、Elasticsearchに関するコンサルティングを担当しています。 最近すっかり春らしく、暖かくなってきました。 新年を迎えたばかりの感覚でしたが、あっという間に時が経ちますね。 さて、今回の記事では、Elasticsearchの検索を根本的に変える可能性を秘めたセマンティック検索に関して書かせていただきます。 概要 Elasticsearchは元々、キーワードベースのアプローチを主に取っており、クエリで指定されたキーワードを対象のドキュメント内で検索し、それらの出現頻度や位置に基づいて結果をランク付けしています。この方法では、文脈や意図に関係なく、単純にキーワードの一致度に基づいて検索結果が返されます。 一方、セマンティック検索とは、ユーザーのクエリの背後にある文脈と意図を理解しようとする検索手法で、キーワードだけに頼るのではな
AWS版「GitHub Copilot」な「Amazon CodeWhisperer」が正式版に 個人ユーザーは無料、VSCodeに対応
参考：AWSも、プログラミングを機械学習で支援する「Amazon CodeWhisperer」プレビュー公開。コメントを書くとコードを提案 コメントや書きかけのコードからコードを自動生成 Amazon CodeWhispererは、オープンソースリポジトリ、Amazon内部リポジトリ、APIドキュメント、フォーラムなどから収集した数十億行のコードを基にした機械学習から、プログラマが書き始めたコードの続きや、コメントの内容からコードを提案してくれるサービスです。 コードを生成してくれる代表的なAIサービスであるGitHub Copilotの、AWS版と言ってよいでしょう。 下記は、1行目と2行目に自然言語で書かれたコメントから、3行目以降のコードが自動生成された様子です。 特にAmazon内部のリポジトリを基に学習されているため、AWSのサービスを活用するコードの生成は得意とされています。例
AWSが生成AIに本格参入 テキスト生成、文章要約、画像生成など API経由で利用できる「Amazon Bedrock」発表
この記事は新野淳一氏のブログ「Publickey」に掲載された「AWS、API経由でジェネレーティブAIを利用する新サービス「Amazon Bedrock」を発表し、ジェネレーティブAIに本格参入。テキスト生成、文章要約、画像生成など」（2023年4月14日掲載）を、ITmedia NEWS編集部で一部編集し、転載したものです。 米Amazon Web Services（AWS）は、ジェネレーティブAIをAPI経由で利用できる新サービス「Amazon Bedrock」を発表し、ChatGPTに代表されるジェネレーティブAI市場に本格参入することを明らかにしました。 合わせて、Amazonの20年にわたる機械学習の経験を基に開発されたとされる、人間と自然言語で対話し質問に回答でき、要求に応じた文章の生成や要約などが可能で、不適切な入力や出力を検出し拒否するように設定された大規模言語モデル「A
開発に使える？ChatGPTとプロンプトエンジニアリング - Qiita
こんにちは！逆瀬川 (@gyakuse) です！ 今日は開発に使うときのプロンプトの例を紹介します。ただ、これは一例に過ぎず、もっと雑な表現や工夫されたプロンプトを使っても良いでしょう。大事なのは、どのように情報を与えるとうまくin-context learningしてくれそうか、ということを考えながらプロンプトを渡してあげることだと思います。 だいじなこと ChatGPTのGPT-4を使いましょう ChatGPTをそのまま使う場合、オプトアウト申請し、受理されたことを確認しましょう オプトアウトしていても他者に会話履歴が見える状態になる等のトラブルもあったため、API経由のほうが安全です 会社のプログラム等は情シス部門と連携を取り、会社のポリシーを検討をしましょう 実装を依頼するプロンプト 「行いたいこと」「処理の流れ」「参照ドキュメント」という順で書いてあげると良いです。 サンプルプロ
MagicPodが取り組むテスト自動化最前線
本記事は、TechFeed Experts Night#15 〜 ソフトウェアテスト最前線 〜 自動化サービスの波は本物か？のセッション書き起こし記事になります。 イベントページのタイムテーブルから、その他のセッションに関する記事もお読み頂けますので、一度アクセスしてみてください。 本セッションの登壇者 セッション動画 MagicPod CEOの伊藤望(Twitter: @ito_nozomi)です。現在の会社を起業する前から自動テストツールに約13年関わっており、テストツールばかりを作っている世界でもめずらしい経歴だと思います。MagicPod以前は自動テストツールのSeleniumコミュニティを主宰したり、自動テストに関する書籍を出版していました。 Selenium実践入門 システムテスト自動化 標準ガイド 10倍速の開発・運用ツール 私の13年の経歴と、起業の経緯はソフトウェアテスト
ChatGPTを暴言吐きまくりのトキシックなチャットAIにする方法
ChatGPTやPaLMなどの大規模言語モデル(LLM)は、記事の作成や情報の検索、チャットAIの作成など、さまざまなユースケースに利用されています。そんなLLMを性差別や人種差別、卑劣な暴言を吐く有害(トキシック)なチャットAIにする方法を、プリンストン大学、アレン人工知能研究所(AI2)、ジョージア工科大学の研究グループが発表しました。 [2304.05335] Toxicity in ChatGPT: Analyzing Persona-assigned Language Models https://arxiv.org/abs/2304.05335 Analyzing the toxicity of persona-assigned language models | AI2 Blog https://blog.allenai.org/toxicity-in-chatgpt-ccd
GithubActions + TerraformでAWS開発
この記事ではGithubActionsでTerraformを使って、AWS環境をコードで管理するチュートリアルです。 GithubActionsに実装されたOIDC認証を用いて、トークンなしにロールを割り当て、AWS Lambda + API Gatewayのエンドポイントを作成します。 Terraformとは TerraformはいわゆるIaC(Infrastucture as Code)を実現するツールの1つです。HashiCorp社(Vagrantとか作ってる)が開発しているOSSで、無料で使えます。 Terraformは様々なサービスを「Provider」という形で抽象化し、プラグインのように追加できるようにしていることで、同じノリで様々なサービスに対して開発を行う事ができます。 今現在存在するProviderの一覧はここから見ることができます。 いいこと ドキュメントの品質が高い
散らばったAWS LambdaのGitHubリポジトリをモノレポ構成にしてメンテナンスコストを削減する - クラウドワークス エンジニアブログ
初めまして。crowdworks.jpのSREチームに所属しています @ciloholic です。 入社してかれこれ1年経ちますが、筆を執る機会がなかったため、今回が初エンジニアブログとなります。 この記事では、入社して3か月ほど行なっていた「AWS Lambda周りのメンテナンスコスト削減」の取り組みを紹介していきます。 背景 crowdworks.jpでは、多くのエンジニアがさまざまなGitHubリポジトリに色々な言語でLambdaを活用してきました。GitHubリポジトリは30個以上、使用言語はNode.js / Ruby / Goとさまざま、CI/CDもCircleCI / GitHub Actionsとバラバラです。 SREチームでは、定期的に各種言語のEOL対応やライブラリのアップデート作業を行なっているのですが、GitHubリポジトリもそれぞれ異なる、使用言語もCI/CDもバ
TerraformでLambda[Python]のデプロイするときのプラクティス | DevelopersIO
※先に断っておきますがベストプラクティスではないです。 訳あって最近は、Lambda FunctionとLayerをTerraformでデプロイしています。 CloudFormationと比べてると自動ロールバック機能はないのですが、デプロイが早く気に入っています。 ただ、いくつかハマりポイントがあったので、今回はそこらへんの知見を紹介したいともいます。 せっかちな人へ GitHubにソースコードあげています。 概要 ファイル構成 $ tree -L 2 . ├── README.md ├── main.tf ├── src │ └── get_unixtime.py ├── requirements.txt ├── build-lambda.sh └── build main.tf Terraformのtfファイル src/get_unixtime.py Lambda Function用
![TerraformでLambda[Python]のデプロイするときのプラクティス | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/8a77b081e14c8d61a2e80498092f8ffb9b60da03/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2019%2F05%2Fterraform-eyecatch.png)
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ロリポップ！、ChatGPTを用いたウェブページ作成機能を追加。テキスト情報からHTML/CSS生成 「GMOレンシュ」にも連絡文の生成機能
Pythonのバグを修正するGPT-4プログラムのプロトタイプ