Google Cloudの生成AI(PaLM2)で社内LLM Webアプリを爆速で作ってみた - G-gen Tech Blog
G-gen 又吉です。Google Cloud (旧称 GCP) の生成 AI (Generative AI) である PaLM 2 を用いて、Cloud Run 上に社内 LLM Web アプリを構築してみました。 はじめに 前提知識 Vertex AI PaLM API Gradio Cloud Runサービスへのアクセス制御 準備 ディレクトリ構成 app.py requirements.txt Dockerfile デプロイ 動作検証 はじめに 今回は、Google Cloud の生成 AI である Vertex AI PaLM API を用いて、社内向け LLM Web アプリを Cloud Run 上にデプロイします。 また、Cloud Run サービスの認証には Identity-Aware Proxy (IAP) を用いることで、社内ユーザーのみがアクセスできる状態を構成で
Googleアラートの登録キーワードRSSフィードとSlackの相性が悪いから変換プロキシを作って快適化 - 太陽がまぶしかったから
Google アラートは便利だけど 情報収集をするのには Google アラートが便利。仕事や趣味に関係するキーワードをGoogleアラートに登録し、それをRSSフィードに出力することで、最新のニュースを見逃すことなく、リアルタイムで情報を取得することができる。 しかしながら、GoogleアラートのRSSフィードをSlackに表示させようとすると以下のような表示になって視認性が低くなってしまう。 Gooogleの転送URLを通るためSlackでカード展開されない ボールドタグが文字列として出力されている 本文が中途半端に出力される また同じようなニュースが重複することも多く、それもまたノイズになってしまう。 Google アラートのRSSフィードを変換するプロキシを作成 この課題に対応するため、以下のシーケンスでGoogleアラートの生成するRSSフィードを変換するサーバレス関数を作成し、
40+ Modern Tutorials Covering All Aspects of Machine Learning - DataScienceCentral.com
Home » Uncategorized40+ Modern Tutorials Covering All Aspects of Machine Learning CapriGranville733December 10, 2019 at 3:30 am This list of lists contains books, notebooks, presentations, cheat sheets, and tutorials covering all aspects of data science, machine learning, deep learning, statistics, math, and more, with most documents featuring Python or R code and numerous illustrations or case st
AWS chatbot (チャットボット) で コストアラートをSlack通知 - Tech Blog
はじめに エンジニアのウエです。Timers inc.では、ビジネス部門の一人として 配送・印刷・決済に関わる施策立案・業務改善を推進しています。また開発チームのプロダクトマネージャとして、顧客対応チームのマネージャとして、様々な役割でサービスに関わっています。 BizDevOps を通じた 効率化や改善に関わり、とても充実した日々を送っています。 今回の記事では、AWS Chatbot (チャットボット) を Slackへのコストアラート通知に利用した例を記載します。 前提 CloudWatch の Billing を利用するため、あくまでも概算です。 事前準備 ブラウザで Slack に bot用アカウントでログインします。 通知に利用する SNS トピック作成( us-east-1 )します。 手順 AWS chatbot から Client を作成します。 通知先として Slack
A data protection taskforce that’s spent over a year considering how the European Union’s data protection rulebook applies to OpenAI’s viral chatbot, ChatGPT, reported preliminary conclusions Friday. The top-line takeaway…
LLMによるLLMの評価とその評価の評価について
LLMをプロダクトに活用していく上でプロンプトの出力結果を評価していかなければいけない訳ですが、可能な限り自動で定量評価できると改善もしていきやすくなり大変助かります。 そこで所謂LLM-as-a-Judgeと呼ばれるLLMに評価してもらう手法を取るわけですが、やはり「このスコアはどれくらい信じられるのか...?」という疑問が湧いてきて"評価の評価"がしたくなってきます。 というところで、本記事では使いそうなLLM-as-a-Judgeの手法について調べた後、"評価の評価"の仕方を調べてみた結果をまとめていきます。 LLM-as-a-Judgeの手法 まず初めに、LLM-as-a-Judgeにも様々な手法が存在するので、それらを確認していきます。 スコアベース 一番ベーシックなものはスコアをつけてもらうやり方です。 次のように実際のインプット、それに対するLLMの回答をプロンプトに加えて、
Mac用ChatGPTクライアント「MacGPT」のiPhone版となる「GeePeeTee」アプリがリリースされています。詳細は以下から。 FaceTimeビデオ通話と音声書き起こし&翻訳機能を組み合わせたNavi(日本では未配信)でApple Design Awards 2022 ファイナリストに選出されたオランダGood SnoozeのJordi Bruinさんは現地時間2023年03月30日、Mac用に開発しているChatGPTクライアント「MacGPT」のiPhone版となる「GeePeeTee」アプリを新たにリリースしたと発表しています。 MacGPT is coming to iOS soon* under the name GeePeeTee. Realtime voice chat, conversation history and more 🙂 Will send t
Python版の「LangChain」のクイックスタートガイドをまとめました。 ・langchain 0.1.7 1. LangChain「LangChain」は、「大規模言語モデル」 (LLM : Large language models) と連携するアプリの開発を支援するライブラリです。 「LLM」という革新的テクノロジーによって、開発者は今まで不可能だったことが可能になりました。しかし、「LLM」を単独で使用するだけでは、真に強力なアプリケーションを作成するのに不十分です。真の力は、それを他の 計算 や 知識 と組み合わせた時にもたらされます。「LangChain」は、そのようなアプリケーションの開発をサポートします。 主な用途は、次の3つになります。 ・文書に関する質問応答 ・チャットボット ・エージェント v0.1 ではlangchainパッケージが次の3つのパッケージに分割さ
Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Qualityby: The Vicuna Team, Mar 30, 2023 We introduce Vicuna-13B, an open-source chatbot trained by fine-tuning LLaMA on user-shared conversations collected from ShareGPT. Preliminary evaluation using GPT-4 as a judge shows Vicuna-13B achieves more than 90%* quality of OpenAI ChatGPT and Google Bard while outperforming other models
グーグルはニューラル・ネットワークを利用したチャットボット「ミーナ（Meena）」を発表した。同社は、ミーナが他の既存のチャットボットよりも優れていると主張している。 ミーナは、ソーシャルメディア上の341ギガバイトもの膨大な会話データを使って訓練された。オープンAI（OpenAI）の言語モデル「GPT-2」が訓練に使ったデータの8.5倍に相当する。ミーナは、ほぼどんなことでも話すことができ、（悪い）冗談さえ考え出せるとグーグルは説明する。 幅広い話題を含む取り留めのない会話は難しく、ほとんどのチャットボットは会話についていけない。ある時点で多くのチャットボットは意味をなさない言葉を発したり、実世界についての基本的な知識が無いことをさらけ出したりする。このような間違いを犯さないチャットボットがあれば、人工知能（AI）はより人間らしく感じられるようになり、ビデオゲームの登場人物もより生き生き
[アップデート]IAMのアクセスアドバイザーでは、140以上のAWSサービスを対象に、アクションレベルで「最終アクセス日時」が確認できるようになりました | DevelopersIO
はじめに AWS IAMのアクセスアドバイザーでアクションレベルでの「最終アクセス日時」が確認できるサービス数は、140以上に増えました。 IAMのアクセスアドバイザーとは、IAMエンティティ（ユーザー、ロール、グループなど）が、AWSサービスごとの最終アクセス日時や、アクセス可能なAWSサービスを確認できる機能です。 従来は、IAMやLambda、S3、EC2などの一部のAWSサービス数のみ、アクションレベルで「最終アクセス日時」が確認できていました。 以前も以下の記事のようにアップデートがありました。 今回のアップデートでは、140以上のAWSサービスを対象に、アクションレベルで「最終アクセス日時」が確認できるようになりました。 これによって、IAMロールに指定された権限が実際に必要かどうかを判断し、不必要な権限を削除することで、IAMのベストプラクティスである「最小権限の原則」の実現
![[アップデート]IAMのアクセスアドバイザーでは、140以上のAWSサービスを対象に、アクションレベルで「最終アクセス日時」が確認できるようになりました | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/bf00ad68b49f41acf5078ae9946ea858f9b1f486/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2023%2F08%2Faws-iam.png)
AWS User Notificationsでマネジメントコンソールへのサインインを通知する | DevelopersIO
AWS User Notifications サービスを利用して AWS マネジメントコンソールへのサインインをメール通知する設定を試してみました。 サインイン通知は次のブログでも紹介している通り、Amazon EventBridge ルールを作成する方法でも実現できますが、通知文を整形する必要がありました。AWS User Notifications で設定する場合は通知内容を AWS 側で見やすくしてくれるメリットがあります（裏では Amazon EventBridge ルールが作成されます）。 参考ブログの方法（Amazon EventBridge で設定し、入力トランスフォーマーで通知内容を整形）の通知例です。 本ブログで設定する AWS User Notifications の通知例です。 AWS マネジメントコンソールへのサインイン通知設定 今回設定する環境は AWS Orga
Elon Musk fires a top Twitter engineer over his declining view count
For weeks now, Elon Musk has been preoccupied with worries about how many people are seeing his tweets. Last week, the Twitter CEO took his Twitter account private for a day to test whether that might boost the size of his audience. The move came after several prominent right-wing accounts that Musk interacts with complained that recent changes to Twitter had reduced their reach. On Tuesday, Musk
株式会社FIXERが主催した本イベントでは、2023年の生成AIトピックスを振り返りながら2024年のトレンド予想や活用方法について語られました。本記事では、「ChatGPT最強の仕事術」著者の池田朋弘氏と、株式会社FIXERプロンプトエンジニアの高桑宗一郎氏が、2023年の企業のAI活用について解説します。 生成AIの専門家が振り返る2023年 池田朋弘氏（以下、池田）：本日のテーマとしては、2023年の生成AIを振り返りながら、今年2024年にどういう動きがあるのかを、高桑さんと一緒に考えていきたいと思っております。 まず簡単に我々の自己紹介です。あらためて池田と申します。私は2023年からChatGPTに関する情報発信をしています。また企業から「導入したい」という相談やニーズも非常に増えていますので、研修や導入支援をやらせていただいています。YouTubeや本など出しておりますので、
Introduction - SITUATIONAL AWARENESS: The Decade Ahead
Leopold Aschenbrenner, June 2024 You can see the future first in San Francisco. Over the past year, the talk of the town has shifted from $10 billion compute clusters to $100 billion clusters to trillion-dollar clusters. Every six months another zero is added to the boardroom plans. Behind the scenes, there’s a fierce scramble to secure every power contract still available for the rest of the deca
Azure OpenAIを使ったチャットボットWebアプリをAzure App Serviceでホストしてみた | DevelopersIO
みなさん、こんにちは！ 福岡オフィスの青柳です。 ChatGPTでおなじみの「OpenAI」の技術を基にしてマイクロソフトが提供する「Azure OpenAI Service」は、Microsoft Azureのセキュアなインフラストラクチャ上でOpenAI APIを利用できるサービスとして最近注目されています。 今回は、Azure OpenAI Serviceを使った「チャットボットWebアプリ」をMicrosoft Azure環境上に構築してみたいと思います。 Azure OpenAI Serviceを利用するための前提 現在、Azure OpenAI Serviceの利用はマイクロソフトへの申請が必要となっています。 申請から利用開始までの流れについては、弊社yhanaが下記ブログ記事で紹介しています。 今回の記事では、AzureおよびAzure OpenAI Serviceが既に利
EngineeringProductInside GitHub: Working with the LLMs behind GitHub CopilotDevelopers behind GitHub Copilot discuss what it was like to work with OpenAI’s large language model and how it informed the development of Copilot as we know it today. The first time that engineers at GitHub worked with one of OpenAI’s large language models (LLM), they were equal parts excited and astonished. Alireza Goud
OpenAIが次世代大規模言語モデルの「GPT-4」を発表した直後に、Microsoftが「Bingに統合したチャットAIはGPT-4」であることを明らかにしました。GPT-4の発表よりも先に、ユーザーはGPT-4を利用したAIツールを利用していたということになります。 Confirmed: the new Bing runs on OpenAI’s GPT-4 | Bing Search Blog https://blogs.bing.com/search/march_2023/Confirmed-the-new-Bing-runs-on-OpenAI%E2%80%99s-GPT-4 Microsoft confirms Bing's AI-powered search chatbot is running on OpenAI's new GPT-4 – GeekWire https:/
GitHub - mckaywrigley/chatbot-ui: AI chat for every model.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
こんにちは、上野です。 皆様、IAMユーザーのアクセスキー、どう管理されていますでしょうか？ AWSの操作をローカルPCや外部のサービスから利用できる便利な反面、一度外部に漏れるとそれが悪用されてしまうというリスクもあります。クラウド環境におけるインシデントの多くが、このアクセスキー（認証情報）に関するものになっています。 ということで、アクセスキーが作成されたらとりあえず気づけるように。という方法を紹介します。 アクセスキーとは？ 復習の意味も込めて。AWSにおけるアクセスキーとは。わかる方は飛ばしてください。 AWSにおいて認証を行う場合、基本的にはIAMユーザーを作成します。（AWS SSOを使うこともあります） IAMユーザー作成時、ID・パスワードの組み合わせ、またはアクセスキーID・シークレットアクセスキーの組み合わせを認証情報として使用できます。（ID・パスワードとアクセスキ
Cheating is All You Need
Heya. Sorry for not writing for so long. I’ll make up for it with 3000 pages here. I’m just hopping right now. That’s kinda the only way to get me to blog anymore. I’ve rewritten this post so many times. It’s about AI. But AI is changing so fast that the post is out of date within a few days. So screw it. I’m busting this version out in one sitting. (Spoiler alert: There’s some Sourcegraph stuff a
[LinkedIn discussion, Twitter thread] Never before in my life had I seen so many smart people working on the same goal: making LLMs better. After talking to many people working in both industry and academia, I noticed the 10 major research directions that emerged. The first two directions, hallucinations and context learning, are probably the most talked about today. I’m the most excited about num
今から始めて追いつけるAI学習入門セット、画像生成・音声変換・AIチャット・英単語をわかりやすいムービー形式で基礎から学べる「Udemy」講座まとめ
Google DeepMindが開発したAIであるAlphaGoが囲碁の世界チャンピオンに打ち勝ったというニュースが世界を駆け巡ったのもすでに8年近く前の出来事で、AIの可能性が示されてから多数の研究者たちがAI技術の開発に情熱を注いだ結果、AI技術は飛躍的な進歩を遂げました。今ではテキストで指示するだけでいい感じのイラストを生成してくれるAIや、人間かのように言葉を操って要約や作文といったタスクをこなせるAIなどが登場しています。そうしたAIの使い方や仕組みについて、ムービー形式でわかりやすく解説してくれる講座が多数用意されているのがオンライン学習プラットフォームの「Udemy」です。ちょうどUdemyの夏のビッグセールが8月31日(木)まで開催されていて高品質な講座が1200円～で受講可能とのことなので、今からAIを学び始めるのに良さそうな講座をいくつかピックアップしてみました。 オン
ChatGPT APIを使うためのWebUI（BetterChatGPT）を社内公開した話 - LIVESENSE ENGINEER BLOG
これは LIVESENSE madeブログ 4月のお題 の参加記事です。 データプラットフォームグループの富士谷です。 ChatGPTのAPIの提供とポリシーの改変から、はや1ヶ月半くらい経ちました。弊社でも、ChatGPT（OpenAI API）を使った機能を開発し、転職会議や面接支援ツールのbatonnで、すでにリリースしています。 転職口コミサイト『転職会議』、ChatGPTのAIを活用した企業口コミの要約情報を提供開始 | 株式会社リブセンス 【業界初】面接最適化クラウド『batonn』、「ChatGPT」のAIを活用した面接内容の要約機能をリリース | 株式会社リブセンス 転職会議については、開発の裏側もブログで公開しています。 made.livesense.co.jp APIを使った機能開発や業務効率化は今後も模索していきたいと考えています。 重要なのは、各々がどのように使える
Amazon QのVSCode拡張のはなし Amazon Qが発表されましたね。ChatGPT的なやつ。 クラメソさんの記事を貼っておきます。 個人的には、日本語にも対応してないしChatGPTで十分では？と思いました。 そう思ったのですが、、、 VSCodeを開いたらAmazon Qの拡張が来てる！！ので試してみました。 単独の拡張機能ではなくAWS Toolkitの中に入っています。 使用するにはAWS Builder IDでログインが必要です。通常のAWSアカウントとは別の開発者向けのIDで、CodeWhispererやCodeCatalystを使ったことがある人以外は持っていないかもしれません。その場合は新規作成しましょう。 使い勝手はCopilot Chatとあまり変わらない感じです。コードを選択して、解説やリファクタやバグ修正をしてくれます。普通にチャットすることもできます。
ChatGPT - Wikipedia
ChatGPT（チャットジーピーティー、英語: Chat Generative Pre-trained Transformer）[1]は、OpenAIが2022年11月に公開した人工知能チャットボットであり、生成AIの一種。 GPTの原語のGenerative Pre-trained Transformerとは、「生成可能な事前学習済み変換器」という意味である[2]。OpenAIのGPT-3ファミリーの大規模な言語モデルに基づいて構築されており、教師あり学習と強化学習の両方の手法を使って転移学習され、機械学習のサブセットである深層学習を使って開発されている[3]。 概要 2022年11月30日にプロトタイプとして公開され、幅広い分野の質問に詳細な回答を生成できることから注目を集めた。しかし、人間が自然と感じる回答の生成を特徴としていることから、一見自然に見えるが事実とは異なる回答を生成する
TechCrunch
OpenAI, maker of the viral AI chatbot ChatGPT, has netted another news licensing deal in Europe, adding London’s Financial Times to a growing list of publishers it’s paying for content acc
本記事は、Gunosy Advent Calendar 2020 8日目の記事です。 前回の続きとなります。 tech.gunosy.io 今回は後編として、実際にEKSクラスター構築の途中からアプリをデプロイする環境を整える流れをご案内し、最後に運用管理フェーズで必要となるであろうオススメ監視設定についてご案内します。 クラスター構築・後編（kube-system） アプリのデプロイ編 Helm Skaffold 監視運用編 アラート設定 cloudawach datadog dashboard さいごに クラスター構築・後編（kube-system） さて、EKSクラスターとASGも用意できたので、ここから作り込みを行っていきます。 まずはkube-system環境を整えていきましょう。 用途に応じて必須なものとそうでないものがあります。それぞれ表でまとめます。 対象 要否 メモ cl
Web LLM Llama 2 7B/13B are now available in Web LLM!! Try it out in our chat demo. Llama 2 70B is also supported. If you have a Apple Silicon Mac with 64GB or more memory, you can follow the instructions below to download and launch Chrome Canary and try out the 70B model in Web LLM. Mistral 7B models and WizardMath are all supported! This project brings large-language model and LLM-based chatbot
Security-JAWS 第17回レポート #secjaws #secjaws17 #jawsug | DevelopersIO
Security JAWS 第17回のレポートです。AWSを使うときに最初にやる初心者向けの話もあり、ガッツリ深い話もありな回でした！ こんにちは、臼田です。 Security JAWS 第17回が開催されましたのでレポート致します。 Security-JAWS 【第17回】 勉強会 2020年5月29日(金) - Security-JAWS | Doorkeeper レポート Session0: アマゾン ウェブ サービス ジャパン株式会社 沼口 繁さん「本日のライブ配信環境ざっくりと」 JAWSといえばオフラインだった 最初はセミナールームで 第2形態としてセミナールームを使ってAmazon Chimeを利用して配信 第3形態では人数制限を超えるためにTwitchを使った 2019年1月からはAWSJのエキスパートのオンライン配信をやっていた 第4形態OBS Studio + Twit
イーロン・マスク氏によって設立されたAI企業のxAIが2023年11月4日に、独自の言語モデルである「Grok」を発表しました。xAIはGrokを、「SF小説『銀河ヒッチハイク・ガイド』にインスピレーションを受けた、ちょっとしたウィットと生意気な一面を持つAI」としています。 Announcing Grok https://x.ai/ Elon Musk releases new AI chatbot ‘Grok’ in bid to take on ChatGPT https://www.ft.com/content/093cda92-91d8-49ff-8475-4f66ccff137b Elon Musk debuts 'Grok' AI bot to rival ChatGPT, others https://www.cnbc.com/2023/11/05/elon-musk-de
AWS Control Tower Landing Zone3.0の変更内容と詳細解説 - NRIネットコムBlog
こんにちは、上野です。 AWS Control TowerのLanding Zone 3.0がリリースされました。 変更内容が多いですが、ざっくりまとめると以下のとおりです。 組織レベルのAWS CloudTrail証跡が設定可能になった CloudTrailの設定をControl Towerからオプトアウト可能になった（オプトアウトした場合は独自で設定する必要あり） CloudTrailで各アカウントに出力されていたCloudWatch logsは、マネジメントアカウントに集約される CloudTrailアップデートに伴い、Control Towerが管理するIAMポリシーAWSControlTowerServiceRolePolicyの内容変更 AWS Config のグローバルリソースの記録がホームリージョンのみに変更 リージョン拒否ガードレールの変更（許可対象グローバルサービスの追
TechCrunch
OpenAI, maker of the viral AI chatbot ChatGPT, has netted another news licensing deal in Europe, adding London’s Financial Times to a growing list of publishers it’s paying for content acc
AWS Chatbot を使って AWS Personal Health Dashboardの通知をいい感じにSlackに通知する - クラウドワークス エンジニアブログ
みなさんこんにちは。SREチームの @kangaechu です。 8月23日に発生したAWSの障害は大丈夫でしたでしょうか？弊社のサービス crowdworks.jp は障害が発生したAZを使用していたものの、幸いにもサービス停止などの大きな被害を受けることなく乗り切ることができました。でも心臓にはよくないですね。 そんな障害時にも活躍するのがPersonal Health Dashboardです。 Personal Health Dashboardは自分のAWSアカウント上のリソースに影響する障害や、ハードウェアメンテナンスなどの対応が必要なイベントをお知らせしてくれる機能です。 AWSマネジメントコンソールの上部に表示されている🔔のアイコンですね。 AWS Personal Health Dashboard Personal Health Dashboardは便利なのですが、AWSマ
「Google Colab」で「FlexGen」を試したのでまとめました。 【注意】「OPT-30B」のチャットデモを実行するには、「Google Colab Pro/Pro+」の「プレミア」の「ハイメモリ」と、300GBほどのGoogleドライブが必要です。 1. FlexGen「FlexGen」は、限られたGPUメモリ (16GB T4 または 24GB RTX3090など) で大規模言語モデルを実行するための高スループット生成エンジンです。 大規模言語モデル (LLM) は、ChatGPTやCopilotなどのアプリケーションのコアになりますが、LLM推論の計算とメモリの要件が高いため、従来では複数のハイエンドアクセラレータを使用した場合にのみ実行可能でした。「FlexGen」は、LLM推論のリソース要件を1つのコモディティGPU (T4、3090など) にまで下げ、さまざまなハード
","chat_template":[{"name":"default","template":"{{ bos_token }}{% if messages[0]['role'] == 'system' %}{% set loop_messages = messages[1:] %}{% set system_message = messages[0]['content'] %}{% elif false == true %}{% set loop_messages = messages %}{% set system_message = 'You are Command-R, a brilliant, sophisticated, AI-assistant trained to assist human users by providing thorough responses. You
「ChatGPT Meetup」は、プロンプティングからOpenAI API、さらには周辺のライブラリやHubのエコシステムまで広く活用の助けになる知見を共有し、みんなで手を動かして楽しむためのコミュニティです。1回目に登壇したのは、株式会社ABEJAの村主壮悟氏。サーバー管理にChatGPTを活用した時の取り組みについて発表しました。 ABEJA社・CTO室 室長の村主氏 村主壮悟氏：「ノーコードとChatBotで遊んでいたら、ReActを実装しそうだった話」をしたいと思います。 ABEJAの村主と申します。ABEJAで6年ぐらい働いています。CTO室室長をしたり、Insight for Retailのマネージャーとしてでリテールの領域の話をしたり、プラットフォームの「ABEJA Platform」というMLOpsの基盤の責任者とか。セキュリティマネジメントをやっています。AWSの本を書
Google の FLAN-20B with UL2 を動かしてChatGPT APIのように使ってみる！ - Qiita
Google の FLAN-20B with UL2 を動かしてChatGPT APIのように使ってみる！言語モデルflanUL2YiTay こんにちは！逆瀬川 ( https://twitter.com/gyakuse )です！ 今日は昨日公開されたFLAN-20B with UL2を使ってChatGPT APIのように会話をしてみたいと思います。 概要 Google BrainのYi Tayさんらが開発した新しく公開された言語モデルのFLAN-20B with UL2を使ってChatbotみたいな対話をしてみるテストです。 翻訳を組み合わせて実現します。デカ言語モデルが手元で動いてめちゃくちゃ嬉しさがあります。 Google Colab Colab ProのプレミアムGPUでないと動きません 使い方 ランタイム > ランタイムのタイプを変更からGPU / プレミアムとする A100 4
バグバウンティにおける JavaScript の静的解析と動的解析まとめ - blog of morioka12
1. 始めに こんにちは、morioka12 です。 本稿では、バグバウンティなどの脆弱性調査で行う、JavaScript の静的解析と動的解析についてまとめて紹介します。 1. 始めに 免責事項 想定読者 検証環境 静的解析と動的解析 2. 静的解析 (Static Analysis) 2.1 JavaScript File の URL を収集する getJS hakrawler getallurls (gau) 2.2 エンドポイントを列挙する LinkFinder xnLinkFinder katana jsluice endext 2.3 シークレット情報を検出する SecretFinder jsluice Mantra trufflehog 2.4 潜在的な脆弱性情報を検出する Retire.js ESLint 3. 動的解析 (Dynamic Analysis) DevTool
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
TechCrunch | Startup and Technology News
Mac用ChatGPTクライアント「MacGPT」のiPhone版となる「GeePeeTee」アプリがリリース。
LangChain v0.1 クイックスタートガイド - Python版｜npaka
Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Quality | LMSYS Org
グーグル、どんな会話もできる「最高」のチャットボットを発表
2024年は、ChatGPTがExcelやWordのような位置付けになる？ 生成AIの専門家が予想する、ビジネスパーソンの「使えて当たり前」のスキルの変化
Inside GitHub: Working with the LLMs behind GitHub Copilot
人気急増のBingが利用しているAIは「GPT-4」だったとMicrosoftが明かす
チャエン | 重要AIニュースを毎日発信⚡️ on Twitter: "GPT-4搭載の投資分析ChatBot「ウォーレン・バフェットAI」を作成する猛者が現るww Teslaの年次報告書を約1000P読み込ませて独自のChatBotを作成した模様 理論上、全ての上場企業決算書を読み込ませたら最強の投資AIが完成 時間の問題で出てきそう ご丁寧に作り方動画やコードも公開してます↓ https://t.co/xTuYn1kcSK" / Twitter
IAMユーザーのアクセスキー作成を簡単に通知して敏感になる - NRIネットコムBlog
Open challenges in LLM research
Amazon QはVSCodeの拡張機能から使うのが良さそう
ゼロから始めるEKS事始め（後編） - Gunosy Tech Blog
WebLLM | Home
イーロン・マスクがChatGPTのライバルAI「Grok」を発表
Google Colab で FlexGen を試す｜npaka
CohereForAI/c4ai-command-r-plus · Hugging Face
SlackとChatGPTの連携でサーバー管理が楽になるのでは？ ノーコードで作る中で感じた可能性