[B! security][AI] kasahiのブックマーク

AI裏垢女子に気を付けろ(ディープフェイクで裏垢動画を作ってみた)｜山野祐介

私事ですが、骨折して２か月ほど半寝たきり＆半引きこもり生活をしていました(動かな過ぎて痔になった)。なので連載以外は全く何もせず過ごしていたんですが、若干余裕が出てきたのでリハビリがてらnoteで好きなことを書きますで……久々にXを見て「おすすめ」タブに表示されていた裏垢女子を一度見たら、それからずっと出てくるようになってしまった。裏垢女子というのは、一般的には性的な内容のポストや画像の投稿をあけすけに行い、会って性行為に及ぶのもやぶさかではない……みたいな女性ユーザーのことを指すが、体感では純粋に性的な出会いを求めている人は0.2%くらいではないかと思う。残りの99.8%は・「ここで連絡先交換してます♥」とか言われて詐欺の出会い系(会えることや資金譲渡をエサに入金を何度もせびられる)に誘導される・DMで交通費やホテル代などの名目で「PayPayやAmazonギフト券をくれたら会

kasahi 2024/05/14

リンク

【知財・個人情報】ChatGPTをビジネスに利用する際の注意点 ['23/4/11] - Qiita

OpenAI利用規約まず、OpenAIが提供するサービス（ChatGPTおよびOpenAI API）の利用規約を確認します。３. Content (a) Your Content. You may provide input to the Services (“Input”), and receive output generated and returned by the Services based on the Input (“Output”). Input and Output are collectively “Content.” As between the parties and to the extent permitted by applicable law, you own all Input. Subject to your compliance with the

kasahi 2023/05/14

リンク

プロンプトインジェクション対策｜ChatGPT APIのLINEボットを一ヶ月運用して戦った記録 - Qiita

ChatGPTのチャットボットを安全に運用する方法プロンプトインジェクションは、不適切な文字列や悪意のあるコードを含むプロンプトがChatGPTに送信されることで発生するセキュリティ上の懸念です。 2023/04/11現在、LINEボットとして公開されている多くのサービスでプロンプトインジェクション対策がなされていないようです。この記事では、プロンプトインジェクション対策の背景や具体的なプロンプトの例を紹介し、ChatGPT APIを安全に利用する方法を説明します。背景 ChatGPT APIは、OpenAIが開発した大規模な言語モデルで、自然言語処理のタスクを実行するために利用されます。しかし、APIを利用する際にはセキュリティ上の問題が生じることがあります。プロンプトインジェクションはその一例で、攻撃者が意図的に悪意のあるプロンプトを送信することで、システムやユーザーに悪影響を与え

kasahi 2023/04/17

リンク

セキュリティ担当者がChatGPTの業務利用方針を検討するうえでの留意点

目次[非表示] 1.はじめに 2.AI関連の指針・原則・ガイドラインの動向 2.1.国内における分野横断の主なAI関連の指針・原則・ガイドライン 3.ChatGPTの業務利用に関する動向 3.1.ChatGPT等の業務利用を推進する企業様のニュース 3.2.ChatGPTの業務利用を制限・禁止する企業様のニュース 3.3.AIサービスの業務利用に関するガイドライン策定のニュース 4.ChatGPTのプライバシーポリシーと利用規約における留意点 4.1.情報漏えい 4.2.情報の正確性 4.3.参照 5.ChatGPT Web版の業務利用における情報セキュリティ上の留意点のまとめ 5.1.情報漏えい 5.2.情報の正確性 6.まとめはじめに昨今、ChatGPTに関する話題に注目が集まるなか、「業務利用」について検討される企業様が増加しています。実際に、クラウドリスク評価「Assured（ア

kasahi 2023/04/13

リンク

ChatGPTの利用を社内で許可すべき？　懸念される情報漏えいリスクとは

米OpenAIが発表した高性能対話AI「ChatGPT」。2022年末のリリース以来、関連記事をネット上で目にしない日はないと言っても過言ではないだろう。3月14日には、次世代大規模言語モデル「GPT-4」も登場。ChatGPTでも有料会員向けに提供を始め、さらなる盛り上がりを見せている。一方で、ChatGPTの利用禁止に踏み切る企業も少なくない。例えば、米国の金融大手のJPモルガン・チェースは従業員のChatGPT利用を制限した。同じく米国のバンク・オブ・アメリカでも利用が禁止になったと報道があった。同社のブライアン・モイニハンCEOは、金融業界でこの種のテクノロジーを解禁するためには「いくつかすべきことがある（some work to do）」と発言したという。 OpenAIと米ペンシルベニア大学の研究者らは17日、「GPTはGPT：LLMの労働市場への影響の可能性に関する初期の考察

kasahi 2023/04/02

リンク

ChatGPTを安全に利用するための攻撃への理解と対策のベストプラクティス | DevelopersIO

はじめに ChatGPTはAIですが、人間と同じようにコミュニケーションをしますので、トラブルについても人間と同様に考えることで、事前に回避や軽減できるかもしれません。OpenAIのドキュメントには、ChatGPTを安全に使うためのベストプラクティスが公開されていますので、本記事では、まず始めに安全にChatGPTを利用する方法について紹介し、次にプロンプトインジェクションを踏み台としたシステムへの攻撃手法について紹介します。最後に、それらの対策について紹介します。 3行まとめプロンプトインジェクションの種類と対策について把握する既存のシステムへの攻撃手法と対策について把握する使い方を正しく理解してどんどん使って行きましょう安全にChatGPTを利用するためにできることをする Moderation APIを利用する OpenAIには、無料で使えるModeration APIが提供さ

kasahi 2023/04/02

リンク

はてなブックマーク

タグ

関連タグで絞り込む (7)

securityとAIに関するkasahiのブックマーク (6)

お知らせ

今週のはてなブックマーク数ランキング（2024年9月第4週）

今週のはてなブックマーク数ランキング（2024年9月第3週）

今週のはてなブックマーク数ランキング（2024年9月第2週）

公式Twitter

キーボードショートカット一覧

はてなブックマーク

公式Twitter

はてなのサービス