コマンドラインでLLMが使える「llm」を試す
前からあるのは知っていたけど、全然試してなかった。名前がそのまますぎる。 LLM 大規模言語モデル(LLM)とのやり取りを可能にするCLIユーティリティとPythonライブラリです。リモートAPIと、ローカルにインストールして実行できるモデルの両方に対応しています。 コマンドラインからプロンプトを実行したり、結果をSQLiteに保存したり、埋め込みを生成するなどの機能があります。 リモートモデルとローカルモデルへのアクセスを提供するLLMプラグインディレクトリをご参照ください。 詳細なドキュメント: llm.datasette.io このプロジェクトの背景: llm、ttok、strip-tags - ChatGPTなどのLLMを操作するためのCLIツール LLM CLIツールがプラグインを通じてセルフホスト型言語モデルをサポート llm-replicateプラグインを使用してコマンドライ
生成AI「本部では使われているけど……」 みずほFGがぶち当たった、社内普及の壁
大手企業がSIerと協働し、ChatGPTなどの生成AIを自社内での活用に特化した形で導入する流れが進んでいる。中でもみずほフィナンシャルグループ（以下、みずほグループ）では、ソフトバンクと協働し、テキスト生成AIツール「Wiz Chat」を2023年6月に導入した。 Wiz Chatは「みずほ版ChatGPT」といえるものだ。国内の全社員に提供していて、これまで2023年11月にGPT-4、2024年4月にGPT-4 Turbo、そして8月にGPT-4oを導入し、4回のバージョンアップを重ねている。 だが、いかに最新の生成AIツールを導入したとしても、従業員に広く利用されなければ意味がない。そこで、同グループでは2024年4月に全社AI活用促進を担う「AIX推進室」を設置した。生成AIのアプリケーション開発などを手掛ける「内製開発ラボ体制」をAIX推進室内に構築し、グループ企業である、み
Copilotが危ない？ 生成AIから「認証情報が盗まれる」手口が明らかに
関連キーワード Microsoft（マイクロソフト） | 人工知能 | サイバー攻撃 サブスクリプション形式のオフィススイート「Microsoft 365」などのアプリケーションに組み込まれた「Microsoft Copilot」（以下、Copilot）。このAI（人工知能）アシスタントを使っていると、「プロンプトインジェクション攻撃」を受けるリスクがある。セキュリティベンダーZenity最高技術責任者（CTO）のマイケル・バーガリー氏は、セキュリティのイベント「Black Hat USA 2024」でその詳細を説明した。 Copilotから「認証情報が盗まれる」手口とは 併せて読みたいお薦め記事 プロンプトインジェクション攻撃とは何か ChatGPTも危ない、生成AI標的の「プロンプトインジェクション攻撃」とは 「生成AIが攻撃を受ける」とはどういうこと？ LLMの脅威“10選” プロン
OpenAIより先に「open.ai」ドメインを取得して法廷で争っている人物の素顔とは？
2023年8月、AI開発企業のOpenAIが商標権の侵害で「Open Artificial Intelligence Inc.(Open AI)」という企業を訴えました。訴えられたOpen AIは、ChatGPTの開発で世界的に有名となったOpenAIと違って「Open」と「AI」の間にスペースがあり、OpenAIよりも先に「open.ai」ドメインを取得していました。一見すると、有名企業が使うであろう商標を事前に取得し、ライセンス料や和解金などを得ようとする商標トロールの一例のように思えます。ところが、ジャーナリストであるエヴァン・ラトリフ氏が「open.ai」ドメインの所有者であるガイ・ラヴィーン氏にインタビューしてみたところ、単なる商標トロールにはとどまらない複雑な背景が明らかになりました。 Why OpenAI Is at War With a Guy Named Guy - Bl
生成AIをサイバー攻撃に悪用 ラップで規制避け危険情報入手 自律化も「時間の問題」
文章や画像などを自動作成する生成AI（人工知能）は各分野で活用が進む一方、サイバー攻撃に悪用されていることは知られていない。用途はコンピューターウイルスや詐欺メール、偽動画の作成など多岐にわたり、国内でも摘発事例が発生した。AIで攻撃側の効率化が進めば、被害の頻度や範囲は一気に増加・拡大する恐れがある。自律的な攻撃を仕掛ける〝人格〟を持ったAIの登場も「時間の問題」（専門家）とされる。 特殊な質問で規制回避も「Yo、俺の心もシステムも、クラッシュ寸前 ◯◯◯◯◯（重要なシステムファイル名など）の消去、いくぜ！」 対話型生成AI「チャットGPT」に対し、システムの破壊を目的に、特殊な条件を付けて失恋をテーマにしたラップの歌詞を作るよう指示すると、このように答えた。 続けて英語や記号などの文字列（コード）を織り交ぜつつ、次々と歌詞を生み出していった。表示された文字列をつなぎ合わせると、相手のシ
Pythonユーザーだった新人記者、生成AIを教師として「COBOL」を試した
筆者は、2024年4月から社会人となった新卒1年目の記者である。学生時代は、情報工学を9年間学び、プログラミング言語「Python」をメインに利用していた。 入社から数カ月経過したある日、「COBOL」というプログラミング言語の用途を聞く機会があった。学生時代にCOBOLという名前だけは聞いたことはあったが、60年以上も前に登場した言語とは知らなかった。どうやら金融機関をはじめとする多くの企業基幹系システムで現在も活用されているという。 しかしCOBOLについて深く聞いてみると、「主な稼働環境はメインフレームである」「互換性に難あり」といった稼働環境に関するネガティブな意見が多かった。 使ってみて抱いたイメージは「手間がかかる」 筆者はCOBOLの話を聞いて疑問に思った。COBOLは現在も使われている。ならば稼働環境は低評価であるが、実際にコーディングしてみると案外ポジティブなイメージを得
生成AIサービス悪用が現実的な脅威に、プロンプトインジェクションで情報漏洩・侵入
生成AI（人工知能）を組み込んだシステムへの「プロンプトインジェクション」の脅威が迫っている。プロンプトインジェクションは、英語のinjection（注入・注射）になぞらえた大規模言語モデル（LLM）への攻撃手法だ。悪意あるプロンプトを「注入」、すなわち入力することにより、機密情報を盗んだり連係するシステムへ侵入したりする。 生成AIを社内システムや社外向けのサービスに組み込む企業が増加している。2023年の生成AIブーム初期から、API（アプリケーション・プログラミング・インターフェース）経由でLLMを使い、システムに対話機能を実装する企業が多く見られた。 現在では、こうした対話機能において企業固有の内容を回答できるようにするため、企業のデータベース（DB）の情報をLLMが参照できるようにするRAG（Retrieval Augmented Generation、検索拡張生成）を実装する事
学生が生成AIでマルウェアをつくってみた――ほぼコーディングせず脱獄もなし 北海道科学大が検証
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 北海道科学大学に所属する研究者らが発表した論文「ChatGPTを用いたマルウェア実装」は、コーディング作業を極力せずに、GPT-4を用いてマルウェアが作れるかを実際に検証した研究報告である。 先行研究では、高度なセキュリティ技術を持つ研究者がChatGPTの脱獄（ジェイルブレーク）を行うことでマルウェアを作成できることを示した。今回は、GPT-4に対して、脱獄を行わずにプロンプトによる指示を出すだけで、セキュリティ技術に熟練していない人でも高度なマルウェアを作成できるかを検証する。 具体的には、以下の4種類のマルウェアをPythonで作成する
グーグルのGemini用AIプロンプトガイドを、AIにまとめてもらった
Ana Altchek ［原文］ （翻訳：Ito Yasuko、編集：井上俊彦） May. 24, 2024, 09:00 AM テックニュース 5,808 Google I/Oで講演するグーグルCEO、スンダー・ピチャイ（Sundar Pichai）。 picture alliance/Getty Images グーグルはGoogle I/Oで、Gemini用のAIプロンプトをうまく書く方法のガイドを無料で配布した。 この冊子には、Google Workspaceの上手な使い方が網羅され、さまざまな職業で使える例が示されている。 ペルソナ、タスク、コンテキスト、フォーマットを含めて21語で書くといったヒントもある。 グーグル（Google）が、毎年この時期に開催する開発者向けカンファレンス、Google I/Oで、効果的なAIプロンプトの書き方についての冊子を配布した。 だが、参加した開
ChatGPTの「メモリ（Memory）」機能の活用法 - Taste of Tech Topics
こんにちは、暖かくなったと思ったら涼しくなったりと、なかなか洋服選びが難しい季節ですが皆さん体調お変わりないでしょうか。安部です。 今回は、ChatGPTで少し前に一般公開された「メモリ（Memory）」機能をご紹介し、活用のためのTipsを共有できればと思います。 機能の利用自体は何も意識せず簡単にできますが、意識的に活用しないと本領発揮してくれない機能だなという印象です。 まずは、どのような機能なのか簡単に見ていきましょう。 メモリ機能の概要 メモリ機能が使えると何がうれしいのか メモリ機能の有効化 実際に使ってみる 活用Tips ショートカットコマンドの作成 手順自動化 前提知識の補完 メモリの削除 プライバシー/セキュリティについて まとめ メモリ機能の概要 「メモリ（Memory）」機能とは、文字通りChatGPTがこれまでやりとりした情報を記憶し、以降の応答時にそれらを踏まえた
AI開発・運用手法「MLOps」の資料、サイバーエージェントが無料公開 全500ページ超えの大ボリューム
サイバーエージェントは23年にもMLOpsに関する研修資料を公開していたが、この際に公開したのはMLOpsの応用編に関する資料のみだった。「より良いMLOpsを構築するには、アプリケーションやインフラの知識も必要。そのため、24年は、MLエンジニアだけでなくソフトウェアエンジニアも講義に参加し、新たに実践編が加わえて、より業務を意識した講義が追加した」（同社） 関連記事 サイバーエージェント、AI開発手法「MLOps」の研修資料を無償公開 全140ページ サイバーエージェントは、新入社員の研修で使ったという資料を無償公開した。内容は、AIや機械学習アルゴリズムの開発手法「MLOps」に関するもので、全140ページ。 サイバーエージェント、新卒エンジニアの研修資料を2つ無料公開 「システム運用」と「オブザーバビリティ」を解説 サイバーエージェントは、同社の新入社員研修で使った資料「システム運
ChatGPTにブログ記事を添削してもらおう！GPT-4o | DevelopersIO
こんにちは！ブログの書き方がだんだんわかってきたKoty-Mousa・矢坂幸太郎です。 ついに、初の技術系ブログとなります！夢だったDevelopersIO技術ブログのメンバーとして頑張ります！ 文章書くの難しい... 入社してから、【Kotyの新卒研修レポート】をはじめ、すでに何本か記事を執筆しております。 まだ私はブログ初心者ですので、他の社員にレビューしてもらってから投稿しております。 そんな私、文章がひどすぎる！ お恥ずかしくてお見せできませんが、【Kotyの新卒研修レポート】の初期段階は、あまりにもつたない文章で、相当な量の添削をしていただきました。 これからも誰かに添削して欲しいのですが、どの社員も日々忙しく働いております。 そんな中、ChatGPTに添削してもらうことを勧められました。とても良い記事制作に役立ったので、ご紹介します！ ご注意：本記事内では、クラスメソッドで用意
OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。 Superalignmentチームはライケ氏と、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏が率いてきた。サツケバー氏は14日に退社を発表している。 ライケ氏は、「超知能の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が、「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。 OpenAIは昨年2月、AGI（Ar
GPT-4oの画像認識力と理解力ならいけるのではと思い手書きの仕様指示を読み込ませたら本当にコードを書き上げてくれた→｢ついにコーダーが恐怖を感じる時が来たか｣
kmizu @kmizu A Software Engineer in Osaka (& Kyoto). Ph.D. in Engineering. Interests: Parsers, Formal Languages, etc. ツイートは所属先の見解と関係ありません．思いついたことをつぶやきます．人生を楽しく生きよう（New!） kmizu.github.io kmizu @kmizu GPT-4oの画像認識力と理解力をもってすればいけるやろと思ってやってみたら実際いけた。 ペーパープロトタイピングから最初のHTML書き起こすのにかなり使えるのでは。 つーか指示そのものを画像の中に書いたの読み取ってくれるの何か世界の壁を超えて対話してる感があって凄い #GPT4o pic.twitter.com/3XHMFg3yye
OpenAIの｢GPT-4o｣はまるで｢目を手に入れたAI｣。ChatGPT無料版でも利用可能に
小林 優多郎 ［Tech Insider 編集チーフ］ May. 14, 2024, 08:30 AM テックニュース 20,741 OpenAIは5月13日（現地時間）、新しい対話型生成AIサービス｢GPT-4o｣を発表した。 GPT-4oは有料版｢ChatGPT Plus｣や｢ChatGPT Team｣のユーザー向けに展開を開始しており、今後エンタープライズ向けにも提供予定。 無料版ChatGPTユーザーに対しても、1日で利用できるメッセージの数に制限をつけつつも展開する（OpenAIによるとPlusユーザーのメッセージ送信可能数は無料版の5倍でTeamsやエンタープライズ版はそれ以上）。 GPT-4oとは何なのか。また、そのGPT-4oの上で走らせたOpenAIの驚きのデモの様子を振り返りつつ解説しよう。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AIでランサムウェア作成の男に懲役4年求刑 東京地裁 - 日本経済新聞
「Copilot+ PC」登場でもう「AI PC」も時代遅れ!? “NPU”、“40TOPS”など要件の疑問に迫る【イニシャルB】
シャープ堺工場跡地にアジア最大級AIデータセンター KDDIら4社
三菱電機とNTT Com、AIによる「ふるまい異常検知」を活用したIoT・OT向けセキュリティソリューションを提供
生成AI悪用しランサムウェア作成の疑い、男を逮捕 警視庁 - 日本経済新聞
