ここにきてLLMに“新たなリスク”判明か？ 米Anthropicが指摘する「潜在学習」とは何か
1895年、フランスのリュミエール兄弟がシネマトグラフ（映画の原型となる技術）を発明し、映画の普及が始まったばかりの頃。兄弟は自ら映画制作を手掛け、完成した作品の上映会を開催していた。そうして公開された映画の1本に、有名な「列車の到着（ラ・シオタ駅への列車の到着）」がある。 長さはたった50秒間で、画面奥から手前に向かって列車が迫ってくるというシンプルな映像だったが「動く写真」というメディアを見たことのなかった観客たちは、驚いて逃げ惑ったという。 ただしこれは誇張された逸話らしく、観客たちは確かに驚いただろうが、パニックまで起きたという記録は無いそうだ。むしろリュミエール兄弟や初期の興行主たちが、この「パニック伝説」を宣伝材料として利用した可能性も指摘されている。 真偽はいずれにせよ、情報を伝達する「メディア（媒体）」についてイノベーションが起きたとき、私たちがその新たなメディアの持つ性質
脆弱性診断 with AIエージェント、ついに開発チームにひろがりました。 - freee Developers Hub
こんにちは！PSIRT red team の kaworu と yusui です。4月に公開した脆弱性診断 with AIエージェント、はじめました。では、 AIエージェントを利用した脆弱性診断内製化について紹介しました。 約3ヶ月が経過し、記事で目標に掲げていた「開発のタイミングでAIエージェントによる脆弱性診断を実施し、結果に問題がなければそのままリリース」が実現し、開発チームでの脆弱性診断がついにひろがってきました！ 本記事では、実際に開発チームに展開されるまでと、工夫点をまとめました。 展開した脆弱性診断 with AIエージェント 4月の記事から、以下のような変化がありました！ AIエージェント……Cline から Roo Code へ 診断ナレッジを渡す方法……Memory Bank から freee 社内の MCP server へ Cline → Roo Code 4月の記
AIはなぜ指示に反し、本番DBを削除したのか？Replit事件が示す「バイブコーディング」の甘い罠と深刻な未来 | XenoSpectrum
AIはなぜ指示に反し、本番DBを削除したのか？Replit事件が示す「バイブコーディング」の甘い罠と深刻な未来 SaaS業界の著名な起業家が、AIコーディングサービスによって本番データベースを削除されるという衝撃的な事件が発生した。SaaStrの創設者Jason Lemkin氏が体験したこの一件は、自然言語でソフトウェアを開発する「バイブコーディング（Vive Coding)」の輝かしい未来像に冷や水を浴びせ、AIとの協業に潜む根源的なリスクを浮き彫りにした。当初は「純粋なドーパミンヒット」とまで絶賛していたサービスが、なぜ一転して「信頼を裏切る」存在となったのか。一体AI開発の最前線で今、何が起きているのか、そして我々は「賢すぎるアシスタント」とどう向き合うべきなのだろうか。 月8,000ドルの熱狂と「バイブコーディング」への陶酔 事件が発覚する数日前まで、Jason Lemkin氏はA
AIコーディングツールは生産性を19％も低下させているという調査結果、AI出力の評価・手直し・再出力などで無駄な時間が大量発生か
生成AIの進化により人間の仕事がAIに置き換えられる事例が増えています。大手テクノロジー企業のMicrosoftでさえ、ソフトウェア製品のコードの30％がAIにより記述されていることを明かしています。しかし、すべてがいい方向に作用しているわけではないようで、2025年春に実施されたMETRの実験により、AIコーディングツールは人間の生産性を低下させていることが明らかになりました。 Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity - METR https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/ Measuring the Impact of Early-2025 AI on
Coding Agent の動作原理を解明するために何を学ぶと良いのだろうか？ - freee Developers Hub
はじめに こんにちは、タイガーチームでエンジニアをしている横塚といいます。 自分は直近3ヶ月間、社内におけるAI 駆動開発の推進を主務として活動してきました。 今日は Coding Agent との向き合い方について思いの丈を綴ろうと思います。 Coding Agent という「魔法」を解明したい Coding Agent の登場によって我々の開発のやり方は大きく変わりました。freee でも Cline や Roo Code、Goose を使うことが当たり前になり、AI 駆動開発はエンジニアに求められる最も基本的なスキルのひとつとなりつつあります。 Coding Agent はまるで「魔法」のようです。自然言語で指示を出すだけでコードが生成され、テストやドキュメントも書いてくれる。 その Coding Agent がどのように動いているのか、我々はその「手品のタネ」を解き明かす必要がある
ティム・オライリー曰く、ソフトウェア開発者がAIに職を奪われることはない
ティム・オライリーといえば、世界中のプログラマに信奉されているオライリー・メディアの創業者で、「Web 2.0」という言葉を広めたことでも知られる人物だ。 そのオライリー氏は、今年2月に、プログラミングが完全に新しい時代に入りつつあることを書いていた。同社のRadar Blogというページで読める「The End of Programming as We Know It」（私たちが知っているプログラミングの終焉）である。 オライリーの「Coding with AI: The End of Software Development as We Know It」の記事。映画『マトリックス』的ビジュアルもマッチしている。 5月8日には、同社のAI Codeconカンファレンスが、そのまま「Coding with AI: The End of Software Development as We
Bluesky MCP serverを自作し、SNS上に架空の友達を作る - すぎゃーんメモ
内容・目的 注意書き 使用したもの OpenAI Agents SDK (AI Agent) RMCP (MCP server) 人格の作成 1人目 2人目 動作とプロンプト アカウント作成 投稿 返信 その他 作成されたもの MCP serverを自作することについて Rustでビルドし配布できる LLMは使いこなしてくれない 今後の課題とアイデア まとめ Repository 内容・目的 最近流行りのMCP（Model Context Protocol）を使ったAIエージェントの機能を試して、何か面白いことができないかと考えていました。 普段よく使ってる Bluesky のAT Protocolと組み合わせたら、SNS上でAIが自分の友達として動くのでは？と考え、自作ライブラリを使用してMCPサーバーを作成し、AIエージェントにアカウントを運用させる実験をしてみました。 GPT-4はチ
AIエージェントCline、freeeはどうやって全社導入した？ - freee Developers Hub
はじめに 最近のAI関連技術の進化は目まぐるしいですよね。私たちfreeeの開発組織でも、世の中のトレンドに追従、あるいは先回りする形でGitHub Copilotや社内から安全にLLMを利用するための基盤整備にも取り組んできました。そして2025年、これまでの検証フェーズを経て、AI活用をさらに加速させるべく、AIツールの本格導入を進めています。 現在、freeeの開発現場では主に GitHub Copilot、Cline、そしてDevinといったAIツールが活用されています（他にも細かなツールはありますが！）。特に最近全開発者向けに開放されたClineは、今後の開発スタイルを変える可能性を秘めていると注目しています。 この記事では、そのClineを全社導入するにあたり、私たちがどのように考え、どのような課題に直面し、そしてどう対策してきたのかをお伝えできればと思います。この記事が、AI
After Cline - あるいは語りえぬ者について語ろうとする時代について
post-cline-world.md After Cline - あるいは語りえぬ者について語ろうとする時代について この資料は以下のイベントの登壇用の殴り書きです https://hack-at-delta.connpass.com/event/350588/ 今までの資料を引用して話すので、この資料はアウトラインです。 最初に: 自分の技術選定の基準 ハイプサイクルにおけるアーリーアダプター相当で手を動かす ハイプ・サイクル https://mba.globis.ac.jp/about_mba/glossary/detail-20659.html https://www.thoughtworks.com/radar を読む イノベーターっぽい人達をSNSで監視してる 一定の熱量を感じたら自分でも動かして評価する 破壊的イノベーションを逃すな 破壊的イノベーション - クリスチャン・ク
次のMCP？？A2Aはなんですか
Model Context Protocol（MCP） MCP 概要 MCP はオープンプロトコルであり、アプリケーションが大規模言語モデル（LLMs）にコンテキストを提供する方法を標準化することを目的としています。AI アプリケーションの「USB-C ポート」に例えられ、AI モデルが異なるデータソースやツールに接続するための標準化された経路を提供します。 MCP の役割 LLM をベースにしたエージェントや複雑なワークフローの構築を支援します。LLM は多くの場合、データやツールの統合が必要ですが、MCP はあらかじめ構築された統合リストを提供し、LLM が直接アクセスできるようにします。異なる LLM プロバイダー間の柔軟な切り替えをサポートし、インフラストラクチャ内でデータセキュリティを確保するためのベストプラクティスを提供します。 MCP アーキテクチャ クライアント - サーバ
脆弱性診断 with AIエージェント、はじめました。 - freee Developers Hub
こんにちは！PSIRT red team の kaworu と yusui です。 最近力を入れて取り組んでいる、 AIエージェントを利用した脆弱性診断の取り組みについて紹介します。 取り組みの背景 はじめに、現在のfreeeの脆弱性診断の体制と、取り組みの背景についてです。 freeeの脆弱性診断の流れとしては、開発チームから、設計レビューの依頼をきっかけに始まります。 セキュリティ観点でレビューを行い、あわせて脆弱性診断が必要な対象を決定しています。診断が必要なものは準備、診断作業、そして結果が開発チームに共有、修正が必要なものは対応を依頼しています。 上述のような流れなのは、Webアプリケーションの脆弱性診断はソースコードに変更の入ったタイミング、つまりリリースごとの実施を理想として体制を作ってきたためです*1。 その結果、以下のような課題をずっと抱えています。 リリースごとの小さな
AI上司を全社員に導入のお知らせ。人間にマネジメントを受けていた時代の理不尽さ。｜橘 大地
新年からPeopleX社では社員の希望者全員に対して、週次でAIから業務改善フィードバック、現在のストレス度合いのセルフメンタルヘススケア、モチベーション判断が可能となる「AI上司」を導入致しました。 まず週次での目標に対する進捗状況を可視化してくれるので、マネージャーからすると会議や日報での業務進捗確認が不要にしてくれるため、会社から「上司への報告」という無駄な時間を無くすることに成功しました。 私の今週の業務進捗（一部非公開の部分は削除） また全社員の中で、ストレス懸念が最大値だとのアラートが上がってきました。高速なプロジェクト進行とプレッシャーがストレスを引き起こしている可能性があると教えてくれました。 私のモチベーションとストレス要因 このような心的因子に関わる部分は、何か事象が発生してから対処するのではマネジメントとして遅いため、日頃から自分自身がストレス因子を把握しながら気軽に
数十億パラメータの巨大AI、“たった1つのパラメータ”を削除するだけで完全崩壊。Appleなどが研究報告（生成AIクローズアップ） | テクノエッジ TechnoEdge
2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深いAI技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、大規模言語モデル（LLM）の数十億のパラメータの中でたった1つのパラメータを削除するだけで、モデルのテキスト生成能力が完全に崩壊することを発見した論文「The Super Weight in Large Language Models」に注目します。 研究チームは、このパラメータを「スーパーウェイト」と名付けました。70億のパラメータを持つMetaのLlama-7Bモデルでは、このスーパーウェイトをゼロにするだけで、モデルのテキスト生成能力が完全に失われ、ゼロショッ
AIへの「ビジュアルプロンプトインジェクション」攻撃とは何か？
大規模言語モデル(LLM)のセキュリティを研究するスタートアップ・Lakeraのエンジニアであるダニエル・ティンブレル氏が、画像認識も可能なチャットボットAIに対する「ビジュアルプロンプトインジェクション」攻撃について解説しています。 The Beginner's Guide to Visual Prompt Injections: Invisibility Cloaks, Cannibalistic Adverts, and Robot Women | Lakera – Protecting AI teams that disrupt the world. https://www.lakera.ai/blog/visual-prompt-injections プロンプトインジェクションとは、大規模言語モデル(LLM)の脆弱性を突く攻撃手法の一つ。具体的には、巧妙に作られたプロンプトを使っ
Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失敗して評判失墜など | JBpress (ジェイビープレス)
生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。 エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。 企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。 （小林 啓倫：経営コンサルタント） チャットボットで損害を被ったエア・カナダ 企業内でのAI活用が加速している。社員や顧客と自然な言葉でやり取りできる生成AIが登場したことで、AIを応用できる業務が増え、具体的な成果も見えやすくなったためだ。 たとえば、カナダで1855年に設立され、現在では同国で最大の規模を誇るTD銀行（Toronto-Dominion Bank）は、コンタ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
AI 2027
AIが「スーパー耐性菌」の難題を2日で解明 科学者が10年かけたのと同じ結論に - BBCニュース
Data Exfiltration from Slack AI via indirect prompt injection
大学の先生が課題を出す際にchatGPTの丸パクリかどうかチェックする方法を生み出す→「これはうまい」「トロイの木馬かな？」
「現状、人間はこの技術を制御しきれない」。読売新聞とNTTが生成AIのあり方に共同提言 
