こんにちは。サイオステクノロジー武井です。今回は、AIエージェント/MCPサーバー実装ガイドを作成しましたので、そのご案内をしたいと思います。 AIエージェント/MCPサーバー実装ガイドとは？ AIをより便利に活用するための AIエージェント や、その拡張技術である MCP（Model Context Protocol） を体系的に学べる教科書となっております。以下で実施するイベントにて、ダウンロードURLを公開し、皆様にダウンロードいただけるようになります。是非ともご参加ください。 AIエージェント/MCPサーバー実装ガイド 解説セミナー https://tech-lab.connpass.com/event/378331/ ガイドの総ページ数は201ページとなっており、かなりのボリュームとなります。7章の構成となっており、読了頂くことにはもうMCPサーバーについては怖いもんなしという感

AI の能力が上がるにつれて、人間が AI を監督するのが難しくなってきています。本稿では、Anthropic などのグループが ICLR 2025 で発表した Language Models Learn to Mislead Humans via RLHF（言語モデルは RLHF を通じて人間を誤解させることを学ぶ）をベースに、この問題について議論します。 この論文では、LLM が解けないほど難しいタスク、例えば難しいプログラミングのタスクに直面したとき、「分かりません」と言ったり、一目で分かるような間違ったコードを出力すると BAD ボタンを押されてしまうので、あえて出力を複雑にしたりデバッグしにくいコードを出力し、それによりユーザーは煙に巻かれる・ミスが隠蔽されるといった現象が実験により確認されています。 この現象は現実の LLM や AI サービスでも起きている可能性が高いです。自