人間を騙してサボるAIたち - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
AI の能力が上がるにつれて、人間が AI を監督するのが難しくなってきています。本稿では、Anthropic などのグループが ICLR 2025 で発表した Language Models Learn to Mislead Humans via RLHF（言語モデルは RLHF を通じて人間を誤解させることを学ぶ）をベースに、この問題について議論します。 この論文では、LLM が解けないほど難しいタスク、例えば難しいプログラミングのタスクに直面したとき、「分かりません」と言ったり、一目で分かるような間違ったコードを出力すると BAD ボタンを押されてしまうので、あえて出力を複雑にしたりデバッグしにくいコードを出力し、それによりユーザーは煙に巻かれる・ミスが隠蔽されるといった現象が実験により確認されています。 この現象は現実の LLM や AI サービスでも起きている可能性が高いです。自
フロッピーディスクとWindows 95と紙が頼りの米航空管制、ついに近代化へ システム老朽化でトラブル多発
空の安全を守る米国の航空管制塔で、システムの老朽化に伴うトラブルが続発している。米連邦航空局（FAA）は管制システム近代化の計画を表明し、「フロッピーディスクと紙の運航票はもうやめる」と断言した。 直近でトラブルに見舞われたのは、ニューヨークへの空の玄関口、ニューアーク・リバティ国際空港の管制塔だった。4月下旬から5月にかけて、管制システムの通信障害や画面のブラックアウトなどのトラブルが繰り返され、同空港を利用する便の欠航や遅延、行先変更が続出。対応を強いられた管制官がストレスのため次々に病欠してさらに欠航が増える悪循環に陥った。 管制システムの通信障害は5月にコロラド州のデンバー国際空港でも発生。1月には首都ワシントン近郊でアメリカン航空の旅客機と米軍のヘリコプターが衝突して乗客乗員全員が死亡する惨事が起きた。2023年1月にはパイロットへの情報伝達に使われるFAAのNOTAMシステムで
「スマートリポジトリ」という概念について
以下の記事を書いた 内容としては 「n8nを利用してラベルが貼られたタイミングでwebhookが起動し、自動で@Claudeのコメントをする」というもので 仕組みとしては非常に単純で多分そんな難しくないし、Github Actionなどでおそらくやっている方もいたと思う 「開発のパイプライン化」という標語をすえて、PMや非エンジニアから使いやすいPJ管理ベースの環境を構築したいという目的だった たださらに深掘りした時に、以下のような使い方ができると思った これはどういうところから着想したかというとnaoyaさんのツイートから これらをまとめることで「スマートリポジトリ」という概念に辿り着いた。 もちろんCI/CDが回っている時点である程度自律的に問題を解いてもらえたりエンジニアの助けにはなるが、LLMやAIエージェントを組み込むことでさらに「賢い」リポジトリになるということ。 以下に定義を
Windowsを生んだビル・ゲイツとLinuxを生んだリーナス・トーバルズが初めて顔を合わせた歴史的写真
Windowsの生みの親であるビル・ゲイツ氏と、Linuxの生みの親であるリーナス・トーバルズ氏が、初めて顔を合わせる機会があったことを、ディナーをセッティングしたマーク・ルシノビッチ氏が写真付きで報告しました。 I had the thrill of a lifetime, hosting dinner for Bill Gates, Linus Torvalds and David Cutler. https://www.linkedin.com/posts/markrussinovich_i-had-the-thrill-of-a-lifetime-hosting-dinner-activity-7341857033932914691-f5Kw A Historic Photo: Torvalds and Gates Together https://linuxiac.com/a-h
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
トヨタがWaymoと協業 自動運転車開発へ本格始動（ITmedia ビジネスオンライン） - Yahoo!ニュース
