はてなブックマーク

This site is also available in English. Read in EnglishContinue in Japanese その日のあらすじ 三つのサービスをAIエージェントと開発してきた半年分の記録から、実際に壊れた事故と、そのとき足した対策を集めました。並べ直して分かったのは、壊れやすさを分けていたのが作業の難しさではなく、三つの条件だったことです。三つとは、後から戻せる作業かどうか、出来た成果を人手を借りずに確かめられるかどうか、そしてAIに必要な文脈が届いていたかどうか、です。この記事では、条件ごとに実際の事故と対策を見て、三つが同時に悪いときに何が起きたか、外部の研究がこの見分け方をどう裏づけているか、そしてこの見分け方が届かない領域まで書きます。 三つの条件で、壊れやすさが見分けられた なぜある作業はAIに任せてもすんなり終わり、ある作業は任せたせい