マルチスレッド・プログラミングの落とし穴、その２

ずいぶん前に、「マルチスレッド・プログラミングの落とし穴、その１（かもしれない）」というエントリーを書いたが、今回はPhotoShareサーバーを運営していて、まさにこのあたりの深い考察が必要になって来たので、良い機会なので続編エントリー。 PhotoShareのバックエンドのようにCRUD（Create/Read/Update/Delete）のAPIをサポートするバックエンドを作る場合、Create/Update/Deleteのリクエストに対してはクライアントからのAPIコール時にすぐに（HTTP Requestに返事をする前に）データベースに変更を加え、Readの際にも（キャッシュを使う・使わないを別にして）データベースの最新の状況を反映するデータを返すように設計するのが普通である。 このアーキテクチャの問題は、ユーザーのアクティビティが増えた時に、データベースやI/Oがボトルネックと

[willnet]

更新系処理を非同期にして負荷を平準化させるという話／どのくらい効果あるのかな

[the-day]

特に落とし穴とは関係ない話

[iR3]

勉強になります。

[janus_wel]

問題の分割。実装詳細は詳しいのがほかにいくらでもあると思う

[faerie]

それほど重要でない更新は非同期にやると良いという話。

[labocho]

はてブも非同期だと早いのかも

[fukken]

処理してからレスポンス返すんじゃなくて、とりあえずレスポンス返してから処理しろよ、という話

[koemu]

サービスの目的によってキューイングも一手

[loungep]

「Create/Update/Deleteのリクエストに関しては、そのリクエストをキューにしまい、クライアントにはすぐにレスポンスを返した上で、別プロセスでキューにたまったリクエストを順繰りに非同期で処理すべきだ。」。

[jjgg8823]

アクセス数が上がると、ユーザーがした投稿がデータベースに反映されるまでの時間がかかるようになるが、それが直接的におもてなしの低下に繋がることはない

[dbfireball]

PhotoShareの不具合修正対応もひどい非同期ですけどね。「確認しました」くらいユーザにいい加減伝えて欲しいところ。無視されてると感じてるユーザもいるみたいですから、念のため。

[sousk]

Create/Update/Deleteのリクエストに関しては、そのリクエストをキューにしまい、クライアントにはすぐにレスポンスを返した上で .. 非同期処理

[keistar1968m]

ノ

[yaotti]

コメ欄も面白い。

[yuupon]

キュー

[suginoy]

「キャッシュの生成もオンデマンドで行うのではなく、Create/Update/Deleteのリクエストをキューから取り出してデータベースに変更を加えるときに行えば、Readは基本的に静的ファイルを返すだけになる」

[emergent]

ブ米も読む

[tagomoris]

実はmemcachedは使ったことがない(ぉぃ

[sigh1175]

実はmemcachedは使ったことがない(ぉぃ

[ucho]

バックエンドのDBやファイルの処理をHTTPのハンドリングと非同期にして応答時間を短くしたらどうか？という話。コメント欄の議論も参考になる

[smartstyle]

ミッション・クリティカルでないWEBサービスにおいて完全な一貫性を追求しない設計ポリシーとその利点についての分かりやすい説明。ブクマコメで指摘されているRead/Writeロックの話と合わせて検討したいところ。

[nshash]

確かに非リアルタイム的で十分なのだけど、実際のところ、どれくらいリクエストが遅延するかによって評価は分かれるので、その辺の実測値が知りたいね

[leva]

確かに非リアルタイム的で十分なのだけど、実際のところ、どれくらいリクエストが遅延するかによって評価は分かれるので、その辺の実測値が知りたいね

[otsune]

TheSchwartzみたいなキューシステム使うって話だよね

[lizy]

マルチスレッドというより非同期アーキテクチャの話だった。更新に対する即時性の求められないサービスなら非同期でもいいよというお話。

[thesecret3]

Twitterは更新が頻繁だけど、写真サイトのようなものは、レプリケーションで読み取り専用DBを用意するカタチの非同期のほうがいいんじゃないかな。。

[kazutanaka]

Flickrも既に一部を非同期化しているけど、そこまで重要視はしてない感じ。http://www.slideshare.net/iamcal/scalable-web-architectures-common-patterns-and-approaches-web-20-expo-nyc-presentation/

[terazzo]

DBMSでlockを制御するならisolation levelを変更すれば良いかと思うけど、この場合は肝はそこじゃない気も。この辺？＞http://dontstopmusic.no-ip.org/diary/20070928.html#p01／エラー通知をどう実装するかという問題もある

[sankaseki]

Life is beautiful: マルチスレッド・プログラミングの落とし穴、その２

[nanakoso]

この記事(遅延書き込み？)とread/writeロックは併用できるかも。