ITPro主催 クラウド時代のネットワーク最適化Forum 2018で発表したスライドです。 http://ac.nikkeibp.co.jp/itp/itinfra_network/201801pro/
Achieving Product Market Fit (PMF) is one of the huge goals of an early stage startup. There have been countless posts written on this subject and I'd highly recommend spending some time reading them if you're at this stage of your startup. One of the tools of the trade for testing different theories in your product is A/B Testing. Today we're going to look at how we A/B test different changes in
A/BテストツールといえばOptimizelyが有名ですが、iPhone・Androidアプリ向けのA/Bテストツールはまだこれと言った勝者が決まっていません。 つい先週、OptimizelyもネイティブアプリのA/Bテストに参入することが発表され、ますます分からなくなってきました。 Optimizelyが強力な6製品をリリース、人材育成に加えてiOS対応で“モバイル戦争”にも参入 Optimizelyのツールはまだβ版でデベロッパープレビューの段階ですが、先発のツールで有名なものにApptimizeがあります。 Apptimize | Mobile A/B Testing for iOS and Android. Improve Your Native App Codelessly in Real-time Apptimizeは、2013年夏のYコンビネータの出身で、iPhoneとAnd
PCやスマホとかのWebサイトに対してA/Bテストやる方法は結構いろいろありますね。 有名どころだと optimizely とか、最近だと planBCD とか。 iPhoneとかAndroidとか、ネイティブアプリとかたくさん作っている時代ですし、同じことはどうやってるのか。 ストアにリリースした後に検証・分析できるようなフレームワークやサービスがすでにあるのか。 ちょっと調べてみました。 調べ始め さくっとググってひっかかったものは Quora How do companies practically A/B Test new versions of native mobile apps that are already in production? Qiita SkyLabを利用したiOSアプリケーションのABテスト 海外の記事 Roundup: A/B Testing Soluti
本書は、「多腕バンディット問題」と呼ばれる問題を解くためのアルゴリズムを、Webサイトの最適化という例をもとに解説する書籍です。 バンディットアルゴリズムに関する基本的な知識について、既存研究についての理解を十分に得て、多腕バンディット問題についての資料を自力で読めるようにすることを目的としています。 A/Bテストのような2者択一ではなく、新しいアイデアの探索と、既存のアイデアから最大限の利益を引きだすという矛盾する2つの問題を解決するための一助となるでしょう。なお本書はEbookのみの販売となります。 yuku_tさんによる本書の英語版とバンディットアルゴリズムに関するまとめ http://qiita.com/yuku_t/items/6844aac6008911401b19 まえがき 1章 2種類のキャラクター:「探求」と「活用」 科学者とビジネスマン 「探求」と「活用」のジレンマ 2
(訳者注: 検定手法について、この記事には一部内容が古い部分があります。Optimizelyは現在、両側検定を採用し、独自開発したより精度の高い統計手法(Stats Engine)でテスト結果を表示しています。Stats Engineに関する記事: 日本語 ・ 英語 ) 私たちがSumAllでA/Bテストを一斉にスタートさせて6ヶ月が経ち、あまりよくない結末を迎えました。それは勝算があるとした結果のほとんどが新規ユーザーの獲得改善にはつながらなかったことです。それどころか、私たちは失敗したのです。そして私の一番の責任はユーザー獲得の増加であるということを考えると、本当に最悪の状況でした。私にとっても、私のキャリアにとっても、そしてSumAllにとっても。 過去に A/BテストとWebサイト・パーソナライゼーションの会社 に勤めていた経験から(はっきり言うとMonetateはOptimize
当記事はシリコンバレーを拠点にモバイルアプリ向けのA/Bテストソリューションを提供するApptimize社から寄稿いただきました。 モバイルアプリのA/Bテストにおける留意点 最近ではウェブサ 続きを見る
Webの世界ではもはや数値検証が当たり前になりつつありますが、その前提を揺るがすような最新事例を紹介したいと思います。 ソースは以前採り上げたA/B test.comです。マンガでわかる統計学 trudne.plというサイトのでは、ォーム画面についてのテストで、何と全く同じインターフェースを2つ用意し、50%ずつに振り分けて数値を比較するという試みを行いました。 その画面がこちらです。画面自体は、さほど代わり映えしないフォームですね。 ところが、この画面に約5,000ずつ程度のアクセスを集めてフォームのコンバージョン率を測定したところ・・・ 全く同じ画面でA/Bテストを実施しても、差異が発生 以下が2つ(1つ)の画面の比較結果です。 画面1 7.1% Conversion Rate (4963アクセス、350コンバージョン) 画面2 5.8% Conversion Rate (4952アク
By Lauren Macdonald 異なる複数のデザインを用意してユーザーの反応を比較することでより優秀なデザインを決定する手法である「A/Bテスト」は、ウェブサイト構築の現場で広く活用されています。そんなA/Bテストを実行する上で、おかしてしまいがちな7つのミスが公開されています。 Seven A/B testing mistakes you need to stop making in 2013 - Visual Website Optimizer Blog http://visualwebsiteoptimizer.com/split-testing-blog/seven-ab-testing-mistakes-to-stop-in-2013/ A/Bテスト専用ツールを提供するVisual Website Optimizer(VWO)は、同社の公式ブログ上でA/Bテストでうまく成
ブログサービス「マーケター通信」をご利用の皆さまへ 平素はITmedia マーケティングをご愛読いただき、誠にありがとうございます。 当サイトではこれまで、関連ブログサービスとして「マーケター通信」を長年にわたり運営してまいりましたが、全体的な利用の減少を鑑み、2020年9月30日にサービスを終了させることになりました。 このような結果になり残念ですが、何卒ご理解いただけますと幸いです。これまでご利用いただきましたことに対し、あらためてお礼申し上げます。 尚、ITmedia マーケティングは従来通り更新を続けますので、引き続きよろしくお願いいたします。 サービス終了までのスケジュール、および、これまで登録していただいたブログ記事の取り扱いにつきましては、以下の記載をご確認ください。 スケジュール 2020年9月25日(金)
「A/Bテスト」が、Webサービスの最適化技法として人口に膾炙して久しい昨今ですが、それでもなお、個々の施策実行時にはいろいろと迷うことがあります。たとえば: 有用なテスト結果を得るためにパターンをどのような基準で用意すればよいのか テスト結果の統計的有意性をどのように検定すればよいのか 個々の改善がそれぞれによかったとしても、それらが局所最適に陥らないためにはどうしたらよいのか といったあたりが挙げられます。(2)については純粋に技術的な問題なので、ここでは議論しません。問題にしたいのは(1)および(3)についてです。ひとまず、いまのところ僕が思う一番大切なことをひとつだけ述べておきましょう。それは: 「それに対してなんらかの肯定的/否定的意見のあるパターンをテストする」 ということです。どういうことか。 視野狭窄的なA/Bテスト A/Bテスト、あるいは同様の最適化技法については、かつて
決済サービス「spike(スパイク)」のリリースのほうに時間を割いていて、ブログの更新が滞っていました。。。何かの片手間でブログを続けるってなかなか難しい。気分転換にブログを新しくしました。調べるおタカノリさんやサイプロさんスゲーなと思うこの頃です。 先日Google Playがリニューアルされた記事をアップして、アイコンの大きさが2倍になり、今後Google Playでますます重要になるなと感じたわけですが、7月の末に今度はPC版のGoogle Playもリニューアルされてダウンロードページのクリエイティブがアイコンとスプラッシュだけになってしまいました。以前は大きい長方形のバナーが表示されていましが、こちらは使われるのはGoogleのおすすめに入ったときだけで、ほとんどのディベロッパーには無縁のものになってしまっています。 今後アイコンが重要になってくる流れは間違いないので、これを無料
オバマ大統領の再選に大きく寄与したことで大きな注目を集めているA/Bテスト。A/Bテストを導入した、することを検討している、という開発現場も多いのではないだろうか。 そんな中、Web上で次のような議論を見つけた。 20 lines of code that will beat A/B testing every time Why multi-armed bandit algorithm is not “better” than A/B testing 一言でまとめると「A/Bテストよりバンディットアルゴリズムの方がすごいよ」「いやいやA/Bテストの方がすごいし」ということだ。 で、バンディットアルゴリズムとは一体何者なのか? そこでBandit Algorithms for Website Optimization (O'REILLY)を読んでみた。その結果分かったことを踏まえてざっくりと
vanityはRailsのABテスト用ライブラリ。導入が一番簡単っぽい。 元々はテキストとか画像をのABテストを行うためのもののようだが、 chankoという限定公開用のライブラリを使って、機能単位でもABテストができるようにしてみる。 まずはGemfileに gem 'chanko', :git => 'git://github.com/cookpad/chanko.git' gem "vanity" を記述して、 # bundle install それぞれに必要な初期設定をする。 # rails generate chanko:install # rails generate vanity # rake db:migrate config/vanity.ymlを作成 development: adapter: active_record active_record_adapter: m
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く