10%的试验成功率究竟意味着什么?成功!

【撷英】在此之前,我的实验屡屡失败。10次实验,最多能有1次成功。但是即便如此,我还是会不断在细节上做出调整,提高精准度,在进行下一次的实验。在过去的20多年时间里,我一直在持续不断做实验,我终于成功了。

                                                                                       ——2011年获得诺贝尔生理学奖获得者  山中伸弥

山中伸弥因何获得诺奖?逆转录病毒诱导生成IPS类干细胞。或许你听不懂,简言之,他的研究成果能够让普通细胞据胚胎干细胞的能力,能够形成任何人体器官……在此基础上继续发展,任何致命的心血管疾病、器官衰竭或破损都将得到解决(并且能够避免通过胚胎获取干细胞的伦理问题)——真正做到『起死回生、妙手回春』。他是如何做到的呢?就如引言所说。

IPS类细胞图

20年只做一件事情——不停试验,如果再加上不足10%的成功率究竟意味着什么?有人会想到『书山有路勤为径,学海无涯苦作舟』,吆喝君却认为这个加法等号的右边是成功。伟大的成功往往源于坚持不懈,可是盲目的勤奋和一味的吃苦并不是成功的必然条件,只有建立在试验思维下的坚持到底才是胜利。

山中伸弥

互联网亦是如此。泡沫的远去,互联网产品本身发展的魅力得以体现。或许,这个世界上再也没有任何其他一个领域从源头上就可以深度接入试验文化。从 Goolge 第一次不太成功的 A/B 测试开始到如今世界上顶级科技普遍利用 A/B 测试优化产品体验,已经一部分人开始意识到:对于互联网公司而言, A/B 测试并不是有没有没有的问题而是多还是更多的问题。

AB测试

亚马逊创始人贝佐斯曾毫不避讳的表示“试验不是策略之一,而是策略本身”,包括

Facebook、Linkedin、Google、Airbnb、Wish、Uber、Netflix 等一系列巨头从创业之初到现在始终没有改变的

A/B 测试。A/B测试,不是高高在上的理论假设,也不是俗烂的运营套路,而是一个中观的科学实践方式。

Facebook

经过国内外一系列第三方A/B测试方案提供方的不懈努力(国外如Optimizely,国内如吆喝科技越来越多的国内公司开始积极接触A/B测试。这些公司往往有着强烈的互联网业务增长需求却只能从一些非专业人士那里听到一些皮毛甚至是错误的认知。今天吆喝君从理论到实践帮助大家从根本上正确认识“A/B 测试 ——定义、特性、实施流程(更多内容点击阅读原文获得更多信息)。

A/B测试的定义:分离式组间试验方法

分离式组间试验方法。基于统计学假设检验原理设计的对照试验,通过对照组和试验组的采样样本分析来推断某个假设是否对总体样本成立。在科学研究领域被用作最高水平的检验方法,在产业上被应用在医疗临床3期,农业试验田,广告营销设计优化,互联网产品迭代优化,互联网流量运营转化率优化,选举策略优化等场景。

测试不息,增长不止

广告之父 David Ogilvy:测试不息,增长不止

A/B测试的三大特性:鲜艳、并行、科学

先验性: A/B测试结果属于预测型结论,与“后验”的归纳性结论差别巨大。后验的方式是先将版本发布,再通过数据验证效果,而A/B 测试用很少的样本量来推断新版本在全流量下的效果。

并行性: A/B测试将两个或以上的方案同时在线试验,保证每个版本所处环境的一致性,同时节省了验证的时间,无需在验证完一个版本之后再测试另一个。

科学性:A/B 测试的正确做法是将相似特征的用户均匀的分配到试验组中,确保每个组别的用户特征的相似性,从而避免辛普森悖论。

A/B测试试验是产生用户阻力的地方,也是增长前进的核心动力。

转化率优化之轮

A/B测试的实施流程

不同平台因技术实现方式不同而在实施流程上有所差异,不可能在一篇文章中全部覆盖,那么我们就以相对成熟完善的 AppAdhoc A/B Testing 为例展开:

1.试验设计:

根据假设确定试验项目的设计,包括试验版本和变量,试验触发条件,试验针对的用户受众,试验流量分配,优化指标等等。

2.试验配置:

对H5或广告着陆页等场景的试验,设置触发条件,比如完全匹配URL或者模糊匹配URL。如果试验是定向针对部分用户群体的,设置受众定向,比如小米Mix2手机用户。

3.创建试验版本:

对于UI布局,banner图片,文案,配色等试验,可以使用可视化编辑器来编辑生成试验版本;对于广告着陆页等试验,可以使用多链接试验来直接把不同的URL当作不同的试验版本来对比;对于新功能灰度发布,后端算法调整,结构改版等试验,可以使用编程模式自定义试验变量,请工程师来将变量集成到代码里。

4.设定优化指标:

对于用户行为类优化指标,比如按钮点击、图片点击、URL跳转等,可以使用可视化编辑器来埋点;对于需要代码计算的指标,比如收费金额等,可以使用编程模式自定义指标,请工程师将指标埋点集成到代码里。

5.QA调试和上线:

使用内部测试机器来调试原始版本和试验版本,检查版本是否符合试验设计,检查系统是否能正确收集到调试数据。对于App编程模式试验,通过QA调试之后,可能需要将新版App代码上线应用商店。

6.流量分配:

一般先给试验分配小流量,比如10%流量,其中5%给原始版本,5%给试验版本。如果没有bug和数据异常,再逐步提高试验流量到20%,50%,100%。注意尽量保证原始版本和试验版本的流量相等。

7.数据分析:

实时检查试验数据,观察试验版本优化指标的置信区间来判断试验假设是否正确。

更清晰的后台可点击“ 这里”免费注册体验

【点睛】A/B测试,往往会被看做一种黑客增长工具。然而,A/B测试并不是一个仅仅满足人们短期增长目标的兴奋剂,而是一个有目标、有追求的公司所要坚持的企业文化和增长文化。2011年获得诺贝尔生理学奖的日本教授山中伸弥,因实现了细胞逆向重编程(能够让任何细胞退回到受精卵阶段成为IPS万能细胞),在京都大学召开记者招待会上,他说了这样一番话:“在此之前,我的实验屡屡失败。10次实验,最多能有1次成功。但是即便如此,我还是会不断在细节上做出调整,提高精准度,在进行下一次的实验。在过去的20多年时间里,我一直在持续不断做实验,我终于成功了。”这个世界只有兢兢业业的创业人,却从未有马马虎虎的成功者。

欢迎关注吆喝科技微信公众号,发现更多更好地A/B测试内容
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,457评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,837评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,696评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,183评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,057评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,105评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,520评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,211评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,482评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,574评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,353评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,213评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,576评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,897评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,489评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,683评论 2 335

推荐阅读更多精彩内容