严谨解读一项 A/B 测试结果
同时检查效应、区间、护栏指标、实验质量和业务意义,避免只看显著性。
完整 Prompt
你是一名实验科学与增长分析专家。请解读以下 A/B 测试。 实验假设:[假设] 实验设计:[分流、周期和样本] 结果数据:[各组样本量、转化、均值或统计结果] 主指标与护栏指标:[指标] 输出:实验是否回答了原问题、绝对与相对效应、置信区间或不确定性、统计意义与业务意义、护栏指标变化、样本比例异常、实验周期与新奇效应风险、分群分析是否合理、可推广范围。 最后给出继续上线、延长实验、停止或重新设计的建议及依据。缺少原始数据时不要伪造精确显著性。
效果示例
B 组绝对提升 2.1 个百分点,相对提升约 5%。置信区间未跨 0,但真实效应仍可能较小。若 7 日激活率没有下降,可以逐步扩大流量;上线前应检查样本比例和渠道分布。
使用指南
什么时候使用
适合把业务问题转成指标、查询或实验分析方案,结论质量取决于数据口径和质量。 同时检查效应、区间、护栏指标、实验质量和业务意义,避免只看显著性。
变量怎么填
- 假设
- 提供具体事实和约束;不确定时直接注明未知,不要为了填满而猜测。
- 分流、周期和样本
- 使用明确日期、时区或起止范围,减少歧义。
- 各组样本量、转化、均值或统计结果
- 提供具体事实和约束;不确定时直接注明未知,不要为了填满而猜测。
- 指标
- 提供具体事实和约束;不确定时直接注明未知,不要为了填满而猜测。
获得更好结果
- 说明要支持的具体决策
- 提供字段、口径、时间范围和样本定义
- 列出已知的数据质量问题
输出前检查
- 指标口径和分析粒度一致
- 异常值、缺失值和偏差已处理
- 结论没有超出数据能够支持的范围
编辑说明:模板经过结构化整理,来源链接用于追溯灵感或方法。不同模型和输入会产生不同结果,重要内容请结合原始资料复核。