Tính cỡ mẫu cần thiết trước khi bấm nút chạy A/B test
Công cụ áp dụng công thức two-proportion z-test tiêu chuẩn để tính ra số lượt truy cập cần thiết cho mỗi phiên bản A và B, dựa trên tỷ lệ chuyển đổi cơ sở, mức cải thiện tối thiểu bạn muốn phát hiện, mức ý nghĩa thống kê và power mong muốn. Kèm ước tính số ngày cần chạy dựa trên lưu lượng truy cập trung bình mỗi ngày, để bạn biết trước một chiến dịch test sẽ tốn bao lâu trước khi bắt đầu.
Tính năng nổi bật
- Tính cỡ mẫu mỗi phiên bản bằng công thức two-proportion z-test chuẩn với z-score chính xác theo từng mức alpha và power
- Cho chọn ba mức ý nghĩa thống kê phổ biến 90%, 95%, 99% và ba mức power 80%, 85%, 90%
- Nhập MDE theo phần trăm tương đối, tự quy đổi ra tỷ lệ chuyển đổi mục tiêu cụ thể của phiên bản B
- Ước tính số ngày cần chạy test dựa trên lưu lượng truy cập trung bình mỗi ngày do bạn nhập
- Bảng độ nhạy cho thấy cỡ mẫu thay đổi ra sao khi mức cải thiện muốn phát hiện thay đổi từ 5% đến 30%
- Cảnh báo rõ ràng khi số liệu nhập vào không hợp lệ, ví dụ tỷ lệ chuyển đổi vượt quá 100%
- Giải thích trực tiếp trên trang vì sao mẫu quá nhỏ dẫn tới false positive hoặc false negative
- Liên kết thẳng tới Conversion Rate Calculator của trang để dùng ở bước phân tích sau khi test đã chạy xong
Vì sao cần tính cỡ mẫu trước khi chạy test, không phải sau
Một sai lầm rất phổ biến trong tối ưu chuyển đổi là bật A/B test rồi theo dõi bảng số liệu mỗi ngày, thấy phiên bản nào đang dẫn trước là dừng lại và công bố kết quả ngay, gọi đây là peeking. Vấn đề là các phép kiểm định thống kê tiêu chuẩn giả định bạn đã xác định trước cỡ mẫu và chỉ nhìn kết quả đúng một lần khi đã đạt đủ mẫu đó, chứ không phải liên tục kiểm tra rồi dừng ngay khi thấy con số có vẻ có ý nghĩa. Việc dừng sớm theo cảm tính làm tăng đáng kể xác suất kết luận sai, vì với mẫu nhỏ, biến động ngẫu nhiên hoàn toàn có thể tạo ra chênh lệch trông như có ý nghĩa trong một khoảng thời gian ngắn rồi tự biến mất khi mẫu lớn hơn. Việc tính cỡ mẫu trước khi chạy test giúp bạn có một con số mục tiêu rõ ràng, biết trước cần bao nhiêu ngày, và tránh được cám dỗ dừng sớm khi số liệu đang có xu hướng thuận lợi tạm thời.
Lợi ích khi sử dụng
- Biết trước cần bao nhiêu lượt truy cập và bao nhiêu ngày trước khi cam kết nguồn lực cho một A/B test
- Tránh dừng test sớm theo cảm tính, nguyên nhân phổ biến nhất dẫn tới kết luận sai trong tối ưu chuyển đổi
- Hiểu rõ đánh đổi giữa việc muốn phát hiện thay đổi nhỏ và thời gian chạy test dài hơn tương ứng
- Dùng công thức thống kê chuẩn, không phải ước lượng thô, phù hợp cho quyết định có ảnh hưởng doanh thu
- Kết hợp tự nhiên với Conversion Rate Calculator sẵn có trên trang để khép kín quy trình trước và sau test
Cách dùng công cụ tính cỡ mẫu A/B test
- 1Nhập tỷ lệ chuyển đổi cơ sở hiện tại của trang, lấy từ dữ liệu thực tế đã có, ví dụ trang đang chuyển đổi ở mức 3%
- 2Nhập mức cải thiện tối thiểu bạn muốn có khả năng phát hiện, theo phần trăm tương đối so với baseline, ví dụ muốn phát hiện mức tăng 10%
- 3Chọn mức ý nghĩa thống kê, mặc định 95% là lựa chọn phổ biến nhất cho hầu hết các test marketing
- 4Chọn power thống kê mong muốn, mặc định 80% là ngưỡng tối thiểu được khuyến nghị rộng rãi
- 5Nhập lưu lượng truy cập trung bình mỗi ngày để công cụ ước tính số ngày cần chạy test
- 6Đối chiếu bảng độ nhạy để cân nhắc: nếu số ngày quá dài, có thể chấp nhận phát hiện mức cải thiện lớn hơn thay vì cố phát hiện thay đổi rất nhỏ
Đây là bước TRƯỚC test, khác với công cụ phân tích kết quả SAU test
Trang này có sẵn công cụ Conversion Rate Calculator, dùng để phân tích một A/B test đã chạy xong: nhập số lượt truy cập và số lượt chuyển đổi thực tế của từng phiên bản để tính mức chênh lệch và độ tin cậy thống kê của kết quả quan sát được. Công cụ A/B Test Sample Size Calculator này phục vụ bước trước đó: trước khi test bắt đầu chạy, bạn cần biết cần bao nhiêu mẫu để kết quả sau này đáng tin cậy. Hai công cụ tạo thành một quy trình khép kín hợp lý: dùng công cụ này để lên kế hoạch cỡ mẫu và thời gian, chạy test đủ thời gian đã tính, rồi dùng Conversion Rate Calculator để đọc và diễn giải kết quả cuối cùng. Bỏ qua bước lập kế hoạch cỡ mẫu là nguyên nhân phổ biến khiến nhiều đội ngũ marketing chạy hàng chục A/B test nhưng phần lớn kết luận đều không đáng tin cậy.
Công thức two-proportion z-test hoạt động như thế nào
Công thức n = (z_alpha/2 + z_beta)² × [p1(1-p1) + p2(1-p2)] / (p1-p2)² xuất phát từ việc coi tỷ lệ chuyển đổi của mỗi phiên bản là một biến ngẫu nhiên phân phối nhị thức, và kiểm định xem chênh lệch giữa hai tỷ lệ p1 và p2 có đủ lớn so với độ biến động tự nhiên của chính hai tỷ lệ đó hay không. Phần z_alpha/2 phản ánh mức độ chặt chẽ bạn muốn khi kết luận có khác biệt thật sự, càng chọn mức ý nghĩa cao thì z càng lớn và cỡ mẫu càng tăng. Phần z_beta phản ánh khả năng phát hiện được khác biệt thật khi nó thực sự tồn tại, power càng cao thì z_beta càng lớn và cỡ mẫu cũng tăng theo. Phần tử số p1(1-p1) + p2(1-p2) là tổng phương sai của hai tỷ lệ, càng gần 50% thì phương sai càng lớn nên cần mẫu lớn hơn. Mẫu số (p1-p2)² là bình phương chênh lệch cần phát hiện, đây là lý do cỡ mẫu tăng rất nhanh khi bạn muốn phát hiện một mức cải thiện càng nhỏ, vì mẫu số càng nhỏ thì toàn bộ phân số càng phình to.
Vì sao MDE nhỏ khiến cỡ mẫu tăng vọt
MDE, viết tắt của minimum detectable effect, là mức cải thiện nhỏ nhất mà bạn muốn phép kiểm định có khả năng phát hiện được với độ tin cậy đã chọn. Vì cỡ mẫu tỷ lệ nghịch với bình phương của chênh lệch cần phát hiện, muốn phát hiện một cải thiện nhỏ bằng một nửa mức trước đó thì cỡ mẫu cần thiết tăng lên gấp bốn lần chứ không phải gấp đôi. Đây chính là lý do các test nhắm tới việc phát hiện cải thiện rất nhỏ, ví dụ 2 đến 3%, thường cần lượng traffic khổng lồ mà chỉ những trang có traffic rất lớn mới đủ khả năng chạy trong thời gian hợp lý. Với trang có traffic vừa và nhỏ, cách thực tế hơn là chấp nhận MDE lớn hơn, tức chỉ test những thay đổi được kỳ vọng tạo ra khác biệt đáng kể, thay vì cố đo lường những cải thiện quá tinh vi mà lượng traffic hiện có không đủ sức phát hiện đáng tin cậy.
Chọn mức ý nghĩa và power thế nào cho phù hợp
Mức ý nghĩa thống kê, thường ký hiệu alpha, kiểm soát xác suất false positive, tức kết luận có khác biệt trong khi thực ra không có. Mức 95% tương ứng với alpha 5%, nghĩa là chấp nhận 5% khả năng kết luận sai theo hướng này, đây là chuẩn phổ biến nhất trong marketing và đủ chặt chẽ cho hầu hết quyết định kinh doanh. Mức 99% chặt chẽ hơn, phù hợp khi quyết định sai có chi phí rất lớn, nhưng đòi hỏi cỡ mẫu lớn hơn đáng kể. Power thống kê kiểm soát xác suất false negative, tức bỏ lỡ một cải thiện thật sự tồn tại. Power 80% là ngưỡng tối thiểu được khuyến nghị rộng rãi trong nghiên cứu thống kê ứng dụng, nghĩa là chấp nhận 20% khả năng bỏ lỡ một cải thiện thật. Nếu quyết định sau test có ảnh hưởng lớn tới doanh thu dài hạn, nên cân nhắc nâng power lên 90% dù phải đánh đổi bằng cỡ mẫu và thời gian chạy dài hơn.
Ước tính số ngày chạy test và những điều cần lưu ý thêm
Công cụ chia tổng cỡ mẫu cần thiết cho lưu lượng truy cập trung bình mỗi ngày để ra số ngày ước tính, nhưng đây là con số lý thuyết dựa trên giả định traffic ổn định đều mỗi ngày. Trên thực tế cần lưu ý thêm vài điểm: nên chạy test trọn số chu kỳ tuần đầy đủ, ví dụ trọn bốn tuần thay vì hai mươi bảy ngày lẻ, vì hành vi người dùng thường khác nhau giữa ngày trong tuần và cuối tuần, dừng test giữa chu kỳ tuần dễ làm lệch kết quả. Cũng nên tránh chạy test đúng vào các đợt khuyến mãi lớn, ngày lễ hoặc sự kiện bất thường khiến hành vi người dùng không đại diện cho điều kiện bình thường. Nếu lưu lượng thực tế biến động mạnh theo mùa, nên dùng lưu lượng trung bình của giai đoạn tương lai gần nhất khi test sẽ chạy, thay vì lấy trung bình của cả năm.
Những sai lầm phổ biến khi bỏ qua bước tính cỡ mẫu
Nhiều đội ngũ marketing chạy A/B test mà không tính cỡ mẫu trước, dẫn tới ba tình huống thường gặp. Thứ nhất là dừng test quá sớm ngay khi thấy một phiên bản dẫn trước vài ngày đầu, trong khi chênh lệch đó thực chất chỉ là nhiễu của mẫu nhỏ và sẽ thu hẹp lại khi có thêm dữ liệu. Thứ hai là chạy test quá lâu với một thay đổi không đáng để test, lãng phí traffic có thể dùng cho những thử nghiệm quan trọng hơn, vì không biết trước rằng với MDE muốn đo, con số ngày cần thiết vượt xa những gì hợp lý. Thứ ba là chạy nhiều biến thể cùng lúc trong một test đa nhánh mà vẫn tính cỡ mẫu như test hai nhánh thông thường, khiến mẫu thực tế cho mỗi nhánh không đủ. Tính cỡ mẫu trước khi bắt đầu giúp phát hiện và tránh cả ba tình huống này ngay từ khâu lập kế hoạch.
Câu hỏi thường gặp (FAQ)
MDE là gì và nên nhập bao nhiêu phần trăm?
MDE, mức cải thiện tối thiểu muốn phát hiện, là chênh lệch nhỏ nhất giữa hai phiên bản mà bạn muốn phép kiểm định có khả năng nhận ra. Công cụ nhận MDE theo phần trăm tương đối so với baseline, ví dụ baseline 3% và MDE 10% nghĩa là muốn phát hiện được mức tăng lên 3.3%. Không có con số chuẩn cho mọi trường hợp, nhưng MDE càng nhỏ thì cỡ mẫu cần thiết càng tăng rất nhanh, nên hãy chọn mức cải thiện thực sự có ý nghĩa kinh doanh với bạn.
Vì sao cỡ mẫu tính ra là cho mỗi phiên bản chứ không phải tổng?
Vì phép kiểm định two-proportion z-test so sánh hai tỷ lệ độc lập, mỗi phiên bản cần đạt đủ số lượt truy cập riêng để ước lượng tỷ lệ chuyển đổi của chính nó đủ chính xác. Tổng lượt truy cập cần cho toàn bộ test bằng cỡ mẫu mỗi phiên bản nhân hai, công cụ đã hiển thị cả hai con số để tránh nhầm lẫn.
Nên chọn mức ý nghĩa 90%, 95% hay 99%?
95% là lựa chọn phổ biến nhất và phù hợp cho phần lớn quyết định marketing thông thường. Chọn 99% khi quyết định sai có chi phí rất lớn và bạn chấp nhận cỡ mẫu lớn hơn để chắc chắn hơn. Chọn 90% chỉ khi cần kết quả nhanh cho những thử nghiệm ít rủi ro và bạn chấp nhận xác suất false positive cao hơn.
Power thống kê 80% nghĩa là gì?
Power 80% nghĩa là nếu khác biệt thật giữa hai phiên bản đúng bằng mức MDE bạn đã nhập, phép kiểm định có 80% khả năng phát hiện ra khác biệt đó với cỡ mẫu đã tính, và 20% khả năng bỏ lỡ dù khác biệt thật sự tồn tại. Đây là ngưỡng tối thiểu được khuyến nghị rộng rãi, nâng lên 90% giúp giảm rủi ro bỏ lỡ nhưng đòi hỏi cỡ mẫu lớn hơn.
Tôi đã đạt đủ cỡ mẫu nhưng chưa biết kết quả có ý nghĩa không, dùng gì tiếp?
Khi đã chạy đủ số ngày và đạt đủ lượt truy cập theo tính toán ở đây, hãy nhập số liệu thực tế về lượt truy cập và lượt chuyển đổi của từng phiên bản vào Conversion Rate Calculator của trang để tính mức chênh lệch và độ tin cậy thống kê của kết quả quan sát được.
Vì sao không nên dừng test ngay khi thấy một phiên bản đang dẫn trước?
Vì với mẫu chưa đủ lớn, chênh lệch quan sát được trong vài ngày đầu rất dễ chỉ là biến động ngẫu nhiên chứ không phải khác biệt thật. Dừng sớm theo cảm tính làm tăng đáng kể xác suất false positive, tức công bố một kết luận không đúng và có thể triển khai một thay đổi thực chất không tốt hơn phiên bản gốc.
Nếu traffic thực tế của tôi biến động mạnh theo ngày trong tuần thì sao?
Công cụ ước tính số ngày dựa trên lưu lượng trung bình mỗi ngày bạn nhập, đây là con số lý thuyết. Trên thực tế nên chạy trọn số chu kỳ tuần đầy đủ, ví dụ bốn tuần thay vì hai mươi bảy ngày lẻ, để tránh hành vi khác nhau giữa ngày thường và cuối tuần làm lệch kết quả.
Cỡ mẫu tính ra quá lớn so với traffic tôi có, phải làm sao?
Có vài hướng xử lý: chấp nhận MDE lớn hơn tức chỉ test những thay đổi kỳ vọng tạo khác biệt đáng kể, hạ power xuống 80% nếu đang chọn mức cao hơn, hoặc kéo dài thời gian chạy test và chấp nhận thời gian ra kết quả lâu hơn. Không nên hạ cỡ mẫu bằng cách nới lỏng mức ý nghĩa xuống quá thấp vì sẽ làm tăng rủi ro false positive.
Test có nhiều hơn hai phiên bản thì công cụ này có dùng được không?
Công cụ tính theo công thức so sánh hai phiên bản. Nếu test của bạn có ba phiên bản trở lên, cỡ mẫu cần thiết cho mỗi nhánh thường lớn hơn con số tính ở đây do phải điều chỉnh cho nhiều phép so sánh đồng thời, và bạn cần cân nhắc thêm về hiệu chỉnh mức ý nghĩa khi so sánh nhiều nhánh cùng lúc.
Vì sao baseline và MDE phải nằm trong khoảng 0 đến 100%?
Vì đây là tỷ lệ chuyển đổi, về bản chất không thể âm hoặc vượt quá 100%. Nếu baseline hoặc tỷ lệ mục tiêu của phiên bản B tính ra vượt ngưỡng này, công thức two-proportion z-test không còn ý nghĩa toán học, công cụ sẽ báo lỗi để bạn kiểm tra lại số liệu đã nhập.
Công thức này có áp dụng được cho chỉ số không phải tỷ lệ chuyển đổi không?
Công thức two-proportion z-test chỉ áp dụng cho các chỉ số dạng tỷ lệ, tức có hai kết quả rời rạc như chuyển đổi hoặc không chuyển đổi. Với các chỉ số liên tục như giá trị đơn hàng trung bình hoặc thời gian trên trang, cần dùng công thức tính cỡ mẫu khác dựa trên độ lệch chuẩn của chỉ số đó, không phải công thức trong công cụ này.
Dữ liệu tôi nhập vào công cụ có được lưu lại không?
Không. Toàn bộ phép tính diễn ra ngay trong trình duyệt của bạn bằng JavaScript, không có dữ liệu nào được gửi lên máy chủ hay lưu trữ lại sau khi bạn rời trang.
Từ khóa liên quan
- tính cỡ mẫu ab test
- sample size calculator tiếng việt
- ab test sample size
- minimum detectable effect
- mde là gì
- two proportion z test
- power thống kê ab test
- mức ý nghĩa thống kê
- false positive ab test
- false negative ab test
- bao lâu chạy xong ab test
- công thức tính cỡ mẫu
- conversion rate calculator
- tối ưu chuyển đổi
- cro sample size
- thống kê ab testing
- z score alpha beta
- chạy ab test bao nhiêu ngày
- peeking ab test
- statistical significance calculator
