Premis dari pengujian A/B adalah sederhana:
Bandingkan dua (atau lebih) versi yang berbeda dari sesuatu untuk melihat mana yang berkinerja lebih baik dan kemudian gunakan pemenangnya ke semua pengguna untuk pengalaman keseluruhan yang paling optimal.
Praktik pengujian A/B dan tim CRO telah berinvestasi secara signifikan dalam meluncurkan berbagai macam eksperimen untuk meningkatkan berbagai area dan pengalaman di seluruh situs, aplikasi asli, email, atau saluran digital lainnya, dan kemudian terus mengoptimalkannya untuk mendorong peningkatan konversi dan KPI tertentu seiring berjalannya waktu.
Namun, kecuali jika perusahaan menghasilkan banyak sekali lalu lintas dan memiliki lanskap digital yang sangat besar untuk bereksperimen, mungkin akan ada titik di mana hasil eksperimen (tidak peduli berapa banyak pengujian atau seberapa besar dan canggihnya sebuah eksperimen) akan mencapai hasil maksimal dalam hal input dari tim-tim ini.
Hal ini sebagian besar berkaitan dengan fakta bahwa pendekatan klasik untuk pengujian A/B menawarkan pandangan biner tentang preferensi pengunjung dan sering kali gagal menangkap berbagai faktor dan perilaku yang menentukan siapa mereka sebagai individu.
Selain itu, tes A/B memberikan hasil yang digeneralisasi berdasarkan preferensi mayoritas segmen. Dan meskipun sebuah merek mungkin menemukan pengalaman tertentu untuk menghasilkan lebih banyak pendapatan secara rata-rata, menyebarkannya ke semua pengguna akan merugikan sebagian besar konsumen dengan preferensi yang berbeda.
Izinkan saya mengilustrasikan dengan beberapa contoh:
Jika kekayaan bersih saya dan Warren Buffet rata-rata $117,3 miliar USD, apakah masuk akal untuk merekomendasikan produk yang sama kepada kami?
Mungkin tidak.
Atau bagaimana jika peritel yang menyediakan produk pria dan wanita memutuskan untuk menjalankan uji A/B klasik di beranda mereka untuk mengidentifikasi variasi spanduk pahlawan dengan performa terbaik, tetapi karena 70% dari audiens mereka adalah wanita, maka variasi wanita mengungguli variasi pria.
Tes ini akan menyarankan agar spanduk pahlawan wanita diterapkan pada seluruh populasi, tetapi tentu saja bukan keputusan yang tepat.
Sederhananya:
- Rata-rata sering kali menyesatkan ketika digunakan untuk membandingkan kelompok pengguna yang berbeda
- Perubahan variasi dengan performa terbaik untuk setiap segmen pelanggan dan pengguna
- Hasil juga dapat dipengaruhi oleh faktor kontekstual seperti geografis, cuaca, dan lainnya
Tentu saja, ini tidak berarti bahwa tidak ada waktu dan tempat untuk memanfaatkan hasil yang lebih umum. Misalnya, jika Anda menguji desain situs web atau aplikasi baru, akan lebih masuk akal jika Anda memilih satu UI yang konsisten yang bekerja paling baik dibandingkan puluhan, ratusan, atau bahkan ribuan variasi UI untuk pengguna yang berbeda.
Namun, hari-hari dengan setia mengambil pendekatan "pemenang mengambil semua" pada tata letak halaman, pesan, konten, rekomendasi, penawaran, dan elemen kreatif lainnya telah berakhir - dan tidak apa-apa karena itu berarti tidak ada lagi uang yang akan ditinggalkan di atas meja dari peluang personalisasi yang terlewatkan karena tidak memberikan variasi terbaik kepada setiap pengguna.