Growth/Personalized first day/Newcomer homepage/Measurement and experiment plan/cs

Cílem domovské stránky je poskytnout uživatelům, zejména těm, kteří jsou nově registrováni, snadný přístup k věcem, jako jsou zdroje nápovědy, návrhy na práci, kterou mohou dělat, a informace, díky nimž je živá činnost komunity Wikipedie a dopad práce, která se dělá. Tento typ informací může pomoci snížit překážku pro konstruktivní příspěvky do encyklopedie, a tím zvýšit aktivaci editorů (podíl nových uživatelů, kteří pokračují v úpravách). Může také potenciálně zvýšit udržení editorů (podíl nových uživatelů, kteří se vrátí, aby provedli další úpravy), což je zastřešující cíl Growth Teamu.

Tato stránka dokumentuje náš plán experimentu a jaké výsledky budeme používat k zjištění, kolik uživatelů s ní pracuje.



Výzkumné otázky
Výzkumné otázky jsou otázky vyšší úrovně, na které chceme odpovědět. "zpracováním domovské stránky" máme na mysli, že uživatel má domovskou stránku ve výchozím nastavení zapnutou a zároveň dostává různé doplňkové funkce, které jej přivádějí na domovskou stránku, což může zahrnovat bannery, zprávy na diskusní stránce nebo odkazy na hlavní stránce. V počáteční verzi bude jedinou doplňkovou funkcí fakt, že odkaz na uživatelské jméno v osobních nástrojích povede na domovskou stránku.


 * 1) Pomáhá domovská stránka zvýšit aktivaci editora?
 * 2) Pomáhá domovská stránka zvýšit retenci editora?
 * 3) Pomáhá přístup k domovské stránce zvýšit množství editací v prvních dvou týdnech po registraci?
 * 4) Zvyšuje domovská stránka množství konstruktivních editací?
 * 5) * V tomto kontextu "konstruktivní úpravy" (constructive edits) znamenají úpravy, které nelze vrátit zpět. Protože se Growth Team zaměřuje na udržení nových uživatelů, plánujeme toto měřit jak celkově, tak podle úrovně uživatelské zkušenosti (např. trvání ve dnech, počet úprav nebo jejich kombinace)
 * 6) Vrací se uživatelé s domovskou stránkou zpátky na domovskou stránku? Jaký vzor vidíme v používání domovské stránky?
 * 7) Které moduly zapojují nováčky a do jaké míry? Vedou moduly, které žádají uživatele, aby provedli akci, k tomu, že uživatelé tyto akce provedou?
 * 8) Umíme domovskou stránku personalizovat?
 * 9) * První krok: Chovají se uživatelé v souladu s jejich odpověďmi na uvítací průzkum? Například uživatelé, kteří říkají, že mají zájem být kontaktováni, aby získali pomoc s úpravami, používají modul mentor k tomu, aby oslovili mentora. Používají uživatelé, kteří říkají, že mají zájem o vytvoření článku, moduly, které jim pomohou dozvědět se více o tom, jak to udělat?
 * 10) * Druhý krok: Jakmile se nám podaří personalizovat domovskou stránku, zaznamenáme větší zapojení uživatelů, jejichž domovské stránky jsou personalizované?
 * 11) Když je domovská stránka přizpůsobitelná, do jaké míry uživatelé tuto možnost využívají?
 * 12) Co se můžeme kvalitativně naučit, pokud/když existuje snaha o průzkum nových příchozích na domovské stránce? Takovou kvalitativní studii lze provést prostřednictvím rychlých průzkumů nebo prostřednictvím modulu domovské stránky, který se jednoduše zeptá na zbytek domovské stránky.



Kontrolovaný experiment
Abychom porozuměli vlivu domovské stránky na aktivaci a udržení editoru, navrhujeme experiment, který poběží minimálně šest měsíců. Během této doby bude mít 50 % nových registrací na cílových wikinách (v současnosti české, korejské, vietnamské a arabské) výchozí stránku povolenou a 50 % ji bude mít deaktivovanou. S největší pravděpodobností současně spustíme další experimenty na cílových wikinách (např. varianty našeho panelu nápovědy). Pokud tyto experimenty vyžadují vrstvené (stratifikované) vzorkování, v případě potřeby upravíme naše strategie vzorkování.

Během experimentu očekáváme, že budeme testovat také varianty domovské stránky, abychom pochopili, jak konkrétní prvky rozhraní ovlivňují chování uživatelů. Budeme si pamatovat, že čím silnější je naše hypotéza, že změněné rozhraní ovlivní aktivaci nebo uchování, tím více test na tomto rozhraní zmate náš dlouhodobější experiment aktivace a zachování (retence).

Měření
Tato měření jsou řízena našimi výzkumnými otázkami a zaměřují se na konkrétní akce prováděné uživateli, kteří mají možnost přistupovat na domovskou stránku a pracovat s jejími moduly. Níže uvedený seznam obsahuje měření pro čtyři moduly přítomné na domovské stránce v době spuštění: Start, Help, Impact a Mentor. Když vyvíjíme nové moduly pro domovskou stránku, vyvineme pro ně také podobné plány měření.


 * 1) Obecné
 * 2) Kolik procent uživatelů přistupuje na domovskou stránku?
 * 3) Jaké procento těchto uživatelů navštíví domovskou stránku vícekrát?
 * 4) Když uživatelé navštíví domovskou stránku vícekrát, v jaké časové ose se to stane?
 * 5) Existují rozdíly mezi uživateli mobilních zařízení a počítačů?
 * 6) Jak brzy po vytvoření účtu uživatel poprvé navštíví domovskou stránku?
 * 7) Jak se uživatelé dostanou na domovskou stránku?
 * 8) Kliknutím na jejich uživatelské jméno v horní navigaci?
 * 9) Kliknutím na záložku z jejich uživatelské nebo uživatelské diskusní stránky?
 * 10) Přes jiný ovladač, jako je banner na wiki nebo odkaz v e-mailu?
 * 11) Pokud uživatel klikl na odkaz na domovskou stránku v horní navigaci nebo na kartě, chceme zachytit kontext, ve kterém se nacházel. Konkrétně chceme vědět, v jakém jmenném prostoru se nacházel, když na odkaz klikl, a zda četl nebo editoval.
 * 12) Kolik času stráví uživatelé interakcí s moduly domovské stránky při jedné návštěvě?
 * 13) Při jejich první návštěvě?
 * 14) Při dalších návštěvách?
 * 15) Kolik procent uživatelů sleduje odkazy z alespoň jednoho modulu?
 * 16) Je pravděpodobné, že uživatelé, kteří mají přístup na domovskou stránku, vytvoří uživatelskou stránku?
 * 17) Je pravděpodobné, že uživatelé, kteří mají přístup na domovskou stránku, se budou ovlivňovat s ostatními uživateli prostřednictvím diskusních stránek uživatelů?
 * 18) Je pravděpodobné, že uživatelé, kteří mají přístup na domovskou stránku, budou komunikovat s komunitou prostřednictvím diskusních stránek o článcích a projektech?
 * 19) Moduly
 * 20) Obecné
 * 21) Jak často se kliká na jednotlivé moduly? Jaký je podíl uživatelů, kteří na každý kliknou?
 * 22) S kolika moduly mají uživatelé tendenci interagovat (ovlivňovat se) (kde "interakce" znamená jakékoli kliknutí)?
 * 23) Se kterými moduly bývá interagováno opakovaně?
 * 24) Se kterými moduly nejvíce interagují ti uživatelé, kteří jsou aktivováni a uchováni (uznáváme, že kauzalita (příčinná souvislost) může jít oběma směry)?
 * 25) Jak dlouho se uživatelé stolních počítačů pohybují nad jednotlivými moduly? (analogické měření pro mobilní zařízení závisí na nevyřízeném návrhu mobilního zařízení)
 * 26) Zdá se, že umístění modulu na stránce ovlivňuje interakce?
 * 27) Jaký dopad na udržení má provedení výzvy k akci u každého modulu?
 * 28) Například: Jaké procento uživatelů, kteří kontaktují svého mentora, zůstane zachováno?
 * 29) Specifické moduly
 * 30) Modul nápovědy
 * 31) Kolik procent uživatelů klikne na jeden nebo více odkazů nápovědy?
 * 32) Pokud ano, na jaké odkazy kliknou?
 * 33) Kolik procent uživatelů využívá funkci vyhledávání?
 * 34) Zaměří se na vyhledávací pole
 * 35) Odešle vyhledávání, počet znaků ve vyhledávání
 * 36) Klikne na výsledek, počet výsledků, pořadí kliknutého výsledku
 * 37) Jak daleko uživatelé zajdou v pracovním postupu kladení otázky na Help Desku?
 * 38) Kliknutím položí otázku
 * 39) Napíše otázku
 * 40) Odešle
 * 41) Klikne na odkaz v potvrzovacím dialogu
 * 42) Jaká je průměrná délka položených otázek?
 * 43) Kolik procent uživatelů, kteří odešlou otázku, se vrátí, aby si zobrazili odpověď, a to provedením některé z následujících akcí?
 * 44) Kliknutím na oznámení Echo oznamující, že byly v odpovědi odeslány příkazy ping.
 * 45) Kliknutím na odkaz v seznamu "Vaše poslední dotazy".
 * 46) ReakcÍ na odpověď na stránce Help Desk.
 * 47) Jaké procento nově příchozích, kteří neměli žádnou e-mailovou adresu, ji přidá, když položí otázku?
 * 48) Kolik procent nově příchozích potvrdí svou e-mailovou adresu (do 48 hodin) po položení otázky?
 * 49) Kolik procent nově příchozích položí otázku bez e-mailové adresy?
 * 50) Jaké procento uživatelů, kteří položili alespoň jednu otázku, vidí jednu nebo více archivovaných otázek při zobrazení domovské stránky?
 * 51) Kolik procent uživatelů, kteří kliknou na jeden z odkazů v seznamu "Vaše poslední dotazy", kliklo na odkaz na otázku, která byla archivována?
 * 52) Modul mentorství
 * 53) Kolik procent klikne na odkaz, abyste se dozvěděli více o mentorovi?
 * 54) Jak daleko uživatelé zajdou v pracovním postupu kladeníM otázky svému mentorovi?
 * 55) Kliknutím položí otázku
 * 56) Napíše otázku
 * 57) Odešle
 * 58) Klikne na odkaz v potvrzovacím dialogu
 * 59) Jaká je průměrná délka položených otázek?
 * 60) (Měřeno ručně) Jaké procento uživatelů, kteří zadají otázku, obdrží odpověď od svého mentora?
 * 61) Dostanou odpověď od někoho, kdo není jejich mentorem?
 * 62) Kolik procent uživatelů, kteří odešlou otázku, se vrátí, aby si zobrazili odpověď, a to provedením některé z následujících akcí?
 * 63) Kliknutím na oznámení Echo oznamující, že byly v odpovědi odeslány příkazy ping.
 * 64) Kliknutím na odkaz v seznamu "Vaše poslední dotazy".
 * 65) Reakcí na odpověď na diskusní stránce.
 * 66) (Měřeno ručně) Kolik procent nově příchozích, kteří položí otázku, zveřejní podruhé dotaz na diskusní stránce svého mentora?
 * 67) Jak často se z první otázky stane rozhovor?
 * 68) Jak často je položena druhá otázka?
 * 69) Jak často konverzace přesahují výměnné wiki diskuse?
 * 70) Kolik procent kliknutí na jeden z odkazů zobrazí jejich otázku poté, co ji položili?
 * 71) Jaké procento nově příchozích, kteří neměli žádnou e-mailovou adresu, ji přidá, když položí otázku?
 * 72) Kolik procent nově příchozích potvrdí svou e-mailovou adresu (do 48 hodin) po položení otázky?
 * 73) Kolik procent nově příchozích položí otázku bez e-mailové adresy?
 * 74) Je pravděpodobnější, že nováčci budou klást otázky mentorům, kteří mají vysoký počet úprav a krátký čas od poslední úpravy, ve srovnání s mentory s nižším počtem úprav a/nebo delší dobou od poslední úpravy?
 * 75) Jaké procento uživatelů, kteří položili alespoň jednu otázku, vidí jednu nebo více archivovaných otázek při zobrazení domovské stránky?
 * 76) Kolik procent uživatelů, kteří kliknou na jeden z odkazů v seznamu "Vaše poslední dotazy", kliklo na odkaz na otázku, která byla archivována?
 * 77) Modul dopadu
 * 78) Kolik procent klikne na odkaz, když je modul v "neaktivovaném stavu" (když uživatel nemá žádné úpravy článků)?
 * 79) Kolik procent kliknutí zobrazí článek?
 * 80) Kolik procent kliknutí zobrazí nástroj pro analýzu zobrazení stránek?
 * 81) Kolik procent kliknutí zobrazí všechny jejich příspěvky?
 * 82) Jak často se uživatelé vracejí, aby několikrát otevřeli nástroj pro analýzu zobrazení stránek?
 * 83) Modul spuštění
 * 84) Kolik procent uživatelů, kteří neměli žádnou e-mailovou adresu, přidalo e-mailovou adresu prostřednictvím tohoto modulu?
 * 85) Kolik procent uživatelů potvrzuje svou e-mailovou adresu prostřednictvím tohoto modulu?
 * 86) Kolik procent uživatelů klikne na tlačítko pro výukový program?
 * 87) Kolik procent uživatelů klikne na tlačítko pro spuštění své uživatelské stránky a jaké procento z nich skutečně uloží uživatelskou stránku?
 * 88) Kolik procent uživatelů klikne na odkaz, aby se dozvěděli více o vytvoření uživatelské stránky?



Hlavní indikátory a plány
Trvání A/B testu je minimálně šest měsíců, protože je nemožné odhalit změny v uchovávání nových editorů na středně velkých wikinách za kratší dobu (pokud zásadně neovlivníme uchovávání, ale to považujeme za poněkud nepravděpodobné). Během čekání na výsledky chceme být připraveni provést změny, pokud se domníváme, že to je třeba. Níže se nachází seznam různých možností. Pro každou možnost navrhujeme nápravné opatření.



Stav hlavních ukazatelů
Domovská stránka pro nováčky byla nasazena na českou a korejskou Wikipedii 6. května 2019. Hlavní ukazatele jsme během prvního měsíce experimentu pravidelně sledovali a nenašli jsme problémy, které by vyžadovaly okamžitou pozornost. Místo toho zjišťujeme, že domovská stránka zaznamenává velký provoz a interakce, zejména si všimneme, že vysoký podíl uživatelů se na ni opakovaně vrací.

Tabulka 1 níže ukazuje hlavní ukazatele z plánu experimentu měření spolu s výsledky z obou Wikipedií. Tato analýza je založena na datech uživatelů, kteří se zaregistrovali mezi nasazením 6. května 2019 a časem analýzy 3. června 2019. Uživatelé, kteří se sami rozhodli, že mají domovskou stránku nebo z ní odejdou (zapnutím nebo vypnutím této možnosti), jsou vyloučeni, stejně jako jakýkoli známý testovací účet od členů Growth Teamu.

Existuje jedna prahová hodnota, která byla splněna, moduly nejsou příliš využívány a dvě oblasti zájmu. Níže se jim budeme věnovat podrobněji:


 * Nepoužití konkrétního modulu: Jediný modul, který není příliš využíván, je modul nápovědy, který uživatelům poskytuje odkazy na obsah nápovědy a dialog pro zasílání dotazů na Help Desk. To nás nijak zvlášť neznepokojuje, částečně proto, že někteří uživatelé s ním komunikují (hlavně sledují odkazy na nápovědu), a částečně proto, že to není problém, pokud naši uživatelé nemají silnou potřebu posílat dotazy na Help Desk z domovské stránky. Místo toho vidíme, jak uživatelé domovské stránky posílají otázky svým mentorům.
 * Nenavštívení domovské stránky: Prahová hodnota není splněna ani na jedné z wiki, ale na korejské Wikipedii může být označena jako "blízko". Vzhledem k tomu, že pracujeme na vývoji funkcí, které pomáhají novým uživatelům objevit domovskou stránku, nevidíme to jako problém, protože očekáváme, že tato funkce tento podíl sníží.
 * Nedostatek mentorů: Nezdá se, že by bylo obtížné vypořádat se s množstvím otázek na obou wikinách. Jak již bylo řečeno, umožnit novým uživatelům posílat otázky svým mentorům je systém, kde se spoléháme na jednotlivce, že budou odpovídat, což může mít za následek delší dobu odezvy, než jakou bychom mohli vidět na Help Desku wiki. V tuto chvíli nenacházíme důvod k obavám, ale je to oblast, kterou budeme sledovat.