Growth/Personalized first day/Newcomer homepage/Measurement and experiment plan/cs

Cílem Domovské stránky je poskytnout zejména novým uživatelům snadný přístup k nápovědě, řešeními pro věci, na kterých pracují a ty nejdůležitější informace, které k tvorbě Wikipedie potřebují. Zároveň také Domovská stránka má předat dopad práce, kterou na Wikipedii odvedli. Tyto typy informací mohou snížit bariéru vytváření konstruktivních příspěvků do encyklopedie, což zvýší aktivaci editorů (množství nováčků, kteří udělají editaci). Také to může zvýšit retenci editorů (množství nováčků, kteří editují více než jeden den), což je celkový cíl týmu Growth. This type of information can help lower the barrier to making constructive contributions to the encyclopedia, thereby increasing editor activation (the proportion of new users who go on to make edits). It can also potentially increase editor retention (the proportion of new users who return to make additional edits), which is the overarching goal of the Growth Team.

Tato stránka dokumentuje náš plán experimentu, a jaké výsledky budeme používat k zjištění, kolik uživatelů s ní pracuje.

Výzkumné otázky
Výzkumné otázky jsou otázky na vyšší úrovni, na které chceme odpovědět. Pod pojmem „ošetření domovské stránky“ máme na mysli, že uživatel má ve výchozím nastavení domovskou stránku a přijímá různé doplňkové funkce, které je přesměrují na domovskou stránku, které mohou zahrnovat bannery, zprávy na diskusních stránkách nebo odkazy na hlavní stránce. V počáteční verzi bude jedinou doplňkovou funkcí skutečnost, že odkaz na uživatelské jméno v osobních nástrojích půjde na domovskou stránku.


 * 1) Pomáhá Domovská stránka zvýšit aktivaci editora?
 * 2) Pomáhá Domovská stránka zvýšit retenci editora?
 * 3) Pomáhá přístup k Domovské stránce zvýšit množství editací v prvních dvou týdnech po registraci?
 * 4) Zvyšuje Domovská stránka množství konstruktivních editací?
 * 5) * V tomto kontextu „konstruktivní úpravy“ znamenají úpravy, které nejsou vráceny. Vzhledem k tomu, že Growth Team se zaměřuje na udržení nových uživatelů, plánujeme to měřit jak celkově, tak podle úrovně zkušeností uživatelů (např. Držba ve dnech, počet úprav nebo jejich kombinace).
 * 6) Vrací se uživatelé s Domovskou stránku zpátky na Domovskou stránku? Jaký vzor vidíme v používání Domovské stránce?
 * 7) Které moduly zapojují nováčky a do jaké míry jsou zapojeny? Vedou moduly, které žádají uživatele, aby jednali, uživatele, aby tyto akce podnikly?
 * 8) Umíme Domovskou stránku personalizovat?
 * 9) * První krok: chovají se uživatelé v souladu se svými odpověďmi na uvítací průzkum? Například uživatelé, kteří říkají, že mají zájem být kontaktováni, aby získali pomoc s úpravami, používají modul mentor k oslovení mentora. Používají uživatelé, kteří tvrdí, že mají zájem o vytvoření článku, moduly, které jim pomáhají dozvědět se více o tom, jak to udělat?
 * 10) * Druhý krok: jakmile si přizpůsobíme domovskou stránku, vidíme zvýšené zapojení uživatelů, jejichž domovské stránky jsou personalizovány?
 * 11) Když je domovská stránka přizpůsobitelná, do jaké míry uživatelé tuto schopnost využívají?
 * 12) Pokud / kdy existuje snaha o průzkum nováčků o domovské stránce, co se můžeme kvalitativně naučit? Takovou kvalitativní studii lze provést prostřednictvím Rychlých průzkumů nebo prostřednictvím modulu domovské stránky, který se jednoduše ptá na zbytek domovské stránky.

Kontrolovaný experiment
Abychom pochopili dopad domovské stránky na aktivaci a uchování editoru, navrhujeme experiment, který bude probíhat nejméně šest měsíců. Během této doby bude 50% nových registrací na cílové wiki (v současné době české, korejské, vietnamské a arabské) povoleno ve výchozím nastavení domovské stránky a 50% bude mít deaktivovanou. Nejpravděpodobněji budeme současně provádět další experimenty na cílové wiki (např. Varianty našeho panelu nápovědy). Pokud tyto experimenty vyžadují stratifikovaný odběr vzorků, zajistíme přizpůsobení našich strategií odběru vzorků podle potřeby. During that time, 50% of new registrations on target wikis (currently Czech, Korean, Vietnamese, and Arabic) will have the homepage enabled by default, and 50% will have it disabled. We will most likely be running other experiments on the target wikis at the same time (e.g. variants of our Help Panel). If those experiments require stratified sampling, we will make sure to adjust our sampling strategies as necessary.

Během experimentu očekáváme také testování variant domovské stránky, abychom pochopili, jak konkrétní prvky rozhraní ovlivňují chování uživatelů. Budeme si pamatovat, že čím silnější je naše hypotéza, že změněné rozhraní ovlivní aktivaci nebo retenci, tím více test na tomto rozhraní zaměří náš dlouhodobější experiment o aktivaci a retenci.

Měření
Tato měření jsou řízena našimi výzkumnými otázkami a zaměřují se na konkrétní činnosti uživatelů, kteří mají přístup na domovskou stránku a komunikují s jejími moduly. Níže uvedený seznam obsahuje měření čtyř modulů přítomných na domovské stránce v době spuštění: Start, Nápověda, Dopad a Mentor. Když vyvíjíme nové moduly pro domovskou stránku, vytvoříme pro ně také podobné plány měření.


 * 1) Obecné informace
 * 2) Jaké procento uživatelů přistupuje na domovskou stránku?
 * 3) Jaké procento z těchto uživatelů přistupuje na domovskou stránku vícekrát?
 * 4) Když se uživatelé na domovskou stránku dostanou vícekrát, za jakou časovou osu se to stane?
 * 5) Existují rozdíly mezi mobilními a stolními uživateli?
 * 6) Jak brzy po vytvoření účtu uživatel poprvé navštíví domovskou stránku?
 * 7) Jak se uživatelé dostanou na domovskou stránku?
 * 8) Kliknutím na jejich uživatelské jméno v horní navigaci?
 * 9) Kliknutím na kartu Uživatel nebo na jejich diskusní stránce?
 * 10) Prostřednictvím jiného ovladače, jako je banner na wiki nebo odkaz v e-mailu?
 * 11) Pokud uživatel klikl na odkaz na domovskou stránku z horní navigace nebo na kartě, chceme zachytit kontext, ve kterém byli. Konkrétně chceme vědět, v jakém jmenném prostoru byli, když na něj klikli, a zda čtou nebo editace.
 * 12) Kolik času tráví uživatelé interakcí s moduly domovské stránky na návštěvu?
 * 13) Během jejich první návštěvy?
 * 14) Během následujících návštěv?
 * 15) Jaké procento uživatelů sleduje odkazy z alespoň jednoho modulu?
 * 16) Jsou uživatelé, kteří mají přístup na domovskou stránku, více či méně pravděpodobní, že si vytvoří uživatelskou stránku?
 * 17) Jsou uživatelé, kteří mají přístup na domovskou stránku, více či méně pravděpodobně v kontaktu s ostatními uživateli prostřednictvím diskusních stránek uživatelů?
 * 18) Jsou uživatelé, kteří mají přístup na domovskou stránku, více či méně pravděpodobně v kontaktu s komunitou prostřednictvím diskusních stránek o článcích a projektech?
 * 19) Moduly
 * 20) Obecné informace
 * 21) Jak často se klikne na každý modul? Jaký je podíl uživatelů, kteří na něj kliknou?
 * 22) S kolika moduly mají uživatelé sklon interagovat (kde „interakce“ znamená jakékoli kliknutí)?
 * 23) S kterými moduly bývají opakovaně interagovány?
 * 24) Které moduly interagují s většinou uživatelů, kteří jsou aktivováni a udrženi (s vědomím, že kauzalita může jít v obou směrech)?
 * 25) Jak dlouho se uživatelé stolních počítačů zabývají každým modulem? (Analogové měření pro mobilní zařízení závisí na dosud nevyřešeném návrhu mobilního zařízení)
 * 26) Zdá se, že umístění modulu na stránce ovlivňuje interakce?
 * 27) Jaký je dopad na retenci při provádění výzvy k akci u každého modulu?
 * 28) Například: jaké procento uživatelů, kteří kontaktují svého mentora, je zachováno?
 * 29) Specifické moduly
 * 30) Modul nápovědy
 * 31) Jaké procento uživatelů klikne na jeden nebo více odkazů na nápovědu?
 * 32) Pokud ano, na které odkazy kliknou?
 * 33) Jaké procento uživatelů používá funkci vyhledávání?
 * 34) 1: Zaostřete na vyhledávací pole
 * 35) 2: Zadejte hledání, počet hledaných znaků
 * 36) 3: Klikněte na výsledek, počet výsledků, hodnocení kliknutí
 * 37) Jak daleko se uživatelé dostanou do pracovního postupu kladení otázek na helpdesku?
 * 38) 1: Klepnutím položte otázku
 * 39) 2: Zadejte otázku
 * 40) 3: Odešlete
 * 41) 4: Klikněte na odkaz v potvrzovacím dialogu
 * 42) Jaká je průměrná délka položených otázek?
 * 43) Jaké procento uživatelů, kteří vložili otázku, se zdá, že se vrátí, aby si prohlédli odpověď, provedením některého z následujících kroků?
 * 44) Kliknutím na oznámení Echo řeknete, že byli v odpovědi pingováni.
 * 45) Klikněte na odkaz v seznamu „Poslední dotazy“.
 * 46) Odpověď na otázku na stránce Help Desk.
 * 47) Která procenta nováčků, kteří neměli žádnou e-mailovou adresu, přidají jednu při položení otázky?
 * 48) Jaké procento nově příchozích potvrzuje svou e-mailovou adresu (do 48 hodin) po položení otázky?
 * 49) Jaké procento nováčků klade otázku bez e-mailové adresy?
 * 50) Jaké procento uživatelů, kteří položili alespoň jednu otázku, vidí při prohlížení domovské stránky jednu nebo více archivovaných otázek?
 * 51) Jaké procento uživatelů, kteří kliknou na jeden z odkazů v seznamu „Vaše nedávné otázky“, kliklo na odkaz na archivovanou otázku?
 * 52) Modul mentorství
 * 53) Jaké procento klikne na odkaz a dozví se více o mentorovi?
 * 54) Jak daleko se uživatelé dostanou do pracovního postupu a ptají se svého mentora?
 * 55) 1: Klepnutím položte otázku
 * 56) 2: Zadejte otázku
 * 57) 3: Odešlete
 * 58) 4: Klikněte na odkaz v potvrzovacím dialogu
 * 59) Jaká je průměrná délka položených otázek?
 * 60) (Měřeno ručně) Jaké procento uživatelů, kteří položili otázku, obdrží odpověď od svého mentora?
 * 61) Dostanou odpověď od někoho, kdo není jejich mentorem?
 * 62) Jaké procento uživatelů, kteří vložili otázku, se zdá, že se vrátí, aby si prohlédli odpověď, provedením některého z následujících kroků?
 * 63) Kliknutím na oznámení Echo řeknete, že byli v odpovědi pingováni.
 * 64) Klikněte na odkaz v seznamu „Poslední dotazy“.
 * 65) Odpověď na otázku na stránce Help Desk.
 * 66) (Měřeno ručně) Jaké procento nově příchozích, kteří položí otázku, se podruhé objeví na diskusní stránce svého mentora?
 * 67) Jak často se první otázka stává konverzací?
 * 68) Jak často je položena druhá otázka?
 * 69) Jak často se konverzace pohybují mimo transakční wiki diskuse?
 * 70) Jaké procento klikne na jeden z odkazů a zobrazí se jejich otázka poté, co se na to zeptají?
 * 71) Která procenta nováčků, kteří neměli žádnou e-mailovou adresu, přidají jednu při položení otázky?
 * 72) Jaké procento nově příchozích potvrzuje svou e-mailovou adresu (do 48 hodin) po položení otázky?
 * 73) Jaké procento nováčků klade otázku bez e-mailové adresy?
 * 74) Je pravděpodobnější, že nováčci budou klást otázky mentorům, kteří mají vysoký počet úprav a krátký čas od poslední úpravy, ve srovnání s mentory s nižším počtem úprav a / nebo delší dobu od poslední úpravy?
 * 75) Jaké procento uživatelů, kteří položili alespoň jednu otázku, vidí při prohlížení domovské stránky jednu nebo více archivovaných otázek?
 * 76) Jaké procento uživatelů, kteří kliknou na jeden z odkazů v seznamu „Vaše nedávné otázky“, kliklo na odkaz na archivovanou otázku?
 * 77) Impact modul
 * 78) Jaké procento klikne na odkaz, když je modul ve „neaktivovaném stavu“ (když uživatel nemá žádné úpravy článků)?
 * 79) Jaké procento kliknutí zobrazí článek?
 * 80) Jaké procentuální kliknutí zobrazí nástroj pro analýzu zobrazení stránek?
 * 81) Jaké procento kliknutí zobrazí všechny jejich příspěvky?
 * 82) Jak často se uživatelé vracejí k otevření nástroje pro analýzu zobrazení vícekrát?
 * 83) Start modul
 * 84) Jaké procento uživatelů, kteří nemají e-mailovou adresu, přidává e-mailovou adresu prostřednictvím tohoto modulu?
 * 85) Jaké procento uživatelů potvrzuje svou e-mailovou adresu prostřednictvím tohoto modulu?
 * 86) Jaké procento uživatelů klikne na tlačítko kurzu?
 * 87) Jaké procento uživatelů klikne na tlačítko pro spuštění jejich uživatelské stránky a jaké procento z nich skutečně uloží uživatelskou stránku?
 * 88) Jaké procento uživatelů klikne na odkaz a dozví se více o vytvoření uživatelské stránky?

Hlavní indikátory a plány
A/B testování provádíme po dobu šesti měsíců proto, že je nemožné detekovat změny v udržení nováčků na středně velkých Wikipediích (vyjma případů, kdy se tato metrika dramaticky změní, ale to vnímáme jako něco velmi nepravděpodobného). Během čekání na výsledky chceme být připraveni provést změny, pokud se domníváme, že to je třeba. Níže se nachází seznam různých možností. Pro každou možnost navrhujeme nápravné opatření. While we wait for our results we want to be able to take action if we suspect that something is amiss. Below, we sketch out a set of scenarios based on the data described in the instrumentation strategy above. For each scenario, we propose a plan of action to take to remedy the situation.

Status of leading indicators
Domovská stránka nováčků byla nasazena na české a korejské Wikipedie 6. května 2019. Během prvního měsíce experimentu jsme pravidelně sledovali hlavní ukazatele a nenašli jsme problémy, které by vyžadovaly okamžitou pozornost. Místo toho zjišťujeme, že na domovské stránce dochází k velkému množství provozu a interakcí, zejména jsme si všimli, že se k ní vracejí mnozí uživatelé vícekrát.

Tabulka 1 níže ukazuje hlavní ukazatele z experimentálního plánu měření spolu s výsledky z obou Wikipedií. Tato analýza je založena na údajích uživatelů, kteří se zaregistrovali mezi nasazením 6. května 2019 a časem analýzy dne 3. června 2019. Uživatelé, kteří se buď sami vybrali do domovské stránky nebo z ní mají domovskou stránku (zapnutí nebo vypnutí možnosti) jsou vyloučeno, stejně jako jakýkoli známý testovací účet od členů Growth Teamu.

Je splněna jedna prahová hodnota, moduly se nevyužívají rozsáhle a dvě oblasti zájmu. Níže se jim věnujeme podrobněji:


 * Nepoužívá konkrétní modul: Jediným modulem, který se ve velké míře nepoužívá, je modul nápovědy, který poskytuje uživatelům odkazy na obsah nápovědy a dialog pro zasílání otázek do helpdesku. To nás nijak zvlášť nezajímá, částečně proto, že s ním někteří uživatelé interagují (hlavně následují odkazy na nápovědu), a částečně proto, že to není problém, pokud naši uživatelé nemají silnou potřebu klást dotazy na help desk z domovské stránky. . Místo toho vidíme, jak uživatelé domovské stránky zveřejňují dotazy svým mentorům. The only module that is not being used extensively is the Help module, which provides users with links to help content and a dialogue for posting questions to the Help Desk. We are not particularly concerned about this, partly because some users are interacting with it (mainly following the help links), and partly because it's not a problem if our users do not have a strong need to post questions to the Help Desk from the Homepage. Instead, we are seeing Homepage users posting questions to their mentors.
 * Nenavštívit domovskou stránku: Hranice není splněna ani na wiki, ale může být na korejské Wikipedii označena jako „ne daleko“. Protože právě vyvíjíme funkce, které pomáhají novým uživatelům objevovat domovskou stránku, nevidíme to jako problém, protože očekáváme, že tato funkce tento podíl sníží.
 * Nedostatek mentorů: Nezdá se, že by na obou wiki bylo obtížné řešit objem otázek. Jak již bylo řečeno, umožnění novým uživatelům zveřejňovat dotazy svým mentorům je systém, ve kterém se spoléháme na jednotlivce, aby odpověděli, což může mít za následek delší dobu odezvy, než jakou můžeme vidět na helpdesku wiki. V tuto chvíli nenalézáme důvod k obavám, ale je to oblast, na kterou budeme dohlížet.