Growth/Personalized first day/Welcome survey/cs

Tato stránka popisuje práci týmu Growth na projektu "uvítacího dotazníku", což je podprojekt většího projektu "Personalizovaného prvního dne". Stránka obsahuje nejdůležitější informace a rozhodnutí, které se tohoto projektu týkají. Více na obecné stránce s aktualitami obsahující nejdůležitějšími informace.

Dne 20. listopadu 2018 byl uvítací dotazník uveden na české a korejské Wikipedii. Zpráva analyzující výsledky byla zpracována a publikována v průběhu prosince 2018.

V březnu 2019 jsme se rozhodli, že zpracování uvedené jako "varianta A" je to nejlepší. Proto se nyní zobrazuje všem českým a korejským nováčkům.

V současné době zkoumáme, jaké řešení dotazníku je nejlepší pro vietnamskou verzi.



Současný stav

 * 2018-11-20: Uvítací dotazník je uveden na českou a korejskou Wikipedii, polovina uživatelů dostává variantu A a polovina je v kontrolní skupině.
 * 2018-12-22: Je publikovány.
 * 2019-01-16: Po, jsme změnili nastavení české a korejské Wikipedie tak, že jedna polovina nováčků dostává variantu A a druhá variantu C.
 * 2019-01-24: Uvítací dotazník byl uveden na vietnamské Wikipedii, polovina nováčků dostává variantu A a polovina variantu C.
 * 2019-02-27: Změna nastavení vietnamské Wikipedie, polovina nováčků dostává variantu A a polovina nedostává žádný dotazník. Tímto způsobem si chceme ověřit pochybnosti týkající se množství nováčků, kteří proces vytváření účtu přeruší.
 * 2019-03-06: Po analýze experimentu na české a korejské Wikipedii jsme nováčkům zobrazili variantu A, která byla lepší ve všech směrech. Neběží žádné experimenty ani na české, ani na korejské Wikipedii.
 * 2019-03-21: Byl vypnut dotazník na vietnamské Wikipedii, protože jsme zjistili, že registraci přeruší mnohem více uživatelů s dotazníkem než bez dotazníku. Tyto výsledky stále prověřujeme.
 * 2019-07-12: Odstranění možnosti uživatelů přidávat do průzkumu odpovědi ve volném textu. Požadavek vyplynul z došlých odpovědí, které se staly potenciálním zdrojem pro zneužití.
 * 2019-07-15: Uvítací dotazník byl uveden na arabské Wikipedii, přičemž polovina uživatelů dostává variantu A a polovina dotazník nedostává.
 * 2019-08-30: Jsme zveřejnili zprávu, která ukazuje, že uvítací dotazník nemá negativní vliv ani na uživatele arabské Wikipedie.
 * 2022-01-30: začíná měsíční test průzkumu na vietnamské Wikipedii.
 * Další: Úprava otázek v uvítacím dotazníku směřujících k získání informací potřebných pro úspěšnou realizaci projektu Úkoly nováčka.

Shrnutí
Z výzkumu Zkušenosti nových wikipedistů víme, že nováčci na wiki přicházejí s určitým cílem. Pokud ho nejsou schopni dosáhnout, je nepravděpodobné, že se opět vrátí. Pomocí uvítacího dotazníku nováčků chceme zjistit jejich cíle, abychom jim mohli pomoci k jejich dosažení. Chceme se zeptat nováčků na další otázky v průběhu procesu pro vytvoření účtu, například důvod, proč si vytváří účet, o co se snaží, o co se zajímají a zda by rádi spolupracovali se zkušeným rádcem (mentorem).

Pro více informací o motivaci pro tento projekt sledujte "stránky projektu Personalizovaný první den".

Pokud se chcete dozvědět, jak budou data z dotazníku využita pro personalizaci prvních dnů nováčka, navštivte stránku "E-maily pro zvýšení angažovanosti nováčků" (Engagement emails) a stránku projektu "Domovská stránka nováčka" (Newcomer homepage).



Srovnávací recenze
Aby se návrhář našeho týmu dozvěděl, jak nejlépe navrhnout uvítací průzkum, zkontroloval způsob, jakým jiné platformy (např. Reddit, Coursera, Medium) klademe nováčkům úvodní otázky. Zatímco zkušenosti, které chceme poskytnout nováčkům, jsou rozhodně odlišné od jiných platforem (chceme nováčkům poskytnout volitelné, lehké, neinvazivní zkušenosti), také uznáváme, že existují osvědčené postupy, které se můžeme naučit od jiného softwaru. Srovnání jsou uvedena v tomto slide decku a hlavní poznatky jsou:


 * Modály byly obecně více používané nebo jinak překryvná vrstva na celé stránce pro formuláře.
 * Během vstupního dotazování nebyly položeny více než 4 otázky.
 * Otázky byly buď postupně zveřejňovány na jediné obrazovce, nebo se jinak zobrazovaly 1 otázka na krok s jasnou vizuální indikací počtu kroků (např. pomocí krokovacího uživatelského rozhraní).
 * Formuláře s více otázkami byly obvykle zcela přeskočitelné, ale s povinnými otázkami, pokud se uživatel chtěl zúčastnit.
 * Volitelná prohlídka s průvodcem nebo další pomoc byla často poskytnuta poté, co byl uživatel v aplikaci.
 * Přátelský hlas a tón – vstřícný, neformální jazyk zarámovaný jako žádost o informace, které pomohou uživateli zorientovat se ("Řekněte nám o sobě", "Získejte doporučení" atd.)

Vývoj
Naše vyvíjející se návrhy lze vždy nalézt v těchto klikacích maketách a s dalšími kontextovými informacemi v tomto úkolu Phabricatoru. Naším cílem návrhu je, aby nováčci odpověděli na všechny otázky, které chtějí, a nesnižovali počet uživatelů, kteří dokončí proces registrace a vrátí se k tomu, co dělali.

Zvažovali jsme tři hlavní přístupy k návrhu tohoto projektu. The new account holder lands at each approach immediately after clicking "Create your account" at Special:CreateAccount. A po dokončení každého z nich se vrátí na stránku, ze které původně klikli, aby si vytvořili svůj účet. Vezměte prosím na vědomí, že znění otázek a text v těchto maketách neodráží aktuální koncepty – makety jsou spíše pro vizuály a pracovní postupy. Znění a text otázky budou zveřejněny samostatně.


 * Varianta A: Speciální stránka obsahující průzkum. Toto bylo nejjednodušší implementovat a poprvé jsme ji nasadili 20. listopadu 2018.  Ačkoli to není v souladu s osvědčenými postupy, které jsme se naučili ve srovnávacím přehledu, je to nejrychlejší způsob, jak vytvořit průzkum a začít se učit.  Bude také fungovat automaticky na mobilním webu a pro uživatele bez JavaScriptu.
 * Varianta B: Tato možnost zobrazuje uživatelům jednu otázku po druhé a také odstraňuje okolní odkazy z levé a horní navigace wiki pro efektivnější zážitek. This is inspired by the interface for the  tool.  Rozhodli jsme se, že se této variaci vůbec nebudeme věnovat, protože je to více práce než Varianta C, která se nám líbí víc.
 * Varianta C: Toto je náš ideální vývoj, který je modálním vzhledem k kontextu, odkud uživatel přišel.  Pomáhá objasnit, že uživatel je blízko k návratu k úkolu, který dělal, když začínal vytvářet účet. Také uvádí otázky jednu po druhé, takže průzkum není ohromující.  To zahrnuje naše poznatky ze srovnávacího přehledu.  Budeme muset navrhnout a zkonstruovat samostatnou mobilní webovou verzi a také zvážit, co uživatelé bez JavaScriptu obdrží.  Toto se připravovalo během listopadu a prosince 2018.

Tým vytvořil a nasadil Variantu A v listopadu 2018 a současně postavil Variantu C. We will be deploying Variation C during January 2019.

Original set of questions
The questions that this feature asks to newcomers, along with their specific wording and the other text in the feature, is really important to getting useful data. The team worked on these things with help from several other people experienced with surveys at WMF. All the questions will be optional, and will be translated into the languages of the wikis on which the welcome survey is deployed. Below are the questions we want to ask, and we are still working on the wording. To see the current text of the feature, check out the current mockups.


 * Why did you create your account today?
 * Goal: if we understand what a newcomer is trying to accomplish, we may be able to show them help materials that help them accomplish it.
 * Response options:
 * To fix a typo or error in a Wikipedia article
 * To add information to a Wikipedia article
 * To create a new Wikipedia article
 * To read Wikipedia
 * Other (please describe)
 * Have you ever edited Wikipedia?
 * Goal: we want to know how many people creating accounts may have already made IP edits. This would also allow us to refrain from giving too much help material to people who know what they're doing already.
 * Response options:
 * Yes, many times
 * Yes, once or twice
 * No, I didn't know I could edit Wikipedia
 * No, for other reasons
 * I don't remember
 *  People can edit Wikipedia articles on topics they care about. We've listed a few topics below that are popular for editing.  Select some topics that you may wish to edit. 
 * Goal: it may be possible in the future to connect newcomers with experienced editors who share their interests, or just give them recommendations on articles to work on.
 * Response options (see this update for explanation of how these were determined):
 * As checkboxes: Arts, Science, Geography, History, Music, Sports, Literature, Religion, Popular culture
 * Behind typeahead: Entertainment, Food and drink, Biography, Military, Economics, Technology, Film, Philosophy, Business, Politics, Government, Engineering, Crafts and hobbies, Games, Health, Social science, Transportation, Education
 * It will also possible for users to add their own topics.
 * Email address
 * Goal: Only if the user did not supply it on Special:CreateAccount. Email is important for engaging new editors and allowing them to recover their accounts, so we want to ask twice.
 *  We are considering starting a program for more experienced editors to help newer users with editing. Are you interested in being contacted to get help with editing? 
 * Goal: We want to learn whether newcomers feel that they need human-to-human help.

In addition to the questions themselves, we will be showing users a link to the survey privacy statement (translated into the wiki's language) and to the Tutorial and Help Desk pages on their wikis.

Update for Newcomer Tasks in September 2019
The original purpose of the welcome survey is to use the survey responses to personalize a newcomer's experience so they get what they need on their first day. The first feature that we will be personalizing is the feature. Welcome survey questions and responses will change to meet the needs of that feature. Specifically, these are the planned changes:


 * We will alter the responses in the first question ("Why did you create your account today?") to include response options that are common in the free-text "Other" field:
 * "To add a photo or image to a Wikipedia article": this is one of the most common things that newcomers try to do.
 * "I'm participating in a program, class, or event": many newcomers come through programs, and may want the ability to provide personalized content based on the program from which they are arriving.
 * We will collapse two of the other responses in the first question into one that reads "To make changes to an existing Wikipedia article". We're collapsing the following two responses into that one response to make room for the new responses above:
 * "To fix a typo or error in a Wikipedia article"
 * "To add information to a Wikipedia article"
 * We will remove the question asking the user's topics of interest from the survey entirely. This is because we'll be asking that question in the  feature on the homepage instead.
 * We will add a question asking users to indicate the languages they read or write. This question may help us encourage certain newcomers to use the Content Translation tool.

User testing
During the week of October 22, 2018, we used usertesting.com to conduct six tests of our Variation A mockups with internet users unaffiliated with the Wikimedia movement. In these tests, respondents are compensated for trying out the mockups, speaking aloud on what they observe, and answering questions about the experience. As our team's designer described on the Phabricator task, the goals of this testing were:


 * 1) Identify improvements to Understanding of the survey (update copy depending on users' comprehension of the instructions and questions on the form).
 * 2) Identify improvements to the Usability of the survey (check whether users are able to correctly input and submit their intended responses).
 * 3) * Do users know how the visual design and layout works? (E.g., do they understand they should be selecting one answer from a radio button group)
 * 4) * Are users able to navigate through the form?
 * 5) * Any feedback missing that could help users complete the form?
 * 6) Gauge user Reactions to the survey and Expectations of how the information will be used.

Summary of findings


 * Survey was clearly optional, and seen as short, low-effort, and non-intrusive to complete
 * Generally seen as data capture for research (though a few testers thought more specific explanation about how responses may be used might make them more inclined to fill it in)
 * "Mentorship program" was the one aspect not clearly understood, with about half of participants mistakenly assuming they would be providing the help rather than receiving it.
 * A couple of users had misgivings about providing email and feared it may be misused for marketing or given to 3rd parties (also as they expected it to be mandatory for account creation if it was needed for recovery)
 * Users liked the post-submission message with more information about "Getting started with editing"
 * Several users assumed that upon completing the welcome survey, they would be directed to their "dashboard" to get started with editing.

Recommendations


 * Add a full Thanks message after survey completion
 * Rephrase “Mentor” checkbox question and clarify expectations for how users may be contacted if they select the mentor checkbox
 * Revise phrasing of Q3 (Wordsmithing so that the second sentence “We've listed a few below popular for editing” is more easily understood.)
 * Add a tooltip beside or assistive text under the “Add more topics” field for no-js users explaining they can comma-separate multiple topics
 * Add more information about how the email is used
 * Potentially be extra clear by placing a tooltip with the following message (taken from Help:Account_management): “If you choose to give an email address, other users will be able to contact you by email. This feature is anonymous—the user who emails you will not know your email address. You don't have to give your email address if you don't want to (but doing so is required to reset your password if you forget it)”

Analysis and experiments
There are two kinds of analysis we'll be doing with respect to this feature. To read about those plans in-depth, containing the "experiment plan".

Analysis of the responses to the survey
The main objective of the survey is to collect information about what new editors are trying to accomplish, so we can figure out if it's possible to personalize their experiences based on their responses. We are doing straightforward analysis on responses, broken out by elements like platform (mobile vs. desktop) and context from which the account was created (homepage, reading, editing).

The initial report on survey responses can be found here. Community members should feel free to translate this report into their languages. In-depth reporting will be created by March 2019. Some topline results:


 * The survey has high response rates: 67% in Czech and 62% in Korean.
 * Many people create accounts just to read articles -- a potential opportunity to engage new editors.
 * High numbers of people indicate they are interested in being contacted for help: 36% in Czech and 53% in Korean.

Analysis of the impact of the survey on activation
Although we would not have intended it, it is possible that the welcome survey could depress the number of newcomers who make edits. Community members first brought up this concern, saying that by making the sign-up process longer, and keeping newcomers away from their objectives, we could cause them to leave the site. Therefore, we conducted an A/B test to find out whether being presented with the survey decreases activation rate (the rate at which new users make their first edit).

From November 19 to January 15, half of newcomers in Czech and Korean Wikipedia were given Variation A of the survey, and half were given no survey. Our experiment results are published here, and show that having the survey does not significantly decrease the rate at which newcomers make their first edit. Based on this analysis, we also tested Variation A against Variation C to see if Variation C has increased response rates (see next section). In August 2019, we ran this same test on Arabic Wikipedia, and again found that the welcome survey had no negative impact on new users.

Analysis of the two survey variants
After seeing that Variation A did not cause a decrease in activation rate in Czech and Korean Wikipedias, we moved on to comparing Variation A to Variation C in those wikis. During the month of February 2019, half of newcomers received each variant. After comparing the variants on activation rate, abandonment rate, and response rate, we saw that Variation A performs better or equal to Variation C on all languages and all platforms. We therefore ended the experiments in Czech and Korean Wikipedias and started using Variation A with all newcomers starting on March 6, 2019. In-depth results are forthcoming.

