Growth/Personalized first day/Newcomer tasks/Experiment analysis, November 2020/ar

خلال شهر نوفمبر/تشرين الثاني 2019، أضاف فريق النموّ مِيزة «مهام الوافدين الجدد» على لوحة الوافدين الجدد. توفّر مهام الوافدين الجدد تدفّقا لمقالات مقترحة قصد تعديلها، تطابق مجالات اهتماماتهم. كان الهدف من ذلك تقديم تعديلات سهلة للوافدين الجدد تثير اهتمامهم عند وصولهم للمرّة الأولى على الويكي. كانت فرضيتنا أن تقوم الأداة بجعل الوافدين الجدد يقومون بالبدء في التعديل، ولتعلّم مهارات التعديل، ومشاهدة تأثيرهم، وبعدها الاستمرار في التعديل.

للتعرّف على تأثير المزايا، قمنا بنشرها في تجربة مراقبة: 76% من الوافدين الجدد تحصّلوا على المزايا والـ24% المتبقية لم تحصل عليها. دامت التجربة ستة أشهر، ثمّ جمعنا البيانات من الويكيبيديات العربية والتشيكية والفيتنامية والكورية.

ملخص النتائج
عمومان أظهرت التحليلات أنّ مزايا فريق النموّ تحسّن أداء الوافدين الجدد. في ما يلي أبرز النِّقَاط.


 * يكون الوافدون الجدد المتحصّلون على مزايا النموّ أكثر قابلية للـ «تفعيل» (أي القيام بأوّل تعديل لمقالة).
 * نعتقد أيضا أن لديهم قابلية الاستبقاء (أي الرجوع في يوم آخر وتعديل مقالة أخرى).
 * هذه المِيزة تزيد من حجم التعديلات (أي عدد التعديلات) دون النقصان في البنائية (أي ما إذا تم استرجاع التعديلات).

تعتقد أن النتائج تؤكّد أنّ مزايا النموّ، و خاصة منها مهام الوافدين الجدد، تؤدّي إلى أن الوافدين الجدد يعدّلون أكثر ويبقون في الويكي لوقت اطول.

نظرا إلى هذه النتائج، نعتقد أن جميع الويكيات يجب أن تفكّر في تنصيب هذه المزايا.

نعتقد أيضا أن هذه النتائج تؤيّد أنّ على فريق النموّ المضيّ في العمل على المهام المهيكلة، وفي إنشاء أنواع جديدة من مسارات العمل الخاصة بالوافدين الجدد.

مصطلحات

 * بموفّى شهر نوفمبر/تشرين الثاني، تحصّلت سبعة عشرة ويكي على مزايا النموّ. لكننا، خلال تجربتنا، قمنا بتحليل أربع ويكيات رائدة: الويكيبيديات العربية، والفيتنامية، والتشيكية، والكورية.
 * لم يتحصّل كل الوافدون الجدد على مزايا النموّ؛ 20% منهم اختيروا عشوائيا للحصول على التجربة الافتراضية. المجموعة المتحصّلة على المزايا هي مجموعة المعالجة والمجموعة صاحبة التجربة الافتراضية هي مجموعة المراقبة. الأرقام التي تأتي من التجربة الافتراضية تُدعى الأرقام القاعدية.
 * نعرّف الـتفعيل بأن يقوم الوافدون الجدد بالتعديل الأوّل في ظرف 24 ساعة الموالية للتسجيل. معدّل التفعيل القاعدي هو معدّل التفعيل مع المزايا الافتراضية، لا مزايا النموّ.
 * التفعيل البناء نعرّفه بأن يقوم الوافدون الجدد بالتعديل الأوّل خلال 24 ساعة بعد التسجيل، وأن لا يتمّ استرجاع ذلك التعديل خلال 48 ساعة. معدّل البنائية القاعدي هو المعدّل الخاص بالمستخدمين مع المزايا الافتراضية، لا مزايا النموّ.
 * الاستبقاء يُعرّف بأن يرجع الوافدون الجدد في يوم آخر خلال أسبوعين بعد التفعيل والقيام بتعديل آخر. معدّل الاستبقاء القاعدي هو المعدّل الخاص بالمستخدمين مع المزايا الافتراضية، لا مزايا النموّ.
 * حجم التعديلات هو العدد الإجمالي للتعديلات التي قام بها الوافدون الجدد خلال الأسبوعين الأوّلين. حجم التعديلات القاعدي هو المعدّل الخاص بالمستخدمين مع المزايا الافتراضية، لا مزايا النموّ.

النتائج المفصّلة
فيما يلي التأثيرات المحددة التي قدرناها من التجربة المراقبة. تستند كلّها على ملاحظة 97.755 حساب جديد على الويكيبيديات الرائدة، بين نوفمبر/تشرين الثاني 2019 ومايو/أيار 2020. للمزيد من التفاصيل حول المنهجية، شاهدوا «المنهجية»، أدناه.



التفعيل
من أجل هذا التحليل، ركّزنا على التعديلات في المقالة وعلى نطاقات نقاشات المقالات.


 * التفعيل: الوافدون الجدد مع مزايا النموّ 11,6% منهم يُرجّح أن يقوموا بالتعديل على مقالة. في ويكيبيدياتنا الرائدة الأربعة، معدّل التفعيل القاعدي هو 21,6%. تُقدّر زيادة التفعيل مع مزايا النموّ بـ24,1%، أي بزيادة قدرها 11,6% عن القاعدة.
 * التفعيل البناء: يكون مدى التأثير أكبر حين نشاهد فقط التفعيل البنّاء. الوافدون الجدد مع مزايا النموّ 26,7% منهم، يٌرجّح أن يقوموا بتعديلهم الأول الغير مسترجع. في ويكيبيدياتنا الرائدة الأربعة، معدّل التفعيل البنّاء القاعدي هو 16,1%. تُقدّر زيادة ذلك مع مزايا النموّ بـ20,4%، أي بزيادة قدرها 26,7% عن القاعدة.



الاستبقاء
Because retention is much more rare than activation, it is harder to detect changes. In this experiment, we did not detect any changes directly. Instead, we estimate that retention is increased to a similar degree that activation is increased, i.e. by about 11.6%. This comes from the idea that activity during the first day affects activity on the following days, something we account for in our statistical models. Since the Growth features are found to increase the number of users who are active on their first day, and we find no change in the probability that activated users are retained, it follows that we can expect the increase in activation to translate into a similar increase in retention. In other words, the Growth features appear to lead to an increase in retention caused by the increase in activation: some of the users that the Growth features activated would naturally go on to being retained.

The baseline retention rate across the four wikis in the experiment is 3.2%. We estimate that the Growth features increase this to 3.6%.



حجم التعديل
The Growth features lead to an 22% increase in the number of article edits by newcomers in their first two weeks. On our four pilot wikis, the baseline estimated edit volume is 1.4, which means that the average newcomer is estimated to make 1.4 edits. Newcomers with the Growth features are estimated to make an average of 1.7 article edits.

In other words:


 * 1,000 newcomers without the Growth features would make 1,400 article edits.
 * 1,000 newcomers with the Growth features would make 1,700 article edits.

This increase reflects both that the Growth features increase the likelihood that a newcomer makes an article edit and that some newcomers make many suggested edits quickly. Some of them even make over 100 edits within two weeks of registration.

Other metrics
We also looked at several other metrics, with less significant findings.


 * Reverts: we looked at whether newcomers with Growth features were more or less likely to have their edits reverted. This analysis did not show large or clear results.
 * Highly active newcomers: our results have shown that Growth features cause more newcomers to become active and to make more edits. We also wanted to see whether the features lead to more newcomers becoming highly active. We defined them as users making 50 edits in their first 30 days. This analysis did not show differences resulting from the Growth features.
 * Thanks: we looked at whether newcomers with Growth features receive more “thanks” than other newcomers. We found similar results to the retention analysis in that we expect that Growth features do lead to more thanks received, but that this is only because they cause more edits. This is not because the features cause newcomers to make edits that are more likely to attract thanks.
 * Differences between wikis and platforms: we compared the wikis and platforms (mobile vs desktop). We did not find significant differences in the effect of the Growth features.

Takeaways

 * The features work: the Growth team features work to increase newcomer engagement. This is especially true for the "newcomer tasks" component, which suggests easy edits.
 * Confidence in building structured tasks: this gives us confidence that our current work to build more kinds of newcomer tasks, such as the "add a link" task, will increase impact.
 * Need for positive reinforcement: the results showed that the Growth features primarily impact activation – getting newcomers to make their first edit – as opposed to retention. The features only seemed to increase retention because they increased activation.  The Growth team should think about what we can add to the features to encourage newcomers to return after making their first edits.  Thus, we are planning work on "positive reinforcement" this year. This will add milestones and statistics, so that newcomers can get excited about their progress and impact.

Next steps

 * Spread the word: we now have increased confidence in the value of the features. Therefore, the Growth team will encourage more wikis to read results, and consider deploying the features.
 * Continue the work: this year, we'll continue to focus on adding new types of tasks and providing positive reinforcement when newcomers complete tasks.
 * Extend the analysis: now that we have completed this analysis, we're able to more easily run it again in the future. We'll be able to look at how the features impact more wikis, and see how improvements alter their impact.

Methodology
The Growth Team deployed the newcomer tasks module to the Homepage on Czech, Korean, Vietnamese, and Arabic Wikipedias on November 21, 2019. During the experiment, users were randomly assigned to either a treatment or control group. In the treatment group, users received all Growth features (homepage, newcomer tasks, help panel, etc.), while users in the control group received none.

From November 21 until December 12, 2019, the chance of being in the treatment group was 50%. This changed to 80% on December 12, when the team started an A/B test of two variants of the newcomer tasks module.

Users can turn the Growth features on or off in their user preferences at any point. If doing so, they are excluded from this analysis. We also exclude known test accounts, users who registered through the API (these are mainly app accounts), and accounts that are autocreated.

The dataset for this analysis contains 97,755 accounts registered between the start of the experiment and May 14, 2020. Of these, 23,529 (24.1%) are in the control group and 74,226 (75.9%) are in the treatment group.

Our analysis makes extensive use of multilevel (hierarchical) regression models, using the wiki as the grouping variable. This allows us to account for differences between the wikis in our analysis. For example, our activation models are multilevel logistic regression models, which means that they account for the inherent differences in activation rate between the wikis. We also know that editing activity follows a long tail distribution, and therefore model number of edits made using a zero-inflated negative binomial distribution (again using a multilevel model).