Système de signalement d’incidents
|
Système de signalement d’incidents
Aider à obtenir de l'aide en cas d'incidents dangereux
|
En tant que responsables de la sécurité et de l'intégrité des produits, nous voulons offrir des environnements plus sûrs et plus sains aux communautés. Nous mettons en place le « Système de signalement des incidents » (Incident Reporting System, IRS) afin de permettre aux utilisateurs de trouver facilement la marche à suivre pour obtenir de l'aide lorsqu'ils sont victimes d'un incident préjudiciable.
Goals
- Faire en sorte que les personnes qui ont subi des incidents nuisibles puissent obtenir plus facilement de l'aide.
- En finir avec les situations dans lesquelles les victimes n’effectuent pas de signalement d’un cas de harcèlement parce qu’elles ne savent pas comment le faire ;
- Veiller à ce que les personnes qui ont subi des incidents nuisibles aient accès aux bonnes entités en mesure de les aider via les processus communautaires locaux.
- Ensure responders are not overwhelmed with invalid reports or issues that belong elsewhere.
Contexte
Le signalement et le traitement des incidents violents est un sujet qui préoccupe les communautés Wikimedia depuis des années. Avec la mise en place du Code de conduite universel, il est devenu crucial de discuter des systèmes pour signaler les incidents.
La manière dont les fautes professionnelles et les violations des politiques sont traitées dans les espaces, wikis et plateformes Wikimedia s'est développée de manière organique. Chaque communauté et chaque groupe a sa propre manière de signaler et de traiter les incidents. Cela se fait via les pages de discussion wiki, les tableaux d'affichage, les courriels ou les discussions privées sur des canaux de communication hors wiki (Discord, Telegram, etc.).
Pour de nombreux utilisateurs, la marche à suivre en cas d'incident n'est pas claire :
- Où aller ?
- À qui s'adresser ?
- Comment signaler l'incident ?
- Quelles informations inclure dans le rapport ?
- Comment le rapport est-il traité, que se passe-t-il ensuite ?
- etc.
Les utilisateurs doivent savoir comment signaler un problème et où aller pour obtenir de l'aide. Certains ne se sentent pas en sécurité pour signaler des incidents en raison de la complexité du processus de signalement ou de préoccupations liées à la confidentialité. Il existe également très peu d'informations sur ce qui se passe une fois le rapport établi et sur ce à quoi l'utilisateur doit s'attendre.
Actualités
: End of the trial on English Wikipedia
Between May and early July, Incident Reporting System was tested on English Wikipedia, starting from 5% to 100% of the eligible users. Overall, the tool was not generating a high volume of reports, and we did not see signs or hear any volunteer concerns that the tool was creating any disruption. We did see users interacting with it, and submitting both emergency and non-emergency reports.
Early in the trial, per the English Wikipedia functionaries feedback, we added a feature (we call it direct reporting) where, if the community selected an email-based destination for a particular category of unwanted behavior, the form would show the user a text area to type in the report, and it would then send the report directly to that community-chosen email address.
The tool does not support direct reporting for most categories of unwanted behavior – instead, the user is provided a link and description (chosen by the community) of where to go and what to do there.
The link may include the preload parameter, making it easier to add well-structured reports.
The two charts show that:
- At the end of the trial, the Report button was being shown to around 12,000 users per day.
- The categories most commonly initially selected by users were: Bullying / intimidation, Disruptive editing, and Vandalism – these three add up to over a half of all reports.
We know there are still more improvements to make, including the potential for streamlining the flow through deeper integration with on-wiki processes. But we think the trial has at least demonstrated that this feature can be integrated in a way that doesn't disrupt abuse handling, and can be iterated on from there. We appreciate the community members' thoughts as we consider what to do next. And a special thank you to the functionaries and other volunteers who helped support this trial and help other users.
Produit et spécifications de conception
Cas d'utilisation
En tant qu'utilisateur cherchant à obtenir de l'aide suite à un incident préjudiciable
- Je souhaite pouvoir indiquer le type d'incident que je rencontre afin d'obtenir de l'aide pour résoudre le problème.
- Je veux facilement obtenir des informations sur les ressources d'aide disponibles qui sont pertinentes pour le problème que je traverse.
- Je veux être clairement informé quand l'aide est fournie par la communauté et non par la Fondation, afin que je puisse ajuster mes attentes en conséquence.
En tant qu'administrateur/fonctionnaire,
- Je veux pouvoir personnaliser l'étape « information de soutien » qui est présentée aux rapporteurs, en fonction de l'incident qu'ils traversent et des politiques de mon wiki.
- Sur un wiki de petite taille, je veux disposer d'un modèle « standard / par défaut » que je peux utiliser au cas où mon wiki n'aurait pas de politiques ou de processus établis.
Menaces immédiates de préjudice physique (traitées par T&S)
L'utilisateur peut soumettre un rapport lorsqu'il constate une situation présentant un risque grave pour sa sécurité physique (ou celle d'une autre personne). Une fois soumis, ces rapports sont envoyés à l'équipe Trust and Safety de la Fondation Wikimedia, qui est chargée d'examiner ces problèmes et d'y répondre. Once submitted, these reports are sent to the Trust and Safety team at the Wikimedia Foundation who are responsible for reviewing and responding to such issues.
Tout autre incident (traité par les membres de la communauté)
Les utilisateurs peuvent sélectionner l'un des types de comportements indésirables définis dans le Code de conduite universel. Ils sont guidés vers une étape d'« information de soutien » qui fournit des informations claires sur la façon d'obtenir un soutien concernant un incident du type sélectionné. L'objectif est de garantir que les utilisateurs bénéficient d'un soutien adapté qui reflète les besoins et les pratiques de la communauté locale.
Pour chaque type d'incident, les communautés locales peuvent personnaliser un nombre limité de sections de contenu avec une terminologie et des liens spécifiques au wiki, conformément à leurs politiques et pratiques.
Administrators can now set up external links as the destinations for reporting. This allows the use of URL query string parameters such as preload and may make the reporting even simpler and more efficient.
Types d'incidents
| 1st-tier category | 2nd-tier category | UCoC provision | UCoC definition, or description |
|---|---|---|---|
| Immediate threat of physical harm (processed by T&S) | Threats of physical harm | — | Intending to commit violence against an individual |
| Threats of self harm | — | Intending to commit an act of harming oneself | |
| Threats of public harm | — | Intending to commit an act of mass violence | |
| Unacceptable user behavior (processed by community members) | Bullying, intimidation, threats or repeated insults | 3.1 – Harassment | "This includes name calling, using slurs or stereotypes, and any attacks based on personal characteristics. Insults may refer to perceived characteristics like intelligence, appearance, ethnicity, race, religion (or lack thereof), culture, caste, sexual orientation, gender, sex, disability, age, nationality, political affiliation, or other characteristics. In some cases, repeated mockery, sarcasm, or aggression constitute insults collectively, even if individual statements would not."
"Explicitly or implicitly suggesting the possibility of physical violence, unfair embarrassment, unfair and unjustified reputational harm, or intimidation by suggesting gratuitous legal action to win an argument or force someone to behave the way you want." "This includes encouraging someone else to commit self-harm or suicide as well as encouraging someone to conduct violent attacks on a third party." |
| Sexual harassment | "Sexual attention or advances of any kind towards others where the person knows or reasonably should know that the attention is unwelcome or in situations where consent cannot be communicated." | ||
| Exposing private personal information (Doxing) | "Sharing other contributors' private information, such as name, place of employment, physical or email address without their explicit consent either on the Wikimedia projects or elsewhere, or sharing information concerning their Wikimedia activity outside the projects." | ||
| Trolling or Hounding (Stalking) | "Deliberately disrupting conversations or posting in bad-faith to intentionally provoke."
"Following a person across the project(s) and repeatedly critiquing their work mainly with the intent to upset or discourage them. If problems are continuing after efforts to communicate and educate, communities may need to address them through established community processes." | ||
| Hateful or discriminatory content | 3.3 – Content vandalism and abuse of the projects | Content vandalism containing "hate speech in any form, or discriminatory language aimed at vilifying, humiliating, inciting hatred against individuals or groups on the basis of who they are or their personal beliefs"
"The use of symbols, images, categories, tags or other kinds of content that are intimidating or harmful to others outside of the context of encyclopedic, informational use. This includes imposing schemes on content intended to marginalize or ostracize" (Hate speech towards an editor falls under "Bullying, intimidation, threats or repeated insults") | |
| Spam or promotional content | Other content vandalism | ||
| Something else | Including 3.2 – Abuse of power, privilege, or influence |
Configuration communautaire
Configuration communautaire est un outil permettant aux communautés de configurer et de contrôler différentes fonctionnalités. Pour le système de signalement des incidents, nous utilisons la configuration communautaire afin de permettre aux communautés de personnaliser l'étape « informations d'assistance ».
Exemple de personnalisation de l'étape « Informations d'assistance » pour « Divulgation d'informations personnelles privées (Doxing) » :
-
L'étape « Informations d'assistance » aura un affichage par défaut (les champs laissés vides ne s'afficheront pas). -
Les communautés pourront alors personnaliser l'affichage par défaut via la configuration communautaire.
.png)
.png)
Plan de déploiement
- Première version limitée sur la Wikipédia en portugais –
- Les prochaines wikis pilotes –
- English Wikipedia trial – –
Contact
Questions fréquentes
Question : la Wikimedia Foundation essaye-t-elle de changer les procédures communautaires existantes ?
Notre projet pour l’IRS est de ne changer aucune procédure communautaire. Notre objectif est de s’adapter aux procédures existantes. Les objets finaux sont :
Question : Y a-t-il des données concernant le nombre d’incidents signalés chaque année ?
We have usage data collected on the wikis where IRS has been deployed. The largest of them is Portuguese Wikipedia. However, the volume of data is too low to make predictions based on it. We want to address this by launching a trial on English Wikipedia, with the audience similar to the entire audience on Portuguese Wikipedia.
Réponse : Il n’y a actuellement pas beaucoup de données claires utilisables, pour diverses raisons. Tout d’abord, les problèmes sont signalés de différentes manières, selon les communautés. Récolter ces données complètement et proprement est très compliqué, et serait très long. Ensuite, l’interprétation des problème diffère également. Certains cas, interprétés comme harcèlement, sont inhérents au wiki (par exemple, la suppression d’article promotionnels). L’étude du harcèlement peut aussi dépendre du contexte culturel ou communautaire. Le système de signalement d’incident est une opportunité de résoudre certains de ces besoins en données. Il y a deux raisons à cela. Premièrement, les problèmes sont signalés de différentes manières et celles-ci diffèrent d'une communauté à l'autre. La saisie complète et précise de ces données est extrêmement complexe et prendrait beaucoup de temps. Deuxièmement, l'interprétation des problèmes diffère également. Certaines choses qui sont interprétées comme du harcèlement sont simplement des pratiques courantes sur le wiki (par exemple, la suppression d'un article promotionnel). L'examen des problèmes relatifs à la conduite ou au comportement des utilisateurs peut également nécessiter la prise en compte du contexte culturel ou communautaire. Nous ne pouvons pas automatiser et visualiser les données ou les compter objectivement. Le système de déclaration d'incidents est une occasion de répondre à certains de ces besoins en données.
Comment les différents types d'incidents préjudiciables — tels que le harcèlement, les menaces ou les fautes professionnelles — sont-ils définis dans le système de signalement des incidents ?
Référez-vous aux définitions du Code de conduite universel.
À quelles questions essayez-vous de répondre avec la première version du produit ?
Voici les questions auxquelles nous devons répondre :
- Quels types de problèmes liés au comportement des utilisateurs nécessitent-ils une aide ?
- Combien de personnes signalent-elles les types respectifs de problèmes ?
- À quel point ce problème est-il répandu ?
- Peut-on avoir une vision plus claire de l’amplitude du problème du harcèlement ? Peut-on avoir certaines données sur le nombre de signalements ? Le harcèlement est-il sous-signalé ou sur-signalé ?
- Est-ce que les gens ne signalement pas le harcèlement parce qu’il n’y en a pas, ou parce qu’ils ne savent pas comment le faire ?
- Cela représentera-t-il beaucoup à gérer avec notre configuration actuelle ou pas ?
- Combien de plaintes valides y a-t-il, comparé aux personnes qui ne comprennent pas les procédures du wiki ? Peut-on distinguer les plaintes valides et filtrer les signalements non valides pour économiser le temps des bénévoles ou salariés ?
- Recevrons-nous beaucoup de signalement de personnes de la part de personnes vexées que leurs modifications aient été annulées ou leur page supprimée ? Que ferons-nous de cela ?
Question : Comment le mouvement Wikimedia s’en sort-il avec le harcèlement, comparé aux autres plateformes telles que Facebook ou Reddit ?
Réponse : Bien que nous n’ayons pas les mêmes groupes d’affinité en ligne, le mouvement Wikimedia est souvent comparable à Facebook ou Reddit quant à la façon dont nous traitons le harcèlement. Il faut garder en tête qu’aucun d’entre nous n’a résolu le problème du harcèlement. Les autres plateformes se battent avec la modération du contenu et ont souvent des salariés pour s’en occuper. Les deux grandes différences entre nous et Reddit ou Facebook sont la nature collaborative de nos projets et la façon dont nos communautés travaillent pour résoudre le harcèlement à leur échelle.
Études préalables
Le document suivant est un état de l’art complet des études que Wikimedia Foundation a réalisé de 2015 à 2022 sur le harcèlement en ligne sur les projets Wikimedia. Dans cette bibliographie, nous avons identifié les thèmes, idées et sujets de préoccupation majeurs, et fourni des liens directs vers la littérature.
L’équipe des Outils de confiance et de sécurité a étudié les précédente recherches et consultations communautaires comme base de notre travail. Nous avons réexaminé la proposition de système de signalement des utilisateurs pour l’Initiative pour la santé de la communauté et la consultation de 2019 sur un système de signalement des utilisateurs. Nous avons aussi essayé de schématiser quelques protocoles de résolution de conflits sur les wikis pour mieux comprendre comment les communautés les gèrent actuellement. Ci-dessous, un schéma du protocole de résolution des conflits sur la Wikipédia en italien. Il y a quelques notes sur les possibilités d’automatisation.
-
A synthesis of research from 2015–2022 that identifies major themes in the problem space as well as user needs, challenges, considerations, and previous work. -
Sur la Wikipédia en italien, une règle en 3 étapes est en place pour résoudre les conflits. Ce schéma montre ce processus et essaye d’identifier les possibilités d’automatisation, à la fois pour les contributeurs et les admins.
