Produktsicherheit und Integrität/Meldesystem für Zwischenfälle
|
Meldesystem für Zwischenfälle
Hilfe bei schädlichen Vorfällen
|
Als Team für Produktsicherheit und -integrität möchten wir für mehr Sicherheit und Gesundheit in den Gemeinden sorgen. Wir entwickeln das Incident Reporting System (IRS), um Nutzern im Falle eines schädlichen Ereignisses den Weg zur richtigen Hilfe zu erleichtern.
Ziele
- Erleichtern Sie es Menschen, die schädliche Vorfälle erleben, Hilfe zu bekommen.
- Situationen beseitigen, in denen Menschen über Vorfälle schweigen, weil sie nicht wissen, was sie tun sollen.
- Sicherstellen, dass Personen, die schädigende Vorfälle erleben, gemäß den Verfahren der Community die richtigen Stellen erreichen, die ihnen helfen können.
- Stellen Sie sicher, dass die Antwortenden nicht mit ungültigen Meldungen oder Problemen, die woanders hingehören, überlastet werden.
Hintergrund
Das Melden und Bearbeiten von schädlichen Vorfällen war bereits seit vielen Jahren Thema in den Communities der Wikimedia. Da wir nun einen Universal Code of Conduct beschlossen haben, ist es wichtig, auch über ein Meldesystem zu diskutieren.
Der Umgang mit Fehlverhalten und Richtlinienverstößen in den Wikimedia-Bereichen, Wikis und Plattformen hat sich organisch entwickelt. Jede Community und Gruppe hat ihre eigene Methode, Vorfälle zu melden und zu bearbeiten. Dies geschieht über Wiki-Diskussionsseiten, Schwarze Bretter, E-Mail oder private Gespräche in externen Kommunikationskanälen (Discord, Telegram usw.).
Vielen Nutzern ist unklar, was im Falle eines Vorfalls zu tun ist: An wen sie sich wenden sollen, wie sie den Vorfall melden, welche Informationen sie angeben müssen, wie die Meldung bearbeitet wird, was danach geschieht usw. Nutzer müssen wissen, wie sie ein Problem melden und wo sie Hilfe erhalten. Manche fühlen sich aufgrund der Komplexität des Meldeprozesses oder aus Datenschutzgründen nicht sicher genug, um Vorfälle zu melden. Es gibt zudem kaum Informationen darüber, was nach der Meldung passiert und welche Erwartungen die Nutzer haben.
Neuigkeiten
: End of the trial on English Wikipedia
Between May and early July, Incident Reporting System was tested on English Wikipedia, starting from 5% to 100% of the eligible users. Overall, the tool was not generating a high volume of reports, and we did not see signs or hear any volunteer concerns that the tool was creating any disruption. We did see users interacting with it, and submitting both emergency and non-emergency reports.
Early in the trial, per the English Wikipedia functionaries feedback, we added a feature (we call it direct reporting) where, if the community selected an email-based destination for a particular category of unwanted behavior, the form would show the user a text area to type in the report, and it would then send the report directly to that community-chosen email address.
The tool does not support direct reporting for most categories of unwanted behavior – instead, the user is provided a link and description (chosen by the community) of where to go and what to do there.
The link may include the preload parameter, making it easier to add well-structured reports.
The two charts show that:
- At the end of the trial, the Report button was being shown to around 12,000 users per day.
- The categories most commonly initially selected by users were: Bullying / intimidation, Disruptive editing, and Vandalism – these three add up to over a half of all reports.
We know there are still more improvements to make, including the potential for streamlining the flow through deeper integration with on-wiki processes. But we think the trial has at least demonstrated that this feature can be integrated in a way that doesn't disrupt abuse handling, and can be iterated on from there. We appreciate the community members' thoughts as we consider what to do next. And a special thank you to the functionaries and other volunteers who helped support this trial and help other users.
Produkt- und Designspezifikationen
Anwendungsfälle
Die Bedürfnisse eines Nutzers, der Hilfe bei einem schädlichen Vorfall sucht, sind folgende:
- Ich möchte die Art des Vorfalls, den ich erlebe, angeben können, um Hilfe bei der Behebung des Problems zu erhalten.
- Ich möchte auf einfache Weise Informationen über verfügbare Hilfsressourcen erhalten, die für das Problem relevant sind, das ich gerade erlebe.
- Ich möchte klar darüber informiert werden, wann die Hilfe von der Community und nicht von der Stiftung bereitgestellt wird, damit ich meine Erwartungen entsprechend anpassen kann.
Die Bedürfnisse eines Administrators/Funktionsträgers stellen sich wie folgt dar:
- Ich möchte in der Lage sein, den Schritt „Support-Informationen“, der den Meldenden präsentiert wird, an den konkreten Vorfall, den sie erleben, sowie an die Richtlinien meines Wikis anzupassen.
- Wenn mein Wiki nicht sehr groß ist, möchte ich über eine Standardvorlage verfügen, die ich verwenden kann, falls in meinem Wiki noch keine fest etablierten Richtlinien oder Prozesse existieren.
Unmittelbare Androhungen physischer Gewalt (bearbeitet von T&S)
Der Benutzer kann einen Bericht einreichen, sobald er Kenntnis von einer Situation erlangt, die ein ernstes Risiko für seine (oder die einer anderen Person) körperliche Sicherheit darstellt. Sobald diese Berichte eingereicht sind, werden sie an das Trust and Safety-Team der Wikimedia Foundation weitergeleitet, das für die Überprüfung und Beantwortung solcher Probleme zuständig ist.
Sonstige Vorfälle (von Community-Mitgliedern bearbeitet)
Benutzer können eine der Arten von unerwünschtem Verhalten auswählen, die im Universellen Verhaltenskodex definiert sind. Sie werden zu einem Schritt mit „Supportinformationen“ weitergeleitet, der klare Informationen darüber liefert, wie man bei einem Vorfall des ausgewählten Typs Unterstützung erhält. Ziel ist es, den Nutzern die richtige Unterstützung auf eine Weise zukommen zu lassen, die den Bedürfnissen und Gepflogenheiten der lokalen Gemeinschaft entspricht.
Für jeden Vorfalltyp können lokale Gemeinschaften eine begrenzte Anzahl von Inhaltsabschnitten mit Wiki-spezifischer Terminologie und Links gemäß ihren Richtlinien und Praktiken anpassen.
Administratoren können nun externe Links als Ziele für Berichte festlegen. Dies ermöglicht die Verwendung von URL-Abfrage-Zeichenkettenparameter wie beispielsweise preload“ und kann die Berichterstellung noch einfacher und effizienter gestalten.
Arten von Vorfällen
1st-tier category
2nd-tier category
UCoC provision
UCoC definition, or description
Immediate threat of physical harm (processed by T&S)
Threats of physical harm
—
Intending to commit violence against an individual
Threats of self harm
—
Intending to commit an act of harming oneself
Threats of public harm
—
Intending to commit an act of mass violence
Unacceptable user behavior (processed by community members)
Bullying, intimidation, threats or repeated insults
3.1 – Harassment
"This includes name calling, using slurs or stereotypes, and any attacks based on personal characteristics. Insults may refer to perceived characteristics like intelligence, appearance, ethnicity, race, religion (or lack thereof), culture, caste, sexual orientation, gender, sex, disability, age, nationality, political affiliation, or other characteristics. In some cases, repeated mockery, sarcasm, or aggression constitute insults collectively, even if individual statements would not."
"Explicitly or implicitly suggesting the possibility of physical violence, unfair embarrassment, unfair and unjustified reputational harm, or intimidation by suggesting gratuitous legal action to win an argument or force someone to behave the way you want."
"This includes encouraging someone else to commit self-harm or suicide as well as encouraging someone to conduct violent attacks on a third party."
Sexual harassment
"Sexual attention or advances of any kind towards others where the person knows or reasonably should know that the attention is unwelcome or in situations where consent cannot be communicated."
Exposing private personal information (Doxing)
"Sharing other contributors' private information, such as name, place of employment, physical or email address without their explicit consent either on the Wikimedia projects or elsewhere, or sharing information concerning their Wikimedia activity outside the projects."
Trolling or Hounding (Stalking)
"Deliberately disrupting conversations or posting in bad-faith to intentionally provoke."
"Following a person across the project(s) and repeatedly critiquing their work mainly with the intent to upset or discourage them. If problems are continuing after efforts to communicate and educate, communities may need to address them through established community processes."
Hateful or discriminatory content
3.3 – Content vandalism and abuse of the projects
Content vandalism containing "hate speech in any form, or discriminatory language aimed at vilifying, humiliating, inciting hatred against individuals or groups on the basis of who they are or their personal beliefs"
"The use of symbols, images, categories, tags or other kinds of content that are intimidating or harmful to others outside of the context of encyclopedic, informational use. This includes imposing schemes on content intended to marginalize or ostracize"
(Hate speech towards an editor falls under "Bullying, intimidation, threats or repeated insults")
Spam or promotional content
Other content vandalism
Something else
Including 3.2 – Abuse of power, privilege, or influence
Community-Konfiguration
Die Community-Konfiguration ist ein Tool, mit dem Communities die Konfiguration verschiedener Funktionen einrichten und steuern können. Im Rahmen des Incident-Reporting-Systems nutzen wir die Community-Konfiguration, um Communities die Anpassung des Schritts „Supportinformationen“ zu ermöglichen.
Beispiel dafür, wie die Anpassung des Schritts „Supportinformationen“ für „Offenlegung privater personenbezogener Daten (Doxing)“ aussehen könnte:
-
Der Schritt „Supportinformationen“ hat eine Standardansicht (leere Felder werden nicht angezeigt).
-
Communities können die Standardansicht dann über die Community-Konfiguration anpassen.
.png)
.png)
Zeitplan für die Bereitstellung
- Erste und eingeschränkte Version auf der portugiesischen Wikipedia –
- Nächste Pilot-Wikis –
- Testlauf der englischen Wikipedia – –
Kontakt
-
-
Häufig gestellte Fragen (FAQ)
Q: Versucht die WMF, bestehende Communityprozesse zu ändern?
Wir planen nicht, für das IRS Communityprozesse zu ändern. Das Ziel ist, die existierenden Prozesse zu verbinden.
Q: Ist bekannt, wieviele Vorfälle pro Jahr gemeldet werden?
Wir haben Nutzungsdaten der Wikis gesammelt, auf denen IRS eingesetzt wird. Die größte davon ist die portugiesische Wikipedia. Allerdings ist die Datenmenge zu gering, um darauf basierende Prognosen zu erstellen. Wir möchten dies ändern, indem wir einen Testlauf auf der englischen Wikipedia starten, deren Nutzergruppe der gesamten Nutzerschaft der portugiesischen Wikipedia ähnelt.
Abgesehen von den Nutzungsdaten der IRS gibt es nicht viele eindeutige Daten, die wir verwenden können.
Dafür gibt es mehrere Gründe.
Erstens werden Probleme auf verschiedene Weise gemeldet, und diese unterscheiden sich von Community zu Community.
Die vollständige und saubere Erfassung dieser Daten ist äußerst kompliziert und würde viel Zeit in Anspruch nehmen.
Zweitens gibt es auch unterschiedliche Interpretationen der Sachverhalte.
Manche Dinge, die als Belästigung interpretiert werden, sind einfach nur Wiki-Angelegenheiten (z. B. das Löschen eines Werbeartikels).
Die Überprüfung von Nutzerverhalten/-problemen kann auch einen kulturellen oder gemeinschaftlichen Kontext erfordern.
Wir können Daten weder automatisieren und visualisieren noch objektiv zählen.
Das System zur Meldung von Zwischenfällen bietet die Möglichkeit, einige dieser Datenbedürfnisse zu erfüllen.
Wie werden verschiedene Arten schädlicher Vorfälle – wie Belästigung, Bedrohungen oder Fehlverhalten – im Meldesystem für Zwischenfälle definiert?
Wir verwenden diese Begriffe in der im Universellen Verhaltenskodex definierten Weise.
Q: Welche Fragen versucht ihr mit dem MVP zu beantworten?
A: Hier sind die Fragen, die wir beantworten müssen:
- Bei welchen Verhaltensproblemen der Nutzer benötigen die Menschen Hilfe?
- Wie viele Personen melden die jeweiligen Probleme?
- Wie groß ist dieses Problem?
- Können wir ein besseres Bild vom Umfang des problematischen Nutzerverhaltens bekommen? Können wir einige Daten zur Meldungszahl sammeln? Wird Fehlverhalten von Nutzern zu oft oder zu selten gemeldet?
- Melden die Leute derzeit verschiedene Arten von Verstößen gegen das Nutzerverhalten nicht, weil diese nicht auftreten oder weil sie nicht wissen, wie?
- Wird das unsere gegenwärtige Struktur überlasten, oder nicht?
- Wie viele Meldungen sind gültig, wieviele haben den Wikiprozess nicht verstanden? Können wir ungültige Beschwerden ausfiltern, um den Freiwilligen und Angestellten Zeit zu sparen?
- Werden wir massenhaft Beschwerden von Leuten bekommen, die sich ärgern, weil ihre Edits zurückgesetzt oder ihre Seiten gelöscht wurden? Was machen wir damit?
Q: Wo stehen wir im Vergleich zu anderen großen Plattformen wie Facebook/Reddit beim Umgang mit Belästigung?
A: Obwohl wir keine gleichartigen Bezugsgruppen haben, wird die Wikimedia-Bewegung im Hinblick auf den Umgang mit Belästigung oft mit Facebook und Reddit verglichen. Wichtig ist festzuhalten, dass niemand Belästigung abschaffen konnte. Andere Plattformen kämpfen mit Inhaltsmoderation, und sie bezahlen oft Angestellte, die versuchen sich darum zu kümmern. Zwei große Unterschiede zwischen uns und Reddit und Facebook sind: die globale kollaborative Arbeitsweise in unseren Projekten, und wie unsere Communities auf der Gruppenebene gegen Belästigung vorgehen.
Forschung im Vorfeld des Projekts
Das folgende Dokument ist ein abgeschlossener Überblick der Untersuchungen von 2015 - 2022, die die Wikimedia-Projekte zu Online-Belästigungen durchgeführt haben. In diesem Überblick haben wir die wichtigsten Themen, Einsichten und Problembereiche herausgearbeitet und direkte Links zur zugehörigen Literatur zur Verfügung gestellt.
Das Trust & Safety Tools-Team hat frühere Forschungen und Konsultationen in der Community studiert, um sich über unsere Arbeit zu informieren. Wir haben den Vorschlag für das Community health initiative User reporting system und die Konsultation für das User reporting system of 2019 erneut geprüft. Wir haben auch versucht, einige der Konfliktlösungsströme in den Wikis zu beschreiben, um zu verstehen, wie die Communities derzeit mit Konflikten umgehen. Unten siehst du eine Übersicht über den Konfliktlösungsprozess im italienischen Wiki. Sie enthält Hinweise auf Möglichkeiten zur Automatisierung.
-
Eine Synthese der Forschung aus den Jahren 2015–2022, die die wichtigsten Themen im Problembereich sowie die Bedürfnisse, Herausforderungen, Überlegungen und bisherigen Arbeiten der Nutzer identifiziert.
-
In der italienischen Wikipedia gibt es ein dreistufiges Verfahren zur Konfliktlösung. Diese Karte veranschaulicht diesen Prozess und versucht, Möglichkeiten zur Automatisierung für Autoren und Administratoren aufzuzeigen.
