製品安全と整合性/事案通報システム
|
事案通報システム
危害の及ぶ事案で支援を受けやすくする
|
製品の安全性と整合性（Product Safety and Integrity）に関して、私たちはコミュニティにより安全で健全な環境を提供したいと考えます。私たちは、危険な事案に遭遇した利用者にとって適切な支援を受ける方法が簡単に見つかるように、事案通報システム（IRS＝Incident Reporting System）を構築します。
目標
- 被害を体験した人が助けを求めやすくする。
- 何をすべきか分からないために、人々が事件について沈黙してしまう状況をなくす。
- 有害な出来事を経験した人々が、コミュニティ プロセスに従って支援可能な然るべき部署に届くようにする。
- 支援者が不適切な報告や他部署に属する案件で手いっぱいにならないようにすること。
背景
有害な事案を通報し処理することは、長年ウィキメディアコミュニティにとって関心のある話題でした。新たなユニバーサル行動規範を設定すると共に、利用者の通報システムについて議論することも極めて重要です。
不適切な行動や方針違反の取り扱い方法はこれまで、ウィキメディアの各空間やウィキ類やプラットフォーム類で有機的に発展してきました。各コミュニティやグループでは事案通報から処理まで独自の方法を備えています。ウィキの会話ページやお知らせボード、メールまたはオフウィキの通信チャンネル（Discord ディスコード、Telegram テレグラムその他たくさん）の非公開の協議を介して進行します。
多くの利用者にとって事案が発生した際に何をするべきか、これまで明確ではありませんでした。担当部署はどこか、誰と話すべきか、通報の方法、通報に含めるのはどんな情報か、通報はどのように処理されるか、その後は何が起こるかなどです。利用者は事案にどうフラグ（標識）を立て、助けを受けるにはどこに持ち込めば良いか、理解する必要があります。通報手順が複雑すぎる、あるいはプライバシーが心配で、事案通報に不安を感じる人もいるはずです。通報したら、その後に何が起こるか、利用者としての心構えに関する情報すら、ほとんどない状態でした。
更新
: End of the trial on English Wikipedia
Between May and early July, Incident Reporting System was tested on English Wikipedia, starting from 5% to 100% of the eligible users. Overall, the tool was not generating a high volume of reports, and we did not see signs or hear any volunteer concerns that the tool was creating any disruption. We did see users interacting with it, and submitting both emergency and non-emergency reports.
Early in the trial, per the English Wikipedia functionaries feedback, we added a feature (we call it direct reporting) where, if the community selected an email-based destination for a particular category of unwanted behavior, the form would show the user a text area to type in the report, and it would then send the report directly to that community-chosen email address.
The tool does not support direct reporting for most categories of unwanted behavior – instead, the user is provided a link and description (chosen by the community) of where to go and what to do there.
The link may include the preload parameter, making it easier to add well-structured reports.
The two charts show that:
- At the end of the trial, the Report button was being shown to around 12,000 users per day.
- The categories most commonly initially selected by users were: Bullying / intimidation, Disruptive editing, and Vandalism – these three add up to over a half of all reports.
We know there are still more improvements to make, including the potential for streamlining the flow through deeper integration with on-wiki processes. But we think the trial has at least demonstrated that this feature can be integrated in a way that doesn't disrupt abuse handling, and can be iterated on from there. We appreciate the community members' thoughts as we consider what to do next. And a special thank you to the functionaries and other volunteers who helped support this trial and help other users.
製品とデザインの仕様
使用事例
危害の及ぶ事案について支援を求める利用者のニーズは以下のとおりです:
- 問題解決の助けを得たいので、私自身が経験している事案の種類を特定できるようにしたい。
- 私自身が体験している問題に関連して、支援資源の情報を簡単に入手したい。
- 支援をするのが財団ではなくコミュニティの場合、それに合わせて期待値を調整できるよう、そうだと明確に示してほしい。
管理者／役務者のニーズは以下のとおりです:
- 通報者に提示される「サポート情報」のステップを調整し、私たちのウィキーの方針ならびに通報者が体験している事案に適合させたい。
- 自分のウィキが大規模でない場合、自分のウィキに確立された方針やプロセスがない場合に使用できる標準／既定のテンプレートを用意しておきたい。
心身への脅威が迫る事案（T&S案件）
利用者は自分自身（または他者）の身体的安全に重大な危険が及ぶ状況に気づいた場合、事案通報を提出してください。 提出された通報はウィキメディア財団の信頼と安全チームに送られ、同チームの責任で当該事案を査定し対応します。
その他の事案（コミュニティ参加者が対処したもの）
利用者はユニバーサル行動規範に定義された中から容認されない行動の種類を1つ選択。 選んだタイプの事案に応じて利用者は「サポート情報」ステップに導かれて支援を得る方法に関わる明確な情報を提示されます。 目的は、利用者がローカルのコミュニティのニーズと慣行を反映してあり適切な支援を確実に受けることです。
ローカルのコミュニティは事案のタイプごとにコンテンツの限られた数の節をカスタム化することが認められ、ウィキ固有の用語を用いること、独自の方針や慣行に従うこと、リンクを備えることが求められます。
Administrators can now set up external links as the destinations for reporting. This allows the use of URL query string parameters such as preload and may make the reporting even simpler and more efficient.
事案の種別
| 1st-tier category | 2nd-tier category | UCoCの規定 | UCoC定義または記述 |
|---|---|---|---|
| Immediate threat of physical harm (processed by T&S) | 身体的危害の脅威 | — | Intending to commit violence against an individual |
| 自傷の脅威 | — | Intending to commit an act of harming oneself | |
| 公衆に害を与える脅威 | — | Intending to commit an act of mass violence | |
| Unacceptable user behavior (processed by community members) | Bullying, intimidation, threats or repeated insults | 3.1 – 嫌がらせ行為 | "This includes name calling, using slurs or stereotypes, and any attacks based on personal characteristics. Insults may refer to perceived characteristics like intelligence, appearance, ethnicity, race, religion (or lack thereof), culture, caste, sexual orientation, gender, sex, disability, age, nationality, political affiliation, or other characteristics. In some cases, repeated mockery, sarcasm, or aggression constitute insults collectively, even if individual statements would not."
"Explicitly or implicitly suggesting the possibility of physical violence, unfair embarrassment, unfair and unjustified reputational harm, or intimidation by suggesting gratuitous legal action to win an argument or force someone to behave the way you want." "This includes encouraging someone else to commit self-harm or suicide as well as encouraging someone to conduct violent attacks on a third party." |
| セクシャルハラスメント | "Sexual attention or advances of any kind towards others where the person knows or reasonably should know that the attention is unwelcome or in situations where consent cannot be communicated." | ||
| プライベートな個人情報を曝露する (ドキシング) | "Sharing other contributors' private information, such as name, place of employment, physical or email address without their explicit consent either on the Wikimedia projects or elsewhere, or sharing information concerning their Wikimedia activity outside the projects." | ||
| トロールまたはハウンディング (ストーキング) | "Deliberately disrupting conversations or posting in bad-faith to intentionally provoke."
"Following a person across the project(s) and repeatedly critiquing their work mainly with the intent to upset or discourage them. If problems are continuing after efforts to communicate and educate, communities may need to address them through established community processes." | ||
| 憎悪や差別的な内容 | 3.3 – Content vandalism and abuse of the projects | Content vandalism containing "hate speech in any form, or discriminatory language aimed at vilifying, humiliating, inciting hatred against individuals or groups on the basis of who they are or their personal beliefs"
"The use of symbols, images, categories, tags or other kinds of content that are intimidating or harmful to others outside of the context of encyclopedic, informational use. This includes imposing schemes on content intended to marginalize or ostracize" (Hate speech towards an editor falls under "Bullying, intimidation, threats or repeated insults") | |
| スパムや販売促進コンテンツ | その他の内容の破壊行為 | ||
| その他違うもの | Including 3.2 – Abuse of power, privilege, or influence |
コミュニティ設定
コミュニティ設定（Community Configuration）というツールを使うと、コミュニティはさまざまな機能の設定と管理を行えます。「事案通報システム」（IRS＝Incident Reporting System）では、コミュニティが「支援情報」のステップをカスタム化できるように、このコミュニティ設定を採用します。
「個人情報の暴露（Doxing）」に対応する「サポート情報」ステップをカスタム化する一例は右の通り：
-
「サポート情報」ステップにはデフォルトの表示を設けます（空白のままの欄は非表示） -
コミュニティはこれを見てコミュニティ設定を使い既定の表示をカスタム化
.png)
.png)
展開の日程
- ポルトガル語ウィキペディアの限定版バージョン1 –
- 時期の先行導入ウィキ –
- English Wikipedia trial – –
連絡先
よくある質問
ウィキメディア財団は既存のコミュニティのプロセスを改定しようとしていますか？
私たちのIRS用の計画は、コミュニティのプロセスをなんら改変するものではありません。目標は既存のプロセスに繋げることです。
1年間にどれくらいの事象が報告されているか分かるデータはありますか？
We have usage data collected on the wikis where IRS has been deployed. The largest of them is Portuguese Wikipedia. However, the volume of data is too low to make predictions based on it. We want to address this by launching a trial on English Wikipedia, with the audience similar to the entire audience on Portuguese Wikipedia.
IRS の利用データ以外では使える明確なデータはそれほどありません。 これには 2 つ理由があります。 第一に問題の報告方法はさまざまでコミュニティごとに異なります。 このデータを完全で明確に把握するのは非常に困難で、非常に時間を消費します。 第二に問題の解釈も異なります。 ハラスメントと解釈されることがウィキの業務に過ぎない場合もあります (例: プロモーション項目の削除)。 利用者行動問題の再検証には文化的またはコミュニティの文脈も必要です。 データを自動化して視覚化したり、客観的に数えることはできません。 事象報告制度はこのようなデータ ニーズの一部を解決する機会です。
有害な事案のそれぞれのタイプは – 嫌がらせ行為、脅迫、不品行など – 事案報告システムでどう定義するか？
これらの用語はユニバーサル行動規範に定義されているとおりに使用しています。
製品の最初のバージョンでどのような疑問に答えようとしていますか？
ここに答えが必要な疑問があります:
- 人々は利用者のどんな種類の行動／態度の問題に対して助けを求めているか?
- 種類別の問題に関する報告者の人数は？
- この問題の大きさはどれ位ですか。
- 利用者行動問題の重大性について、より明確な状況を把握できますか。報告件数に関するデータを得られますか。利用者の不適切行為は過少報告されているのか、過大報告されているのか。
- 現在、人々はさまざまな種類の利用者行動に関する問題を、起こっていないためか、報告方法を知らないために報告していないのですか。
- これは現在の組織で処理できる状況ですか、違いますか。
- ウィキ プロセスを理解していない人と比べて、妥当な苦情はどれくらいありますか。妥当な苦情を識別やフィルターにかけ、不当な報告を除外してボランティアや職員の時間を節約できますか。
- 編集が差し戻されたりページが削除されたことに憤慨する人から提出される多くの報告を受け取りますか。することは何ですか。
FacebookやRedditのような他の大きなプラットフォームと比較して、ウィキメディア運動はハラスメントにどのように対処していますか？
同一のオンライン共同グループはないものの、ウィキメディア運動はハラスメントに対処する方法に関してFacebookやRedditと最もよくつながりがあります。考慮すべき重要なことは、誰もハラスメントを解決していないということです。他のプラットフォームは、コンテンツモデレーションに取り組み、しばしば有給の職員が対処を試みています。RedditやFacebookとの二つの大きな違いは、ウィキメディアのプロジェクトが国際的に協同するという性質およびコミュニティレベルのハラスメントを解決するためにコミュニティの働く方法です。
プロジェクト以前の調査
次の文書は、ウィキメディア財団がウィキメディアプロジェクトにおけるオンラインハラスメントで行ってきた2015年から2022年にかけての調査の完全な再検証です。この再検証で主要なテーマや見識、憂慮すべき分野を明確にしていて、この文献に直接リンクしています。
信頼安全製品担当チーム（Trust and Safety Product team）では作業を案内する事前の調査とコミュニティー協議を研究しています。コミュニティ健全性イニシアチブの利用者通報システムの素案ならびに、2019年利用者通報システムの聞き取り調査を再考しました。さらにまた、コミュニティでは現状、衝突解消にどのように取り組んでいるのか理解しようと、さまざまなウィキが採用している衝突解消の手順からいくつかを取り出し、比較してきました。下記にイタリア語版ウィキペディアの衝突解消の段取りを示してあります。自動化できそうな箇所には、注釈をつけました。
-
2015–2022年の研究成果の組み合わせ（synthesis）により問題領域における主要なテーマ、利用者のニーズ、問題点、検討課題および以前の措置を特定すること。 -
イタリア語版ウィキペディアでは、衝突の解消に3段階方針を設けています。挿絵は、その段取りを図式化し、編集者にも管理者にも自動処理できる部分を探そうとしたものです。
