사고 보고 시스템
|
사고 보고 시스템
유해한 사건에 대한 도움을 받는 데 도움이 됩니다.
|
제품 안전 및 무결성을 최우선으로 생각하며, 저희는 커뮤니티에 더욱 안전하고 건강한 환경을 제공하고자 합니다. 유해한 사고 발생 시 사용자가 도움을 받을 수 있는 올바른 경로를 쉽게 찾을 수 있도록 사고 보고 시스템 (IRS)을 구축하고 있습니다.
목표
- 괴롭힘을 당한 사람들이 더 쉽게 도움을 받을 수 있도록 하십시오.
- 사람들이 사건에 대해 어떻게 해야 할지 몰라서 침묵하는 상황을 제거합니다.
- 해로운 사건을 겪는 사람이 커뮤니티 프로세스에 따라 도움을 줄 수 있는 올바른 기관에 전달되도록 합니다.
- 담당자들이 부적절한 신고나 다른 곳에 속한 문제로 과부하에 걸리지 않도록 합니다.
배경
유해 사건의 신고 및 처리는 위키미디어 커뮤니티의 오랜 관심사였습니다. 보편적 행동 강령이 발표됨에 따라 사용자 신고 시스템에 대한 논의가 중요해졌습니다.
위키미디어 공간, 위키, 그리고 플랫폼 전반에서 부정행위와 정책 위반을 처리하는 방식은 유기적으로 발전해 왔습니다. 각 커뮤니티와 그룹은 자체적인 신고 및 처리 방식을 가지고 있으며, 위키 토론 페이지, 게시판, 이메일, 또는 위키 외부 소통 채널(디스코드, 텔레그램 등)에서의 비공개 토론 등을 통해 이루어집니다.
많은 사용자는 사고 발생 시 어떻게 대처해야 할지, 어디로 가야 하는지, 누구에게 문의해야 하는지, 어떻게 신고해야 하는지, 보고서에 어떤 정보를 포함해야 하는지, 신고가 어떻게 처리되는지, 이후 어떻게 진행되어야 하는지 등 명확하게 알지 못합니다. 사용자는 문제를 신고하는 방법과 도움을 받으려면 어디로 가야 하는지 알아야 합니다. 일부 사용자는 신고 절차의 복잡성이나 개인정보 보호 문제 때문에 사고 신고가 안전하지 않다고 생각합니다. 또한 신고 후 어떤 일이 벌어지고 사용자가 어떤 기대를 해야 하는지에 대한 정보도 거의 없습니다.
업데이트
: End of the trial on English Wikipedia
Between May and early July, Incident Reporting System was tested on English Wikipedia, starting from 5% to 100% of the eligible users. Overall, the tool was not generating a high volume of reports, and we did not see signs or hear any volunteer concerns that the tool was creating any disruption. We did see users interacting with it, and submitting both emergency and non-emergency reports.
Early in the trial, per the English Wikipedia functionaries feedback, we added a feature (we call it direct reporting) where, if the community selected an email-based destination for a particular category of unwanted behavior, the form would show the user a text area to type in the report, and it would then send the report directly to that community-chosen email address.
The tool does not support direct reporting for most categories of unwanted behavior – instead, the user is provided a link and description (chosen by the community) of where to go and what to do there.
The link may include the preload parameter, making it easier to add well-structured reports.
The two charts show that:
- At the end of the trial, the Report button was being shown to around 12,000 users per day.
- The categories most commonly initially selected by users were: Bullying / intimidation, Disruptive editing, and Vandalism – these three add up to over a half of all reports.
We know there are still more improvements to make, including the potential for streamlining the flow through deeper integration with on-wiki processes. But we think the trial has at least demonstrated that this feature can be integrated in a way that doesn't disrupt abuse handling, and can be iterated on from there. We appreciate the community members' thoughts as we consider what to do next. And a special thank you to the functionaries and other volunteers who helped support this trial and help other users.
제품 및 디자인 사양
사용 사례
해로운 사건에 대한 도움을 구하려는 사용자의 요구 사항은 다음과 같습니다:
- 문제를 해결하게끔 도움을 받을 수 있도록 제가 겪고 있는 사건의 유형을 알려주고 싶습니다.
- 제가 겪고 있는 문제와 관련된 사용 가능한 도움말 리소스에 대한 정보를 쉽게 얻고 싶습니다.
- 재단이 아닌 커뮤니티에서 도움을 제공하는 경우, 이에 대한 명확한 정보를 받아 기대치를 적절히 조절할 수 있기를 바랍니다.
관리자/기능원의 요구 사항은:
- 저는 보고자에게 제공되는 "지원 정보" 단계를, 제보자가 겪고 있는 사건과 제 위키 정책에 따라 맞춤 설정할 수 있도록 하고 싶습니다.
- 위키가 크지 않으면, 위키에 확립된 정책이나 프로세스가 없는 경우 사용할 수 있는 표준/기본 템플릿을 원합니다.
즉각적인 신체적 위해 위협 (T&S 부서에서 처리)
즉각적인 위험은 긴급 신고 절차를 통해 신고됩니다. 사용자는 자신(또는 타인)의 안전에 심각한 위험이 있는 상황을 인지하면 신고할 수 있습니다. 신고가 제출되면 위키미디어 재단의 신뢰와 안전 팀으로 전송되며, 해당 팀은 이러한 문제를 검토하고 대응할 책임을 맡고 있습니다.
기타 다른 사건 (커뮤니티 멤버에 의해 진행됨)
사용자들은 보편적 행동 강령에 정의되어 있는 것 같은 원하지 않는 행동 중 하나를 선택할 수 있습니다 이 경우, 사용자는 특정 문제에 대한 지원을 받는 방법에 대한 명확한 정보를 제공하는 "지원 정보" 단계로 안내됩니다. 이는 사용자가 커뮤니티의 요구와 관행을 반영하여 적절한 지원을 받을 수 있도록 하는 것을 목표로 합니다.
For each incident type, local communities can customize a limited number of content sections with wiki-specific terminology and links, according to their policies and practices.
Administrators can now set up external links as the destinations for reporting. This allows the use of URL query string parameters such as preload and may make the reporting even simpler and more efficient.
Incident types
| 1st-tier category | 2nd-tier category | UCoC provision | UCoC definition, or description |
|---|---|---|---|
| Immediate threat of physical harm (processed by T&S) | Threats of physical harm | — | Intending to commit violence against an individual |
| Threats of self harm | — | Intending to commit an act of harming oneself | |
| Threats of public harm | — | Intending to commit an act of mass violence | |
| Unacceptable user behavior (processed by community members) | Bullying, intimidation, threats or repeated insults | 3.1 – Harassment | "This includes name calling, using slurs or stereotypes, and any attacks based on personal characteristics. Insults may refer to perceived characteristics like intelligence, appearance, ethnicity, race, religion (or lack thereof), culture, caste, sexual orientation, gender, sex, disability, age, nationality, political affiliation, or other characteristics. In some cases, repeated mockery, sarcasm, or aggression constitute insults collectively, even if individual statements would not."
"Explicitly or implicitly suggesting the possibility of physical violence, unfair embarrassment, unfair and unjustified reputational harm, or intimidation by suggesting gratuitous legal action to win an argument or force someone to behave the way you want." "This includes encouraging someone else to commit self-harm or suicide as well as encouraging someone to conduct violent attacks on a third party." |
| Sexual harassment | "Sexual attention or advances of any kind towards others where the person knows or reasonably should know that the attention is unwelcome or in situations where consent cannot be communicated." | ||
| Exposing private personal information (Doxing) | "Sharing other contributors' private information, such as name, place of employment, physical or email address without their explicit consent either on the Wikimedia projects or elsewhere, or sharing information concerning their Wikimedia activity outside the projects." | ||
| Trolling or Hounding (Stalking) | "Deliberately disrupting conversations or posting in bad-faith to intentionally provoke."
"Following a person across the project(s) and repeatedly critiquing their work mainly with the intent to upset or discourage them. If problems are continuing after efforts to communicate and educate, communities may need to address them through established community processes." | ||
| Hateful or discriminatory content | 3.3 – Content vandalism and abuse of the projects | Content vandalism containing "hate speech in any form, or discriminatory language aimed at vilifying, humiliating, inciting hatred against individuals or groups on the basis of who they are or their personal beliefs"
"The use of symbols, images, categories, tags or other kinds of content that are intimidating or harmful to others outside of the context of encyclopedic, informational use. This includes imposing schemes on content intended to marginalize or ostracize" (Hate speech towards an editor falls under "Bullying, intimidation, threats or repeated insults") | |
| Spam or promotional content | Other content vandalism | ||
| Something else | Including 3.2 – Abuse of power, privilege, or influence |
Community configuration
Community Configuration is a tool allowing communities to set up and control the configuration of different features. For the Incident Reporting System we are using Community Configuration to allow communities to customize the "support information" step.
Example of how customizing the "support information" step for "Exposing private personal information (Doxing)" might look:
-
The "support information" step will have a default view (fields that are left blank will not display) -
Communities will then be able to customize the default view via Community Configuration
.png)
.png)
배포 일정
- 포르투갈어 위키백과의 첫 번째이자 제한된 버전 –
- 다음 파일럿 위키 –
- English Wikipedia trial – –
문의
자주 묻는 질문
WMF는 기존 커뮤니티 프로세스를 변경하려고 합니까?
IRS에 대한 우리의 계획은 커뮤니티 프로세스를 변경하지 않는 것입니다. 목표는 기존 프로세스에 연결하는 것입니다.
연간 보고되는 사건 수에 대한 데이터가 있습니까?
We have usage data collected on the wikis where IRS has been deployed. The largest of them is Portuguese Wikipedia. However, the volume of data is too low to make predictions based on it. We want to address this by launching a trial on English Wikipedia, with the audience similar to the entire audience on Portuguese Wikipedia.
현재 우리가 사용할 수 있는 명확한 데이터가 많지 않습니다. 여기에는 몇 가지 이유가 있습니다. 첫째, 문제는 다양한 방식으로 보고되며 커뮤니티마다 다릅니다. 해당 데이터를 완전하고 깔끔하게 캡처하는 것은 매우 복잡하고 시간이 많이 소요됩니다. 둘째, 이슈에 대한 해석도 다릅니다. 괴롭힘으로 해석되는 일부 행위는 위키 업무에 불과합니다(예: 홍보 기사 삭제). 괴롭힘에 대한 검토에는 문화적 또는 커뮤니티 맥락이 필요할 수도 있습니다. 우리는 데이터를 자동화하고 시각화하거나 객관적으로 계산할 수 없습니다. 사고 보고 시스템은 이러한 데이터 요구 사항 중 일부를 해결할 수 있는 기회입니다.
How are different types of harmful incidents – such as harassment, threats, or misconduct – defined in the Incident Reporting System?
보편적 행동 강령에서 정의된 용어를 사용했습니다.
최소 기능 제품으로 어떤 질문에 답하려고 합니까?
대답해야 할 질문은 다음과 같습니다:
- What kind of user conduct/behavior issues do people need help with?
- How many people report the respective kinds of issues?
- 이 문제가 얼마나 큰가요?
- 사용자의 부적절한 행위 문제의 심각성을 더 명확하게 파악할 수 있습니까? 보고서 수에 대한 데이터를 얻을 수 있습니까? 사용자의 부적절한 행위가 과소 보고되거나 과도하게 보고됩니까?
- 현재 사람들이 여러 종류의 사용자 행동 문제를 신고하지 않는 이유는 발생하지 않았거나 방법을 모르기 때문입니까?
- 현재 설정으로 처리해야 할 작업이 많을까요?
- 위키 프로세스를 이해하지 못하는 사람들과 비교할 때 유효한 불만 사항은 몇 개입니까? 유효한 불만 사항을 구별/필터링하고 유효하지 않은 불만 사항을 필터링하여 자원봉사자나 직원의 시간을 절약할 수 있습니까?
- 편집 내용이 되돌려지거나 페이지가 삭제된 것에 대해 화가 난 사람들이 제출한 신고를 많이 받게 되나요? 우리는 그들과 무엇을 할 것인가?
위키미디어 운동은 페이스북/레딧과 같은 다른 대형 플랫폼이 괴롭힘을 처리하는 방식과 어떻게 비교됩니까?
동일한 온라인 동호 그룹은 없지만 위키미디어 운동은 괴롭힘을 처리하는 방법과 관련하여 페이스북 및 레딧과 가장 자주 연결됩니다. 고려해야 할 중요한 점은 아무도 괴롭힘을 해결하지 못했다는 것입니다. 다른 플랫폼은 콘텐츠 조정에 어려움을 겪고 있으며 종종 이를 처리하려는 유급 직원이 있습니다. 우리와 레딧 및 페이스북의 두 가지 큰 차이점은 우리 프로젝트의 전 세계적 협업 특성과 커뮤니티가 커뮤니티 수준에서 괴롭힘을 해결하기 위해 노력하는 방식입니다.
이전 프로젝트 연구
다음 문서는 2015년부터 2022년까지 위키미디어 재단이 위키미디어 프로젝트에 대한 온라인 괴롭힘에 대해 수행한 연구의 완전한 검토입니다. 이 검토에서 우리는 주요 주제, 통찰력 및 관심 영역을 식별하고 문헌에 대한 직접 링크를 제공했습니다.
신뢰 및 안전 도구 팀은 우리 작업에 정보를 제공하기 위해 이전 연구 및 커뮤니티 협의를 연구해 왔습니다. 우리는 커뮤니티 건강 이니셔티브 사용자 보고 시스템 제안과 2019년 사용자 보고 시스템 협의를 재검토했습니다. 또한 커뮤니티가 현재 충돌을 관리하는 방식을 이해하기 위해 위키 전반에 걸쳐 일부 충돌 해결 흐름을 계획하려고 노력해 왔습니다. 아래는 이탈리아어 위키 충돌 해결 흐름의 지도입니다. 자동화 기회에 대한 메모가 있습니다.
-
2015년부터 2022년까지의 연구를 종합하여 문제 공간의 주요 주제와 사용자 요구 사항, 과제, 고려 사항 및 이전 작업을 파악했습니다. -
이탈리아어 위키백과에는 분쟁 해결을 위한 3단계 정책이 있습니다. 이 맵은 이 프로세스를 시각화하고 편집자와 관리자 모두를 위한 자동화 기회를 식별하려고 시도합니다.
