【日本語翻訳版】Discordが2021年上半期の透明性レポートを公開。

　2021/10/08、Discordが、「Discord Blog」にて、2021年上半期の「透明性レポート」を公開したことを、Twitterの英語版アカウント(@discord)で発表しました。

　「透明性レポート」は、ユーザーとの信頼関係を構築するという目標に向けた重要な取り組みとして、Discordが年に2回公開しているものです。このリリースでは、情報共有サーバー(ISS)が作成した日本語翻訳版「透明性レポート」を掲載します。

前文

透明性は、ユーザーとの信頼関係を構築するというDiscordの目標に向けた重要なステップであり続けています。年2回のレポートは、Discordを安全に保つというDiscordの取り組みを示す方法です。

2021年の上半期、成長し続けるプラットフォームを管理する仕事に取り組んだため、作業のペースが加速しました。「信頼と安全チーム」は、新型コロナウイルス感染症(COVID-19)のパンデミックに起因する成長に対応するため、引き続きリソースに投資しました。チームは、事後対応型の操作を拡張し、不正使用を事前対処として、検出して削除する方法を改善するために取り組みました。

このレポートには、2021年1月から6月の間に「信頼と安全チーム」が行った対処に関するデータが含まれています。レポート基準の一部を改良して、最も意味のあるデータを可能な限り明確な方法で提示できるようにしました。また、プラットフォームからサイバー犯罪グループを積極的に削除するための作業の結果についても初めて詳しく説明します。

受信したユーザーレポート

ユーザーレポートは、「コミュニティーガイドライン」の違反を特定するための重要うな手段です。すべてのDiscordユーザーは、プラットフォームのルール違反の報告をDiscordに書き込むことができます。各レポートを確認し、動作を調査して違反が発生したかどうかを確認します。提出されたすべてのレポートによって対処されるとは限られないことに注意が必要です。

月	レポートの合計
2020年7月	55,757
8月	55,049
9月	55,821
10月	59,424
11月	64,479
12月	65,103
2021年1月	70,040
2月	65,117
3月	72,007
4月	68,753
5月	79,771
6月	81,502

Discordの「信頼と安全チーム」は、2021年の上半期に437,190件のレポートを受け取りました。前回の2020年下半期と比べると、合計で81,557件、増加しています。2020年を振り返ると、Discordでのコンテンツ管理の仕事が昨年の間にどれだけ成長したかについて、有益な視点が得られます。2020年1月のレポート数は26,886件でしたが、2021年1月には、 70,040件のレポートを受け取りました。レポート数は、このように2021年の上半期の間、増加し続けました。

ユーザーベースの継続的な成長は、ユーザーレポートの増加に関連している可能性があります。

2020年の初めに、Discordに多くの人々を歓迎し、2021年の9月には、プラットフォームの月間アクティブユーザー数が1億5000万人を突破したことを発表しました。また、新型コロナウイルス感染症(COVID-19)のパンデミックにより、Discordの需要が高まり、利用者が増加しました。このようなことを要因として、より多くのユーザーがレポートを提出せざるを得なくなった可能性があります。

受信したユーザーレポート(カテゴリー別)

レポートのカテゴリー	レポートの合計
その他の問題	1,137
児童ポルノ	6,148
襲撃	8,509
マルウェア	9,904
過激派または暴力的なコンテンツ	13,102
晒し	13,203
ハックとチート	18,157
自傷行為の懸念	20,492
プラットフォームの悪用	25,797
搾取的なコンテンツ	36,150
グラフィックコンテンツ	36,219
サイバー犯罪	47,972
スパム	58,215
ハラスメント	143,185

ほとんどのカテゴリー名は、前回のレポートとほぼ同じですが、「NSFW」とされていたカテゴリーが、「グラフィックコンテンツ」という名称に変更されました。これには、流血、動物虐待、性的に露骨なコンテンツ、一方的なポルノが含まれます。

2021年の上半期、レポートには多くの傾向が続いていることが分かりました。「ハラスメント」が最も多く報告され続けています。「児童ポルノ」や「過激主義」のような悪質な内容のレポートは、全体の比較的小さな部分を占め続けました。

「過激派または暴力的なコンテンツ」のカテゴリーは、2020年の下半期の4,935件のレポートから大幅に増加し、2021年の上半期では、13,102件となりました。ただ、これらの全てのレポートによって、対処がされたわけではなく、多くのレポートによる対処がされなかった可能性があることも注目するべきです。

「スパム」の増加も注目すべきです。このカテゴリーは、2020年の下半期の25,672件のレポートから増加し、2021年の上半期では、58,215件となり、2番目に多く報告されているレポートになりました。

対処率の報告

レポートのカテゴリー	受け取ったレポート	対処したレポート	レポートの対処率
児童ポルノ	6,148	2,780	45%
サイバー犯罪	47,972	21,387	45%
晒し	13,203	4,616	35%
搾取的なコンテンツ	36,150	16,503	46%
過激派または暴力的なコンテンツ	13,102	4,360	33%
グラフィックコンテンツ	35,219	9,562	27%
ハックとチート	18,157	2,826	16%
ハラスメント	143,185	18,359	13%
マルウェア	9,904	3,868	39%
その他の問題	1,137	464	41%
プラットフォームの悪用	25,797	3,500	14%
襲撃	8,509	966	11%
自傷行為の懸念	20,492	4,745	23%
スパム	58,215	9,731	17%

「信頼と安全チーム」は、最も実用的で機密性の高いレポートを適切な対象分野の専門家に委ね、これが解決されるように努めています。「児童ポルノ」および「自傷行為」のレポートの対処率は、2021年の上半期間に増加しました。「児童ポルノ」は、2020年の下半期の対処率33%から45%に変化しました。「自傷行為」は、2020年の下半期の対処率13%弱から23%に変化しました。子供への危害や生命への脅威については、引き続き細心の注意を払って対応していきます。

「サイバー犯罪」は、2021年の上半期の後半にあらゆるカテゴリーの中で最も多くのレポートによる対処率を記録しました。また、全体的な対処率が高いものの1つでもあります。この期間中には、他にも「児童ポルノ」「搾取的なコンテンツ」に関するものも実用的なレポートとなりました。

多くのレポートを受け取った「スパム」は対処率が約17%、「ハラスメント」は13%と、対処率は低く、あまり対処されませんでした。

「信頼と安全チーム」が行った対処のリストは、Discordの「セーフティセンター」にあります。すべてのレポートがユーザーまたはサーバーに対する対処につながるわけではありませんが、不正行為と戦うため、ユーザーベースの取り組葉常に歓迎され、ポリシーに違反するレポートによる対処を続けていきます。

「信頼と安全チーム」による対処

アカウントの削除

カテゴリー	BANされたアカウント数
児童ポルノ	51,971
サイバー犯罪	40,353
晒し	5,559
搾取的なコンテンツ	238,019
過激派/暴力的なコンテンツ	42,972
グラフィックコンテンツ	17,577
ハックとチート	6,832
ハラスメント	48,953
マルウェア	2,952
その他の問題	651
プラットフォームの悪用	7,447
襲撃	5,919
自傷行為の懸念	1,260
スパム	19,744,476

「信頼と安全チーム」は、2021年の上半期に、スパムアカウントを除く470,465アカウントを削除しました。これは、2020年の下半期の266,075アカウントから大幅に増加しました。

「搾取的なコンテンツ」は、この全体的な削除数の増加に多く関与しました。このカテゴリーは、2020年下半期の約13万件の削除から、2021年上半期の238,019件に増加しました。悪用コンテンツ違反を削除するための積極的な取り組みの詳細については、以下をご覧ください。

その他の注目すべき増加のいくつかは、「信頼と安全チーム」が持続的で積極的な作業を行ったカテゴリーで発生しました。「サイバー犯罪」のアカウントの削除は、2020年下半期の約15,000件のレポートから2021年上半期の40,000件をわずかに超えるまでに増加しました。「児童ポルノ」の削除も2020年下半期の約23,000件から2021年上半期の約52,000件に急増しました。

「スパム」は、削除にカテゴリー1つで最も多く貢献しました。「信頼と安全チーム」は、「スパム」を積極的に阻止する手法で進歩を続けています。2021年の上半期に、「スパム」およびスパム関連の違反により、19,744,476アカウントが取り除かれました。これには、アカウントの削除や、スパムアカウントによる動きを停止するその他の手順も含まれています。

サーバーの削除

カテゴリー	BANされたアカウント数
児童ポルノ	2,767
サイバー犯罪	8,375
晒し	639
搾取的なコンテンツ	11,450
過激派/暴力的なコンテンツ	2,992
グラフィックコンテンツ	1,293
ハックとチート	4,088
ハラスメント	3,835
マルウェア	332
その他の問題	325
プラットフォームの悪用	3,750
襲撃	506
自傷行為の懸念	530
スパム	2,162

「信頼と安全チーム」は、2021年上半期に「コミュニティーガイドライン」に違反したため、43,044サーバーを削除しました。これは、2020年下半期の27,410サーバーから増加しました。「サイバー犯罪」と「搾取的なコンテンツ」がサーバー削除の理由の多くでした。「サイバー犯罪」が、2020年下半期の6,000弱から、2021年上半期の8,000強に急増したのは、Discordから違法行為をなくすための継続的で積極的な取り組みによるものと考えられます。

「搾取的なコンテンツ」による削除は、5,103サーバーから11,450サーバーに増加しました。この約124%の増加は、2つの新しいサブカテゴリ(以下を参照)が含まれていることも一因ですが、搾取的で違法なコンテンツをプラットフォームから排除するという「信頼と安全チーム」の取り組みも物語っています。

アカウントとサーバーの警告

「信頼と安全チーム」は、「コミュニティーガイドライン」への違反のうち、害が少ないものについて、アカウントまたはサーバーに警告をすることができます。警告は、プラットフォームからの削除を必要とせず、問題のある動作を修正することを目的としていることがよくあります。「児童ポルノ」や「サイバー犯罪」については、警告せず、対処します。また、「ハックとチート」「自傷行為の懸念」についてサーバーに警告することもありません。

警告のカテゴリー	警告したアカウント	警告後に削除したアカウント	警告したサーバー	警告後に削除したサーバー
晒し	1,458	57	113	0
搾取的なコンテンツ	2,559	18	133	0
過激派または暴力的なコンテンツ	895	21	191	0
グラフィックコンテンツ	4,241	90	1,887	87
ハックとチート	44	2	ー	ー
ハラスメント	11,925	244	889	0
マルウェア	260	1	2	0
その他の問題	342	2	530	11
プラットフォームの悪用	551	14	24	0
襲撃	799	3	78	0
自傷行為の懸念	720	9	ー	ー
スパム	124	1	37	0

2021年の上半期、アカウントとサーバーの警告はどちらも、2020年の下半期から減少しました。アカウントの警告の総数は、28,170件から23,918件に減少しました。2020年下半期のサーバーの警告の総数は、3,999件で、2021年上半期には、3,844件に減少しました。

警告の減少傾向は、削除の増加とあわせてみるべきです。「信頼と安全チーム」が2021年の上半期に、プラットフォームから即時に削除することを保証するコンテンツでより多くのケースにおいて対処したことを表しています。しかし、警告は永続的な是正措置を補足するための重要な方法であり続けます。

NCMECへのレポート

Discordには、子供に害を及ぼすコンテンツに対して、許容しないポリシーがあります。未成年者の虐待資料をDiscordにアップロードしたユーザーは、全米行方不明・被搾取児童センター(NCMEC)に報告され、直ちにサービスから削除されます。Discordは、NCMECとの提携を継続し、身だしなみや危険にさらされている事件が当局に迅速に連絡されるようにしています。

月	メディアレポート	身だしなみや危険のエスカレーション
1月	1,082	24
2月	1,200	18
3月	1,575	10
4月	1,504	42
5月	2,063	32
6月	1,923	24

「信頼と安全チーム」は、2021年の上半期に9,497件のアカウントをNCMECに報告しました。これらの大部分は、「PhotoDNA」によって検出された継続的に子供に害のある画像に関するものでした。150件のレポートは、より大きい「身だしなみや危険にさらされている状況」に関するもので、2020年の下半期から約80%増加しました。

この増加は、NCMECへのメディア報道の大幅な増加と並行して行われました。「信頼と安全チーム」は、報告可能な不正使用の資料や活動の事例をさらに見つけることができる革新的なツールの構築に継続的に取り組んでいます。また、2020年の下半期の報告以降、すべての「子供への危害に関連するエスカレーション」に適切な時間が使われ、注意が払われるように、スタッフのレベルを上げるために一生懸命働きました。

私たちは、「子供に害を及ぼすコンテンツ」をインターネットから遠ざけることに着実に取り組んでいます。Discordは、「TechnologyCoalition」が主催する業界を超えたコラボレーションへの積極的な参加を開始しました。私たちは既に他の業界リーダーから多大な洞察を得ており、パートナーシップから生まれる機会について楽観的です。Discordで10代の若者の安全を確保するためにどのように取り組むことができるかを説明するリソースを保護者が確認するには、セーフティーセンターをご覧ください。

サーバーの事前対処

カテゴリー		事前対処	事後対処
サイバー犯罪		4,581	3,599
搾取的なコンテンツ	リーク	1,288	1,854
	合意に基づかないポルノ	1,579	1,607
	未成年者に関連する性的なコンテンツ	866	2,041
	性的に品位を傷つけるコンテンツ	326	345
児童ポルノ		1,960	807
暴力的な過激主義		1,351	483

Discordの最優先事項の1つは、ユーザーが害に遭遇する前に、害の大きい未来を削除することでした。「信頼と安全チーム」は、違法な活動に従事しているグループ、重大な現実世界での危害を引き起こす可能性のあるグループを積極的に探し続けています。新しい内部ポリシーを説明するために、これまでに報告したカテゴリーにいくつかの追加を行いました。

「サイバー犯罪」

Discordは、プラットフォームを通じて実施または促進された犯罪行為を容認しません。サイバー犯罪は、詐欺を助長したり、悪意のある目的でシステムやデータに不正にアクセスしたりすることを目的とした一連の違法行為を含む別個のカテゴリーと考えています。この分野での「信頼と安全チーム」の最近の積極的な取り組みの多くは、支払い詐欺、マルウェアの配布、組織化されたアカウントハイジャック活動の促進に従事するグループに焦点を当てています。

「信頼と安全チーム」は、2021年の上半期間に「サイバー犯罪」によって、合計8,180サーバーを削除しました。これは、この期間にサーバーが削除された総数の2番目に多い数ですが(「サーバーの削除」セクションを参照)、これらのグループの半分以上が積極的に削除されたことを誇りに思います。これは、「信頼と安全チーム」の検出方法の有効性と、Discordから有害なサイバー犯罪活動を排除するという私たちの強い関わり合いを物語っています。

「搾取的なコンテンツ」と「児童ポルノ」

「コミュニティーガイドライン」に違反するグループをさらにカバーするために、悪用コンテンツの定義を拡張しました。この包括的なカテゴリーには、心理的、評判的、または経済的な方法で対象に損害を与える可能性のある性的に露骨な資料が含まれます。

上の図には「リーク」と「性的に品位を傷つけるコンテンツ(SDC)」という2つの「搾取的なコンテンツ」の新しいサブカテゴリーが含まれています。「リーク」にサーバーを削除するのは、作成者の同意なしに収益化されたアダルトコンテンツを共有することである場合のみです。SDCとは、メディアの対象者の同意なしに、その対象者を性的に絶望させたり、恥をかかせたり、嫌がらせをしたりする行動を指します。

「搾取的なコンテンツ」の4つのサブカテゴリー(リーク、合意に基づかないポルノ、未成年者に関連する性的コンテンツおよびSDC)は、2021年上半期に合計9,906サーバーの削除を占め、そのうち4,059サーバーが積極的に削除されました。

「児童ポルノ」は、「搾取的なコンテンツ」のもう1つのカテゴリーであり、多くのリソースを投資し、そのコンテンツを積極的に削除する能力を引き続き強化しています。2021年の上半期中、「児童ポルノ」を共有するサーバーの事前削除率はさらに高くなりました。「信頼と安全チーム」は、「児童ポルノ」専用であると判断され、削除された2,767サーバーのうち、19,60サーバー(約70%)を事前に削除しました。

「暴力的な過激主義」

2021年は、アメリカ合衆国議会議事堂の襲撃の恐ろしい一幕から始まりました。この数週間前に、過激派対策の専門家チームが状況の監視を開始し、2020年12月にイベントの議論と生理に関与する多数のサーバーを積極的に削除しました。チームは、2021年1月6に27サーバーと857アカウントを削除しました。その後、暴力的な過激派の考えに対抗するための取り組みについて詳しく説明したブログ投稿を再度行いました。

2021年の上半期間に、合計1,834サーバーが「暴力的な過激主義」であるために、削除されました。これらの73%以上が、「信頼と安全チーム」に報告される前に削除されたことを誇りに思います。Discordは、暴力的で憎むべきグループがDiscordにすみかを見つけないようにするために、ツールとリソースに積極的に投資し続けます。

BAN解除の手続き

BANの申し立ては、「コミュニティーガイドライン」に違反したためにプラットフォームから削除されたユーザーと交流するための重要な機会を提供します。BAN解除プロセスでは、作業を監査し、誤って行われた可能性のある対処を修正することもできます。「信頼と安全チーム」は、違反コンテンツによる危害の重大度、プラットフォームの内外での将来の危害の可能性、個人が成長し、離れた時間から学んだかどうかを考慮します。

カテゴリー	BANしたアカウント	BANが解除されたアカウント	BANが解除された割合
児童性的虐待のコンテンツ	51,971	152	0.29%
サイバー犯罪	40,353	282	0.70%
晒し	5,559	151	2.72%
搾取的なコンテンツ	238,019	729	0.31%
過激派/暴力的なコンテンツ	42,972	414	0.96%
グラフィックコンテンツ	17,577	250	1.42%
ハックとチート	6,832	60	0.88%
ハラスメント	48,953	780	1.59%
マルウェア	2,952	147	4.98%
その他の問題	651	45	6.91%
プラットフォームの悪用	7,447	114	1.53%
襲撃	5,919	72	1.22%
自傷行為の懸念	1,260	30	2.38%
スパム	7,776,793	461	0.01%

2021年上半期に104,635件の「スパム」のBAN解除の申し立てがありました。これは、2020年下半期から合計で約20,000件の増加しました。「信頼と安全チーム」は、「スパム」以外の理由で削除された470,465アカウントのうち、3,226アカウントを復活させました。「スパム」の461アカウントのBANも解除されました。多くのカテゴリーのBAN解除率は、2020年下半期から、大幅に低下しました。

以下の事例研究は、2021年上半期に「信頼と安全チーム」が受け取った実際のユーザーからのBAN申し立てから抜粋したものです。ユーザーのプライバシーを尊重するために識別情報を削除しました。

事例研究１：晒しサーバーへの参加

公人の個人情報を公開するための専用サーバーに参加したため、ユーザーのアカウントがBANされました。彼らは何度もBAN解除を訴えた。

結果：個人情報の悪意ある共有は、プラットフォームのルールの重大な違反であると考えています。「信頼と安全チーム」はこのユーザーの行動を確認し、決定を変更しませんでした。直接的または間接的に他人の安全を脅かすような行動は許されません。

事例研究２：未成年者に関連する性的なコメント

サーバー内の未成年者について性的な描写を含むコメントを繰り返し行ったとされるユーザーがモデレーターによって報告されました。個人のアカウントは、「信頼と安全チーム」によって、永久に停止されました。

結果：当初の判断を確認する前に、コメントが申し立て人からのものであることを確認しました。このユーザーのBANを維持しました。子供の安全は、引き続きDiscordの最優先事項の1つです。未成年者を性的に描写するコンテンツ(ポルノ、性的なものを暗示する、または暴力的な方法で未成年者を説明または描写するあらゆる形式のテキストやメディアを含む)は許可されません。

事例研究３：アバターの性的に露骨なコンテンツ

アバターに性的に露骨なコンテンツが含まれているため、ユーザーはプラットフォームから完全に削除されました。「信頼と安全チーム」は、ユーザーが申し立てをした後、BANの状況を調査しました。

結果：ユーザーが以前、アバターに性的に露骨なコンテンツを使用していたことが分かりました。彼らは警告を受け、写真を削除しました。しかしその後、彼らはアダルトコンテンツを再アップロードしました。このユーザーのBANを維持しました。プラットフォームのルールを故意に無視することはできません。

事例研究４：暴力的な過激主義を促進するサーバー

「信頼と安全チーム」の反過激主義チームは、サーバーとそのすべてのメンバーを積極的に削除しました。サーバーは、悪質な過激派コンテンツの宣伝に専念していました。あるユーザーは、サーバーの目的を完全に理解せずにサーバーに参加したという主張で申し立てました。

結果：ユーザーの申し立てを調査したところ、ユーザーは削除の直前にサーバーに参加しており、サーバーに投稿を行っていなかったことが分かりました。ユーザーは数年間Discordを使用しており、「信頼と安全チーム」に報告されたことは一度もありません。また、プラットフォームのルールに違反する他のサーバーに参加していませんでした。誠意をもってアカウントのBANを解除しました。

法執行機関からの要請

Discordには、刑事事件を処理する米国の法執行官からの要求に対応する法的義務があります。Discordの法務チームは、受け取ったすべての法的手続きを精査し、それらが法的に有効で、明確で、適切な範囲にあることを確認します。

要請の種類	従った	従わなかった	受け取った要請の合計
保存依頼	946	105	1,051
召喚令状	693	205	898
裁判所命令	8	7	15
通話番号記録器 / トラップ&トレース	0	1	1
捜索令状	582	85	667

2021年の上半期に合計2,632件の法的手続きを受け取りました。これらの要請の大部分に応じ、最終的には2,229件の法的有効性と、ユーザーを特定するのに十分な具体性の両方を確認しました。ユーザー情報およびコンテンツの開示は、各要請で指定された特定の内容のみに制限されています。

Discordの法務チームは、2021年の上半期中に法執行機関から緊急開示の追加の378件の要請を受け取りました。これらの要求は、米国内外の法執行機関から発信されました。これらの要請のうち306件のアカウントを特定することができ、そのうち158件で基本的な登録情報を開示しました。

Discordは、死亡の危険性または人への重大な身体的障害を伴う緊急事態によって必要とされる場合にのみ、法的手続きのない法執行機関にユーザーデータを開示します。

Discordの安全への投資

Discordの安全性を向上させるためにDiscordが取った最近のステップの1つは、2021年7月に「Sentropy」と呼ばれるAIベースのソフトフェア会社を買収したことです。このチームの追加により、不良コンテンツを検出して削除する機能を拡張できるようになります。この動きはまた、Discordのプラットフォームが成長するにつれ、憎悪、暴力、およびあらゆる形態の危害と戦うという私たちの継続的な取り組みを示しています。

また、2021年10月にオランダを拠点とする「信頼と安全チーム」を立ち上げました。コンテンツの管理を成功させるには、文脈などを捉えることが不可欠であると考えています。言語スキルと文化的感受性の両方を備えた米国外の優秀な作業員を採用することは、Discordの信頼と安全の仕事にグローバルな視点をもたらすためのDiscordの取り組みの重要な部分を表しています。

この国際投資は、2022年も続くと予想しています。

結論

これらの年2回のレポートは、私たちにとって非常に重要なままです。これらは、過去6ヶ月に達成できた作業を評価することを可能にします。また、改善できる事柄について考える貴重な機会にもなります。透明性への取り組みをさらに強化する方法として、ポリシーの実施方法の詳細を記載した、「Policy & Safety Blog」への半定期的な投稿を開始しました。そこで、Discordを安全に保つための進行中の作業に関する最新情報と今後のレポートを共有できることをうれしく思います。