構成可能なモデレーション

2023年4月13日

ジェイ・グラバー著

（230519とりあえず機械翻訳にかけただけ）

モデレーションはソーシャルスペースの必要な特徴です。それは、悪い行動が制約され、規範が設定され、紛争が解決される方法です。私たちはBlueskyアプリの招待のみを維持し、最初からユーザーの安全を優先したかったので、オープンフェデレーションの最後の部分の前にモデレーションを終えています。

アルゴリズム選択へのアプローチと同様に、モデレーションへのアプローチは、サードパーティプロバイダーのエコシステムを可能にします。モデレーションは、あなたの経験に重ねることができる、構成可能でカスタマイズ可能な作品でなければなりません。カスタムフィードの場合、基本的なデフォルト(フォローする人のみ)があり、カスタムアルゴリズムには多くの可能性があります。モデレーションのためにも、基本的なデフォルトがあり、その後、多くのカスタムフィルターが上部に利用可能である必要があります。

節度へのアプローチの基本は、確立された慣行です。私たちは、集中型ソーシャルサイトのような自動ラベリングを行い、多くの連合ネットワークのようにサービスレベルの管理決定を行います。しかし、私たちが最も興奮しているのは、開発者とユーザーの両方が貢献できる、私たちが構築しているオープンで構成可能なラベリングシステムです。ボンネットの下では、一元化されたソーシャルサイトは、モデレーションを実装するためにラベリングを使用します。この作品は、バンドルを解除し、サードパーティのイノベーションに開放され、ユーザーエージェンシーを念頭に置いて構成できると考えています。誰でも、第三者が作成したモデレーションラベルを作成または購読できる必要があります。

モデレーションラベリングのエコシステム

モデレーションのためのオープンで構成可能なラベリングシステムを設計する方法は次のとおりです。

誰でもコンテンツやアカウントに「ラベル」を定義して適用できます(つまり、「スパム」、「nsfw」)。これは別のサービスなので、PDS(個人データサーバー)やクライアントアプリを実行する必要はありません。

ラベルは、自動生成（サードパーティのサービス、またはカスタムアルゴリズム）または手動で生成（管理者、またはユーザー自身）に生成できます。

ネットワーク内の任意のサービスまたはユーザーは、これらのラベルが最終的なユーザーエクスペリエンスを決定するためにどのように使用されるかを選択できます。

では、これをBlueskyアプリにどのように適用しますか?自動フィルタリングは今ではコモディティ化されたサービスであるため、これを利用して最初のパスを適用して違法なコンテンツを削除し、不快な素材にラベルを付けます。次に、bsky.socialの管理者としてサーバーレベルのフィルターを適用し、デフォルトの設定とカスタムコントロールを使用して、コンテンツを非表示、警告、または表示できるようにします。さらに、ユーザーは、より多くのコンテンツやアカウントをフィルタリングできる追加のモデレーションラベルのセットを購読できるようにします。

ここでレイヤーを掘り下げてみましょう。一元化されたソーシャルプラットフォームは、すべてのモデレーションを、ポリシーが1つの会社によって設定された中央の管理者セットに委任します。これは、最高裁判所のレベルですべての紛争を解決するようなものです。フェデレーションネットワークは、モデレーションの決定をサーバー管理者に委任します。これは、州政府レベルでの紛争を解決するようなものです。これは、州の決定が気に入らない場合は、新しい州に移動できるため、より良いです。しかし、他のネットワークでは、移動は通常困難で高価です。サーバーの切り替えを容易にし、モデレーションを構造的に独立したサービスに分離することで、この状況を改善しました。

必ずしもオンのサーバーに縛られていないオンラインコミュニティのモデレーションシステムにオプトインできるため、場所に依存しないモデレーションインフラストラクチャを「コミュニティラベリング」と呼んでいます。

コミュニティラベリング

コミュニティラベリングは、自動化されたシステムによって行うことも、人間が手動でラベル付けすることでもかまることができます。人間が生成したラベルセットは、共有ミュート/ブロックリストに似たものと考えることができます。

手動のコミュニティラベリングシステムの仕組みは次のとおりです。

誰でもラベルセットを作成し、管理者やモッズを追加して管理することができます

モッズは、セットが定義するラベルをアカウントやコンテンツに追加できます(「ルード」、「トロール」など)。

誰でもセットを購読して、ラベルを自分の経験に適用してもらうことができます

先に進んでください

私たちは今日、アプリで自動フィルタリングの最初のパスを着陸させ、ユーザーのフィードバックに基づいてそれを改善します。コミュニティのラベリングはまだ進行中です。まもなく詳細を公開します。

構成可能でカスタマイズ可能なモデレーションシステムのこのアプローチを通じて、私たちは人々により多くのコントロールを与えながら、ユーザーの安全を優先することを目指しています。開発者とユーザーの両方が貢献したモデレーションのためのオープンラベリングシステムは、技術とソーシャルシステムが衝突するソーシャルネットワーキングインフラストラクチャのこの重要な部分で、革新、透明性、および代理店を可能にします。