“誰も傷つかない”SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に

　「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。

【画像】AIによる暴言変換の例

　意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q＆Aサービス「相談箱」の運営社が立ち上げたサービス。ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。

　DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。AIはユーザーの発言が不適切かどうか、その度合いはどの程度かを判断。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。

　例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「死ねカス！」だったら「私の心中は今お祭り騒ぎですな！」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。

　なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。今後の利用者による反応や賛否が注視されます。