1: 少考さん ★ 2023/09/25(月) 13:15:29.89 ID:dvPMRBEb9

“誰も傷つかない”SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に
SF小説『1984』をオマージュした、AIが統制するSNS。/ねとらぼ
https://nlab.itmedia.co.jp/nl/articles/2309/25/news103.html


2023年09月25日 12時50分 公開　沓澤真二，ねとらぼ

「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」（iOS版／Android版）が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia01.jpg

誰も傷つかないよう配慮されたSNS「DYSTOPIA」。スマホでのみ利用可能

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia02.jpg

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia03.jpg

全ての投稿はAIの検閲を通したうえで公開される

　意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q＆Aサービス「相談箱」の運営社が立ち上げたサービス。

ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia04.jpg

良くない言葉を投稿した際は、『1984』の絶対権威的存在「BIG BROTHER」が警告

　DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。AIはユーザーの発言が不適切かどうか、その度合いはどの程度かを判断。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia05.jpg

意味が通るどうかはさておき、検閲により不穏当な表現は排除される

例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「死ねカス！」だったら「私の心中は今お祭り騒ぎですな！」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。

　なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。（略）

※省略していますので全文はソース元を参照して下さい。

53: ウィズコロナの名無しさん 2023/09/25(月) 13:28:42.50 ID:cTvrxsh80

>>1
>検閲のルールに関与できる有料プラン
金ですね

56: ウィズコロナの名無しさん 2023/09/25(月) 13:29:23.71 ID:EbtjI2FY0

>>1
面白いなw
でもさすがに縦読みまでは検知出来んだろ

319: ウィズコロナの名無しさん 2023/09/25(月) 14:48:09.26 ID:gctBd8ZE0

>>1
これはこの言い回しを楽しむアプリであって
SNSとしてはムリな気がｗ

4: ウィズコロナの名無しさん 2023/09/25(月) 13:16:16.91 ID:Orc0tyRU0

AIによる言論統制わらえない

7: ウィズコロナの名無しさん 2023/09/25(月) 13:18:03.02 ID:MpgAwgR/0

早急にお祭り騒ぎしそうですな

13: ウィズコロナの名無しさん 2023/09/25(月) 13:20:01.37 ID:z2DST3lG0

現代アートみたいな感じで嫌い