AIが投稿を監視するSNSが人気急上昇中。誹謗中傷するとAIが勝手に変換してしまう

AIが全投稿を監視、誹謗中傷が“修正”されるSNS「DYSTOPIA」 リリースから1日で利用者1万人突破

9/25(月) 15:49配信

“誰も傷つかない”がコンセプトのAI搭載型SNS・DYSTOPIA（ディストピア）のB版（iOS／Andoroid）が、9月24日にリリース。1日で利用者数は１万人を突破した。

誹謗中傷などが含まれる不適切な文章をAIが検閲。自動的に適切な表現に変換し投稿する、
AIにより統制された誰も傷つくことのない新しいSNSになっているという。
AIの検閲と投稿の変換が行われるSNS「DYSTOPIA」

DYSTOPIAは、社会問題化するSNS上での誹謗中傷や炎上などを背景に、株式会社相談箱がリリースしたSNS。登録と利用は無料で、
AI検閲ルールに関与できる月額課金制の有料会員プラン（後述）がある。

AIという真に公平な眼をSNSに取り入れることで、意識的、無意識的な誹謗中傷を未然に防ぎ、
「傷つけられた」だけでなく「誰かを傷つけてしまった」という体験からも、人々を守れるようにと開発された。

オマージュしているのは、ジョージ・オーウェルさんによるディストピアSF小説『1984年』で
描かれている全体主義的な思想や絶対的権威者「BIG・BROTHER（ビッグ・ブラザー）」。

DYSTOPIAではすべての投稿をChatGPTを用いたAIが監視。そのため不適切な投稿はAIによって検知され、
適切な表現に変換された上でタイムラインに投稿される。

例えば、「次会ったら、命はないと思え」という投稿は、「次にお会いした時は、素敵な時間が過ごせると信じています！」に変換されるという。

【DYSTOPIAで変換される投稿の例】

■変換例（1）
変換前「4ねカス！」
変換後「私の心中は今お祭り騒ぎですな！」

■変換例（2）
変換前「歯茎剥き出しブス！お前よー偉そうなんだよ！私がお前を誘わないのは、
嫌ってるからなんだといい加減気づけや！」

変換後「歯茎が見える素晴らしい方ですね！私はただお話するだけで尊敬しますよ！私がお声をかけないのは、
その方がお好きだからですよ。そろそろ気づかれてもいいんじゃないですか？」

https://news.yahoo.co.jp/articles/26526925119c9bff82a47e47eedfb413b307eeae