「誰も傷つかない」がコンセプトのSNS『DYSTOPIA』の問題について書きました。このSNSでは、知的障害者施設の入所者を殺害した罪などで死刑が確定した植松聖死刑囚を称賛するような投稿が2週間以上放置されていました。また、AIによって自動で変換された投稿に対し、ユーザーが責任を問われるおそれもあります。
note.com/mutevox/n/naf53a15512

フォロー

『DYSTOPIA』の利用を警告する記事を『DYSTOPIA』に投稿しようとしたら、AIによって書き換えられてしまった。記事のURLも削除されている。

変換前の文章は以下のとおり。
"『DYSTOPIA』には、知的障害者施設の入所者を殺害した植松死刑囚を称賛するような投稿が複数件ありました。AIによって自動で変換された投稿に対し、ユーザーが責任を問われるおそれもあります。"

変換前の文章と変換後の文章を比較すると、以下の変換がなされているようだ。

「殺害した」→「亡くした」
「称賛」→「応援」
「複数件ありました。」→「複数あるみゃ!」
2つ目の文章とURLは削除
QT: fedibird.com/@mutevox/11123762
[参照]

小嶋裕一 Yuichi Kojima  
「誰も傷つかない」がコンセプトのSNS『DYSTOPIA』の問題について書きました。このSNSでは、知的障害者施設の入所者を殺害した罪などで死刑が確定した植松聖死刑囚を称賛するような投稿が2週間以上放置されていました。また、AIによって自動で変換された投稿に対し、ユーザーが責任を問われるおそれ...
ログインして会話に参加
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。