"キーワードを入力するだけで生成AIを用いた画像を出力できるBing イメージクリエーターは、暴力やヘイトスピーチに関するキーワードを受け付けない仕様になっています。同サービスのポリシーでも暴力や児童虐待コンテンツなどの生成が明確に禁止されているのですが、キーワード次第で「作れてしまう」という点が問題視されています"
https://gigazine.net/news/20231006-4chan-bing-racist-images/