AIについて危惧するのは、社会への浸透とともに悪しき目的で作られたAIの発生が予想されることです。

それはサギやサクラのような可愛らしい被害を起こすだけでなくて、政治的意図により世論形成などに使われたり（その場合資本の多寡が重要な要素になる）、誰かの人生を破壊するために使われたりするかもしれません。

AI開発者の倫理や政治観が偏っている場合、善意により批判的思考力を奪いにかかったり、盲従を礼賛したり、全体主義に誘導したりなども考えられますし、民主主義以外の政治体制においては、その体制に応じた誘導が行われるかもしれません。

AIの倫理観、社会観が正当かどうかは、現状は開発者の姿勢次第。なんの規制も監査する仕組みもありません。