Facebook で心当たりがない人から友達申請が来た。2014年で投稿が途切れている方のようですが、急にここ1〜２ヶ月投稿が復活している｡しかし復活後の日本語が不自然。
アカウントが乗っ取られ、AI 生成画像とAI生成テキストが投稿されていることを疑ってしまう｡
フォロー
この件、考えてみると興味深いな｡
もうちょっと整理してみると、経緯は
(1) 見知らぬ綺麗な女性から友達申請とメッセージが来た
(2) メッセージの内容はおそらく私の非公開タイムラインを見ないとわからない内容が含まれる
(3) 共通の知人（つながり）がいることが表示された
(4) その綺麗な女性は、2014年以降休眠アカウントだったが、やや不自然な日本語で復活していた
(5) 共通の知人も10年以上休眠アカウント
ここから想像すると、、
(a) 休眠アカウントを乗っ取り
(b) 繋がりを探索し、タイムラインのコンテンツを AI に学習させる。
(c) 繋がりに相手にとって意味があるメッセージを送る
ということをやっているだろうということ。
これは、新たな攻撃手法の実験ではなかろうか。
従来の攻撃は、
(1) セキュリティーホールを見つける
(2) そのセキュリティーホールを攻撃するスクリプトを書く
(3) ネットワークを探索したり、メールなどを介してできるだけ多くのターゲットをスキャンして片っ端から攻撃を試みる
ということをやっていたわけだけど、それよりも怖いのは
(1) この企業を攻撃すると決める
(2) その企業の内情を調べて、足がかりになりそうなセキュリティーホールや従業員を探す
(3) 上司や取引先などを装い、メールなどでワームなどを送り付ける
といった標的型の攻撃だが、これは手間がかかる。
AI を使うと、この人間の心理的なセキュリティーホールを就いた標的型攻撃が、自動化できるはず。
「見ため不自然な日本語」みたいなのは技術でいずれ解決されるだろうから、そうするとかなり手ごわい攻撃が可能になってしまう｡
さて、どうやって防御すればよいのでしょうかね？