> 理解できていない知識を使う世界は、やがて因果関係が目に見えない世界となり、わたしたちはいつ何をすればいいか教えてもらうために、デジタルの“コンシェルジュ”にどんどん依存するようになる。例えば、大学の入試委員会がどのようにして面倒で不確かな受験生の選別を機械学習モデルに委ねるかは想像に難くない。こうしたモデルは学問で成功を収めるかだけでなく、うまく人間関係を築けるかや、卒業後に気前よく寄付をしてくれるかといった点も考慮して、合格者を選ぶと言うかもしれない。このような世界を理解する唯一の方法は、自分自身もAIを使うことかもしれない。つまり、ソーシャルメディアのプロフィールを、入学者としてふさわしいと思ってもらえるように調整してくれるニューラルネットワークを使うのだ。
（……）
AIがうまくいった場合にどんな事が起きるかについてもわれわれは心配するべきなのだ。