シンギュラリティ論者は、「計算能力は(そして技術水準は)ムーアの法則(およびその後継)に沿って指数関数的に向上する。未来には予測不可能なスゴイことが起きるよ!」という理屈を唱える。テクノ楽観主義もだいたい同じ路線だ。
私の学生時代の指導教官であった大照完先生は、現代のイケイケな産業経済の話の後で、「しかしエクスポーネンシャル(指数関数的)な系は、だいたい不安定だから」と感想を述べていた。
電気回路にせよ経済システムにせよ、指数関数的な増加が観測されたら、その後には逆の動きをするのが通例。電気回路の場合、そのくり返しを「発振」と呼ぶ。経済システムの場合はバブル崩壊だ。そして場合によっては不可逆的なカタストロフ(破局)が訪れる。
系の余力、マージンを食い尽くせば後退モードに入ること、あるいは破局が到来することは当然だ。シンギュラリティ論者はこの種の「系の余力が尽きる」問題に対して、系を宇宙に広げることで解決できると考えている。しかし、これは楽観論に過ぎる。
哲学者ハンス・ヨナスが考えた未来倫理は、「善より悪を考える」「最悪の事態を考える」立場を取る。イケイケの未来が持続可能であるためには、最悪の事態=破局を避けなければならない。破局を避けるには、破局についいて真剣に考える必要があるのだ。