GPT-4、不十分ながらもかなりガチガチのプロテクトがかかってるようだけど、これ外せば、もしかしたら現状でも創発的行動を強化する指示をうまくやることで、シンギュラリティに到達できそうな気がしてきた。

GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
https://qiita.com/ikeda_yasuhiro/items/3c633ddf0f3119051fe0