強力なAIは社会と人類に重大なリスクをもたらす可能性があるにもかかわらず、今のAI開発は適切な管理がなされてないため危険。そのため、GTP-4よりも強力なAIへの学習を少なくとも半年間は凍結すべき、という署名活動。イーロン・マスク、スティーブ・ウォズニアック、ユヴァル・ノア・ハラリらの名前がある。
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
率直に言って無理だと思うし、表面的に止めても抜け駆けする所が必ず出てくる。半年の開発停止は致命的。もう2年早く議論すべきだったね。