转:Hinton:关键问题是,让大多数人觉得AI是安全的原因在于,我们有他们没有的东西,我们有主观经验。当你的感知系统不能正常运作时,这是你理解世界的一种方式。但是人和AI之间的屏障消失了。AI有主观经验,就像我们一样。Brown:那么人类会死亡,AI不会。无论AI能够思考或者做多少事...