$英伟达(NVDA)$ 分享一个我的思考

当ai智力远超人类后，人类只能依靠忠诚于人类的ai去监管和监测ai风险了。

当智力差距到一定程度，很多ai的行为将无法被人类所理解，更别说防范风险了。

就像一只老鼠，当人拿着扫把冲来的时候，老鼠知道人准备打它，老鼠会跑。

有的聪明老鼠，也许还会识别和躲开捕鼠夹，知道捕鼠夹是诱惑是风险。

但老鼠万万不会想到的是，某个在房间打洞安装炸药的人，会把这间房子和老鼠一起毁灭。老鼠无法理解这种行为。

装炸药的人的主要目的只是拆掉房子，甚至不会意识到顺便灭了几只老鼠。

就如同远超人类智力的ai，也许是在做一个更为宏大的事情，只是顺便把可怜弱小的人类给灭了而已。

此时，人类只能依靠忠诚于人类的ai，去识别这种类似装炸药拆房子的风险。（就像是：老鼠保护协会的人看到这人在装炸药，能够知道准备炸房子，于是进到房间把老鼠救了出来）

但可怜的人类此时就像是宠物一样，依附于ai而生存，天天被投喂，不知道ai在忙些什么，这种高级世界好像也跟人类无关了吧哈哈哈