谢谢回复。
"我觉得如果到了一个不用ai就解决不了的时候，他们就愿意承担这个风险了"，哈哈。拆散看，你说的接近于全部我基本上都同意，我对这类问题思考有一段时间了，当然起先是由于自动驾驶、人机共驾的安全性有效性问题，2020 年开始，我当时思考的结果就是，哪怕是当时的磕磕绊绊的技术，如果实在必要，用大规模随机双盲的办法也是有可能证明智能驾驶的价值的。
你说的里面做了很多假设，theoretical guarantee，药理啊，choose or die ，不想讨论太深，因为可能没有结论，科学本身就是质疑的，在我看来到处都充满了不确定性，就像你说的“人类的科技并没有什么真正的guarantee”，都不是 100% 的，这还涉及到宇宙本质的问题。
我很明白很理解，当前现实肯定是 rule-based 的确定性的东西绝对主导的。但我感兴趣的，也非常好奇的，我们讨论的是一个面向未来的东西，现在越来越多的基于基因的疗法，也碰到这个问题，关于可证明可解释到哪个地步是可以接受的，在 AI 不断深入我们生活的趋势下，这一块未来的趋势是怎么样的？就好比语音识别的方法现在本质上也是基于概率的，现在准确率已经非常高了，rule-based 的东西早就不行了，那你说语音识别的东西多久会被用于 mission critical 的东西的单一依赖?
另外，你说的这段非常有意思，“我所做的研究就是尝试给一些safety critial的领域的ai控制器尽可能大的安全保证，这种保证更多是worst case，比如我要证明用我的控制器，这个电网至少不会平白无故blockout。”，说回到特斯拉，#FSD v12# 的人工代码并不是零，我相信也做了类似的处理，而且 ChatGPT 据说也不是一个纯模型直出的东西，也是其他东西，而且持续有补丁的。