| 发布于: | 雪球 | 回复：41 | 喜欢：5 |
美国的自动驾驶公司很多，但是今年就几乎倒闭了好几个，比如说tusimple。我有很多朋友在特斯拉，辅助驾驶的ai成分其实并不高，主要在识别，这里的错误可以容忍，因为human in the loop。CV算法已经有99%以上的概率保证stop sign之类的东西不会被认错，而且有各种对抗学习。图森的主要场景在自动驾驶的卡车，我可以很肯定的说图森平均事故数的mileage绝对比普通卡车司机数据好看太多，但是依然看不到审核通过的希望。我对AI真的进入生活抱有最大的期待，毕竟这将对我的职业有巨大的帮助，但我依然认为一个至少学界的人或者工程师认可的可解释性是一个负责任的公司发布产品时需要的。
我个人认为人接受一个新事物关键不在于它是否黑盒，是否可解释，而主要看它是否足够可靠。我相信只要足够可靠，人们也会越来越接受它的。
可以关注这个事实，2022年底特斯拉在北美地区安装FSD Beta的车已超 28.5 万辆（对比特斯拉截至 2022 年底在北美累计销售超 170 万辆，渗透率超 15%），使用 FSD Beta行驶的累积里程数也已突破 9000 万英里。
另外可以关注特斯拉的安全报告。
我不认为有什么本质区别，人类的科技并没有什么真正的guarantee。我也很高兴你能从这个角度看问题。但是测试药的选择常常是从choose or die开始的，也就是说急迫性很高。从以前感冒药都要搏命尝试，到现在已经稳定摸索出对大部分人合适的药，而且很多药的成分已经被验明，也就有了我说的可解释性或者theoretical guarantee。目前的药物很多都有theoretical guarantee，他有提供药理的解释，知道这个蛋白质要和什么结合，但是不确定具体效果。为了进行进一步验证，从而进行各种测试，双盲是一种有效测试的方法。对于癌症药物，有许多没有guarantee的药物，这些病人选择它是因为不选就要死。如果没病只是为了保健，你会选择有可能增肌但是不清楚为什么，而且有一定可能杀死你的保健品么？AI目前有效果，但不是choose or die。在商业领域，推荐算法，语言模型，它有可见的利润点和几乎不存在的危害，于是被大量利用。但是在我说的控制领域，除了军事上有尝试，其他的我并没有看到商业化（大疆的稳定我不确定是不是，估计是传统控制和ai的结合）。我所做的研究就是尝试给一些safety critial的领域的ai控制器尽可能大的安全保证，这种保证更多是worst case，比如我要证明用我的控制器，这个电网至少不会平白无故blockout。我非常希望能用长期双盲结果来验证ai算法，但是目前来看，我和caltech，boeing，bosche，california power system都有过交流，没有一家愿意提供真实的硬件对没有theoretical guarantee的ai 控制器进行测试。（当然，hardware-in-the-loop的simulation他们愿意提供，但是显然没有真实系统那么有说服力）我觉得如果到了一个不用ai就解决不了的时候，他们就愿意承担这个风险了。
请教，基于随机双盲结果的大规模药物或者治疗方案（甚至例如对健康人群用疫苗）使用，和你说的这个在终极本质上有什么区别？另外，如果你这里说的一系列问号也是有类似长期大规模随机双盲结果证明各方面都是最优方案呢？
不是一个领域的问题，驾驶辅助之类的你敢用，最多死一两个人。如果你是波音的总裁，你会选择用ai黑盒控制器来替代目前可解释的稳定可靠的控制器来换取5%-20%的油耗节约么？如果这款飞机生产了，你作为航空公司总经理，敢为这个可能的降本而大规模购买黑盒飞机么？或者说你作为政府机构，会批准这款有无法解释的风险的飞机民用么？同理推广到电力系统，化工，制造业等领域。除非世界大战在即，我不认为有谁这么激进为了看不见摸不着的simulation performance换ai
[滴汗]
我的意思是，我作为一个20年的老司机也是第一次知道无红绿灯支路让干路这事。当然我是无脑谁都让，但算法也可以这么做吧。