鹅城王麻子 的讨论

发布于: 雪球回复:48喜欢:11
你也是做过开发的,怎么不知道软件自己不可能知道自己要发生 bug,如果能预先知道,那就不会存在这个 bug

热门回复

这不是bug啊,软件应对不了,就让人应对啊!飞机上的AutoPilot软件就是这个逻辑啊!没啥问题啊!

这么说吧,雾天是常见的天气,火车开过平交道口也是常见现象,把它们发生的概率乘起来,也远远算不上小概率事件,算不上corner case,这样的事件当然必须处理好啊。

无语了,这性质怎么一样了?摄像头怎么可能不认识雾?当然认识啊,人用肉眼能看到雾,那摄像头也必然看得到。起雾了就退啊,这又没什么的,人类不应该在大雾天开车,摄像头也同样如此。

最怕的其实倒不是自动驾驶退出,怕的是自动驾驶已无法应对、但怎么退都退不出来——波音737MAX的悲剧大家还记忆犹新。

这更解释不通了啊。按你说的“他只需要知道这种特定画面里人是怎么操控车的即可”,这是雾天场景,正常人类开车时,即便不停车、至少会大幅减速的...这就是“人是怎么操控车的”。为啥这个场景下自动驾驶并未按正常人类的操纵方式行事呢?

更无语了...“连串火车”怎么又成了“意想不到的case”?你要说在中国是可能有点意想不到,但美国那边可是有21万个平交道口,非常稀松平常了啊。

不是极端的浓雾天对摄像头来说并不是需要退出的case,强调很多遍了。。。实际上真的到你说的那种浓雾,系统就是会报警退出的。
意想不到的case指的是像连串火车这种物体

这个事情根本就不在于大雾,在于模型碰到一些训练不充分的物体出错了。实际上摄像头的去雾能力比人眼强的多。
至于识别出错这种情况,同楼有人回复过了,现在基于神经网络的黑箱这种通用方法,是很难判断识别出没出错,机器并不知道。类似ChatGPT,它并不能判断自己在一本正经的胡说八道

具体原因肯定要Tesla分析才能给出,我们这里都是瞎猜,比如薄雾天气过这种火车通过的路口的训练数据没有,另外你还是要深入了解下V12

但是即便是飞机这种自动驾驶这么成熟的 照样有不少空难 所以对于自动驾驶是不是要完全杜绝事故 我想这个目标也不理性