一一中文网

手机浏览器扫描二维码访问

第97章 算法面（第4页）

反之，如果因子长期大于1，梯度就会指数级放大，导致更新步长过大，网络震荡甚至溢出，这是梯度爆炸”

。

“你在实际项目中遇到过吗？怎么解决”

？

“在我的量化模型里，LStm层曾经有梯度消失迹象”

。

林晨实话实说，“我用了梯度裁剪应对爆炸风险，对消失问题，除了经典的正则化和合适的激活函数，更重要的是——我添加了残差连接。

让前面层的输出不仅能通过非线性变换传递，还能直接‘跳过’几层到达后面，这样梯度就有了一条高速公路，避免在非线性变换中损耗殆尽”

。

面试官“嗯”

了一声：“那自然引向下一个问题：过拟合。

你的模型怎么处理”

？

林晨知道，这才是算法工程师的日常痛点。

“分几个层面”

。

他梳理思路，“第一，数据层面，扩充和增强。

我的量化数据有限，但我通过时间序列的滑动窗口、加入可控噪声生成合成数据。

第二，模型结构，我用dropout，在训练时随机‘关闭’一部分神经元，强迫网络不过度依赖某些特定路径。

第三，正则化，L2正则给权重增加衰减惩罚，让模型偏好更小的参数，复杂度降低”

。

“还有吗”

？

“早停法”

。

林晨说，“我会在验证集上监控性能。

一旦验证集损失连续几个epoch不降反升，就停止训练，哪怕训练集损失还在下降。

因为那意味着模型已经开始‘死记硬背’训练数据，丧失了泛化能力”

。

“这些方法，你在你的量化系统里都用了”

？

“是的，而且组合使用”

。

林晨点头，“但我觉得最根本的对抗过拟合的方法，是理解业务逻辑。

我的模型最终要生成交易信号，所以我设定了严格的逻辑约束——比如模型如果给出‘全仓买入某只近期暴雷股票’的信号，即使模型置信度再高，也会被规则层拦截。

数据和逻辑双重校验，比单纯的技术手段更可靠”

。