机器学习与 AI 量化 on 云栖

ML 在量化中的定位与边界

Mon, 01 Jan 0001 00:00:00 +0000

ML 在图像上做出了超越人类的表现，在市场上却常常跑输一个线性因子模型——这不是 ML 不行，而是金融数据改写了游戏规则。本篇先讲清规则怎么变的（三重诅咒），再给一张「ML 适合做什么」的任务地图，最后校准对 ML 量化的正确预期。

金融数据的三重诅咒

诅咒一：信噪比极低。 图像分类的信噪比是「信号为主、噪声为辅」；收益率预测的信号占比常在 1% 以下——月度收益 R² 能稳定达到 0.5%–2% 已是顶级行业水平。量化对照：月度选股模型的预测精度，大致相当于「抛硬币时让它偏向你 51:49」——而 ImageNet 顶级模型的准确率是 90%+。后果：模型的拟合能力越强，能拟合掉的噪声越多——「训练损失一路下降」在金融里常常意味着「过拟合一路加深」。深度模型的百万参数在这个信噪比下，多数容量用于记忆噪声。

诅咒二：样本量相对不足且不独立。 日频 20 年 ≈ 5000 个观测，且自相关 + 波动聚集让有效样本量远小于名义值（见概率论基础）；截面可以扩样本（N 只股票 × T 期），但同一日期的截面样本共享宏观冲击，不是独立样本。粗略的对比：训练一个图像分类器用百万级独立样本，金融截面 20 年 × 5000 股 = 千万行，但独立「时间切片」只有 240 个月——样本的天花板是时间，不是行数。深度学习引以为傲的「大数据红利」在金融的数据量级下基本缺席。

诅咒三：分布持续漂移（non-stationarity）。 猫十年后还是猫，但「低估值溢价」会随参与者结构变化——市场会学习并消灭可预测性（有效市场的作用力方向，见EMH ）。模型训得越好，越可能精确拟合了一个正在消失的规律；且回测与实盘之间隔着 regime 变化（「回测即过去时」问题，见因子失效）。实证的刺骨之处：ML 模型的样本外衰减常比线性模型更快——它把「旧的规律」学得更深，regime 翻转时摔得更重。

三重诅咒的合成结论：金融 ML 的竞争不在「模型多强」，而在「如何在不合观数据上防止模型自欺」——特征工程、样本外纪律、purged CV 的优先级高于任何网络结构。

ML 适合与不适合的任务地图

适合（信号→信号，监督学习的主场）：

非线性因子合成：数十个低相关因子 → 一个复合预测——树模型的核心战场（见机器学习策略）；
横截面排序：Learning to Rank 直接优化排序，与选股目标天然对齐（见监督学习）；
状态/Regime 识别：聚类、HMM 把「市场状态」变成可观测变量（见非监督学习）；
另类数据的结构化：文本 → 情绪分数、公告 → 结构化字段（NLP 作为特征工厂，见LLM 应用）；
执行与微结构优化：订单流预测、最优执行的强化学习（数据量大、目标清晰，见强化学习）。

谨慎/不适合的用法：

端到端预测价格：「输入行情序列 → 输出涨跌」的黑盒交易——三重诅咒的重灾区，样本外普遍崩坏；正确的路径是「可解释特征 + ML 合成」而非端到端；
直接输出仓位：让模型学「该买多少」——仓位是风险偏好与约束的函数（规则层），混进预测层会失去可审计性（分层架构见下文）；
高频数据不足时的深度模型：日频 + 50 特征上 LSTM/DNN——复杂度与数据量的错配（边界讨论见深度学习量化）。

正确的心智：ML 是因子合成器，不是印钞机

把 ML 嵌入量化体系的正确姿势是分层：

1
2


特征层（可解释的原始因子） → ML 合成层（非线性映射） → 输出「又一个因子」
→ 走与普通因子完全相同的下游：检验、组合、风控、监控、下线协议

这样做的三重好处：ML 的输出可检验（IC、分组、衰减照跑，见因子检验）、可归因（组合层看它是一个独立信号源）、可下线（失效时按因子协议处理，而不是对着黑盒发呆）。相反，若让 ML 直接接管仓位，它的错误将直接变成交易——无检验、无归因、无刹车。

预期的最后校准：ML 量化做得好时的合理产出是——比线性合成高 10%–30% 的 IC、更好的非线性交互利用、更自动化的因子迭代；不是夏普翻倍、不是「AI 挖出人类想不到的财富密码」。一个诚实的对照实验做法：同一份特征，分别跑线性回归、逻辑回归与 LightGBM——如果 LightGBM 的样本外 IC 没有高出线性 20% 以上，说明特征的线性部分已经吃干了信息，换模型的边际价值接近零（先做这个实验，再谈深度学习）。幻方式的 AI 量化 = ML × 十年数据工程 × 万卡算力 × 千人团队，缺一项都不可复制（见梁文锋）。

关联阅读：合成层的技术机器学习策略与特征工程；纪律的地基Walk-Forward ；AutoML 的边界自动化因子挖掘。

特征工程：时序、截面与交叉

Mon, 01 Jan 0001 00:00:00 +0000

在金融 ML 里，特征工程的产出效率是模型调参的数倍：把领域知识编码进特征，比让模型自己从原始数据里挖更省样本、更抗过拟合。本篇按三个构造维度组织手册，再处理两个生死问题：泄漏与稳定性。

维度一：时序特征——把一条序列变成一组统计量

对每个原始变量（价格、量、波动、财务指标），构造多窗口统计家族：

动量族：ret_5/20/60（多窗口收益）、price/ma20 − 1（相对均线偏离）；
波动族：std_20、std_20/std_60（波动变化率）、下行波动占比；
位置族：当前价在 60 日高低区间的分位、距离前高的天数；
结构族：收益率偏度/峰度（20 日）、上涨天数占比、连续同向天数；
变化率族：换手率的环比/同比——「变量本身」与「变量的变化」是不同的信息（水平值慢、变化快）。

设计原则：窗口族化（每个核心变量给 3–5 个窗口，让树模型自己学哪档有效）优于单窗口精调；语义命名（reversal_5d 而不是 x37）——特征可解释性是后来排查泄漏与失效的线索。

维度二：截面特征——把「绝对水平」变成「相对位置」

原始值（市值 500 亿）对横截面预测几乎无意义，有意义的是相对位置：

分位数：行业内 rank/percentile——消除行业与规模量纲，树模型对这类 [0,1] 特征极其友好（见因子构建的标准化）；
相对偏离：个股值 − 行业中位（财务比率的行业差）；
分组哑变量 / 序数编码：市值五分位组、风格组标签；
截面条件特征：「低估值 AND 高质量」的双条件标记——把组合逻辑显式编码为特征。

截面的正确打开方式还有时变基准：所有截面操作按「当日截面」计算（不是全样本）——这既是统计正确性也是泄漏防线（见下文）。

维度三：交叉特征——编码交互假设

树模型理论上能自动学交互（分裂路径即交互），但显式构造语义交互更省样本也更稳：

量价交互：量变化 × 价变化（放量上涨 vs 缩量上涨，经典四象限）；
波动 × 估值：低波 × 低估值（双低风险结构）；
资金 × 动量：北向流入 × 前期滞涨（资金抢筹滞涨股）；
时间交互：财报临近度 × 预期差（事件窗口的条件因子）。

每条交叉特征都应有一个经济学假设写在注释里——「这组交互可能捕捉什么」回答不了的交叉特征，过拟合风险大于信息价值。

特征泄漏：六种形态与防线

泄漏（label leakage）是金融 ML 的第一死因——模型「通过未来作弊」，样本外必然现形。六种形态：

时间泄漏：特征窗口包含标签期（用 20 日收益做标签，特征却含当日后的数据）——防线：特征与标签的时间区间严格不相交 + 逐特征审计可知时点；
截面泄漏：用全样本统计量标准化（全期均值/方差含未来）——防线：一切统计按「当日截面」或「滚动至当日」（见统计推断的口径纪律）；
幸存者泄漏：股票池用今天的成分回测历史——防线：动态当时在市池（见数据清洗）；
处理泄漏：用全样本拟合的 scaler/PCA/编码器进入回测——防线：一切「拟合型」变换只能在训练区拟合、滚动应用（Walk-Forward 的思想下沉到特征层，见Walk-Forward ）；
标签工程泄漏：标签用了未来才知的信息（如「未来 20 日是否 ST」含披露滞后）——防线：标签也要 PIT 化；
选择泄漏：特征筛选用全样本重要性挑出的特征再进 CV——防线：特征筛选嵌进 CV 循环内（每折只用自己的训练区筛特征）。

泄漏的体检法：构造「打乱标签」的对照实验——把标签随机重排后重新训练，若模型绩效仍然不错（如重要性前特征仍显著），特征里几乎必有泄漏。

特征稳定性：时间维度的体检

金融特征的时间稳定性与预测力同等重要：

重要性漂移：滚动窗口重训，特征重要性的排名方差——重要性暴涨暴跌的特征是「噪声探测器」（它在拟合每个窗口的独特噪声）；
单调性检查：特征与收益的关系（分箱收益）跨期是否保持方向——方向翻转的特征要么做状态条件处理、要么剔除（与因子失效监控同构，见因子库）；
覆盖率与缺失模式：特征的覆盖度随时间的漂移（另类数据早期覆盖稀疏）——覆盖率突变的时期单独检验。

特征库的管理与因子库同构（版本、元数据、血缘——见因子存储），特征是因子的高维延伸，管理纪律不因形态变花哨而放松。

关联阅读：特征进入的模型监督学习；三重诅咒的背景ML 定位；自动特征搜索的边界AutoML 。

监督学习：回归、分类与排序学习

Mon, 01 Jan 0001 00:00:00 +0000

监督学习的第一决策不是选模型，而是定义学习目标——「预测什么」的选择决定了模型与交易目标之间的距离。本篇按三种目标展开，每种都含金融特有的改造。

回归：预测收益，但要「改造收益」

直接回归原始收益的问题：极端值主导损失函数（一次 +300% 的妖股拉动整个模型）、量纲不可比（不同波动水平的股票收益不可加比较）。两个标准改造：

波动率标准化目标：label = future_return / realized_vol——预测「风险调整后的相对强弱」，极端值的伤害被稀释，模型学到的是「谁相对更强」而非「谁的 β 大」。这是行业最常用的目标形态；
中性化目标：先剥离行业与市值（对收益做中性化回归取残差做标签），让模型专注特质预测（中性化的原因见因子构建）。

损失函数的选择：MSE 对极端值敏感 → Huber 损失（抗极端值）或分位数回归（预测收益分布的条件分位数而非均值——高分位与低分位之差给出「条件区间」，直接服务仓位与止损设计）。评估口径与训练损失解耦：训练用 Huber，评估用 Rank IC / 分组单调（与交易的接口一致，见因子检验）——训练损失低 ≠ 交易有用，评估口径必须对齐交易。

分类：胜率的幻觉

「明天涨还是跌」的二分类看似直观，实则有三重陷阱：

胜率 ≠ 期望：胜率 53% 的分类器，若平均赚 1% 亏 2%（盈亏比 0.5），期望为负——分类目标丢掉了幅度信息。修补：预测概率后乘以典型盈亏比折算期望，或直接改用回归/排序；
不平衡问题：涨跌基本 50:50 尚好，但「大涨 > 3%」类标签正例稀少——处理要用类别权重/采样，且评估用 AUC/PR 而非准确率（准确率在不平衡下是幻觉指标）；
阈值效应：概率 0.505 算「涨」吗？——分类把连续信念压成离散决策，阈值的选择引入新的过拟合维度。更好的用法：保留概率作为连续信号（它就是又一个因子），决策交给组合层（见ML 定位的分层）。

分类的合理用场：状态分类（regime 是高风险/低风险）与事件分类（财报超预期概率）——这些场景的输出天然是概率且有明确的决策接口（状态切换、事件筛选），不是直接交易信号。

Learning to Rank：与选股天然对齐的目标

横截面选股的本质是排序——「Top 50 vs Bottom 50」的差异才是利润来源，预测绝对收益毫无必要。Learning to Rank（LTR）直接以排序质量为目标：

pairwise 方法（RankNet/ LambdaRank）：优化「正确对 > 错误对」的序关系——「A 应排在 B 前面」的约束比「A 涨 3.2%、B 跌 1.1%」的数值约束更贴近交易需求，且对收益极端值免疫（只关心相对次序）；
listwise 方法（ListMLE）：优化整列排序的似然——更接近「每天给全市场排出一个序」的真实任务；
工程形态：LightGBM/XGBoost 的 rank:ndcg / LambdaRank 目标，按日期分组（group）训练——每个交易日是一个排序任务，模型学习的是截面内的相对结构。

LTR 的两个金融改造：①分组内标签用「分位数离散化」（收益转 1–5 星评级再排序）比连续收益更稳（抗极端值）；②评估用 NDCG@K（Top-K 排序质量，K = 你的持仓数）而非全列指标——只考核你会交易的那一段。

三种目标的工程对照

维度	回归（标准化收益）	分类（方向）	LTR（排序）
信息保留	幅度+方向	仅方向（损幅度）	仅相对次序（最抗噪）
与交易的接口	连续因子	概率（需再加工）	直接对接 Top-N 选股
极端值处理	需 Huber/截尾	需标签分箱	天然免疫
典型评估	Rank IC、分组单调	AUC、校准曲线	NDCG@K、Top组-Bottom组差
适用场景	通用信号合成	事件/状态判断	横截面选股主力

一个综合实践的常见架构：主模型 LTR（选股排序）+ 辅助回归模型（波动率预测，服务 sizing）+ 分类模型（regime 状态，服务开关）——三个模型各管一段，接口清晰（分层的哲学见ML 定位）。

训练纪律（三种目标通用）

purged K-Fold：时序标签重叠期的清除与 embargo（这是金融 CV 与普通 CV 的分水岭，见机器学习策略）；
样本权重：老样本衰减加权（指数半衰 2–3 年）——让模型偏向近期规律（分布漂移的对策，见ML 定位）；
调参的记账：贝叶斯优化的每次试验都计数，绩效按尝试次数做 deflated 校正（多重检验，见统计推断与AutoML ）。

关联阅读：树模型与深度模型的选型机器学习策略；特征的地基特征工程；评估纪律Walk-Forward 。

非监督学习：聚类、Regime 识别与降维

Mon, 01 Jan 0001 00:00:00 +0000

非监督学习不预测收益，它做一件更基础的事：在没有标签的数据里找出结构——哪些股票像一个整体？市场现在处于哪种状态？高维因子里真正独立的维度有几个？这三个问题的答案分别是聚类、Regime 识别与降维。

聚类：从数据里长出来的分类

K-means / 层次聚类 / DBSCAN 在量化里的三个正职：

风格分组：用估值、波动、动量等特征聚类，得到「数据驱动的风格群」——比人工定义的「大盘成长/小盘价值」更贴近实际的相关结构。一个实用产出：聚类簇作为风险预算的分组单位，比申万行业更能反映真实的共动性（某消费龙头与某医药龙头的联动，可能超过同行业两家公司）；
配对/篮子选择：对同行业股票按量价特征聚类，簇内做配对候选——比「同行业挑相关性最高」多一层结构约束（配对工程见统计套利）；
成分股的分类学：产业链上下游、题材关联度——聚类结果作为另类特征喂给下游监督模型（特征工厂的一环，见特征工程）。

聚类的三个工程坑：特征必须标准化（量纲主导距离是第一错误——用市值原始值聚类，等于只按市值分组）；K 的选择用轮廓系数/肘部法 + 经济学合理性双判据（聚出来的簇要能解释，「第 7 簇是什么」答不上来就减簇）；簇的稳定性跨期检验（样本外重聚类，簇结构大变 = 特征选择不稳定）。

Regime 识别：市场状态机

「市场现在处于什么状态」——趋势/震荡、高波/低波、risk-on/risk-off。Regime 识别的价值不在于预测（转点不可预测），而在于给策略提供条件变量：

策略的条件开关：趋势策略在「趋势 regime」加权、均值回复在「震荡 regime」加权（状态条件权重，见因子失效的 Regime 讨论）；
风险预算的动态调整：高波 regime 自动收缩总预算（与波动率目标互补，见仓位 sizing ）；
因子表现的分段归因：因子在哪个 regime 下失效——失效诊断的显微镜（见事后风控）。

三种实现，从简单到复杂：

规则状态机：波动率分位 + 趋势强度（如 ADX）+ 信用利差分位的规则组合——可解释、可审计，默认首选。例：「高波 regime = 20 日波动 > 历史 80 分位且持续 5 日」；
HMM（隐马尔可夫）：观测（收益、波动、利差）由隐藏状态（regime）生成，用 EM 学习状态转移与发射概率——输出连续的状态概率（比硬分类更适合做权重插值）。工程要点三则：状态数 2–4（多则解释不了）；状态的可解释性校验（学出的状态要能被宏观经济语言描述，否则是数学幻觉）；前视防线（HMM 的滤波要用仅含历史的 forward 算法，不能用含未来的 smoothing——这是 HMM 回测里最常见的泄漏，Viterbi 平滑出的「完美状态切换」在实盘不可得）；
变点检测：CUSUM/贝叶斯变点检测——不做状态分类，只回答「结构刚刚变了吗」，触发策略的重新评估（与事中风控的异常检测同源）。

清醒剂：状态识别模型自身的误判率会进入组合——把状态机当「速度限制」而不是「方向盘」（它收紧或放开预算，不直接决定买卖方向），误判的代价就可控。一个诚实的对照：简单二分（波动高低）状态机与 HMM 在多数回测里表现相当——复杂度的边际收益在 regime 识别这个任务上很薄。

降维：找真正独立的维度

PCA 的量化正职已述（风险主成分、协整中性化、利率曲线三因子，见线性代数）；在 ML 管线里 PCA 还用于特征去相关（300 个相关特征 → 30 个正交主成分，缓解多重共线）；
PCA 用于 ML 的陷阱：主成分是全样本拟合的（泄漏风险——必须滚动拟合）；成分失去语义（特征工程的可解释性被牺牲）——优先用「聚类去冗余 + 领域知识筛选」，PCA 作为最后手段；
自编码器（Autoencoder）：非线性降维——学习「用少数因子重构全部收益」的压缩表示，学界用于隐含因子挖掘（数据驱动的因子发现）。评价要冷静：重构误差低 ≠ 因子可交易，产出的隐因子仍要走完整的因子检验（它们是「PCA 的高级版」，不是 alpha 本身，见ML 定位）。

关联阅读：状态机的策略接口时序策略与Meta-Strategy ；HMM 的数学地基马尔可夫链；聚类结果进入组合的路径组合风险。

深度学习：LSTM、Transformer 与 GNN

Mon, 01 Jan 0001 00:00:00 +0000

深度学习在量化里的战绩差异极大：在高频、高维、大数据的场景（订单簿、全截面）它建立了真实优势；在日频小样本场景它常常不敌一棵调好的梯度提升树。本篇按「数据条件 → 模型选择」的逻辑展开三大模型族，并给出过拟合的工程武器库。

何时值得上深度：三个前提条件

进入深度学习赛道前先对照三个门槛（缺一谨慎）：

数据量：训练样本以百万计（日内分钟/Tick、全市场 × 长历史的截面样本堆叠）；日频 5000 个观测不具备讨论资格；
输入高维且结构化：L2 十档 × 时间序列的矩阵、全市场截面 × 数百因子的面板——深度模型擅长「结构化高维输入的表示学习」；
工程团队：特征管道、训练基建、模型监控的持续投入（幻方的萤火集群是这个赛道的具象化，见梁文锋）。

三个门槛全过，深度学习的边际收益才开始为正；否则它是一台精密的过拟合机器。

LSTM / GRU：时序表示学习的老将

结构直觉：门控循环网络维护一个隐状态，理论上捕捉任意长的时序依赖——「把过去浓缩为一个状态向量」。

在量化的现实：

输入形态：单标的的滚动特征窗口（如过去 20 日的多维特征矩阵）→ 输出未来收益/排序分。相比「手工构造的时序特征 + 树模型」（见特征工程），LSTM 的理论优势是自动学习窗口与组合；实践中的现实是：小样本下自动学习的窗口多为噪声拟合，手工特征 + GBDT 常打平或更好；
有效用例：输入维度高到手工特征无法覆盖时（全截面面板、分钟级多变量）——LSTM/TCN 作为「序列特征提取器」，其输出再接树模型或线性层（混合架构比端到端更稳）；
工程要点：序列要按时间严格分割（不能随机 shuffle 样本窗）、归一化统计只从训练窗计算（泄漏防线，见特征工程）、状态ful/stateless 的选择（跨样本状态传递引入额外的漂移风险，默认 stateless）。

Transformer：注意力机制的时序改造

结构直觉：自注意力直接建模序列内任意两点的关联（不再逐步传递），并行训练高效、长程依赖友好——时间序列 Transformer（Informer/PatchTST 一族）在长序列预测上超越 LSTM 已有共识。

在量化的现实：同样的数据条件门槛适用；额外的两个注意点：

注意力的可解释性是诱惑也是陷阱——「注意力热图显示模型关注了昨天的放量」的叙事很动人，但注意力权重 ≠ 因果重要性（学术上已有系统性质疑），用它做交易解释要克制；
截面的注意力应用更有想象力：让股票之间互相 attend（截面关系建模）——「今天谁在领涨、谁被带动」的关系结构是 LSTM 类时序模型天然看不到的，而这正是 GNN 的领地。

GNN：产业链关系的数学化

结构直觉：市场不是独立的股票集合，而是关系网络（供应链上下游、同行业竞争、股东关联、概念板块交叉）——图神经网络在「节点 + 边」的结构上传播信息，天然表达「邻居影响」。

量化用例：

供应链传导预测：上游原材料涨价 → 下游成本的传导有时滞与强度，GNN 用供应链图谱（供应商-客户关系数据）学习传导模式，预测下游公司的盈利/股价反应——比逐股模型多了结构先验；
行业/概念的信息扩散：龙头股的信号向板块成员的扩散（A 股板块联动性强，见行业与主题）；
工程现实：图谱数据本身是稀缺品（供应链关系需采购或自建，覆盖度决定上限）；图结构的时变性（供应链关系会变）增加复杂度。GNN 量化目前是「有数据壁垒的团队的游戏」，通用性一般——但「把关系数据变成特征」的思想（图统计特征喂给普通模型）人人可用。

过拟合与正则化的武器库

深度模型在金融的过拟合管理是一整套工程而非一个参数：

模型端：Dropout（0.3–0.5，金融数据上要重于图像）、权重衰减、早停（验证集损失回升即停——金融里最有效也最便宜的防过拟合器）、网络容量克制（两层能行不用五层）；
数据端：样本加权（近期样本加权，见监督学习）、数据增强的金融版（加噪、时间窗滚动——有效性存疑，谨慎使用）、purged CV（标签重叠清除，金融深度学习的生死线，见机器学习策略）；
集成端：多种子/多架构/多窗口的模型集成（ensemble 平均显著降低方差）——金融深度学习里性价比最高的技巧：与其调参到极致，不如训 20 个 mediocre 模型平均；
评估端：测试区封存 + 尝试次数记账（深度学习的调参次数轻松过百，deflated 校正更必要，见统计推断）。

一条清醒的总结：深度学习量化项目的失败形态高度一致——「训练损失漂亮 → 验证集还行 → 实盘拉胯」，失败点几乎都在第三环的过拟合或第一环的泄漏。上深度之前，先用线性模型 + 树模型把数据管线和评估体系的诚实度建好——它们是深度模型的「对照系」，没有对照系的深度学习无法知道自己是不是在自欺。

关联阅读：模型选择的总体框架机器学习策略；强化学习的分支强化学习交易；算力背景梁文锋。

强化学习：交易环境建模

Mon, 01 Jan 0001 00:00:00 +0000

强化学习的叙事极其诱人：一个 agent 在市场里自己学会交易——不设规则，让它在试错中成长。现实则苛刻得多：RL 在金融的主要战场不是「选股」，而是执行与做市这类「规则清晰、反馈密集」的子问题。本篇讲清 RL 交易的真实形态与边界。

三要素的交易映射

RL 的框架是 agent 在环境中试错、最大化累计奖励：

RL 要素	交易映射	设计难点
状态 State	持仓、现金、近期行情特征、订单簿状态	状态空间的选择 = 特征工程（见特征工程），漏掉持仓外的关键变量（如未成交委托）会让 agent 学出幽灵行为
动作 Action	{买/卖/持有, 量, 限价档位}	连续动作（价格量）比离散难训；动作粒度决定策略的精细度
奖励 Reward	每步的盈亏 − 风险惩罚	整个 RL 交易的核心难题（下节）
环境 Environment	模拟撮合（回测引擎的 RL 版）	保真度决定一切（下下节）

奖励函数：RL 交易的灵魂与陷阱

「最大化累计收益」的朴素奖励会训出什么？高风险的彩票策略——agent 发现偶尔满仓赌对方向收益最大，于是学会梭哈（训练样本内它真的可能持续赢）。奖励设计的核心是把风控写成数学：

风险惩罚项：reward = 盈亏 − λ × 持仓风险暴露 − μ × 回撤增量——λ/μ 就是风险厌恶系数（与均值-方差的 λ 同源，见优化）。量级：若目标回撤 -10%，μ 的量级要让「回撤增量 1%」的惩罚 ≈ 「盈利 0.3%」——惩罚与收益同量级才有约束力；
换手/成本项：每笔交易扣真实成本（佣金+价差+冲击模型）——不含成本的 RL agent 会学会「高频小幅翻转」（每一步的微小信息优势被成本吞掉而奖励函数看不见）；
奖励的时间尺度：每步奖励 vs 终局奖励（期末净值）——稀疏奖励难训、密集奖励易学偏（短视）。折中：按持仓周期分段的半密集奖励。

奖励设计的元问题：你写下的奖励函数 = 你对「好交易」的全部定义——RL 不比奖励函数更聪明。奖励漏洞（任何未被惩罚的坏行为）最终都会被 agent 发现并利用——这是 RL 的「Goodhart 定律」：当奖励成为目标，它就不再是好的目标。实例：只惩罚回撤不惩罚换手的 agent，学会「用高频微调把回撤指标刷漂亮」，换手成本却吃光利润。

模拟环境：保真度的天花板

RL agent 在哪里试错？在你的模拟环境里。它学到的是「模拟环境的最优策略」——模拟与真实的差距（sim-to-real gap）就是策略的失效空间：

撮合保真度：模拟环境的成交规则（能否成交、滑点多少）决定 agent 对「下单后果」的认知——粗糙的撮合（收盘价全成）会教出「巨单无冲击」的幻觉策略（撮合阶梯见回测框架设计）；
市场反馈的保真度：真实市场里你的行为改变市场（冲击反馈、被对手探测）——多数模拟环境没有这一层，agent 学不到「我的大单自己会砸盘」（冲击的博弈面见Kyle 模型）；
分布漂移：RL 过拟合训练环境的规律，而环境本身在变——比监督学习更严重（agent 学的是「环境的最优应对」而非「统计规律」）。

缓解路线：环境随机化（训练时随机化成本/滑点/成交率参数，让 agent 学稳健策略而非精确参数）、域适应（在真实 TCA 数据上校准模拟器，见TCA ）、以及保守的在线学习（实盘小资金 + 影子环境并行，增量微调而非从头学）。

RL 的合理战场与不合理的期待

合理的战场（规则清晰、反馈密集、可精确模拟）：

最优执行：给定目标仓位，学执行轨迹的动态调整——Almgren-Chriss 的 RL 版（对冲击与行情实时反应），这是业界落地最实的 RL 用例（见执行算法）；
做市：库存管理与报价调整的动态决策——规则明确（价差收入 − 库存风险），反馈密集（每笔成交），做市商的天然试炼场（见做市策略）；
订单路由与排队优化：微观结构层面的策略学习。

不合理的期待：「端到端 RL 炒股」——从行情直接到买卖决策的全自主 agent。它的失败是结构性的：奖励难写（上面全部问题叠加）、环境失真、样本不足、且完全不可解释不可审计（风控的灾难，见ML 定位的分层原则）。RL 在量化里的正确定位是「决策层局部问题的求解器」，不是「全自动交易员」——把它装进分层的体系里（预测归监督学习、组合归优化器、执行难题归 RL），各得其所。

关联阅读：RL 之外的 ML 主战场监督学习；执行问题的经典解Almgren-Chriss ；做市的问题设定高频与做市。

LLM 与 NLP 量化应用

Mon, 01 Jan 0001 00:00:00 +0000

文本是量化最后一片「结构化程度低、但信息密度高」的数据源：研报、公告、新闻、社交讨论——市场的大部分「叙事」先以文字存在，再变成价格。LLM 让文本处理的工程门槛骤降，也让新的风险（幻觉、一致性、成本）进入量化管线。本篇按「数据 → 信号 → 用法 → 边界」组织。

三类文本数据源与各自的信号

来源	频率	可提取的信号	难点
公司公告/财报文本	事件驱动	管理层语气变化、风险提示措辞、业绩说明的含糊度	中文财经措辞模板化，微妙变化才有信息
券商研报	日-周频	分析师情绪与观点变化、目标价与评级修正、覆盖启动/停止	卖方情绪的系统性乐观偏差（要看「变化」而非「水平」）
新闻/舆情/社交	分钟-日频	事件识别（利好/利空分类）、情绪热度、传播速度	噪声极大、刷量造假、时效衰减极快

信号的共同构造原则：文本信号的核心价值在变化与分歧而非绝对水平——「情绪从正转负」比「情绪是 0.7」更有预测力；「观点分歧度」（不同研报的目标价离散）本身是独立信号（分歧大 = 不确定性定价不足/过度）。文本信号的检验与量价因子同标准：IC、分组、衰减、成本——文本不豁免检验纪律（见因子检验）。

LLM 的三个量化用法

用法一：批量信息抽取（最落地）

把非结构化文本变成结构化字段——LLM 在这个任务上是「可靠的自动标注工」：

公告抽取：回购金额与进度、质押比例变化、业绩预告的区间与原因、并购标的信息；
研报抽取：目标价、评级、盈利预测调整、核心逻辑标签；
新闻抽取：事件三元组（主体、事件类型、时间）——直接喂给事件库。

工程要点：输出 schema 严格化（JSON 结构 + 字段校验，解析失败自动重试）、抽样人工质检（按 5% 比例核对抽取准确率，错误率失控即调整 prompt 或模型）、成本与延迟的预算（全市场公告日处理量 × 单次调用成本，月账单要先进回测的「数据成本」）。

用法二：情绪与语义打分

用 LLM 给文本打情绪分/主题标签，替代传统情感词典——对中文财经语境（反讽、专业术语、语境依赖）的改善显著。两个纪律：打分的一致性校验（同一文本多次打分的方差、跨时期打分的漂移——模型升级会导致分数口径变化，历史因子值失效，所以打分模型版本也是因子版本）；基准对照（与人工标注的小样本对照准确率，没做过对照的打分因子不进回测）。

用法三：研究辅助（不直接产生因子）

研读提速（年报摘要、公告对比、文献梳理）、代码与数据处理的 copilot、监控信息的摘要化推送（把异常日志翻译成人话，见日志监控）——这类用法不进交易管线，风险仅是「AI 结论误导研究员」，用批判性思维与抽查对冲。

LLM 的三类风险与防线

幻觉（编造事实）：抽取类任务用「只从原文提取 + 空值优于猜测」的强约束 prompt + 结构校验（抽出的数字要在原文中可定位）——因子管线里的每个 LLM 输出都要可溯源到输入文本；
一致性与漂移：模型版本、温度参数、prompt 版本全部纳入版本管理——LLM 管线的「随机性」必须被工程压制到因子级可复现（同输入同输出，见研究复现）；
信息时效与历史回填困境：LLM 的训练数据截止 → 用 LLM 处理历史文本做回测，存在「模型见识过未来」的微妙泄漏（模型的知识包含了文本期之后的信息，虽然不直接读文本但有语境污染）。算例：让 LLM 给 2018 年的乐视网公告打「暴雷风险分」，它「认得」乐视的结局——分数必然过拟合历史。严格做法是冻结 prompt 流程全程一致并接受这一局限，或用小模型/规则在历史段对照校验。

Agent 辅助研究的边界

「AI Agent 自主完成因子挖掘/策略研究」的叙事火热，工程现实是：Agent 适合做「有明确验收标准的子任务」（数据处理、回测批跑、报告初稿、文献综述），不适合做「研究判断」——假设的经济学合理性、检验结果的诚实解读、上线决策，这些的责任制必须留在人。人机分工的正确画线：AI 负责产能（把研究员从重复劳动中解放），人负责判断（对 alpha 的生死做决定）——「AI 自动挖因子上线」的完全体，在可预见的工程与合规框架内都不成立（自动化挖掘的边界见AutoML ）。

关联阅读：文本信号的检验标准因子检验；事件信号的落地事件驱动；另类数据的大图景数据类型。

AutoML 与因子挖掘自动化

Mon, 01 Jan 0001 00:00:00 +0000

自动化的许诺诱人：机器不知疲倦地搜索因子、调参、验证，研究员只做最后裁决。本篇讲三类自动化技术的原理与工程，然后直面它的终极问题——挖掘能力越强，「发现的通货膨胀」越严重，多重检验的代价随自动化指数上升。

技术一：超参数优化（HPO）

网格/随机搜索的效率太低，主流是贝叶斯优化：用代理模型（高斯过程/TPE）拟合「参数 → 绩效」的黑盒，按「期望改进」智能采样下一组参数——比网格省一个数量级的试验次数（Optuna 是事实标准）。

金融场景的三个改造：

评估函数本身就是过拟合入口：HPO 的目标值（如验证集 IC）被反复查询 → 对验证集的隐性过拟合——缓解：目标值用「多折 purged CV 的均值」（见机器学习策略）+ 保留最终测试区一次开箱；
试验预算 = 多重检验次数：100 次试验挑最优，与「检验 100 个策略挑最好」统计上同罪——最终绩效要按试验次数做 deflated 校正（见统计推断），且记录完整的试验日志（Optuna 的 storage 持久化）；
参数空间的先验：不要给「年化调仓 1 次到 1000 次」这种无先验空间——用领域知识框定合理区间（缩小搜索空间 = 减少假发现，见因子检验的参数敏感性）。

技术二：公式因子的自动搜索（遗传规划）

**遗传规划（Genetic Programming, GP）**是因子挖掘自动化的经典方案：把因子表示为算子树（rank(close/open) − rank(volume/ma20) 这类表达式），用「选择 → 交叉 → 变异」的进化循环搜索高适应度（高 IC）的表达式。gplearn/自研框架的工程要点：

算子集即先验：提供哪些算子（rank、ts_mean、延迟、四则、布尔）决定搜索空间的形状——算子集越窄越不容易挖出「数学上成立、经济上荒谬」的因子；
适应度的多重惩罚：fitness = IC均值 − λ1×|IC波动| − λ2×表达式复杂度 − λ3×与现有因子库的相关性——复杂度惩罚（parsimony pressure）是对抗 GP 过拟合的生命线（无惩罚时表达式会进化成天文复杂度的噪声拟合器）；
淘汰诚实度：GP 挖出的因子 99% 是过拟合品——入库标准与人工因子完全一致（完整检验 + 经济学解释 + 样本外确认，见Alpha 研究流程），自动挖掘不降低入库门槛。

GP 的现实定位：它是「候选因子的生成器」——把研究员从「想表达式」中解放，但把「审表达式」的工作量等量齐来（甚至更多）。产出的可用率低（<1%）但边际成本低，作为因子流水线的一环有其价值。

技术三：神经架构搜索与表征学习因子

NAS（自动搜索网络结构）在金融的应用受限于算力与样本（三重诅咒，见ML 定位），更务实的自动化路线是表征学习的因子化：自编码器/对比学习学出的隐含表征，逐维检验其截面预测力——「数据驱动的因子发现」（与非监督学习的降维一脉）。产出同样是「候选池」，入库门槛不豁免。

终极问题：挖掘的通货膨胀

自动化改变的最重要的量不是效率，而是尝试次数的分布：

1
2


人工研究：一年 50 次尝试，研究员的直觉是天然过滤器
自动挖掘：一周 50000 次尝试，过滤只剩统计标准

若 alpha 在市场中的总供给大致恒定，尝试次数暴增的结果必然是：每个「显著」发现的含金量下降（多重检验的数学必然，见统计推断）；挖出的因子衰减更快（同质化的自动化挖掘让拥挤加速）；以及解释的通胀（为机器挖出的因子编故事的速度跟不上）。

对策不是放弃自动化，而是把「预算制」引入挖掘：

算力预算与记账：每次自动搜索登记（搜索空间、试验数、种子、算力）——与 git 记录代码同构，让「我们试过多少」可审计（见Alpha 研究流程的纪律 2）；
显著性阈值的自动化校正：入库门槛随试验次数自动上调（Bonferroni/FDR 的机械化）——让统计纪律不依赖人的自觉；
经济先验的自动化表达：把「算子集」「参数空间」「复杂度惩罚」作为先验的载体——领域知识的编码位置从「挑结果」前移到「框空间」，这是自动化时代研究员的核心工作位移；
保留区的绝对权威：一切自动挖掘的产物，最终在封存样本上一次性裁决（见Walk-Forward ）——机器可以挖一万次，市场只给一次开箱机会。

关联阅读：HPO 的技术细节与贝叶斯思维概率论基础；GP 产出的检验因子检验；挖掘纪律的模板研究 checklist 。