机器学习基础

训练时，给模型历史输入 X 和历史答案 Y，让它寻找两者之间的统计关系。推理时，只输入新数据 X，输出预测值；答案要等未来真正发生后才能评价。

在量化任务里，X 可以是今天收盘后已经可见的 52 个技术特征和 4 个基本面特征，Y 可以是下一交易日上涨与否，也可以是未来一周收益。任务必须先确定，不能先收集大量指标，再期待模型自行决定要预测什么。

训练的一个简化循环是：初始化参数 → 计算预测 → 计算损失 → 按优化规则更新参数 → 再计算。参数是模型从数据中学到的数值，例如线性模型中的 w 和 b。训练损失下降是过程信息，不代表学到的关系一定能延续到未来；损失也不保证每一轮都下降。

最危险的错误之一是泄漏：用未来才公布的基本面数据，或把下一日价格不小心放进今天的特征。这样模型可能得到漂亮分数，却是在偷看答案。

如果输出是有限类别，例如“明天涨”或“明天跌”，这是分类；如果输出是连续数值，例如“未来一日收益是多少”或“房子值多少万元”，这是回归。

房价的简单模型可以写成：

y-hat = w×面积 + b

假设 w=1.5 万元/平方米、b=5 万元，输入面积 105 平方米：

预测价格 = 1.5×105 + 5 = 162.5 万元

如果真实价格是 160 万元，绝对误差就是 |162.5−160|=2.5 万元。选择绝对误差还是平方误差，要提前写清，因为它们对极端错误的惩罚不同。

逻辑回归虽然名字里有“回归”，常用于二分类。它先算线性得分：

z = wᵀx + b

再用 sigmoid 把结果压到 0 到 1。若输出 0.8，只表示模型给出的上涨概率估计较高，不保证真实胜率就是 80%。0.5 可以作为阈值，但阈值要结合验证集、类别比例和实际成本选择。

分类准确率和策略盈利能力不是一回事。预测对了很多次，如果错一次时亏得更多，仍可能亏损。

一个教学分类例子用颜色和糖分识别水或饮料：颜色 252、糖分 0.1 可以标为水；颜色 210、糖分约 4%，以及颜色 150、糖分约 8%，可以标为饮料；新样本颜色 253、糖分 0.2 交给模型分类。

这个例子想说明的是：特征必须和任务有关系，单位和测量方式也要固定。它不代表两个特征就能覆盖现实中的所有饮料。无糖透明饮料可能让规则失效，困难样本比容易样本更值得检查。

股票任务的噪声更大、分布还会变化，不能照搬一个简单分类例子的信心。特征字典要记录定义、窗口、数据可用时间和缺失处理。预测时必须使用同样的列、同样的顺序和已经保存的预处理器。

欠拟合是模型太简单或学习不足，连训练数据中的主要关系都没有表达出来。过拟合是模型把特定样本里的噪声也记住，训练误差很低，但遇到未见数据就失效。

可以把房价曲线想成一条路：简单直线可能偏差很大；适当弯曲的曲线抓住总体趋势；过分弯曲的曲线穿过每个训练点，却可能给 200 平方米房子预测 80 万元。这只是说明不合理外推，不能推出“面积越大价格一定越高”的普遍规律。

实验中把模型复杂度调到 7 以上，可以观察验证误差高于训练误差，训练—验证差距变大；这提示模型可能开始过拟合。把复杂度调回 4 或以下，可以观察更平衡的区域。这个教学公式是确定性的，不代表某个真实数据集。

奥卡姆剃刀可以作为取舍原则：当解释能力和样本外表现接近时，优先选择更简单、更容易维护的模型。它不是简单模型永远更准的定理。

训练集用于学习参数；验证集用于选择超参数和早停；测试集只在最后评估，不能反复参与选择。把验证结果看了很多遍，再把它称为独立测试，会高估模型表现。

举个例子，一份有 723 条数据的样本，可以留出 10%—30% 来观察模型在没训练过的数据上表现如何；即使只有 100 条，也不能用全部数据训练后，再用同一批数据证明有效。样本少时结果更不稳定，要明确不确定性，考虑收集更多数据或使用更简单的模型。

量化数据通常按时间先后切分，而不是随意打乱未来和过去。假设用 2023 年训练、2024 年验证、2025 年测试，测试期才是真正最后一次独立检查。如果标签是未来多日收益，切分边界还要防止标签跨越边界造成泄漏。

早停可以设很大的最大迭代数，例如 10000 轮；如果验证集连续 10 轮没有改善，就停止，并保存验证表现最好的模型。早停等待轮数是超参数，不是所有任务都固定用 10。

参数是模型从数据里学出来的值，例如线性模型的 w、b。超参数是训练前由人或搜索程序设定的规则，例如模型类型、学习率、最大迭代次数、树深和早停等待轮数。

可以把它想成洗衣机：同一批衣服是数据，洗衣机学到的内部状态像参数；洗涤模式、转速和时长像超参数。换一个设置，结果可能不同，但如果衣服本身、洗涤剂或水温有问题，只调转速也解决不了。

准确率从 0.50 到 0.52，只是一个微弱优势示例。50% 不一定是正确的随机基准：如果上涨日占 60%，总猜涨已经有 60% 准确率。即使准确率是 52%，如果错判时损失更大、手续费更高，策略仍可能亏损。检查 AUC、混淆矩阵、概率校准、逐日样本外结果和交易成本，不要只看一个分数。

可以给 AI 编程工具这样的任务说明：检查日期、重复、缺失和基本面可用时间；构造下一交易日涨跌标签；用逻辑回归做基准；按时间切分训练、验证和测试；预处理只在训练期拟合；输出类别分布、朴素基准、准确率、混淆矩阵、AUC、校准观察和逐日样本外预测。明确不连接真实交易账户。