Skip to content

够用数学 ​

线性代数、概率论与统计推断、最优化、信息论、数学分析这五章组成一条完整路线,每一章都展开到足以支撑方法创新的深度。这条路线起点偏高:一个只想读懂应用论文、调用现成模型的读者,很可能在向量空间公理或极限的严格定义前停下。

本章回答另一个问题:在只求读懂常见的医学人工智能论文、判断模型结论是否可信、在 AI 给出的推导里发现错误的前提下,最低限度需要哪些数学。内容按这条最低线裁剪,不给证明,不做推广,需要展开的地方直接指向完整章节。

编号胸片报告
A心影增大Heart size is enlarged.
B左侧胸腔积液Small pleural effusion at the left base.
C右肺下叶实变Right lower lobe airspace consolidation.
D右肺基底斑片状渗出Patchy right basilar opacity consistent with pneumonia.

关于为什么有了完整的数学讲解却还是希望写一版也够数学

如果目标只是读懂多数应用型医学 AI 论文、调用现成模型,并具备判断 AI 有没有在胡说八道的能力,这一章已经够用,读完可以直接去读论文。如果准备做方法创新、读理论论文或自己证明结论,应当转到第一至第五章的完整路线。把这一章看明白,就可以开始拷打 AI 了。

一条因果链 ​

本章的五节是一条链,每一步都因为上一步不够用才出现。

节要解决的问题被迫发明的工具
0.1 怎么让胸片和报告可以比较如何将图片和报告(文字)放到同一个维度比较向量、矩阵、内积、范数、余弦相似度、S=VU⊤
0.2 怎么判断模型配得对不对介绍什么是losssoftmax、负对数似然、InfoNCE、温度
0.3 知道错了以后模型怎么改如何改参数与超参数导数、偏导、梯度、链式法则、反向传播、梯度下降
0.4 为什么这个 loss 和信息有关那个负对数到底在度量什么熵、交叉熵、KL 散度、互信息
0.5 数学上的成功不代表临床上的成功数学自洽的局限性与统计学意义假负样本、假设检验、消融实验

主线论文是 ConVIRT(Zhang et al., MLHC 2022),一篇用胸片与影像报告做图文对比学习的预训练方法。它的好处是全部数学都落在同一组公式上:两个编码器把图与文变成向量,向量两两算余弦相似度,相似度经 softmax 与负对数得到损失,损失求梯度更新参数。最后一节的对照论文是 MedCLIP(Wang et al., EMNLP 2022)。

一条应当自己讲得出来的链 ​

读完五节之后,下面这条链应当能够不加查阅地讲出来。它是本章的验收标准。

数据是一批胸片与对应的报告。两种模态各自经过编码器与投影变成向量,落进同一个 d 维空间。把一批胸片的向量与一批报告的向量两两做余弦相似度,得到一个方阵 S。把 S 按行做 softmax 再取负对数,得到 InfoNCE 损失。损失对参数的梯度说明每个参数该往哪个方向改,优化器按梯度更新参数。训练结束后,用验证集挑选检查点,最后在测试集上评估一次。

最后一步需要说清楚。验证集用于选择超参数与检查点,测试集只在最后评估一次,不能一边看测试集一边改模型。ConVIRT 的验证把预训练得到的表示迁移到 4 个分类任务和 2 个检索任务上,确认它确实可迁移。完整的证据链是:损失下降,验证指标变好,下游与测试指标仍然变好,才说明表示学到了有用的信息。

与其他章节的关系 ​

本章是第一章到第五章的入口层。0.1 对应第一章的向量、内积、范数与线性变换;0.2 对应第四章的熵与散度;0.3 对应第五章的微分与第三章的最优性条件;0.4 对应第四章的互信息与信息不等式;0.5 的假设检验思路来自第二章的统计推断。每节末尾都列出暂时不需要掌握的内容,并给出完整章节的链接。