ISEF Topic Scoping 2027

C777–87

你的分类器认出的是肿瘤还是数据集:批次效应的直接检验

1 · 研究问题

一个在多组学数据上训练、在外部数据集上验证的分类器,它学到的特征有多少来自生物学,多少来自平台/批次差异?用同一组特征去预测"样本来自哪个数据集",准确率是多少? 在预先固定的样本、对照与统计口径下,主效应的方向、幅度和不确定度分别是多少,结论能否在独立留出数据或独立重复中成立?

2 · 研究背景与空白

背景。 这条课题研究的不是“能不能做出一个结果”,而是一个现有结论在测量误差、样本差异和外推条件改变后还能不能站住。核心逻辑是把观察量、真实目标量与混杂因素分开:先用已知答案校验工具,再固定对照和重复单位,最后用误差棒判断差异。只给一个最高分、一次演示或一条相关关系,不能说明方法在新样本上可靠。

已有工作到哪一步。 CELL019(2026,Grand Award,"AI-Powered Oral Cancer Screening Platform")。摘要原文:"Proteomics data from CPTAC HNSCC (182 samples, 9,382 proteins) trained five classification models"、"External validation on PXD025701 (28 samples, 45% protein overlap) achieved AUC = 0.73, rising to 0.79 when evaluated by paired concordance reflecting the dataset's matched tumor/adjacent-normal design"、"Clinical modeling projects... achieving 97.4% sensitivity while avoiding 91% unnecessary biopsies"。它做了外部验证,这一点必须承认并主动称赞——这已经比大多数学生项目强。但两个具体的点可核对:(a)外部集只有 28 个样本、蛋白重叠仅 45%,AUC=0.73 的置信区间会很宽;(b)"paired concordance" 把 AUC 从 0.73 提到 0.79,而配对设计恰恰是最容易引入病人身份泄漏的地方——用配对信息评估会系统性高估。而 97.4% 的敏感度是"临床建模"外推出来的,不是外部集实测的。

空白在于:你贡献的是一次批次探测器检验(batch-detector test):(1)用与疾病分类器完全相同的特征集,训练一个"预测样本属于哪个数据集"的分类器——如果它的 AUC 接近 1,说明这些特征首先编码的是批次而不是生物学;(2)做标签置换检验建立零分布,看真实 AUC 相对置换分布的位置;(3)用批次校正(ComBat 等)前后各跑一遍疾病分类,报告 AUC 的变化;(4)检验配对设计的泄漏——当同一病人的肿瘤与癌旁样本分处训练/测试两侧时,模型可以靠"认出这个病人"作弊。 五字段原文的研究问句是:一个在多组学数据上训练、在外部数据集上验证的分类器,它学到的特征有多少来自生物学,多少来自平台/批次差异?用同一组特征去预测"样本来自哪个数据集",准确率是多少? 这适合一年期学生课题,因为可以把主任务裁成一个对象、一个主指标和一个独立复核;即使预期差异不出现,只要校验与统计功效过关,零结果仍能界定已有结论的适用边界。

3 · 可检验假设

H1 在加入本课题预先规定的控制、校正或独立验证后,主指标将沿五字段框架所述预期方向变化,且相对基线变化 ≥ 10% 或标准化效应绝对值 ≥ 0.5;若 95% 置信区间同时排除这两个门槛,则 H1 被否证。两种尺度只选与主指标有意义的一种,并在预实验前写死。

H2 若 H1 被否证,备择机制是假定原观察主要由测量误差、样本构成、基础率、时间漂移或未控制混杂驱动;比较“仅含原变量”与“加入机制变量”的模型,若主效应方向改变或绝对值下降 ≥ 20%,则支持机制解释,否则报告当前分辨率下未找到证据。

4 · 量化验收标准

  1. 方法学校验硬门槛。 用自建管线、装置或代码重跑一个答案已知的合成算例/标准样;主量反算偏差须 ≤ 5%。不过关则停止,且后续全部结论无效。
  2. 统计口径预先写死。 独立样本、技术重复和连续观测分开计数;测量类每个关键条件至少 3 次独立重复,技术重复只估计仪器噪声,并用误差传播或方差分量合成不确定度。极不平衡分类主报 PR-AUC、precision、recall,不以 accuracy 为主,因为全猜多数类也会虚高;时间序列按时间划分并把随机划分仅作泄漏对照。
  3. 正式采集前固定主指标、排除规则、对照、效应方向与 10%(或标准化效应 0.5)判据;报告全部独立重复、效应量和 95% 置信区间,不只报 p 值或最佳一次。
  4. 至少完成一项阴性对照和一项敏感性分析;改变关键阈值、预处理或模型选择时,主结论不得仅由单一任意选择决定。
  5. 用独立批次、独立留出段或第二种原理不同的方法复核主量;不一致时优先报告不一致与误差预算,不平均成一个“更好看”的数字。
  6. 可复现性。 保存原始数据、清洗记录、参数、环境版本、随机种子、脚本和排除日志;第三方应能重建主表与主图。

5 · 数据与工具

用途 来源 / 工具
研究对象与主问题 一个在多组学数据上训练、在外部数据集上验证的分类器,它学到的特征有多少来自生物学,多少来自平台/批次差异?用同一组特征去预测"样本来自哪个数据集",准确率是多少?
原创切口 你贡献的是一次批次探测器检验(batch-detector test):(1)用与疾病分类器完全相同的特征集,训练一个"预测样本属于哪个数据集"的分类器——如果它的 AUC 接近 1,说明这些特征首先编码的是批次而不是生物学;(2)做标签置换检验建立零分布,看真实 AUC 相对置换分布的位置;(3)用批次校正(ComBat 等)前后各跑一遍疾病分类,报告 AUC 的变化;(4)检验配对设计的泄漏——当同一病人的肿瘤与癌旁样本分处训练/测试两侧时,模型可以靠"认出这个病人"作弊。
前作与对照基准 CELL019(2026,Grand Award,"AI-Powered Oral Cancer Screening Platform")。摘要原文:"Proteomics data from CPTAC HNSCC (182 samples, 9,382 proteins) trained five classification models"、"External validation on PXD025701 (28 samples, 45% protein overlap) achieved AUC = 0.73, rising to 0.79 when evaluated by paired concordance reflecting the dataset's matched tumor/adjacent-normal design"、"Clinical modeling projects... achieving 97.4% sensitivity while avoiding 91% unnecessary biopsies"。它做了外部验证,这一点必须承认并主动称赞——这已经比大多数学生项目强。但两个具体的点可核对:(a)外部集只有 28 个样本、蛋白重叠仅 45%,AUC=0.73 的置信区间会很宽;(b)"paired concordance" 把 AUC 从 0.73 提到 0.79,而配对设计恰恰是最容易引入病人身份泄漏的地方——用配对信息评估会系统性高估。而 97.4% 的敏感度是"临床建模"外推出来的,不是外部集实测的。仅用于校验与对比,不计入本项目的数据贡献
数据/样本 需核实:可取得数量、独立单位、标签/测量定义、许可与缺失情况;未确认内容不得写成已具备
分析工具 纯 CPU、16 GB 笔记本可运行的开源工具优先;需核实版本、许可、输入格式、分组/时序划分和不确定度输出能力
校验材料 已知答案的合成数据、标准样或公开基准;仅用于校验与对比,不计入本项目的数据贡献
风险边界 零实验室、零合规、零器材——CPTAC 与 PRIDE(PXD 编号)数据全部公开可下。 最可能死在生信工具链的学习曲线。最便宜的规避方式:批次探测器检验的实现极其简单(换个标签重训一遍),可以先做这一支拿到结果,再决定是否往下做校正与泄漏分析。注意 Fit=7:需要在文书里把结论落到"蛋白组生物标志物的可转化性",否则会被归到 CBIO。

6 · 方法路径

  1. 装环境或搭装置,跑通已知答案算例并完成校验。 锁定版本、单位、坐标/标签定义和误差计算;反算偏差 >5% 时只修方法,不进入正式样本。
  2. 核实工具能力边界并逐条排查静默失败点。 五字段原约束为:零实验室、零合规、零器材——CPTAC 与 PRIDE(PXD 编号)数据全部公开可下。 最可能死在生信工具链的学习曲线。最便宜的规避方式:批次探测器检验的实现极其简单(换个标签重训一遍),可以先做这一支拿到结果,再决定是否往下做校正与泄漏分析。注意 Fit=7:需要在文书里把结论落到"蛋白组生物标志物的可转化性",否则会被归到 CBIO。 此外检查单位或标签错位、全数据预处理泄漏、相关观测冒充独立 n、缺失值静默填 0、默认参数改变口径、输出正常但物理量方向或尺度错误;每项用最小反例测试,不能以“软件未报错”作为通过。
  3. 预注册最小设计。 把主问题收敛为一个对象、一个主指标、一个主要对照;写死样本单位、重复数、阈值、排除规则和降级触发条件。
  4. 采集或整理正式数据。 保留原始输入与时间戳/批次,盲化能盲化的标签;协议偏离当天登记,不覆盖原记录。
  5. 估计主效应与不确定度。 同时报原口径与校正口径,给出误差棒、效应量、失败样本和敏感性曲线;分类、时序或测量问题按 §4 执行。
  6. 检验 H2 与边界条件。 H1 不成立时不临时换题,而是量化测量误差、样本构成、基础率、时间漂移或混杂能解释多少。
  7. 独立交叉校验。 使用独立批次、留出时间段或第二种原理不同的方法复算主量;失败时以“不一致”为主结果,不选择性保留支持预期的路径。

7 · 新颖性边界

本课题不声称什么: 不声称首次进入该主题,不声称重新发现或推翻前作,也不把前作的项目编号、年份、奖级、引文和数字据为本项目结果;具体已有工作是:CELL019(2026,Grand Award,"AI-Powered Oral Cancer Screening Platform")。摘要原文:"Proteomics data from CPTAC HNSCC (182 samples, 9,382 proteins) trained five classification models"、"External validation on PXD025701 (28 samples, 45% protein overlap) achieved AUC = 0.73, rising to 0.79 when evaluated by paired concordance reflecting the dataset's matched tumor/adjacent-normal design"、"Clinical modeling projects... achieving 97.4% sensitivity while avoiding 91% unnecessary biopsies"。它做了外部验证,这一点必须承认并主动称赞——这已经比大多数学生项目强。但两个具体的点可核对:(a)外部集只有 28 个样本、蛋白重叠仅 45%,AUC=0.73 的置信区间会很宽;(b)"paired concordance" 把 AUC 从 0.73 提到 0.79,而配对设计恰恰是最容易引入病人身份泄漏的地方——用配对信息评估会系统性高估。而 97.4% 的敏感度是"临床建模"外推出来的,不是外部集实测的。

已有工作做到哪一步: 五字段证据表明前作已完成其原始对象、方法或性能演示;本项目完整保留这条事实,不把摘要未写出的信息推断为“没有做”。数据集、器材规格、价格、货期或外部文献的任何补充均标为“需核实”。

本项目贡献(属「评价维度转换」;若使用全新独立对象则同时属「新样本独立检验」,若核心是校准与脚本则同时属「方法可复现性贡献」): 你贡献的是一次批次探测器检验(batch-detector test):(1)用与疾病分类器完全相同的特征集,训练一个"预测样本属于哪个数据集"的分类器——如果它的 AUC 接近 1,说明这些特征首先编码的是批次而不是生物学;(2)做标签置换检验建立零分布,看真实 AUC 相对置换分布的位置;(3)用批次校正(ComBat 等)前后各跑一遍疾病分类,报告 AUC 的变化;(4)检验配对设计的泄漏——当同一病人的肿瘤与癌旁样本分处训练/测试两侧时,模型可以靠"认出这个病人"作弊。 主结论是原结论在预注册控制与独立复核下的效应幅度及适用边界,不是附带造一个更复杂模型或装置。

为何有价值: 它把“看起来有效”转换为“在多大误差、何种样本和什么阈值下仍有效”。差异不显著同样是有效结论,但必须给出误差棒证明有能力分辨预注册的 10% 相对变化或标准化效应 0.5;置信区间过宽只能写“测不出来”。

8 · 决策门槛(go / no-go)

第 5 周末必须同时满足:校验偏差 ≤ 5%、至少取得计划独立样本的 20%、主指标能从原始输入稳定重算。任一不满足,立即启动具名降级路径 “单对象能力边界标定”:砍掉多对象/多模型比较,只保留最可得的一种对象、一个主指标和一个独立复核,转而报告误差、敏感性与最小可分辨效应;主结论仍是“原结论在什么条件下站得住”。

与“附属赛后不得修改”的冲突点:主指标、阈值、样本排除、对照、预处理和降级触发条件必须赛前定死。须提前核实: 零实验室、零合规、零器材——CPTAC 与 PRIDE(PXD 编号)数据全部公开可下。 最可能死在生信工具链的学习曲线。最便宜的规避方式:批次探测器检验的实现极其简单(换个标签重训一遍),可以先做这一支拿到结果,再决定是否往下做校正与泄漏分析。注意 Fit=7:需要在文书里把结论落到"蛋白组生物标志物的可转化性",否则会被归到 CBIO。 同时核实许可、设备/软件真实能力、场地、表格和采购可得性。已知困难及其定位:这些限制就是能力边界,不用未经核实的规格填补。选择前提:学生愿意做重复、校验和零结果解释。预算裁剪顺序:先砍多模型/多材料,再砍次要指标,再砍展示性装置;不得砍校验、主要对照、独立重复和交叉验证。

净实验窗口按 2026-08 至 12 月约 3–4 个月规划。按实际对象核实合规:附属赛后项目不得更改;展台禁液体(含水)、土壤、玻璃、锐器、化学品、干燥粉末、>100 Wh 电池和通电无人机,禁网址与二维码;家中不得培养任何潜在危险生物制剂;涉及脊椎动物、人类受试者、激光、高真空或 SDS 标注的致癌致畸化学品时,须在相应动作前确认审批。AI 不得用于撰写研究计划、摘要、展板或引文。

评分: O=8, W=9, F=9, S=7, Fit=7 → base=82.0,h=5 → [77, 87],置信度:高