一张确诊黑色素瘤的照片,摆在两个顶级大模型面前。

它们给出的判断是脂溢性角化,认为患者可以放行。

一个10年前的老模型,却根据皮肤镜图像认出了黑色素瘤。

这份测试只有200个病例,却把一个争论摆上台面:通用大模型真的能替代专用医疗AI吗?

结果很扎眼:老CNN正确率62%,两个前沿LLM只有42%左右。

顶级大模型,把黑色素瘤看成了无害疣状增生

测试第一幕就很刺眼。

作者把一张临床照片和一张皮肤镜图像交给 GPT-6 Astra 和 Claude Fable 5.1。素材称,它们是2026年10月可用的最强AI模型。

两张图指向同一个病灶:黑色素瘤。

两个模型都判断为脂溢性角化,一种无害疣状增生,并认为患者可以放行。

随后,同样的图像被交给一个微调版 Inception v3。

这是Google在2015年发布的CNN。它靠皮肤镜图像给出了正确答案。

说实话,这一幕比任何跑分都刺眼。

皮肤癌筛查最怕的,是把危险信号误判成安全信号。

老模型没有神秘科技,只做了20分钟微调

赢下大模型的模型,并不新潮。

它是 Inception v3,先在普通照片上预训练,再在68,011张皮肤镜和临床图像上微调。

训练设备是一块H100 GPU。

微调时间大约20分钟。

测试数据来自 MILK10k,一个2025年通过国际皮肤影像协作组织发布的公开数据集。每个病变都有两张图:临床近照和皮肤镜图像。

作者随机抽取200个经组织病理学确认的病变。

其中100个不能轻易放行:30个黑色素瘤、25个基底细胞癌、25个鳞状细胞癌(含Bowen病)、20个日光性角化。

另外100个可以安全放行:50个良性痣、50个脂溢性角化。

这里有个细节很关键:所有病变都做过活检。

连良性样本也是医生曾经担心到要切下来的病例。

所以,这批题并不轻松。

62%对42%,专用网络赢得并不玄学

最终成绩很干脆。

在200个病例中,CNN给出正确诊断125个,正确率62%。

GPT-6 Astra正确84个,Claude Fable 5.1正确85个,都是42%。

如果把第二选择也算进去,CNN拿到173/200。

两个大模型分别是134/200和138/200。

在最要命的黑色素瘤上,CNN识别出30个中的13个。

GPT-6 Astra识别出8个,Claude Fable 5.1识别出11个。

有意思的是,CNN对良性病灶的识别优势更大。

50个良性痣,它认出37个;GPT-6 Astra认出16个,Claude Fable 5.1认出33个。

50个脂溢性角化,它认出26个;GPT-6 Astra认出13个,Claude Fable 5.1只认出6个。

当然,CNN也没有全赢。

它在基底细胞癌上比 GPT-6 Astra 少一个,在日光性角化上落后于两个LLM。

但总体趋势很清楚:在狭窄任务上,专用模型更稳。

大模型的问题,不只是看不懂,还会偏科

两个前沿LLM的错误模式也很有看头。

GPT-6 Astra偏爱基底细胞癌。

它把75个病变判成基底细胞癌,而真实数量只有25个。

其中,30个黑色素瘤里有14个被它判成基底细胞癌。

Claude Fable 5.1偏爱日光性角化。

它把53个病变判成日光性角化,而真实数量只有20个。

CNN的错误方向不同。

17个被它误判的黑色素瘤里,8个被看成痣,6个被看成脂溢性角化。

这说明它也不是神。

但至少,它的错误分布更接近一个专门训练过的分类器,也少了一点通用模型那种自信跑偏的味道。

评论区有句话很扎心:

And a calculator outperforms LLMs at multiplication and division...

翻译过来就是:计算器在乘除法上赢大模型,也不奇怪。

还有个更狠的说法:

This is just benchmaxxing.

意思是,这个老CNN被专门对准了这个任务。一个针对基准强化过的模型,当然更容易赢没有专门优化过的通用模型。

这点我部分认同。

但医疗场景要的从来都是任务可靠。

反转也来了:这不是大模型全面落败的判决书

如果把文章读成大模型完了,那就太早下结论。

作者自己也给了几条限制。

第一,样本不大。

200个病例足够看出趋势,但不足以给接近的分数排座次。30个黑色素瘤样本,也会让最关键数字带有较大不确定性。

每个LLM病例只跑了一次,答案还可能波动。

第二,病例很难。

所有病变都被活检过。作者提到,如果换成档案里的普通图像,CNN区分该不该放行的能力更强,ROC曲线下面积可达0.96;在这批测试里是0.86。

第三,LLM可能见过题库。

MILK10k从2025年就公开了。大模型有可能在训练里见过它。

如果有影响,反而是帮它们,不是害它们。

CNN则确定没见过这些测试图。

第四,Inception v3也不是最强。

作者明确说,这个模型故意选得不先进。真正前沿的皮肤癌诊断AI,会使用更多数据、图像transformer集成,受监管产品表现更好。

评论区也有人提到 SkinGPT-4。

有评论称,在Nature论文里,150个病例中,SkinGPT-4有80.63%的诊断被皮肤科医生评为正确或相关。

这条线索提醒我们:专用模型和LLM之间,还有更细的分层。

还有评论提到,LLM的真正潜力可能不在单张图片诊断。

如果加上病历、期刊笔记、追问患者、处理纹身等异常图像,局面可能会变。

老实讲,这个方向更有想象空间。

但这次测试说明了一件事:别把前沿大模型直接当专科筛查工具。

真正值得记住的,是工具要长在任务上

这次测试的结论很直白:

A small, old, specialised network using an outdated architecture recognises skin lesions far better than two frontier LLMs.

一个小型、老旧、专用、架构过时的网络,在皮肤病变识别上明显胜过两个前沿LLM。

但它真正戳中的,是当下AI行业的一个误区。

我们太容易被全能、前沿、最大参数吸引。

可一旦落到具体任务,比如看一颗该不该切的痣,答案可能很朴素:谁被认真训练过,谁更可靠。

评论区还有人说,LLM的价值也许是把制造专用模型的成本打下来。这个说法挺实在。大模型未必亲自上场看病,但它可以帮忙造出会看病的工具。

有意思的是,作者还把这个CNN放到了手机浏览器里,靠WebGPU本地运行,不上传图片。

这说明专用模型不一定笨重。

它甚至可以很轻。

那么问题来了:

未来医疗AI真正需要的,是一个什么都能回答的超级大脑,还是一群足够可靠、足够便宜、能塞进手机里的专科工具?

【锐评】:皮肤癌诊断这局,专用小模型给通用大模型上了一课:别拿聊天天赋硬闯专科门诊。

参考链接:
https://lynchlab.net/llm-skin-cancer