AI雪茄识别的准确率有多高?基于照片的识别扫描仪为何常常出错?
比过去好了,但不如宣传中说的那样好。一台基于照片的识别扫描仪,其实是多个不太可靠的信号同时在"投票":烟标文字、烟衣颜色与纹理、顶帽形状,以及尺寸。任何一个信号单独使用都可能产生误导。这些失误并非随机发生,它们往往集中出现在烟标受损、型号名称过于通用,以及手中雪茄与唯一参考照片不匹配的情况下。
扫描仪到底在看什么?
把摄像头对准一支雪茄,需要识别的并不是单一的东西,而是四层叠加在一起的信息,一个真正可用的识别流程必须读取全部四层信息,并判断该在多大程度上信任每一层。
烟标上印有或压印有文字,当文字清晰可辨时,这通常是最"响亮"的信号。烟衣有其颜色和表面纹理,这能缩小色系范围——一片康涅狄格阴植烟叶看起来和深色油润的马杜罗(maduro)完全不同,但很多色系彼此非常接近,仅凭光线条件就可能导致分类出错。顶帽和整体轮廓能缩小雪茄形状(vitola)的范围,直边的帕雷霍(parejo)形状与两端收窄的菲格拉多(figurado)形状读取结果截然不同。而尺寸——环径与长度——则能在其他信号已经指向的产品线内进一步缩小候选范围。
这四个信号中没有一个单独使用时足够可靠。真正有效的系统会将它们结合在一起运行,让每个信号互相校正。当人们说某个扫描仪"识别错了"时,通常的情况是:某一个信号看起来很强、很确定,但恰恰是错的,而没有其他信号把它纠正过来。
与真实目录进行匹配,也与孤立地对一张照片进行分类是完全不同的问题。Paradigm自己的目录中收录了11,519款雪茄,这四个信号最终都必须与真实条目逐一核对,而不能仅仅识别为"一支马杜罗罗布图(robusto)"——这种描述缩小了范围,却没有真正识别出任何具体产品。
为什么烟标文字识别常常出错?
烟标文字看起来应该是最简单的部分。但往往并非如此。烟标是包裹在圆柱体上的,因此摄像头拍到的文字是弯曲的,而主要基于平面页面训练的文字识别技术,在处理弯曲文字时的表现往往比人们预期的差得多。箔纸烟标会因光线角度不同而产生眩光,吞没整段文字。在口袋或旅行盒里待过一段时间的烟标,常常会出现折痕、磨损或局部脱落,而一个部分被遮挡的词,读出来可能完全变成另一个与实际印刷内容不同的词。
还有一个与图像质量毫无关系的问题:相当多雪茄本身就没有具有辨识度的名称可供读取。仅依赖烟标的识别方式,会以一种相当可预测的方式失败,其中最大的问题之一是:有些产品的命名用词过于通用,即便文字提取做到完美无误,仍然无法判断你手中到底是哪一支具体的雪茄。
13.3%的通用名称问题究竟意味着什么?
在包含11,519款雪茄的目录中,13.3%的条目的型号名称完全由通用词汇构成——这些词描述的是一个品类,而不是指向某一款具体产品。即便扫描仪以完全准确的方式读出了烟标上的每一个字符,也仍然没有什么独特的信息可供匹配,因为这些词本身并不比其他雪茄更专属于某一支特定的雪茄。
这正是为什么即便拥有完美的照片,烟标文字也无法构成整个识别系统的原因。文字匹配需要有可供匹配的对象,而在真实目录中,大约每八支雪茄中就有一支无法提供这样的对象。
为什么烟衣颜色和形状不能补足剩下的部分?
烟衣和形状看起来应该更"宽容"一些,因为它们都不依赖于清晰可辨的印刷文字。但在实际中,它们只是以另一种方式变得困难。
色系分类会随湿度而漂移。随着时间推移,油脂会渗到烟衣表面,改变光线的反射方式,而在温暖的室内光线下(其色温低于日光)拍摄的烟叶,看起来会比同一片烟叶在室外拍摄时深好几个色阶。形状分类则面临另一个难题:市面上流通的雪茄形状家族数量庞大,从单一角度看几乎难以区分。目前流通的雪茄形状和尺寸种类多达数十种,其中有几对形状之间的主要区别仅在于收窄角度或顶帽样式,而手机摄像头会因拍摄距离和取景方式的不同,对这些细节的捕捉结果也不一致。
这些困难并不是放弃这些信号的理由,而是说明它们需要真正、有针对性的工程投入,而不是一次性的笼统处理就能解决。Paradigm自己的顶帽形状分类器,在针对两个具体可测量特征进行修正后,实际生产环境扫描的准确率从78.6%提升到了91.9%,而这次提升并非来自整体模型的更换。这说明形状识别对精细、细致的修正反应更好,而不是单纯依赖更大、更通用的模型。在真正点燃雪茄之前,烟衣和形状究竟能诚实地告诉你哪些信息,是一个相关但独立的问题,值得单独探讨。
该如何看待任何雪茄App给出的准确率数据?
大多数公开发布的准确率数字,描述的都是一个"测试集":一批经过挑选、拍摄清晰、光线良好的参考照片,这些照片之所以被选中,正是因为它们拍出来效果好。这个数字几乎无法告诉你,当你站在光线不均的环境中、面对一个已经磨损了一半的烟标时,实际会发生什么。
更有参考价值的数字,是基于真实生产环境扫描结果测得的数据——由真实用户在真实条件下拍摄的真实照片,而不是为了好看而精心搭建的基准测试。这类样本池通常更小,因为获得这类数据需要真正把产品发布出去,并持续追踪后续实际发生的情况,而不是只报告一次实验室结果就结束。
| 应该提出的问题 | 为何重要 |
|---|---|
| 这个数字是基于测试集测得的,还是基于真实扫描测得的? | 测试集的条件远比现实环境理想 |
| 依赖单一信号,还是综合多个信号? | 单一信号系统会完全继承该信号自身的失误模式 |
| 是否说明了如何处理受损或箔纸眩光的烟标? | 如果整个识别流程只依赖烟标文字,这正是最容易出问题的地方 |
| 这个数字是否标注了日期,还是一次性宣称的结果? | 模型和目录会不断变化;去年的数字未必仍然成立 |
如果一个App无法回答前两个问题,那么任何醒目的百分比数字,都应被视为营销说辞,而不是实际测量结果。
简而言之
- 扫描仪读取四个独立信号——烟标文字、烟衣颜色、顶帽形状和尺寸——其中没有任何一个单独使用时是可靠的。
- 弯曲的箔纸、眩光、折痕和磨损,是烟标文字识别失误率高于人们预期的原因。
- 在真实目录中,大约每八支雪茄中就有一支(13.3%)的名称过于通用,无论照片质量如何,文字匹配都无法解决这个问题。
- 形状和颜色识别可以通过有针对性、可测量的修正得到改善:一次针对两个特征的修正,使某个实际使用中的分类器准确率从78.6%提升到了91.9%。
- 在信任某个准确率数字之前,先问清楚它来自真实扫描,还是来自经过精心挑选的测试集。