哪里有流苏树,价格是多少?

小说:哪里有流苏树,价格是多少?作者:秉宗北秉更新时间:2019-04-26字数:80116

“告辞了,我希望你对玄衣好点。”药尘说完便离开了,他都以为玄衣是主动爱上了刘皓,会这么想很正常,毕竟这个世界是超级的强者为尊,刘皓的实力,身份对女性的吸引人太大了,相反他和玄衣之间可是没什么,只是有过一段感情而已,却也是极少见面。

湖北八仙花都在哪里买的?

“既然如此,那么勘九郎就拜托你了。“为了治好勘九郎马基可是连千代都找出来了,只可惜千代虽然也是擅长医疗忍术,但是她更擅长下毒,只可惜她孙子下的毒明显超出了她的医疗忍术的认知范围,纵然是她也无法治好。
一声女儿道尽了他心中的所想,两个人拥抱在一起,都是哭了起来。丁兆海哭了一会,急忙挣开丁心如的拥抱,然后上上下下的打量起她来。

那些人看到这一幕后,更是惊奇了,但是却也不害怕了。他们忍不住在那里大声的喘着气说道:“吓死我了,那东西怎么最后给活了啊,幸亏被火给烧了,否则一定是个怪物”。

   对学习器的泛化性能的评估,不仅需要有效可行的试验评估方法,还需要有模型泛化能力的评价标准,这就是性能度量(performance measure),性能度量反映了任务需求,在对比不同模型的能力时,使用不同的性能度量往往会导致不同的评判结果,这意味着模型的“好坏”是相对的,什么样的模型是好的,不仅取决于算法和数据,还决定于任务需求。

  在预测任务中,给定样例集D={(x1,y1),(x2,y2),......,(xm,ym)},其中yi是示例xi的真是标记,要评估学习器f的性能,就要把学习器预测结果f(x)与真实标记y进行比较,回归任务最常用的性能度量是“均方误差”(mean squared error):

  更一般的,对于数据分布D和概率密度函数p(•),均方误差可描述为:

  下面以分类任务为例讨论常用的性能度量。

错误率与精度

  错误率和精度是分类任务中最常用的两种性能度量,既适用于二分类任务,也适用于多分类任务,错误率是分类错误的样本数占样本总数的比例,精度则是分类正确的样本数占样本总数的比例,对样例集D,分类错误率定义为:

  精度定义为:

        

  更一般的,对于数据分布D和概率密度函数p(•),错误率和精度可分别描述为:

        

查准率,查全率与F1

  错误率和精度虽常用,但 并不能满足所有任务需求,以西瓜问题为例,假定瓜农拉来一车西瓜,我们用训练好的模型对这些西瓜进行判别,显然,错误率衡量有多少比例的西瓜被判别错误,但是若我们关心的是“挑出的西瓜中有多少比例是好瓜”,或者“所有好瓜中有多少比例被挑了出来”,那么错误率显然就不够用了,这是需要使用其他的性能度量,类似的需求在信息检索,web搜索等应用中经常出现,例如在信息检索中,我们经常会关心“检索出的信息中有多少比例是用户感兴趣的”,“用户感兴趣的信息中有多少被检索出来了”。“查准率”与“查全率”是更为实用与此类需求的性能度量。

  对于二分类问题,可将样例根据其真实类别与学习器预测类别的组合划分为真正例(true positive),假正例(false positive),真反例(true negative),假反例(false negative)四种情形,令TP,FP,TN,FN分别表示其对应的样例数,则显然有TP+FP+TN+FN=样例总数,分类结果的“混淆矩阵”:

真实情况 预测结果
正例 反例
正例 TP(真正例) FN(假反例)
反例 FP(假正例) TN(真反例)

  查准率P与查全率R分别定义为:

              

  查准率和查全率是一对矛盾的度量,一般来说,查准率高时,查全率往往偏低,而查全率高时,查准率往往偏低。通常只有在一些简单任务中,才可能使查全率和查准率都很高。

  我们可以根据学习器的预测结果对样例进行排序,排在前面是学习器认为“最可能”是正例的样本,排在最后的则是学习器认为“最不可能”是正例的样本,按此顺序逐个把样本作为正例进行预测,则每次可以计算出当前的查全率,查准率。以查准率为纵轴,查全率为横轴作图,就得到查准率-查全率曲线,简称“P-R曲线”,显示该曲线的图称为“P-R图”:

  P-R图直观地显示出学习器在样本总体上的查全率,查准率。在进行比较时,若一个学习器的P-R曲线被另一个学习器的曲线完全"包住",则可断言后者的性能优于前者,例如上图中学习器A的性能优于学习器C,如果两个学习器的P-R曲线发生了交叉,例如上图中的A和B,则难以一般性的断言哪个更优,只能在具体的查准率或者查全率条件下进行比较,然而很多情形下,人们往往仍希望把学习器A和B比个高低,这时一个比较合理的判据是比较P-R曲线下面积的大小,它在一定程度上表征了学习器在查准率和查全率上取得相对“双高”的比例,但这个值不太容易估算,因此人们设计了一些综合考虑查准率,查全率的性能度量:

  平衡点(Break-Event Point,简称BEP):“查准率=查全率”时的取值。例如上图中基于BEP的比较,可认为学习器A优于B。

  但是BEP还是过于简化了些,更常用的是F1度量:

  F1度量的一般形式——Fß,能让我们表达出对查准率/查全率的不同偏好:

  其中ß>0度量了查全率对查准率的相对重要性,ß=1时退化为标准的F1,ß>1时查全率有更大影响,ß<1时查准率有更大影响。

  如果我们进行多次训练/测试,或者在多个数据集上进行训练/测试,我们希望估计算法的“全局性能”,甚或者执行多分类任务,每两两类别的组合都对应一个混淆矩阵,那么就会得到多个混淆矩阵,我们希望在n个二分类混淆矩阵上综合考虑查准率和查全率,一种直接的方法是先在各混淆矩阵上分别计算出查准率和查全率,记为(P1,R1),(P2,R2),......,(Pn,Rn),再计算平均值,这样就得到“宏查准率”(macro-P),“宏查全率”(macro-R),以及相应的“宏F1”(macro-F1):

              

  还可以先将混淆矩阵的对应元素进行平均,得到TP,FP,TN,FN的平均值,分别记为,再基于这些平均值计算出“微查准率”(micro-P),“微查全率”(micro-R)和“微F1”(micro-F1):

             

ROC和AUC

  很多学习器是为测试样本产生一个实值或概率预测,然后将这个预测值与一个分类阈值进行比较,大于阈值则分为正类,否则为反类,这个实值或概率预测结果的好坏直接决定了学习器的泛化能力,实际上,我们可以根据这个实值或概率预测结果将测试样本进行排序,“最可能”是正例排在最前面,“最不可能”是正例的排在最后面,这样,分类过程就相当于在这个排序中以某个“截断点”(cut point)将样本分为两部分,前一部分判为正例,后一部分则判为反例,在不同的应用任务中,我们可根据任务需求来采用不同的截断点,例如我们更重视“查准率”,则可选择排序中靠前的位置进行截断,若更重视“查全率”,则可选择更靠后的位置进行截断,因此排序质量的好坏体现了综合考虑学习器不同任务下的“期望泛化性能”的好坏,ROC曲线则是从这个角度出发来研究学习器泛化性能的有力工具。

ROC:Receiver Operating Characteristic(受试者工作特征)曲线,以“真正例率”(True Positive Rate,简称TPR)为纵轴,以“假正例率”(False Positive Rate,简称FPR)为横轴:

            

  显示ROC曲线的图称为“ROC图”,下图(a)给出了一个示意图,显然,对角线对应于“随机猜测”模型,而点(0,1)则对应于将所有正例排在所有反例之前的“理想模型”。

  现实任务中通常是利用有限个测试样例来绘制ROC图,此时仅能获得有限个(真正例率,假正例率)坐标对,无法产生上图(a)中的光滑ROC曲线,只能绘制上图(b)中所示的近似ROC曲线。进行学习器比较时,与P-R图相似,若一个学习器的ROC曲线被另一个学习器的曲线完全"包住",则可断言后者的性能优于前者,若两个学习器的ROC曲线发生交叉,则难以比较,此时如果一定要进行比较,比较合理的判据是比较ROC曲线下的面积,即AUC(Area Under ROC Curve),如上图所示。

   从定义可知,AUC可通过对ROC曲线下各部分的面积求和而得,假定ROC曲线是由坐标为{(x1,y1),(x2,y2),......,(xm,ym)}的点按序链接而形成(x1=0,xm=1),参见上图(b),则AUC可估算为:

  形式化地看,AUC考虑的是样本预测的排序质量,因此它与排序误差有紧密联系,给定m+个正例和m-个反例,令D+和D-分别表示正,反例集合,则排序“损失”(loss)定义为:

  即考虑每一对正,反例,若正例的预测值小于反例,则记一个“罚分”,若相等,则记0.5个“罚分”,很容易看出lrank对应的是ROC曲线之上的面积:若一个正例在ROC曲线上对应标记点的坐标为(x,y),则x恰是排序在其之前的反例所占的比例,即假正例率,因此有:AUC=1-lrank

代价敏感错误率与代价曲线

  在现实任务中,不同类型的错误所造成的后果可能不同,为权衡不同类型错误所造成的不同损失,可为错误赋予“非均等代价”,以二分类为例,我们可以根据任务的领域知识设定一个“代价矩阵”,如下表所示,其中costij表示将第i类样本预测为第j类样本的代价,一般来说,costii=0,若将第0类判别为第1类所造成的损失更大,则cost01>cost10,损失程度相差越大,cost01与cost10值的差别越大

真实类别 预测类别
第0类 第1类
第0类 0 cost01
第1类 cost10 0

  前面我们都隐式地假设了均等代价,并没有考虑不同错误会造成不同的后果,在非均等代价下,我们所希望的不再是简单地最小化错误次数,而是希望最小化“总体代价”,若将第0类作为正类,第1类作为反类,令D+与D-分别代表样例集D的正例子集和反例子集,则“代价敏感”错误率为:

类似可给出基于分布定义的代价敏感错误率以及其他一些性能度量,如精度的代价敏感版本,若令costij中的i,j取值不限于0,1,则可定义出多分类任务的代价敏感性能度量。在非均等代价下,ROC曲线不能直接反映出学习器的期望总体代价,而“代价曲线”(cost curve)则可达到目的,代价曲线图的横轴是取值为[0,1]的正例概率代价:

  其中p是样例为正例的概率,纵轴是取值为[0,1]的归一化代价:

  其中FPR是假正例率,FNR=1-FPR是假反例率,代价曲线所围成的面积即为在所有条件下学习器的期望总体代价,如下图所示:

 

编辑:龙宗

发布:2019-04-26 07:07:47

当前文章:http://www.cnsdbtzg.com/news_89887.html

古代稀种子什么时候播种最好? 北方地栽花卉都有什么品种? 淮河以北适合种植的花卉有哪些? 适合南方种植的宿根花卉有哪些? 春季用什么草花? 皇竹草批发价格贵吗? 11月份可以播种爬山虎种子吗? 10月可以播种白三叶吗?

92177 71219 77029 75473 44067 67305 37053 98277 75119 72633 35141 54194 24581 60538 50038 25539 65662 93652 52971 63817

我要说两句: (0人参与)

发布