python编写softmax函数、交叉熵函数实例
作者：ChunxueShi 发布时间：2023-11-24 07:08:11
标签：python,softmax,交叉熵
python代码如下：
import numpy as np
# Write a function that takes as input a list of numbers, and returns
# the list of values given by the softmax function.
def softmax(L):
pass
expL = np.exp(L)
sumExpL = sum(expL)
result = []
for i in expL:
result.append(i*1.0/sumExpL)
return result
python编写交叉熵公式：
import numpy as np
def cross_entropy(Y, P):
Y = np.float_(Y)
P = np.float_(P)
return -np.sum(Y * np.log(P) + (1 - Y) * np.log(1 - P))
补充知识：分类时，为什么不使用均方误差而是使用交叉熵作为损失函数
MSE（均方误差）对于每一个输出的结果都非常看重，而交叉熵只对正确分类的结果看重。
例如：在一个三分类模型中，模型的输出结果为（a,b,c)，而真实的输出结果为(1,0,0)，那么MSE与cross-entropy相对应的损失函数的值如下：
MSE：
cross-entropy：
从上述的公式可以看出，交叉熵的损失函数只和分类正确的预测结果有关系，而MSE的损失函数还和错误的分类有关系，该分类函数除了让正确的分类尽量变大，还会让错误的分类变得平均，但实际在分类问题中这个调整是没有必要的。
但是对于回归问题来说，这样的考虑就显得很重要了。所以，回归问题熵使用交叉上并不合适。
来源：https://blog.csdn.net/shichunxue/article/details/89350704
0
投稿猜你喜欢
- * address - 地址 * blockquote - 块引用 * center - 举中对齐块 * di
- 块级元素块级元素生成一个元素框，（默认地）它会填充其父级元素的内容，旁边不能有其他元素。换句话说，他在元素框之前和之后生成了“分隔”符。我们
- 现在介绍加速网页图形显示速度的六种方法，为你解决这个难题。其最基本的宗旨就是，让你用买鱼的价钱，品尝到熊掌的美味和营养。 1.首先要确定图像
- Blackfriday是在Go中实现的Markdown处理器。您可以安全地输入用户提供的数据，速度快，支持通用扩展（表，智能标点符号替换等）
- 使用jmail组件发送邮件：Function JMail(Send_From,Send_To,Send_Subject,Send_
本文实例为大家分享了js实现全选取消效果的具体代码，供大家参考，具体内容如下<!DOCTYPE html><html la- const 常量 1.在定义时必须被初始值，2.前面不加任何修饰符3.变量名字母一般都大写4.常量可以被子类继承5.一个常量是属于一个类的，
- 数据处理在现代企业运营中变得越来越重要,越来越关键,甚至会成为企业发展的一项瓶颈. 数据保护的重要性也不言而喻. 如果一个企业没有很好的数据
- 什么是缓存组件Cache缓存是提升 Web 应用性能简便有效的方式。 通过将相对静态的数据存储到缓存并在收到请求时取回缓存， 应用程序便节省
- 代码如下:<form action="insert.asp" method="pos
- 据国外媒体报道，相较于IE8浏览器，微软最新一代浏览器IE9的最大改进就是硬件加速HTML5。微软承诺，通过利用IE9中的硬件加速功能，开发
- 本文实例总结了PHP常用字符串操作函数。分享给大家供大家参考，具体如下：/*常用的字符串输出函数** echo() 输出字符串* print
- 一、在Yii中实现乐观锁乐观锁（optimistic locking）表现出大胆、务实的态度。使用乐观锁的前提是， 实际应用当中，发生冲突的
- Sjoerd Visscher 发现了一个简洁的 方法 让样式在 IE 中作用到未知的元素上——仅需 JS 创建此未知元素即可：docume
- 颜色的变化跟人类的智慧一样,是无穷的,每个阶段都会有流行的色彩,有属于一个时代的颜色!WEB2.0是一个概念,它宣扬,定位了一些东西,以用户
- 内容摘要：为什么要什么XML文件:其优势就是处理该XML数据的文档可以是静态文档，比如HTML文件通过Javascript、XMLDOM来解
- 在编写程序时，数据库结构会经常变化，所以经常需要编写一些数据库脚本，编写完成后需发往现场执行，如果已经存在或者重复执行，有些脚本会报错，所以
- 文通过一个操作实例来说明SQL中主标识列IDENTITY的使用技巧。要求：在 sql server 2005中，建立数据表book，在表bo
- 本文实例讲述了PHP设计模式之装饰器模式定义与用法。分享给大家供大家参考，具体如下：什么是装饰器模式作为一种结构型模式, 装饰器(Decor
- 一、什么是数组数组就是一组数据的集合，把一系列数据组织起来，形成一个可操作的整体。数组的每个实体都包含两项：键和值。二、声明数据在PHP中声
