TensorFlow05.2 神经网络反向传播算法-单输出感知机和多输出感知机及其梯度

更新于:2023-06-18

1 单输出感知机在这里我们可以看到,\(W_2,1^1\)其中他的下标第一个2,表示的连着上一层的x2,下标第一个1代表着连着下一侧的x1。然后上标1代表着第一层。E是做了一个loss处理。\(X_i^1\)这个下标的i代表当前层数节点的编号,然后这个1代表着第1层。\(W_i,j^k\),i表示上一层的节点编号,j表示下一层的节点编号。k代表第几层。因为这个\(O_0^1\)这个是激活函数,所以

1 单输出感知机

image
image
在这里我们可以看到,\(W_2,1^1\)其中他的下标第一个2,表示的连着上一层的x2,下标第一个1代表着连着下一侧的x1。然后上标1代表着第一层。E是做了一个loss处理。
\(X_i^1\)这个下标的i代表当前层数节点的编号,然后这个1代表着第1层。\(W_i,j^k\),i表示上一层的节点编号,j表示下一层的节点编号。k代表第几层。因为这个\(O_0^1\)这个是激活函数,所以它可以写成下面公式里面的\(\sigma\)形式。

这是推导过程:
image
这里面的O什么的上标都省略了。所以它最终的一个梯度是:
image
代码:
image

2 多输出感知机

image
这里面的各个字母的编号和上面的都一样。
image
上面的公式我们要注意,对\(W_i,j^k\)的偏导数只有\(O^k\)这个对他有影响,因为他们都不连接。
然后推出来这个偏导数就是:
image
我们发现这个他就是跟它所在的这一层的有关系。就是这个image
也是只和它所在连线的k有关。这个也和上面的单层的感知机模型相互一样。
image

相关文档

推荐软件

网络调试专用工具GET/POST支持HTTPS 支持自定义请求头和POST数据
九戒网络助手

网络调试专用工具GET/POST支持HTTPS 支持自定义请求头和POST数据

直接下载

一键屏幕取色工具绿色版 网页取色建站必备神器
屏幕取色器

一键屏幕取色工具绿色版 网页取色建站必备神器

直接下载

高性能快速去除TXT文件中的重复文本行,支持两个文本合并后去重
TXT合并去重工具

高性能快速去除TXT文件中的重复文本行,支持两个文本合并后去重

直接下载

TDK一键采集网站标题/关键词/描述支持unicode解码
网站TDK采集器

TDK一键采集网站标题/关键词/描述支持unicode解码

直接下载

多线程批量扫描指定服务器开放了哪些端口
批量端口扫描工具

多线程批量扫描指定服务器开放了哪些端口

直接下载

一键批量采集关键词,长尾词,下拉词,相关搜搜词
关键词采集器 [相关/下拉/长尾]

一键批量采集关键词,长尾词,下拉词,相关搜搜词

直接下载

输入关键词批量搜索网站,支持导出为txt和excel表格,支持导出TDK
关键词网站域名采集器

输入关键词批量搜索网站,支持导出为txt和excel表格,支持导出TDK

直接下载

域名采集器,高速有效域名网址采集工具
域名采集器

域名采集器,高速有效域名网址采集工具

直接下载

站群推广利器SEO自动外链引蜘蛛工具
SEO自动外链工具

站群推广利器SEO自动外链引蜘蛛工具

直接下载

百度网盘批量分享工具,一键自动分享文件记录链接和密码
百度网盘批量分享

百度网盘批量分享工具,一键自动分享文件记录链接和密码

直接下载

网址访问状态检查,网站漏洞扫描文件目录扫描
网址批量验证器

网址访问状态检查,网站漏洞扫描文件目录扫描

直接下载

批量将网址中的占位符替换成URL编码的关键词,保存导出最终网址列表
网址关键词合并工具

批量将网址中的占位符替换成URL编码的关键词,保存导出最终网址列表

查看详情

网站统计平台广告引流工具CNZZ/51.LA/百度统计通用
网站统计平台广告引流

网站统计平台广告引流工具CNZZ/51.LA/百度统计通用

查看详情

Excel表格导入织梦文章,支持自定义模型和字段
Excel导入织梦系统

Excel表格导入织梦文章,支持自定义模型和字段

查看详情

txt文档批量导入织梦CMS文章工具
txt导入织梦文章

txt文档批量导入织梦CMS文章工具

查看详情

WORD文档带图片和格式发布到织梦CMS文章
WORD文档导入织梦

WORD文档带图片和格式发布到织梦CMS文章

查看详情

推荐专题