TensorFlow05.1-神经网络全连接层

更新于:2023-06-18

▪ Matmul▪ Neural Network▪ Deep Learning▪ Multi-Layer1.Matmulout=f(x@w+b)out=relu(x@w+b)我们只看第一位h00,h10,其中类似于一个激活函数(relu函数)在一层中我们包括这一层的权值和偏置在里面的。Here comes Deep Learning:在以前不叫作Deep Learning 叫做神经网络。现在的De

▪ Matmul
▪ Neural Network
▪ Deep Learning
▪ Multi-Layer

1.Matmul

  • out=f(x@w+b)
  • out=relu(x@w+b)
    image
    我们只看第一位h00,h10,其中image
    类似于一个激活函数(relu函数)
    image
    image
    image
    在一层中我们包括这一层的权值和偏置在里面的。
    image
    Here comes Deep Learning:
    image
    在以前不叫作Deep Learning 叫做神经网络。
    现在的Deep Learning 都是成百上千层。
    image

2 Fully connected layer(全连接层)

主要实现:

tf.keras.layers.Dense(x)

例如:

x=tf.random.normal([4,784])
net=tf.keras.layers.Dense(512)
out=net(x)
#这个net(x),就是把它变成[4,512]类似于一个降维的效果

out.shape
#TensorShape([4, 512])

net.kernel.shape , net.bias.shape
#(TensorShape([784, 512]), TensorShape([512]))
#这个net.kernel就是w(权值),net.bias就是b(偏置)

image
这里我们可以不用创建w和b的,就是如果没有的话,它自动创建。
image
我们也可以手动创建,但是我们一般都是只创建一次。
下面的例子就是如果我们build的和传入的不相同的例子:
image
为什么叫全连接层呢?
因为它每一层都和下一层相互连接。
怎么创建多个全连接层呢?

3 Multi-Layers(创建多个全连接层)

keras.Sequential([layer1,layer2,layer3])

image
举个例子:

import tensorflow as tf
from tensorflow import keras
x=tf.random.normal([2,3])
model=keras.Sequential([
    keras.layers.Dense( 2, activation='relu'),
    keras.layers.Dense( 2 , activation='relu'),
    keras.layers.Dense( 2 )
])
#上面的是定义一个全连接层

model.build(input_shape=[None,3])#或者model.build(x)
#用这个全连接层进行训练

model.summary()
#展示他的每一层的蚕食信息

for p in model.trainable_variables:
    print(p.name,p.shape)
#展示它的每一次的w和b

image
image

相关文档

推荐软件

网络调试专用工具GET/POST支持HTTPS 支持自定义请求头和POST数据
九戒网络助手

网络调试专用工具GET/POST支持HTTPS 支持自定义请求头和POST数据

直接下载

一键屏幕取色工具绿色版 网页取色建站必备神器
屏幕取色器

一键屏幕取色工具绿色版 网页取色建站必备神器

直接下载

高性能快速去除TXT文件中的重复文本行,支持两个文本合并后去重
TXT合并去重工具

高性能快速去除TXT文件中的重复文本行,支持两个文本合并后去重

直接下载

TDK一键采集网站标题/关键词/描述支持unicode解码
网站TDK采集器

TDK一键采集网站标题/关键词/描述支持unicode解码

直接下载

多线程批量扫描指定服务器开放了哪些端口
批量端口扫描工具

多线程批量扫描指定服务器开放了哪些端口

直接下载

一键批量采集关键词,长尾词,下拉词,相关搜搜词
关键词采集器 [相关/下拉/长尾]

一键批量采集关键词,长尾词,下拉词,相关搜搜词

直接下载

输入关键词批量搜索网站,支持导出为txt和excel表格,支持导出TDK
关键词网站域名采集器

输入关键词批量搜索网站,支持导出为txt和excel表格,支持导出TDK

直接下载

域名采集器,高速有效域名网址采集工具
域名采集器

域名采集器,高速有效域名网址采集工具

直接下载

站群推广利器SEO自动外链引蜘蛛工具
SEO自动外链工具

站群推广利器SEO自动外链引蜘蛛工具

直接下载

百度网盘批量分享工具,一键自动分享文件记录链接和密码
百度网盘批量分享

百度网盘批量分享工具,一键自动分享文件记录链接和密码

直接下载

网址访问状态检查,网站漏洞扫描文件目录扫描
网址批量验证器

网址访问状态检查,网站漏洞扫描文件目录扫描

直接下载

批量将网址中的占位符替换成URL编码的关键词,保存导出最终网址列表
网址关键词合并工具

批量将网址中的占位符替换成URL编码的关键词,保存导出最终网址列表

查看详情

网站统计平台广告引流工具CNZZ/51.LA/百度统计通用
网站统计平台广告引流

网站统计平台广告引流工具CNZZ/51.LA/百度统计通用

查看详情

Excel表格导入织梦文章,支持自定义模型和字段
Excel导入织梦系统

Excel表格导入织梦文章,支持自定义模型和字段

查看详情

txt文档批量导入织梦CMS文章工具
txt导入织梦文章

txt文档批量导入织梦CMS文章工具

查看详情

WORD文档带图片和格式发布到织梦CMS文章
WORD文档导入织梦

WORD文档带图片和格式发布到织梦CMS文章

查看详情

推荐专题