你将学到的
  • PyTorch 基础
  • 搭建卷积神经网络
  • 图像风格迁移
  • NGram 语言模型
  • 机器翻译
  • 简单的数据清洗
  • 迁移学习与普通深度学习区别
  • 反卷积生成图像的实现方法
  • RNN 和 LSTM 模型
lab-classic 实验 1 PyTorch 基础入门

知识点: 1.PyTorch简介 2.PyTorch中的张量及其运算 3.PyTorch中的自动微分运算 4.用PyTorch实现线性回归

lab-classic 实验 2 预测未来单车使用量

知识点: 1.数据归一化、类型变量的转换 2.搭建基本神经网络的方法 3.数据分批次训练原则 4.测试及简单分析神经网络的方法

lab-classic 实验 3 文本情绪分类器

知识点: 1.使用Python从网络上爬取信息的基本方法 2.处理语料“洗数据”的基本方法 3.词袋模型搭建方法 4.简单RNN的搭建方法 5.简单LSTM的搭建方法

lab-classic 实验 4 卷积神经网络

知识点: 1.使用PyTorch数据集三件套的方法 2.卷积神经网络的搭建与训练 3.可视化卷积核、特征图的方法

知识点: 1.使用PyTorch的数据集套件从本地加载数据的方法 2.迁移训练好的大型神经网络模型到自己模型中的方法 3.迁移学习与普通深度学习方法的效果区别 4.两种迁移学习方法的区别

lab-classic 实验 6 图像风格迁移

知识点: 1.迁移大型神经网络VGG的方法 2.手动搭建计算图的方法 3.重新定义损失计算模块的方法

lab-classic 实验 7 手写字图像生成与对抗网络

知识点: 1.反卷积生成图像的实现方法 2.多模型联合训练的实现方法 3.深度卷积生成式对抗网络(DCGAN)的实现方法

lab-classic 实验 8 词汇的星空

知识点: 1.NGram(NPLM)语言模型 2.Word2Vec词向量模型 3.使用Word2Vec词向量进行语义运算

lab-classic 实验 9 使用 RNN 生成简单序列

知识点: 1.什么是上下文无关文法 2.使用RNN或LSTM模型生成简单序列的方法 3.探究RNN记忆功能的内部原理

lab-classic 实验 10 机器翻译的神经网络实现

知识点: 1.机器翻译“平行语料”的准备 2.编码器解码器框架 3.注意力机制

课程介绍

简介

《深度学习原理与PyTorch实战》是一本系统介绍深度学习及开源框架PyTorch的入门书,于2019年7月31日出版。全书注重实战,每章围绕一个有意思的实战案例展开,不仅循序渐进地讲解了PyTorch的基本使用、神经网络的搭建、卷积神经网络和循环神经网络的实现,而且全面深入地介绍了计算机视觉、自然语言处理、迁移学习,以及最新的对抗学习和深度强化学习等前沿技术。本课程是《深度学习原理与PyTorch实战》书籍的配套实践内容。

Pytorch 是由 Facebook 支持的一套深度学习开源框架,相比较 Tensorflow,它更易上手,所以一经推出就广受欢迎。本课程是采用 Pytorch 开源框架进行案例讲解的深度学习课程。同学们可以通过亲自动手实践,学习此系列课程,轻松入门深度学习,学会构造一个图像识别器,生成逼真的图画,让机器理解单词与文本,让机器作曲,教会机器玩游戏,还可以实现一个简单的机器翻译系统。

书籍主要作者集智俱乐部的张江老师,在集智学园亲自开设了 11 门直播课程,讲解本书内容,课程链接:https://campus.swarma.org/gcou=421

课程内容

本课程包含十个实验,覆盖了计算机视觉、自然语言处理、迁移学习以及最新的对抗学习和深度强化学习等前沿技术。

  • 实验一:PyTorch 入门。Tensor(张量)是 PyTorch 的基础数据结构,自动微分运算是深度学习的核心。在本实验中我们将学习 PyTorch 中 Tensor 的用法,以及简单的自动微分变量原理,最后,我们还会使用 PyTorch 构建一个简单的线性回归网络。
  • 实验二:预测未来单车使用量。在本实验中,我们将设计第一个有实用价值的人工神经网络,并用它来预测未来某地区租赁单车的使用情况。

    核心知识点:

    • 数据归一化、类型变量的转换
    • 搭建基本神经网络的方法
    • 数据分批次训练原则
    • 测试及简单分析神经网络的方法
  • 实验三:文本情绪分类器。在本实验中,首先会编写一个自动爬虫程序,并使用它从在线商城的大量商品评论中抓取评论文本以及分类标签(评论得分)。然后,将根据文本的词袋(Bag of Word)模型来对文本进行建模,然后利用一个神经网络来对这段文本进行分类。

    核心知识点:

    • 使用 Python 从网络上爬取信息的基本方法
    • 处理语料“洗数据”的基本方法
    • 词袋模型搭建方法
    • 简单 RNN 的搭建方法
    • 简单 LSTM 的搭建方法
  • 实验四:手写数字识别器——卷积神经网络。本实验,将围绕着手写数字识别这一具体的任务,对卷积神经网络的卷积核、特征图等进行分析,并引入过滤器的概念,深入浅出地介绍卷积神经网络的工作原理。

    核心知识点:

    • 使用 PyTorch 数据集三件套(dataset,sampler,data loader)的方法
    • 卷积神经网络的搭建与训练
    • 可视化卷积核、特征图的方法
  • 实验五:迁移学习。本实验以“是蚂蚁还是蜜蜂”为例,探索如何将已训练好的大网络迁移到小数据集上,并经过 少量数据集的训练就让它获得非常出众的效果。

    核心知识点:

    • 使用 PyTorch 的数据集套件从本地加载数据的方法
    • 迁移训练好的大型神经网络模型到自己模型中的方法
    • 迁移学习与普通深度学习方法的效果区别
    • 两种迁移学习方法的区别:预训练模式和固定值模式
  • 实验六:图像风格迁移。在本实验中,将讲解如何使用神经网络模型实现像 Prisma 那样的风格迁移。

    核心知识点:

    • 迁移大型神经网络 VGG 的方法
    • 手动搭建计算图的方法
    • 重新定义损失计算模块的方法
  • 实验七:手写字图像生成与对抗网络。在本实验中将尝试实现多个生成模型,这些生成模型可以通过输入的信号,生成一张逼真的手写数字图像。为了让生成图像能够足够逼真,实验中尝试了三种不同的方法:

    • 方案1:最小均方误差模型。
    • 方案2:生成器-识别器模型。
    • 方案3:深度卷积生成式对抗网络(DCGAN)。

    核心知识点:

    • 反卷积生成图像的实现方法
    • 多模型联合训练的实现方法
    • 深度卷积生成式对抗网络(DCGAN)的实现方法
  • 实验八:词汇的星空——词向量与 Word2Vec。在本实验中将接触现代 NLP 技术的基础:词向量技术。本次实验包含三个小实验。

    • 第一个实验是构建一个简单的 N-Gram 语言模型。
    • 第二个实验将接触到现代词向量技术常用的模型 Word2Vec。
    • 第三个实验将加载已经训练好的一个大规模词向量,并利用这些词向量来做一些简单的运算和测试,以探索词向量中包含的语义信息。

    核心知识点:

    • N-Gram(NPLM) 语言模型
    • Word2Vec 词向量模型
    • 使用 Word2Vec 词向量进行语义运算
  • 实验九:使用 RNN 生成简单序列。在本实验中,从一个基本的使用 RNN 生成简单序列的例子中,来窥探神经网络生成符号序列的秘密。首先让神经网络模型学习形如 0n1n形式的上下文无关语法,然后让模型尝试去生成这样的字符串。在实验的流程中将演示 RNN 及 LSTM 相关函数的使用方法。

    核心知识点:

    • 什么是上下文无关文法
    • 使用 RNN 或 LSTM 模型生成简单序列的方法
    • 探究 RNN 记忆功能的内部原理
  • 实验十:机器翻译的神经网络实现(对应第十一章:神经翻译机——端到端的机器翻译模型)。在本实验中,首先会尝试使用“编码器+简单解码器”的构架,来观察普通编码器-解码器构架能够取得的效果,然后会尝试“编码器+带有注意力机制的解码器”构架,观察加上注意力能让模型获得怎样的提高。

    核心知识点:

    • 机器翻译“平行语料”的准备
    • 编码器-解码器框架
    • 注意力机制

适合人群

人工智能行业的软件工程师、对人工智能感兴趣的学生,也非常适合作为深度学习培训教程。

课程信息

  • 学习周期:课程有效期 2 个月,2 个月后实验文档一直可以看,但无法进行在线实验。高级会员有效期内可一直学习,高级会员到期后课程失效(不能看文档)。
  • 课程价格:当前优惠价格 149 元。
  • 企业团报:可获得更多支持服务,请点击购买咨询

补充说明

集智俱乐部(Swarma Club),是《深度学习原理与PyTorch实战》书籍的作者,成立于2003年,是一个从事学术研究、享受科学乐趣的探索者团体。倡导以平等开放的态度、科学实证的精神,进行跨学科的研究与交流,力图搭建一个中国的“没有围墙的研究所”。目前已出版著作有《科学的极致:漫谈人工智能》和《走近 2050:注意力、互联网与人工智能》,译作有《深度思考:人工智能的终点与人类创造力的起点》。

课程教师

集智学园 共发布过 1 门课程

集智学园是一个人工智能知识社区,主要面向技术类高管、高级工程师、科研人员,提供人工智能、机器学习、大数据、复杂系统等领域的系列讲解及定制化咨询服务。集智AI学园官网:campus.swarma.org 集智学园公众号:swarmAI

查看老师的所有课程 >
实验楼楼+
实验楼会员