欢迎您访问 最编程 本站为您分享编程语言代码,编程技术文章!
您现在的位置是: 首页

资源|使用 Python 和 NumPy 进行深度学习的线性代数基础知识

最编程 2024-04-04 21:45:25
...

本文系巴黎高等师范学院在读博士 Hadrien Jean 的一篇基础学习博客,其目的是帮助初学者/高级初学者基于深度学习和机器学习来掌握线性代数的概念。掌握这些技能可以提高你理解和应用各种数据科学算法的能力。

对于初学者而言,《深度学习》(Ian Goodfellow、Yoshua Bengio、Aaron Courville)中的理论基础部分可能过于简略。作者按照这本书的第二章的线性代数内容来逐一介绍机器学习中的线性代数基础,读者可以在原书、中译版或中文笔记中查看每个小节的基础介绍,或直接参考该博客的推导部分。作者除了对部分概念进行详细推导之外,还添加了多个示例,并给出了 python/numpy 的实现代码。

  • 博客地址:https://hadrienj.github.io/posts/Deep-Learning-Book-Series-Introduction/

  • GitHub 地址:https://github.com/hadrienj/deepLearningBook-Notes

  • 《深度学习》中文版下载地址:https://github.com/exacity/deeplearningbook-chinese

  • 推荐一个学习交流的Q-un,719-139-688,喜欢学习python的朋友一起来。

3EVaosLyQ=SycF=9TORCfXYy2Qz2mgZl0oCx9vtL

《深度学习》第二章目录。

bkDuh8OUjNMAXGyhSa0kJ0TvRyskqw5olWF=EacH

miHNBqw5SB=dYX1k35qIEm8ztpJCClaxDQLfilxm

博客目录。

纯符号的公式推导可能令人觉得过于抽象,在博客中作者一般先列出具体案例,再给出符号表述。

例如,用带彩色的数字方阵来解释基本定义:

dXJMEuxacM8UuoCDETgoJ6hzlrs=wfyNceDldUq1

标量、向量、矩阵、张量的区别。

符号表述:

efSQaxYZQI2cp6IbNzgNubcAsyvqErjXeH4tJxcN

再给出 python/numpy 示例代码:

GuMQJxLtjOYYOlcgMuNYLtPFKdJ6ZBzfRjAEVNkY

用 numpy 构建数组。

对某些运算关系,作者给出了直观可理解的图示:

irlDaCTVXKkQLb9PUFRgrO7R0QQHB5CIktbMy90k

单位圆和由矩阵 A 变换后的椭圆,其中的向量是 A 的两个特征向量。

对于某些较为复杂的对象,作者还给出了函数可视化和交互界面。例如,在特征值分解的二次型变换问题中,二次型函数

RYaRYpRRM398HocII6C5y819InJuPVIicBwYCte9

其正定型、负定型、不定型的可视化:

EPNowm3TSYMc7Bqeijq1e0NxKyk8c5JO8cpdRY2H

正定型函数的交互界面:

zccA4nY2lMcq0mv1pYugKuPQZWtJpvUT1aYAYBXa

最后一个小节的 PCA(主成分分析)问题,是对之前介绍概念的综合运用,读者可以将其作为自主练习。

QJ1dT0cip60G3zgGvCwhnh4HNP7RwSuO5fHmMVIs

PCA 作为坐标系统变换问题。

0aiVIvb2hw81K3CxXK2SNtGNKplvv69KTwNBa3tp

协方差矩阵的特征向量。

PZWhh=dZIDcFJgmbHSguzxjG920Gx6WjUiAf2q=n

旋转数据以在一个轴上得到最大方差。

祝大家学习愉快!

推荐阅读