三字诀

1、组

2、拆

3、截

 

组:组合,元素通过组合,形成新的元素,越底层的元素,拥有越多的组合

拆:分解。将现成物品分解成底层元素,庖丁解牛。

截:所有流程都是线性(广义),通过截断(插入)新的流程来改变原有的轨迹。

系统思维

系统思维

系统与涌现

系统

系统是由一组实体和这些实体之间的关系所构成的集合,其功能要大于这些实体各自的功能之和

涌现

指系统在运作时所表现、呈现或浮现的东西,是系统思维的目标,同时也可以体现出系统思维的艺术

1、确定系统及其形式与功能

形式

形式是指 这个系统是什么样子的

功能

功能描述系统能做什么

功能是由过程+操作数组成的

2、确定系统中的实体及其形式功能

具备形式和功能的实体

确定如何将系统初步分解为恰当的实体

1、用整体思维找出系统中的潜在实体

整体原则

每个系统都作为某一个或某些个大系统的一小部分而运作,

同时,每个系统中也都包含着更小的一些系统。

要整体地思考这些关系,并研发出与上级系统、下级系统和平级系统相协调地架构

已知的不确定物

未知的不确定物

2、集中注意,找出系统中的重要实体

在聚焦过程中,关键要把当前的疑问、状况、难题确定出来,
并把其中的最重要方面凸显出来

3、为实体创建抽象或从实体中发现抽象

4、定义系统的边界,并将其与外围环境隔开

3、确定实体之间的关系

实体之间必须要具备关系

形式上的关系

结构关系

功能上的关系

交互关系

4、涌现

基于实体的功能以及实体之间的功能互动,来确定系统的涌现属性

预测方式

1、根据以前做过的情况来预测

2、做试验

3、建模

系统所涌现出来的功能,依赖于系统中各实体的功能以及实体之间的功能交互。

机器学习的数学基础

 

机器学习的数学基础

1.      现代数学

1.1.       概率论

1.1.1.    说明事物可能会怎么样

1.2.       数值分析

1.2.1.    分析揭示为什么这样,以及如何变成这样

1.3.       线性代数

1.3.1.    事物从来不只有一个样子,使我们能从多个角度观察事物

2.      相似性的度量

2.1.       两个向量之间的距离计算,在数学上称为向量的距离,也称为样本之间的相似性度量

2.2.       范数

2.2.1.    向量的范数可以简单、形象地理解为向量的长度,或者向量到坐标系原点的距离,或者相应空间内的两点之间的距离

3.      各类距离的意义与Python的实现

3.1.       距离公式

3.1.1.    闵可夫斯基距离

3.1.2.    欧式距离

3.1.3.    曼哈顿距离

3.1.4.    切比雪夫距离

3.1.5.    夹角余弦

3.1.6.    汉明距离

3.1.7.    杰卡德相似系数

4.      理解随机性

4.1.       蝴蝶效应

4.2.       确定性与随机性

5.      回顾概率论

5.1.       概率论基础

5.1.1.    样本

5.1.2.    样本空间

5.1.3.    随机事件

5.1.4.    随机变量

5.1.5.    随机变量的概率分布

5.2.       贝叶斯公式

5.2.1.    贯穿机器学习总随机问题分析的全过程

5.2.2.    从文本分类到概率模型,基本原理都是贝叶斯公式,它是机器学习领域最重要的基础概念

6.      多元统计基础

6.1.       随机向量的联合概率分布和边缘概率分布描述了对象特征间的概率关系

6.2.       在机器学习中,对象及对象构成的矩阵都是多元数据,因此,所有与概率相关的算法都以对象的联合概率分布和边缘概率分布为运算基础

6.3.       多元统计算法

6.3.1.    朴素贝叶斯分析

6.3.2.    回归分析

6.3.3.    统计学习理论

6.3.4.    聚类分析

6.3.5.    主成分分析

6.3.6.    概率图模型

7.      特征间的相关性

7.1.       随机变量的数字特征 规律性

7.1.1.    期望

7.1.2.    方差

7.1.3.    协方差矩阵和相关系数

  • 相关系数
  • 马氏距离

8.      再谈矩阵-空间的变换

8.1.       由特征列的取值范围所有构成的矩阵空间应具有完整性,即能够反映事物的空间形式或变化规律

8.1.1.    向量

8.1.2.    向量张成空间

8.1.3.    向量的空间变换

8.1.4.    向量组与矩阵的变换–理解矩阵乘法

8.1.5.    线性变换–特征值与特征向量

9.      数据归一化

9.1.       数据标准化

9.2.       对欧式距离的标准化