【AICC】2019训练营笔记
阅读原文时间:2023年07月15日阅读:1

1、AI

人工的方法在机器上实现智能:机器学习、计算机视觉、规划决策、自然语言处理、认知推理、高效搜索

2、三大学派

符号主义

连接主义:CNN

行为主义

3、两条路线

结构模仿

功能模仿

4、AI芯片

人脑结构

人脑功能

5、关系

人工智能 > 机器学习 > 多层感知机 > 深度学习

6、学习种类

规则学习

样本学习

自主学习

7、样本学习

分类问题:线性、非线性

回归问题:拟合样本曲线

空域延伸

时域延伸

8、样本学习问题

数据质量:稀疏性、小样本、偏见性、不均衡性

训练效率:收敛性、样本选择、并行化

模型规模:模型量化、模型裁剪、模型迁移

9、规则学习

从遵循规则到学习规则

专家系统---专业知识工程师

条件语言、逻辑语言

规则表==》数据挖掘

确定性逻辑=》模糊逻辑

10、规则学习问题

敏感性:鲁棒性、可重复性、可复现性

仿真成本高:延迟奖励、仿真误差、学习效率低

行为偏见:奖励偏见、局部极值、合谋欺诈

11、自主学习AutoML

12、流程:原始数据==》数据处理==》特征工程==》模型设计==》模型验证

13、自主学习:稀疏网络、多任务支持、技术复用、动态构建

------目标均衡、。。。、灾难性遗忘

14、智能系统:自组织、自学习、自适应

15、深度学习:张量、张量操作、计算图、自动微分工具、计算扩展包

16、PaddlePaddle

PaddleDection:Mask R-CNN 、YOLO V3、FPN、Casade RCNN、TridentNet

PaddleSeg:V-Net、Deep LabV3、ICNet(实时语义分割)

移动端:MobileNet

服务端:XCeption

17、流程:需求分析、技术选型、模型训练、模型调优、硬件部署、生产实测

18、PaddleSeg:车道线分割、地块分割

19、PaddleVideo

End-to-End

Two-State

视频定位:BMN、BSN

视觉检测:理解、编辑、生成

20、PaddleNLP

WordEmbedding

ELMO

GPT

BERT:基于基本语言单元语义建模

ERNIE:基于知识增强语义建模

文本相似度、问答匹配、情感分析、自然语言推断

词法、结构、语义

知识预测、句子排序、句子逻辑关系预测(因为所以、如果就、并且、尽管但是)

搜索CTR预估、搜索智能问答

ERNIE发展

任务:生成任务、篇章、匹配

行业:法律、医疗、金融

21、联邦学习

蜂巢联邦学习平台

谷歌输入法GBoard

TensorFlow Federated Pysyft

联邦学习、安全多方计算、差分隐私

FATE

搜索广告---逻辑回归

同态加密:加法同态、乘法同态

法国Snips

OWKIN

风险分析、营销分析

寿险推荐系统、客户贷款逾期率预测系统

XGBoost

LR