声明1该文章整理自网上的大牛和机器学习专家无私奉献的资料具体引用的资料请看参考文献。2本文仅供学术交流非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益还望海涵并联系博主删除。3博主才疏学浅文中如有不当之处请各位指出共同进步谢谢。4此属于第一版本若有错误还需继续修正与增删。还望大家多多指点。大家都共享一点点一起为祖国科研的推进添砖加瓦。文章目录声明〇、写在前面一、粉丝小福利二、令人头疼的数学三、人生苦短我用python四、三两个三方库五、深。。。深度。。。深度学习理论六、一大波DL论文来袭七、有哪些知名会议呢八、你知道知识图谱吧九、DL框架哪家强9.1、TensorFlow9.2、PyTorch十、欢迎来到神经网络游乐场十一、毛遂自荐可还行十二、总结一下下参考文章〇、写在前面可以去我的WX公众号回复【福利】获取更多资源最近没有怎么发博客趁这个机会总结一下2019年已经是深度学习大火甚至热度下降的一年了我们的小伙伴应该抓紧机会赶上最后一波热潮依照我目前的学习经验和采坑总结学习深度学习的最佳学习方法莫过于【视频博客书籍】 总结【视频博客书籍】这三个我将把自己【目前学过的】以及【大佬推荐的】都在这篇博客文章中全部展现出来力求全面实用至于【总结】部分则是在于个人的发挥【所谓师父领进门修行在个人】虽然我不是师傅但是也希望能为你的未来方向提供一些力所能及的帮助。博主将为各位趟河踩坑保驾护航咱们一起冲冲冲上帝是公平的所以世间的一切都是等价交换只要你不辜负时间时间也必然不会辜负你最后说一下什么叫做【学习】有好多小伙伴包括博主本人都有点急躁但是【学习】是【学】然后【习】的过程即认真学习努力实践乐于分享。不要忘记计算机科学技术的核心就是【分享】不要闭门造车那实在是浪费时间如果你觉得本文有用还请点赞关注收藏这样就能让更多的人看到。如果本文有不足或者不正之处欢迎指正批评感激不尽如果有疑问欢迎留言绝对第一时间回复一、粉丝小福利推荐一个可以搜索一些pdf版的电子书的网站——鸠摩搜书https://www.jiumodiary.com/比如搜索【深度学习】下文中提到的一些书都可以去其中搜索或者也可以直接百度不过百度的坑比较多但是也是可以尝试的再或者脚本之家https://www.jb51.net/books/如果实在找不到也可以直接去CSDN的下载区下载https://download.csdn.net/淘宝找一个商家下载即可一般也就一两块。二、令人头疼的数学其实我也懂大家也懂很多人避而不谈或者绕开深度学习的主要原因是听到了数学数学基础内容过多基本上把大部人劝退了。。。【立即推 放弃】其实如果你读过工科本科因为我是工科本科【吉大】的小伙伴有吗就一定学过高等数学、概率论与数理统计和线性代数这三门课这就基本上能够解决绝大多数的问题甚至说如果你只是想当一个掉包侠的话这些都不用全部掌握关于深度学习的境界划分在这里——大话卷积神经网络CNN干货满满可以看看自己是哪一个境界的小盆友。正文开始微积分其实个人感觉涉及的微积分知识相对简单积分很少微分也不是特别复杂花一天时间学一学就行。概率论与统计这个比较高深是应用在机器学习领域里最重要的数序分支。应用比如条件概率、相关系数、最大似然、大数定律、马尔可夫链等等还是得好好搞一下概率。线性代数数字图像本身就是以矩阵的形式呈现的多个向量组成的样本也是矩阵这种形式非常常见大多机器学习算法里每个样本都是以向量的形式存在的多个矩阵叠加则是以张量(tensor)的形式存在 Google 深度学习库 TensorFlow 的字面意思之一。凸优化这个需要单独拎出来说一下。因为太多问题尤其机器学习领域都是优化问题求最优凸优化是里面最简单的形式所以大家都在想办法怎么把一般的优化问题转化为凸优化问题。至于单纯的凸优化理论好像已经比较成熟了。在机器学习里经常会看到什么求对偶问题、KKT条件等潜下心花两天学一学。数学知识真的没必要系统学习效率低又耗时毕竟大家都有本科或者研究生的基础了这就足够了。目前感觉用的最多的就是矩阵论因为 TensorFlow 或者其他的框架都需要计算图的大小。再或者用到的时候学学完之后总结一下所以一定要活学活用网上的搜索资源比如 CSDN、知乎等等。如果想要学习这三门课——【高等数学、概率论与数理统计和线性代数】推荐宇哥张宇数学的课程直接B站搜就能找到。宇哥鼓励学生的一段话送给你无论你考没考过研希望你都能坚持一下再坚持一下张宇送给2018考生的最后一段话资源总结同济大学的《线性代数》浙江大学的《概率论与数理统计》同济大学的《高等数学》北大的《凸优化》林轩田机器学习基石/技法课件、作业和视频斯坦福大学CS229机器学习课程基础资料英文和中文版本《B站张宇数学》三、人生苦短我用python工欲善其事必先利其器作为深度学习的基础语言python这些年可以说是红得发紫承蒙粉丝们抬爱写过一个1.6W播放量的 python 的基础博客——用Python解决数据结构与算法问题一Python基础不过没有特别详细推荐学完了基础知识的时候再看一下以做位复习的资源内附几个例子可以用来练手。基础部分看廖雪峰的 python教程 就可以了我个人有看一些比较良心如果不喜欢在线学习的同学也可以使用这本书——《Python编程从入门到实践》极其的基础但是对小白来说非常友好还有几个简单的项目实战。有的同学会问是学 python2 还是 python3这么说吧python 核心团队计划2020年停止支持 python2也就是说 python2 马上就要说再见了肯定还是学 python3遇到之前的 python2 的代码再查找区别即可。python 学起来其实很简单看别人代码的过程就是学习的过程。对于不熟悉的用法多搜下官方文档如 pythonpython 的开发环境值得说一下因为有太多选择这里比较建议使用 pycharm 和 jupyter notebookAnaconda是一个用于科学计算的Python发行版支持 Linux, Mac, Windows系统提供了包管理与环境管理的功能可以很方便地解决多版本Python并存、切换以及各种第三方包安装问题。下载地址https://www.anaconda.com/download/Pycharm社区版免费下载地址https://www.jetbrains.com/安装教程AnacondaJupyter notebookPycharmhttps://blog.csdn.net/TeFuirnever/article/details/90646020Ubuntu18.04深度学习环境配置(CUDA9CUDNN7.4TensorFlow1.8)https://zhuanlan.zhihu.com/p/50302396资源总结廖雪峰的python教程《Python编程从入门到实践》两天入门python四、三两个三方库除了python之外还有很多常用的第三方库numpy、pandas、scipy、matplotlib、Seaborn、scikit-learn等等需要熟练掌握提到的这几个其他的遇到再学习使用即可。资源总结《Numpy练习题100题》《十分钟搞定pandas》《scipy学习笔记》《matplotlib学习之基本使用》《Seaborn简易入门》《scikit-learn学习笔记》《Scikit-Learn 与 TensorFlow 机器学习实用指南》《Scikit-Learn 官方文档》《Scikit-Learn 中文文档0.19》五、深。。。深度。。。深度学习理论认真的学习深度学习理论是关键深度学习理论首推这门课——网易云的吴恩达deeplearning.ai。离线视频https://pan.baidu.com/s/1ciq3qHo0lgoD3MLRwfeqnA 密码0kim。课件笔记论文https://github.com/fengdu78/deeplearning_ai_books作业https://github.com/stormstone/deeplearning.ai还有我个人依据课程写的 深度学习入门笔记系列《python深度学习》由Keras之父、现任Google人工智能研究员的弗朗索瓦•肖莱François Chollet执笔入门深度学习的同时还可以学习 Keras。英文版https://github.com/fchollet/deep-learning-with-python-notebooks中文版https://github.com/fengdu78/machine_learning_beginner/tree/master/deep-learning-with-python-notebooks李宏毅的一天搞懂深度学习课件pptpdf以及精心整理的目录——https://download.csdn.net/download/tefuirnever/11107293李宏毅《机器学习》https://www.bilibili.com/video/av59538266李飞飞的 CS231n 课程B站有 中英文字幕版课程知乎专栏 智能单元 有CS231N课程翻译非常好Fast.ai《程序员深度学习实战》视频地址B站地址(英文字幕)https://www.bilibili.com/video/av18904696?fromsearchseid10813837536595120136CSDN地址(2017版中文字幕): https://edu.csdn.net/course/detail/5192课程笔记英文笔记原文https://medium.com/hiromi_suenaga/deep-learning-2-part-1-lesson-1-602f73869197由ApacheCN组织的中文翻译https://github.com/apachecn/fastai-ml-dl-notes-zhCS230 Deep Learning秋季CS230视频列表https://www.bilibili.com/video/av47055599春季CS230课程大纲http://cs230.stanford.edu/syllabus/Cheetsheet斯坦福助教给出https://stanford.edu/~shervine/teaching/cs-230.html资源总结《深度学习》花书《深度学习 500 问》李宏毅机器学习笔记(LeeML-Notes)《动手学深度学习》《动手学深度学习》-PyTorch六、一大波DL论文来袭如果你是深度学习领域的新手你可能会遇到的第一个问题是“我应该从哪篇论文开始阅读”Papers with Code 这个网站叫做 Browse state-of-the-art。它将 ArXiv 上的最新深度学习论文与 GitHub 上的开源代码联系起来。该项目目前包含了 651 个排行榜1016 个深度学习任务795 个数据集以及重磅的 10257 个含复现代码的优秀论文。简直就是一个寻找论文和代码的利器。它将 1016 个深度学习任务分成了 16 大类涉及了深度学习的各个方面。比如目标检测的超全的文献 paper 列表资源总结大博主的正例论文资源——https://blog.csdn.net/zouxy09/article/details/8782018Papers with CodeGitHub地址https://github.com/zziz/pwcDeep Learning Papers Reading Roadmap七、有哪些知名会议呢会议NeurIPShttps://nips.cc/ICMLhttps://icml.cc/ICLRhttps://iclr.cc/AAAIhttps://aaai.org/Conferences/AAAI-19/IJCAIhttps://www.ijcai.org/UAIhttp://www.auai.org/uai2019/index.php计算机视觉CVPRhttp://cvpr2019.thecvf.com/ECCVhttps://eccv2018.org/program/main-conference/ICCVhttp://iccv2019.thecvf.com/自然语言处理ACLhttp://www.aclcargo.com/EMNLPhttps://www.aclweb.org/portal/content/emnlp-2018NAACLhttps://naacl2019.org/知名期刊:JAIRhttps://www.jair.org/index.php/jairJMLRhttp://www.jmlr.org/其它机器人方面有 CoRL学习、ICAPS规划包括但不限于机器人、ICRA、IROS、RSS对于更理论性的研究有 AISTATS、COLT、KDD。八、你知道知识图谱吧知识图谱是什么知识图谱是一种结构化数据的处理方法它涉及知识的提取、表示、存储、检索等一系列技术。从渊源上讲它是知识表示与推理、数据库、信息检索、自然语言处理等多种技术发展的融合。资源总结为什么需要知识图谱什么是知识图谱——KG的前世今生什么是知识图谱智能搜索时代知识图谱有何价值百度王海峰知识图谱是 AI 的基石译文|从知识抽取到RDF知识图谱可视化九、DL框架哪家强注♥ 表示推荐指数越多越好9.1、TensorFlowTensorFlow学习资料大全含入门指南、在线博客、视频教程、书籍推荐和实战项目等TensorFlow入门指南TensorFlow如何入门awesome-tensorflowTensorFlow - A curated list of dedicated resourcesawesome-tensorflow-2Tensorflow 2.x resources such as tutorial, blog, code and videosTensorFlow官网社区♥♥♥♥♥TensorFlow官网♥♥♥♥♥GitHubTensorFlow♥♥♥♥MediumTensorFlow官方维护分享最佳干货文章♥♥♥♥TwitterTensorFlow官方维护分享最快动态♥♥♥♥YoutubeTensorFlow官方维护分享最新视频♥♥♥♥♥TensorFlow官网(中国域名) 便于不能科学上网的人♥♥♥TensorFlow中文社区官方和才云科技TensorFlow 中国社区合作伙伴联合发起TensorFlow在线教程♥♥♥♥♥tf2_course第一个TensorFlow2.x系列教程作者是巨佬♥♥♥♥♥TensorFlow-ExamplesTensorFlow Tutorial and Examples for Beginners with Latest APIs♥♥♥♥♥TensorFlow-CourseSimple and ready-to-use tutorials for TensorFlow♥♥♥♥TensoFlow2中文教程TensorFlow2中文教程代码实战为主♥♥♥♥TensorFlow2.0-ExamplesTensorFlow2 教程代码实战为主♥♥♥♥EffectiveTensorflowTensorFlow tutorials and best practices♥♥♥TensorFlow-Tutorials-ChineseTensorFlow 中文教程 (Chinese Tutorials)TensorFlow视频教程♥♥♥♥♥Deep Learning basics with Python, TensorFlow and Keras 网址♥♥♥♥♥TensorFlow-TutorialsTensorFlow Tutorials with YouTube Videos♥♥♥♥Stanford CS 20SI: Tensorflow for Deep Learning Research (斯坦福TensorFlow教程)官网CS20SIGitHub(stanford-tensorflow-tutorials)B站视频♥♥♥Google 机器学习速成课程该课程虽然为Machine Learning但代码全使用TensorFlow有实战意义TensorFlow书籍资源♥♥♥♥♥Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition♥♥♥♥Hands-On Machine Learning with Scikit-Learn and TensorFlow 中文翻译♥♥♥TensorFlow Machine Learning CookbookTensorFlow实战项目TensorFlow/modelstensorboardTensorLayerDCGAN-tensorflowfacenetFastMaskRCNNSSD-TensorFlowCapsNet-Tensorflowtensorflow-generative-model-collectionstensorflow_poems9.2、PyTorchPyTorch资料学习大全含入门指南、在线教程、视频教程和书籍推荐等资源PyTorch安装教程UbuntuWindowsPyTorch入门指南Awesome-pytorch-listA comprehensive list of pytorch related content on github,such as different models,implementations,helper libraries,tutorials etc.知乎新手如何入门PyTorchPyTorch60分钟入门PyTorch官网社区♥♥♥♥♥PyTorch官网♥♥♥♥♥GitHubPyTorch♥♥♥♥TwitterPyTorch官方维护分享最快动态♥♥♥♥PyTorch官方论坛PyTorch中文文档教程知乎话题PyTorchPyTorch在线教程♥♥♥♥♥PyTorchDoc♥♥♥♥♥pytorch-tutorialPyTorch Tutorial for Deep Learning Researchers♥♥♥♥♥practicalAIImplement basic ML algorithms and deep neural networks with PyTorch.♥♥♥♥practical-pytorchPyTorch tutorials demonstrating modern techniques with readable code♥♥♥♥Deep Learning with PyTorchThis series is all about neural network programming and PyTorch!♥♥♥♥♥pytorch-bookPyTorch tutorials and fun projects including neural talk, neural style, poem writing, anime generation♥♥♥♥♥莫凡PyTorch教学Build your neural network easy and fast♥♥♥♥♥pytorch-handbookpytorch handbook是一本开源的书籍♥♥♥♥Dive-into-DL-PyTorch本项目将《动手学深度学习》(Dive into Deep Learning)原书中的MXNet实现改为PyTorch实现。♥♥♥♥PyTorch_Tutorial《Pytorch模型训练实用教程》中配套代码 PyTorch学习笔记PyTorch视频教程♥♥♥♥PyTorch - Deep Learning with Python♥♥♥Neural Network Programming - Deep Learning with PyTorch♥♥♥Intro to Deep Learning with PyTorch优达免费课程♥♥♥♥♥莫凡PyTorch教学PyTorch书籍资源♥♥♥♥♥Deep Learning with PyTorchLeCun力荐PyTorch官方权威教程书 github代码♥♥♥Introduction to Artificial Neural Networks and Deep Learning: A Practical Guide with Applications in Python♥♥♥♥♥《深度学习框架PyTorch入门与实践》githubPyTorch实战项目pytorch-examples官网示例pretrained-models.pytorchPretrained ConvNets for pytorch: NASNet, ResNeXt, ResNet, InceptionV4, InceptionResnetV2, Xception, DPN, etc.maskrcnn-benchmarkFast, modular reference implementation of Instance Segmentation and Object Detection algorithms in PyTorch.mmdetectionOpen MMLab Detection Toolbox with PyTorch 1.0pytorch-semsegSemantic Segmentation Architectures Implemented in PyTorchfaster-rcnn.pytorchssd.pytorchsemantic-segmentation-pytorchpytorch-pretrained-BERTtorchcvA PyTorch-Based Framework for Deep Learning in Computer Visionhttps://github.com/devnag/pytorch-generative-adversarial-networksPyTorch搭档工具PyTorch LightningLightning is a very lightweight wrapper on PyTorch.十、欢迎来到神经网络游乐场网站地址http://playground.tensorflow.org/#activationrelubatchSize10datasetcircleregDatasetreg-planelearningRate0.03regularizationRate0noise0networkShape4,2seed0.17410showTestDatafalsediscretizefalsepercTrainData50xtrueytruexTimesYfalsexSquaredfalseySquaredfalsecosXfalsesinXfalsecosYfalsesinYfalsecollectStatsfalseproblemclassificationinitZerofalsehideTextfalse可以调整数据分布训练集和测试集的比例有无噪声批大小特征神经元个数和层数学习率激活函数正则化与否以及大小分类还是回归。你可以尝试去改变相应的参数从而感受一下网络输出的变化进而体会到卷积神经网络的乐趣加油十一、毛遂自荐可还行推荐两个自己写的高质量博客大话卷积神经网络CNN干货满满【记录】一个深度学习算法工程师的成长之路思考和方法以及计划十二、总结一下下该博客会持续更新相关资源敬请期待。持续更新…如果你觉得本文有用还请点赞关注收藏这样就能让更多的人看到。如果本文有不足或者不正之处欢迎指正批评感激不尽如果有疑问欢迎留言绝对第一时间回复如果有幸帮到你请帮我点个【赞】给个【关注】如果能顺带【评论】给个鼓励我将不胜感激。如果想要更多的资源欢迎关注 我是管小亮文字强迫症MAX~回复【福利】即可获取我为你准备的大礼包括C编程四大件NLP深度学习等等的资料。想看更多文段章子欢迎关注微信公众号「程序员管小亮」~学习AI的同学可以看一下这个课程参考文章首发适合初学者入门人工智能的路线及资料下载完备的 AI 学习路线最详细的中英文资源整理TensorFlow-From-Zero-To-OnePyTorch-From-Zero-To-One大学四年自学走来这些私藏的实用工具/学习网站我贡献出来了【记录】一个深度学习算法工程师的成长之路思考和方法以及计划大话卷积神经网络CNN干货满满
