深度学习问题交流

183 1211
  • 全部
最热 | 最新
  • 这是直接淘汰掉大部分人吗?
  • 就是数据和模型两个方面来看,数据方面,样本是否足够,样本数据是否干净;模型方面,模型深度和复杂度是否满足当前需要,是否有做网络的优化,比如加 bn,加残差网络等,损失函数是否选择合理,训练过程中,batch 选择是否合适,是否有足够的迭代次数等等~
  • 💡深度学习如何找创新点??? 🎈最近很多伙伴问我深度学习模型怎么找创新点,希望我写一篇笔记专门来讲,如果实在做不出来只想水个毕业论文的话,我总结了一些自己的看法,希望能给大家带来些启发: 1⃣️ 首先你需要找一个研究方向中比较新的容易复现的模型代码,读懂跑通它,把它作为你的baseline,这样可以做到起始指标不会太差 2⃣️ 接着在这个模型上进行魔改,加上深度学习领域中比较火的模块,例如加各种残差模块,注意力机制模块,循环模块,还有很火的transformer模块;或者用各种新型的深度卷积,可变形卷积代替普通卷积;还可以尝试一些比较火的概念,例如有监督做成半监督无监督,知识蒸馏,元学习,对比学习之类,看看能不能加入到你的模型中来。我举例的可能只针对cv方向,总之就是各种尝试魔改,没有思路就去看别人论文怎么做的。除了各种顶会大佬的文章,建议有空可以看一些比较水的中文期刊论文,国内硕士论文,看多了会发现普通人的创新点(套路)大多类似,可以从中找到很多灵感,也可以多看看其他相关领域的文章,不一定只看自己研究方向的 3⃣️ 接下来就是把模型训练好,做到把指标提高,或者计算速度提高,或是把网络轻量化,效果好的话都可以作为你的创新工作,然后就是要把故事逻辑讲好就行了,网络学习都是黑盒子,说不清里面具体哪里起了哪些作用,只要能证明你做的工作是有效果的就可以是创新点啦! 最后祝大家科研顺利,更多经验分享可以看我主页~
  • 深度学习图像识别(二) 1.图像识别一般有两种任务: 目标分类:你给它一张图片,它告诉你这里面的是哪一类物体。 目标识别:你给它一张图片,它告诉你图里的有哪些物体,并把他们一个个框出来。 2.如何套用现有的一些先进的图像识别模型 ①当有的人发明一些深度学习模型后,他很可能会发一些论文,同时附带代码。这些代码一般放在一个叫Github的网站,我们可以去这个网站搜索并把代码下载下来。 这些代码一般是用python语言写的,里面有很多内容,你只需要找到并看懂的就是官方写的说明书,说明书一般叫readme。 ②根据说明书,我们一般需要先安装运行程序所需要的库(你可以理解为一些插件),代码仓库里会有一个文件叫requirements.txt,里面记载了需要的库和最低版本,一般使用后面这句代码就可以帮你的python自动安装所有需要的库:pip install -r requirement.txt ③下载预训练权重:官方会帮你训练好一个预训练权重,使用这个预训练权重已经可以识别经典的类别,如人、车、动物等。 它提供了基础的学习经验,你可以理解为我们不需要将网络从婴儿开始教起,可以从高中生开始教起,那么训练就会很容易。 ④根据说明书中要求的格式准备好数据集,并将它放在说明书中规定的位置。 ⑤调节参数,开始训练:网络里可能有很多超参数需要自己设定,但如果你不懂,可以按照默认来,除此之外只需要设定下面几个参数: epoch:把每一条数据集比作书本的一面,整个数据集就是一本书,一个epoch是指把这本书看完一遍。 batch_size:指这本书每次看多少页,这个参数越大,训练所需要的时间越短,但需要的内存越大。如果你看到报错:out of memory,说明你的设备内存不够,这时调小batch_size可以解决问题。 class_num:分类数量,也就是你这个数据集总共有多少个分类。 如何启动,说明书里有说。 其它说明可以看最后一张图,如果想看更多内容可以关注我哦
  • 关于冗余度的思考 | 冗余度,我把它理解为信息量和编码长度之间的关系,同一个信息量,编码长度越长,冗余度就越大。 吴军老师利用冗余度,对比了《史记》和《圣经》的信息量,证实了中文简洁是完全有科学依据的。 这让我想到,学中文的难度之一是:在简洁的文字下,如何做到完全接收和理解信息。对比英语:汉语没有动词的时态、单复数、语气词等,名词也没有数量和阴阳信息,然后被省掉的这些内容,都需要结合上下文,自主摸索,就会导致大量的主观偏差,增加了接收难度,更别说理解误差。 如何解决这种难度呢?我认为小学老师已经再给我们铺垫基础了,但是介于学习的浮躁性,很多同学完全没有意识到归纳段落大意、中心思想的重要性。当然,曾经的我也是这么浮躁的学习的,导致现在处理和学习大量的知识时,从感觉过眼云烟,看了很多,看时激动,看完啥也记不得的状态。 从事运营开始,发现要学的知识越来越多,越来越明白会学习的重要性,然而学习的第一步,就要具备提炼框架的能力,因为冗余度太大了,而我们的思考空间有限,这带来脑子不够用的感觉。 那如何才能提炼知识框架呢?后期具体以文章分享给大家吧。
  • 财务人员学习 除了会计专业学习外,推荐学习软件应用方面知识; 1、《DAX权威指南 第二版》 2、《DAX设计模式 第二版》
  • “宝万之争”这个著名的故事,对于公司金融、公司治理来说,启发是什么?其实给我们最重要的启发就是,所谓“门口的野蛮人”,他们真的不是野蛮人,他们其实对于公司的治理起到非常重要,而且正面的作用,正是因为他们的存在,才会倒逼这些企业的高管兢兢业业地为股东服务,来最大化企业的价值。否则,野蛮人就会来“叩门”,你就会像南玻A的董事会成员一样,被“血洗”,被换掉,丧失了公司的控制权,也丧失了在公司里边的职位。
  • 大蓝的抖音培训如此的烧脑
  • 为了理想的工作而努力,积累经验,我要成为一名合格的人事。加油!_(:з」∠)_
  • 数据决定算法。样本量是否足够,是否均衡。loss 函数的选用………
  • 这个问题跟你职称不匹配啊