手机浏览器扫描二维码访问
162 网络的重参数化（第2页）
实际上，马斯克没有对这件事情抱有特别大的希望。在他看来，孟繁岐上次给出的方案已经好到非常离谱了。
在这个大家才刚开始复现DreamNet，还没把残差的原理和一些变种搞明白的时间点，孟繁岐已经针对各种不同平台的其他运算设备，做了相当多的实验。
从而通过优化算子结构，调整特定计算过程的方式，将这个核心的骨干网络参数量减少了接近十倍。
运算快了这么多，性能却没什么变化，这已经非常不得了了。
马斯克有这一问，也是私下里的随口一提。
但他名头太大，以往自己做的事情又太疯狂，导致孟繁岐听着他那颇为低沉，有磁性的声音之时，当了真。
还真以为这是个非常严肃认真的需求。
“自动驾驶的热度确实也快起来了，我专门针对这方面做点优化工作，也不算亏。”
孟繁岐一边利用着重生优势开始抄底一些车企的股票，一边开始着手实现一个巧妙的加速并且节省内存的方式。
这个新的优化办法叫做网络结构的重参数化。
这半年来，视觉方法性能的突飞猛进来自于孟繁岐提出的残差方法，也就是将y=F（x）变为y=F（x）+x。
这里的写法比较简便，将一系列复杂的操作，抽象归纳为F（），在实际运算过程中，这个F（）还是比较复杂的，往往需要算上好一会。
但在计算的时候，就有一个问题了，原本y=F（x）运算开始的时候，就不再需要继续存储x这个变量了，因为它已经在参与F（x）的运算。
在运算过程当中，它会变成其他的中间变量，然后最终变为我们所想要的y。
可在残差办法当中，y=F（x）+x，x这个原始的输入，是不能够舍弃的。
必须有空间一直被占用着，用来存放这个x，因为它还等着最后加上去呢。
在比较复杂，分辨率比较高的任务当中，这个变量的大小是相当可观的。
这种情况有没有办法可以规避？规避之后，残差方法带来的性能提升能不能不要被影响？
答案当然是肯定的，完全可以做到。
孟繁岐准备实现的这种结构重参数化，其最核心的思想就是模型训练和实际使用推理的分离。
首先构造一系列结构（一般用于训练），并将其参数等价转换为另一组参数（一般用于推理），从而将这一系列结构等价转换为另一系列结构。
在现实场景中，训练资源一般是非常丰富的，可以在大型的服务器上得到。
而推理的时候，计算资源往往会比较有限，因此大家更在意的是推理时的开销和性能。
想要训练时的结构较大，具备好的某种性质，比如性能特别好，准确率特别高。
但在推理的时候，则把结构变小变快，同时在数学上等价于大型的结构。
孟繁岐的这个新办法，就提供了这种可能，他相信，重参数+移动端网络的算力削减，将会成为自动驾驶领域的一大催化剂。最新网址：
本站网站:
我不花心，只是多情 反派手挽手，八零抖一抖 夜之牙一 娱乐：让你上台卖惨，没让你笑场 你要不要跟我告白 桂林山水甲阳朔 巧克力女孩 黑天使 冷暴力恐怖份子 弹琴不谈情 华娱：导演的快乐就这么简单 西有鹿鸣 狂舞巔峰 JULIET 来自宇宙的情书 荒岛求生后假千金爆火了 忘记 无解 莫名其妙爱上你 倾世狂妃：驯服腹黑王爷
星武战神
十年寒窗，一朝功成，临了却换得欺君罔上，永世为奴。有志难伸，有才难施，没落少年意外遭逢绝世败家女，咸鱼翻身，借势而起，修星武，研星纹，创神通，御美女，凭至宝星罗万圣图，掌运星河，武御苍穹。...
紫微女帝
紫微降世，社稷将兴天命之子…女玖闻，还有贪狼，破军，文曲，武曲诸星，以及大赤王朝开创以来最开明的大帝芸芸众生，会在他们的带领下走上什么样的未来呢？...
狩魔领主
这是一个技术宅拯救世界的故事。因沉溺游戏而疏远现实生活的宅男罗迪，是裂土中最具名气的游侠之一。然而一次穿越，却让他意外的进入了游戏世界，并回到了开服前两年这个微妙的历史节点上。覆灭的国家仍旧维系，心爱的女人尚未死于兽人的战火。亡灵的阴影还在边境徘徊，贵族们虚伪的面具还未摘下。在这一切尚未发生之际，罗迪发现自己所...
隐婚：我的老公是大佬
交往一年的平凡男朋友，突然变成顶级大佬是什么感觉？穆漓夕，女，二十六岁，大学毕业后嫁给了爱情，却用三年的婚姻证明了爱情和婚姻是两回事。被渣后，她决定余生只谈恋爱不结婚！遇上家境平凡的学霸唐同学，真的是偶然，在她的眼中，唐同学很完美，和她门当户对，没有穷困潦倒也不是大富大贵，性格也是好到没话说，妥妥的暖男一枚。她觉得，如果可以，也许能尝试再婚？谁知道，突然有一天，她发现了他顶级大佬的身份。她呵呵了，原来，她不过是顶级大佬吃惯了大鱼大肉之后，用来调节脾胃的清粥小菜，换换口味而已？罢了，一个男朋友而已，拜拜就拜拜，下一个更乖。这年头，谁还交不到几个男朋友？小奶狗小狼狗小鲜肉，比姐长得好看的，统统来一遍！...
亲爱的森林
各种失意后，乖乖女苏晓蔓决定放逐自己，旅途中故意迷失在大森林中。攀岩专家野外生存专家欧尚文在深山里做节目，最后一天遇到想自杀的苏晓蔓。为了救她，欧尚文违约错过了庆功宴的现场采访。两个人的世界从此不同这次特别的经历让苏晓蔓发现了一个全新的自己，声称从不为女人驻足停留的欧尚文变化也很大。当荒野中相遇相爱的两人回归城市，面对各种烦杂的人际关系和感情，各种麻烦纷至沓来。面对双方父母兄妹反对，前任的阻...
强势扑倒：国民男神女儿身
他是全校人人皆知的不良少年，老师教管不成，同学嘴边嘲讽的对象。只是翻身一转，他便成了混得了娱乐圈，征服得了军营的国民男神。某日，某男神将某人压在身下，开启撩汉模式，哥，外边都在传咱们搞基，不如咱们就坐实了这个名，如何？没想到的是向来只会把他扔出去的某人这次却是一个翻身，位置便来了个调换。可以，不过...