知乎精选 | 目前对神经网络有哪些理论研究？

目前人工智能已经过了泡沫期，到了需要真正产生价值的时候了。

前面泡沫大，大家看到的都是“钱多”，“活好”，“高大上，有面子”，一窝蜂的往里面挤，最离谱的，经常能看到包括机械，生物等专业顶尖院校的博士毕业后转这个方向，放弃了自己多年所学，转过来做一些label工作（也不算夸张，这一行大部分时间不都在搞数据嘛），但是因为巨大的行业差距，一时不适应，很长时间无产出而黯然离场。

为啥大家会感到迷茫？相信更多的不是看到这个方向落地的现状而感到迷茫，更多的是从人才市场上直接的反馈而感到迷茫，为今年工作好不好找，钱多不多，能不能多拿几个offer相互抬身价而感到迷茫。

但是人才市场上的一切反应都是供需决定的，17.18年的时候，会训个ssd就可以横着走，你能讲出yolov3的名字，人家都呼你为大牛，那时候不会有人跟你关注算法推理性能优化，不会有关跟你关注工程并行。因为那时候行业火起来了，资本大量涌入，但是人没来得及进的来，市面上人太少。就像前年去年激光雷达的价格下来了，各个自动驾驶厂商疯狂堆激光雷达，市面上会搞点云运算，会搞slam的，马上就成了香饽饽。

会有很多人跟我们说，我们要追大势，跟周期，这句话没错，但是我们不能盲目。资本是无情的，今年芯片火，100万挖应届生都能干的出来，两年后行业泡沫下去了，裁员减员一样眼都不会眨一下。

而我们能做的，看准大势，然后知道这个大势下我们应该怎么建立自己的护城河，不能盲目。

人工智能是大势，至少未来十年二十年，国家站台的，而且人工智能相关算法确实可以解决很多行业难题，促进产业升级。但是在这个行业内，自己的壁垒怎么建立，就需要自己考虑了。但是，核心一点，我们如何能让给我们付钱的人赚钱（或者带来利益），这个人可以是自己的老板，可以是客户。

其实上面的核心一点说的很宽泛，举个例子，其他回答里也提到了，现在被各种培训班搞的烂大街的“火灾检测”，“烟雾检测”。我作为面试官的时候，也看到过这样的简历，问大家怎么做的？千篇一律，1. 采集数据，标注数据；2. 搞个yolov5的模型，训练模型；3. 服务端部署。当然这个回答，可以用到任何人工智能应用上，但是“火灾，烟雾”检测这个任务，在第一步就会出问题，如果目标数据是好采集的，那不是全世界都烧完了啊。你说，我要采集5000张火灾样本，才能训一个好点模型，这时候别说给客户带来价值了，客户估计得骂娘了。

做这个行业，有业务导向，有技术导向。业务导向很好理解，比如我要搭建一套系统搞“火灾检测”，面向的是使用我们技术的最终客户，我们的东西是实打实的给他们带来直接价值。技术导向，更多的是偏科研，我们研究出一套牛逼的技术，比如“transformer”，“tensorrt”，这些东西不直接服务具体的客户，但是可以给行业带来提升，更多的是各种学校，科研院所，企业研究院在做。因为我自己是业务侧，所以我会从如何在业务侧说怎么构建自己的壁垒。

可能大家很多人现在还在学校，或者刚毕业不久，对这块感受的不多。而我自己一直比较推崇的是，成为行业专家，不要给自己设限，要一专多能。

拿一个项目，比如“火灾检测”举例，要做出来，需要哪些步骤呢？

前提：市场调研出来，已经必须得做这个方向了，可研不需要考虑。

1. 明确应用场景，交付指标，后续软硬件的部署方式，以及数据获取与闭环方式，如果硬件也是自己提供，可以从这个地方起，降低项目复杂度。

2. 构建模型优化的闭环，数据如何使用？如何循环起来？用什么模型…

3. 构建算法工程并优化。确定部署环境，端边云，选什么？怎么跟上下游对接？模型怎么部署？模型算法怎么串联？bad case怎么优化…

4. 是做项目还是产品？功能如何沉淀？如何通过这个项目给老板给客户讲故事，让有人做更大的投入，好有更多的扩展开发，把项目/产品做大。

   以上，讲的很简单，做起来却很复杂，我们个人的壁垒可以从其中的一点开始，比如模型优化，做扎实了，再向外扩展。当我们能扩展到能以全局视角看项目/产品的时候，会发现，世界不一样了，我们如果上个红外摄像头，算法会不会简单很多，项目/产品的核心竞争力是不是更好构建？随着我们能掌控的范围越大，影响力越大，壁垒越深，目标越明确，迷茫越少。

   但是还是有一点，行业扎根深，也是双刃剑，我们也要沉淀底层技术与思考方式，让自己做到可迁移，毕竟谁也不能保证明天会怎么样？

   路漫漫其修远兮，迷茫不会给自己带来任何好处。自己想好后，要做选择，选择了努力干就完了，只是要时刻自省。

   出差候机时仓促行文，写的不好的地方大家见谅，希望能和大家共同进步。
   

五年前 我也有困惑 当时市场上人才少 真的是可以很好找工作 

7年前 有人花钱让我用caffe 给他们训练一个简单的模型 那会知道深度学习的人都不多

但是三年前我感觉很不一样了 好多人都进入了这个行业 个人也不想一直玩这些 调参加速部署等 觉得回国可能会卷不过

同期创业的伙伴 去读博了

我当时选择了做三维重建 点云 slam相关的算法 这个领域也可以结合深度学习做 但是要落地需要懂传统算法 优化等数学优美的东西

而这些东西比深度学习有壁垒

目前正要全职回国了 发现比三年前我的就业机会多了好多 

无人车 扫地机器人 vr 医疗 都可以做 

思路也更打开了 

面对海量的paper 也不焦虑了 

个人理解  对于普通人 人工智能或者dl模型这些只应该是技能的一部分 

应该构建其他的技能树 

比如最近上手了opengl 图形学可以跟cv有很好的结合 在合成数据 3d展示 数据标注等很多方面有用

虽然如此 关于dl算法 还是有很多新的方向不卷的 可以做

比如mesh 形变  可驱动的avartar 基于学习的三维重建等 但是这些领域也需要对这个领域的传统方法有了解 

个人比较推崇基于问题导向 思考有哪些可能的解决方案 

比如 ：给你一部手机 如何能够设计一个pipeline 得到人体左腿的一些参数 比如膝盖 大腿脚踝部位的周长， 这个手机假设可以给你扫描一个180度重建的腿的点云

一定要用神经网络么 这里可以用神经网络去 做 shape completion 就是补全点云 但是这陷入了收集大量的数据然后训练然后测量的一个很长的验证周期 

假设你老板只给你一个月时间去验证 可不可行 

那你收集数据的周期都不止一个月 即使收集到了 训练模型调到可以展示一个demo是不是更久

万一你花了三个月花费了 十万验证了不可行 

你让老板怎么想 

是 真的不可行么？不一定

如果你了解这个问题背后的其他知识的话 可能非深度学习的方案你会觉得可以更好更快的验证 

而且只需要收集几个数据就可以了

而要形成这些思路 一定不能忽视积累传统的cv领域的一些方法

这些领域如果有数学公式 有优化 那学懂了就是你的壁垒 

进可以 用写成可以differentiable的layer

退 你的解决方案至少有个很稳定的baseline

当然我说的这个方向不是分类目标检测这些被dl做烂的方向

我说的是一些三维点云mesh跟图像结合的领域

----------------------------------- 更新------------------------------------

看大家对这个话题很感兴趣 我多说几句

18 年那会热钱很多， AI + 医疗很热，那会觉得 自己也能勉强炼丹，打工没意思，就跟一个朋友介绍的人去创业了，那融资几百万人民币对投资人来说 都是毛毛雨，那会咱也是穷人炸富，一心要做大做强，各种峰会，demo等搞了一堆，但是实际落地0， 而且是在可见的未来依然是0，投资人也不懂，被ceo忽悠的反正都信，ceo那个人也是很会 to 投资人，他每隔一段时间 给投资人发一堆我们跟哪个哪个大公司开会了，要建立合作，反正是不管结局，各种信息轰炸，但是还是有精明的投资人不买账， 最后他的把戏玩不转了， 我呢，也觉得 AI 这个看似试用于任何疾病的一个技术，但是在我们这个没有医生的团队里 也发挥不出真正的作用，毕竟要先收集各种敏感的数据，救难倒了不少人，最后我还得回国搞数据，然后医生主要是想发paper 跟你也是同床异梦，及时团队有医生 那也得需要很久打磨验证，然后ai去诊断单个疾病也是不靠谱，医生也不这么看病的，感兴趣的可以看看我发的另一个帖子 讲ai+ 医疗的创业血泪史

后来铜锭思痛，想着还是得找个能落地的活干 就加入了现在这家公司，主要是做基于手机的三维重建，三年内做了三个大项目，好多小项目，核心是能落地，ai也不是全部，甚至不能算是核心技术，只能算是解决问题的一小部分而已， 在这个公司 相当于十八班武艺都能学一把，

比如收集数据 要自己搞个 app， android ios 就简单的可以撸了

比如数据要增强，用图形学的渲染自己搞了 各种合成的图像+ 点云

比如要 做各种 图像 点云的分割  学了很多深度学习非深度学习的方案已经知道如何结合业务场景去提升性能

比如 很多核心的模块 开发了要复用，c++就玩的飞起，各种模板化，设计项目时 数据结构跟算法分开等思想就用的逐渐得心应手

比如 什么时候结合 图像的 点云的，mesh的一些操作 去解决3d-2d的问题

去年面了国内的一波公司， 无人驾驶，arvr，ai四小龙，芯片，机器人等赛道，感觉跟高赞回答说的很像，落地对于很多公司来说真的是太难了

作为已经折腾过的人，找一个能结合业务场景稳扎稳打落地的公司 我觉得真的是靠谱的决定

总结一下， ai就像是那个皇冠上的明珠，他之所以发光放亮，那是因为被顶在了最上面，如果放到尘埃里，地里，就没啥用了，而能落地的业务就是这个顶着明珠的朴实的皇冠