模型复用率<30%,产创融合后端架构别再各自为战
|
我原以为产创的后端架构就是把模型攒起来凑活,直到去年5月周三下午三点半,在数据标注部的会议室里,张姐拍着白板骂的那堆烂摊子,把我那点侥幸拍碎了。 那天是我跟着跨部门对接的第七天,本来只需要把几个新训的小模型挂到内部接口,就等着拿季度绩效的一半奖金——这是我跟部门组长年初聊好的,他说只要能把新模型接进去,额外给的。结果我一进会议室,就看见桌上摊着三个颜色不一样的接口文档,最左边那本是大模型组的,标着“私有部署,仅本组调用”;中间是内容组的,说“不兼容外部工具,必须走他们的中间件”;右边是算法组的,说“他们的模型跑在另一个机房,要先过他们的认证”。我问了句“那这次要接的新模型走哪套”,三个组的人异口同声说“我们不管,你自己找对应的人协调”。 我硬着头皮把三个组的接口都读了一遍,然后才发现——那三个组的模型,其实有七成以上的核心逻辑是能复用的,甚至连一些数据预处理的步骤都能直接拿,可就是因为后端架构各干各的,连个统一的入口都没有,才搞成了现在这个样子。张姐是标注部的负责人,那天她要赶一个品牌方的产品宣传稿,需要把三个组的模型分别串起来:一个出关键词,一个出初稿,一个做配图。结果她自己换了三套不同的参数,试了四个小时,最后还得找外包用付费API调了一遍,才勉强交差。她当时就跟算法组的人吵了起来,说“你们自己的模型连个统一调用入口都没有,我还要你们干嘛”,算法组的人也炸了,说“我们架构是按模型的精度要求做的,你们产创的别乱碰”。 我原以为只要把三个接口打通,就能把模型复用率提上去,结果跟张姐聊到半夜才明白,不是接口的问题,是后端架构根本没给产创留复用的空间。比如大模型组的私有部署接口,虽然精度高,但只允许他们自己的人调用,因为怕外面的人乱改参数影响他们的评比;内容组的中间件,是专门给他们的短视频脚本做的,只能传文本,不能传图片,而算法组的模型虽然能处理图文,但需要走他们的加密通道,因为怕数据泄露。这些限制,全都是为了各自组的KPI,根本没考虑过产创部的实际需求——他们要的是快,是能快速把模型串起来出活,而不是给每个模型单独搭一套架子。 我还想起哪年的事?哦对,前年我帮电商组对接模型,那时候他们的模型复用率比现在还低,也是各自为战,结果后来他们组的组长牵头做了一个统一的模型调用网关,才把复用率提了上去。但现在的情况不一样,去年5月那天,三个组的组长都盯着自己的季度绩效,根本不愿意把自己的接口开放出去,哪怕只是小范围的。算法组的组长说,要是把接口开放给其他组,他们组的模型精度评比会掉分;内容组的组长说,要是把中间件改得能传图片,他们组的脚本审核会出问题;大模型组的组长更绝,说他们的私有部署是公司给的专项预算,只能用在他们组的项目上。 我当时就跟张姐说,其实不用那么复杂,只要做一个轻量的中间层,把三个组的接口都封进去,让产创部的人只需要传一次参数,就能调用所有模型,而且能根据需求选哪个模型跑哪个步骤。张姐听了觉得可行,就拉着我找三个组的组长谈,但谈了三次都没谈成,最后还是算法组的组长松了口,说只要不影响他们的模型评比,就开放一部分接口给中间层。我花了三天时间把中间层搭起来,结果一测才发现,之前我以为能复用的七成模型,其实只有不到三成能直接用,剩下的四成还需要改参数或者加适配。不过至少那三成能用的,让张姐那天晚上的活提前了两个小时交,她后来给我买了一杯冰美式,说“算你小子帮了大忙”。 我原以为这次的事能推动三个组把后端架构统一一下,结果过了没两周,三个组的组长又各自改了接口,把中间层适配的那部分给改了回去。理由还是一样的,要做自己的项目,要保自己的绩效。现在那个中间层我还留着,偶尔帮张姐搭活的时候还能用,但大部分时候还是要跟三个组的接口较劲。 其实模型复用率低不是最可怕的,可怕的是后端架构各自为战,连个基础的复用空间都不给。要是每个组都只盯着自己的模型和KPI,不管产创的实际需求,那模型就算有八成能复用,也还是要拆成三半用。张姐后来跟我说,她带的标注组现在最头疼的就是这个,每次接产创的活,都要先跟三个组的人确认接口,然后自己做适配,有时候甚至要重新写一套代码,根本没精力在模型复用上下功夫。
文章配图,仅供参考 我现在每次搭模型接口,都会先看看有没有其他组的模型能复用,哪怕只能用一点,也会跟对应的组沟通。但我也明白,光靠我一个人没用,除非上层能逼着后端架构往统一的方向靠,不然每个组还是会自己干自己的。这不是哪个组的错,是考核的问题——现在的考核都是按组算的,谁也不愿意把自己的东西拿出去给别人用,怕影响自己的分数。要是能有一个跨组的考核指标,把模型复用率算进去,可能就不一样了。那天跟张姐吵架的三个组的人,后来我在走廊里碰见过。大模型组的人说,他们组现在又加了一个新模型,还是私有部署的;内容组的人说,他们的中间件又改了,还是不兼容外部工具;算法组的人说,他们的模型精度又提了,还是走自己的机房。我没跟他们说中间层的事,说了也没用,他们只会觉得我多管闲事。 我后来查过,业内很多公司也有这个问题,模型复用率低,产创后端各干各的,原因都是一样的:组级考核,架构不统一,没考虑产创的实际需求。我觉得要改,就得从考核和架构两方面改,不能光盯着模型本身,得给复用留空间,给产创留通路。不然再过几年,模型再多,也还是散沙一片,产创部的人还是要累死在接口上。 对了,我之前写的那个中间层,其实可以改成一个通用的模板,只要改几个参数就能适配不同组的接口,但一直没敢推,怕其他组说我越界。等这个季度过去,我打算找组长聊聊,看看能不能把这个中间层当成跨组的公用工具,至少先把模型复用率提上去再说。 其实也不用太悲观,至少那天跟张姐说的三成复用,还是能用上的。要是每个组都能拿出一点空间,别那么紧着自己的KPI,可能这三成还能多涨一点。但怕就怕,大家还是各干各的,最后模型堆成山,能用的还是那点,产创的活还是得慢腾腾地做。 (编辑:站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |


政策赋能产创融合:系统工程师的链式创业机遇
后端架构师齐聚:共探技术演进与未来架构趋势
