想要搞ai大语言模型平台,其实是一件很困难的事情。
虽然自从chatgpt震撼面世之后,国内便迅速跟风,接连出现了数个类似的语言模型。
甚至于如果放宽要求,将所有尝试着跑马圈地的公司都计算其中的话,单只是国内,就达到了‘百模大战’的程度。
各种各样的‘大模型’,甭管是独立存在的,还是挂羊头卖狗肉的,总之把看上去还像那么回事的‘大模型’加在一起,总量甚至超过了一百三十个!
这其中便有郑弘毅偷偷摸摸搞的一个试验品。
受限于资金体量和公司这几年连续步入颓势的影响,郑弘毅根本不敢大张旗鼓的进入到这个全新的赛道之中。
生怕稍有不慎,一旦发展不好的话,再给本就状况不佳的公司当头一棒。
到时候若是股价一泻千里,那乐子可就大了。
可即便只是偷偷摸摸搞的试验品,过程中遭遇的那些困难,依旧让郑弘毅感到头大。
其中最麻烦的就是成本问题!
单纯构建模型的起始费用并不算高,大概一千万到一千五百万左右,就能粗略的搭建出一个大模型平台。
可基于大模型对硬件和训练的需求,可以明显的发现,随着模型的规模越来越大,训练的成本也会越来越高昂!
首先最起码的一个成本就是数据!
大语言模型是在包含庞大数据量的大规模数据集上进行训练的,除了开源数据集以外,任何公司想要训练出合格的大语言模型,都必须具备自身长期积累的各种数据集。
并且数据成本还涉及到数据的清洗、标记、组织和存储。无论是管理成本还是处理成本,都不是普通公司能玩得转的。
更让郑弘毅头皮发麻的是,想要搞好一个大语言模型,硬件成本同样是个天文数字!
目前被普遍应用在大语言模型上的gpu、既微处理器,是英伟达a100。
由于大语言模型对于gpu的巨大需求量,导致英伟达a100的价格水涨船高,从官方标定的一万五千刀售价,直接飙升到了三万刀,并且就算是这样,你也很难买到。
因为a100被全面禁售了……
这还只是单片的售价!
按照chatgpt目前的体量,想要满足chatgpt的需求,至少需要三万到四万片gpu……
而如果用户规模进一步扩大,最终达成足以支撑全球用户访问的目标,那需要的gpu数量,起码还得再提升一百倍,达到四百万片以上……
如此规模的硬件使用,意味着每天光是电费的消耗,就能吓的人心肌梗塞!
原本在搞清楚了相关大语言模型的成本需求后,郑弘毅便已经打算放弃这个赛道的竞争了。
以三六五公司目前的状况和对资金的吸引力来说,在这种如同资金黑洞一般的赛道里,若是强行打算介入的话,那唯一的结果就是成为炮灰。
可偏偏……在他已经打算放弃的时候,他发现了‘无界维度’平台!
刚发现‘无界维度’平台时,郑弘毅并没有放在心上,只以为是和许多小公司搞出来的平台一样,属于挂羊头卖狗肉的东西。
但简单的使用了下后,郑弘毅便敏锐的察觉到,这‘无界维度’平台和他想的完全不同!
穿越,我是吉祥物 江窈宋知闲 穿越没落小宗门,我带全宗踏九天 大天造化经 超宠!真千金被首富养父捡回家啦 古令仙缘 穿成继后,皇后突然对朕薄情寡义 无限流!从大逃杀开始! 离婚后,她到处跟人说他死了 盗墓青铜门之双生 小语浩博 乔予薄寒时 全民领主,王者开局拿下海月 抗日之忠魂传奇 听我爆料后,反派公爷手撕白月光 穿越之我的清冷美夫郎 苟道长生:从高考开始模拟人生 渔夫逆袭:开局救美,渔获满舱 只是小人物 王妃纯欲天花板,王爷没过美人关
第三届网络原创文学现实主义题材征文大赛参赛作品伸手就要摸到美男的胸肌,夏夕颜却被强行绑定了一个叫007的坑爹系统,丢到三千世界攻略黑化大boss。听到黑化二字,夏夕颜想都不想拔腿就跑。男色和命,命重...
穿越爽文,成了青岚宗的反派大师兄!只要按照原着剧情走,当个恶心人的反派,便能成仙飞升!无奈之下,林萧只能没事戏弄下四师妹,偷一手三师妹的衣物,往二师妹水里下点猛药,兢兢业业履行反派职责。终于熬到男主叶辰拜入师门这天!林萧兴奋不已,准备毒害男...
在这个丧尸遍布的世界里。我只想活下去。有错吗纯丧尸流,无变异无进化...
一朝睁眼,木婉成了古代家徒四壁的小农女一枚。她表示自己只想领着弟弟妹妹荣华富贵,生活无忧。咦,那个谁,你死乞白赖地凑上来做什么某人憨笑地说道呵呵,娘子,为夫来送你一副锦绣河山图。...
生前,晏暠一直不明白,明明是一母同胞的亲兄弟,为何父母总是偏爱弟弟把所有好的都给他,无论自己做什么都得不到关注。越是如此,晏暠便越是难受,越是不平,于是处处都和弟弟争。只要是弟弟想要做的事情,他也...
古初晴是赶尸一族的后人,随着时代发展,赶尸一族落没,想靠专业混口饭吃都成了问题。好在,她找了一份和赶尸很相近的工作,在屠宰场送猪肉。某天,一鬼提着一袋子冥币来敲开她家门,请她送他回乡。古初睛看着冥...