¼Œ随后放下杯子,身体微微前倾,双手交叉放在桌面上。
他环视了一圈在座的高管与股东,开口将会议推向了今天真正的核心议题。
“好了,各位。财务和硬件的常规事务就先说到这里。下面,我们来进行今天会议的另一项核心问题的讨论。”
奥特曼神色严肃地按了一下桌上的遥控器,会议室前方的巨大液晶屏幕上,立刻切换出了一组复杂的数据对比图表。
图表上展示的,正是他们目前正在秘密训练的下一代旗舰大模型在各个领域的测试得分。
在自然语言理解、文本生成、代码补全以及多模态图文识别等项目上,代表他们公司的蓝色柱状图都高居榜首。
但是在屏幕最右侧的复杂逻辑推理与高等数学问题这一栏里,蓝色的柱子却显得低矮,甚至与上一代模型相比,并没有拉开实质性的差距。
“正如大家在内部测试报告里看到的那样,目前我们的大模型,在数学和深层逻辑推理方面,依然存在着明显的短板。”
奥特曼指着屏幕上的那处凹陷,语气沉稳地分析道,“我们现有的架构,本质上依然是基于概率统计的词汇接龙。”
“它很擅长模仿人类的语言习惯,但在面对需要严密逻辑链条的数学问题时,往往会出现严重的幻觉,甚至连一些稍微改变条件的初等算术题都会算错。”
会议室里的众人都看着屏幕,没有人插话。
在座的都是行业内的明白人,自然清楚这是目前整个生成式AI行业共同面临的底层缺陷。
奥特曼收回目光,竖起一根手指:“针对这个问题,工程团队给出了传统的解决方案,那就是继续扩大参数规模,用更多的算力、更大规模的合成数据去进行大量训练。”
“但是,作为公司的负责人,我必须向各位指出,如果依照现在的形势和老办法继续开发下去,我们将面临三个严峻的后果。”
“第一,这会大幅度加大我们被竞争对手追赶上的可能性。因为堆叠算力的路线大家都在走,边际效应已经开始递减。”
“当我们花费几个月的时间去训练一个大参数模型时,谷歌他们完全可以用同样的算力把差距抹平。”
奥特曼竖起第二根手指,目光落在了左侧几位代表投资机构的股东脸上:“第二,这种盲目扩大规模的做法,会大幅度消耗我们的有关预算。购买更多的显卡、建设更大的数据中心、支付高昂的电费,这意味着我们需要开启新一轮的巨额融
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 版本书院 All Rights Reserved.kk