所以章闻铎的课题就是研究,在汤圆1.0的基础上,以大语言模型,即纯文本的方式来构建世界模型到底能做到什麽程度。
他的研究过程也不算复杂,只是比较累人,主要是测试在汤圆1.0微调的那些标注数据中哪些数据的作用更大更关键,以便为之後的数据标注方向提供指导。
说白了还是炼丹的过程,是放这个标注,还是放那个标注,放不同的标注之後再用探针去检测内部状态的稳定程度。
这些操作都是些脏活累活,并不需要用到博士阶段的知识,甚至一个电脑玩的溜的初中生都能操作。
真正需要耗脑子的是设计改进方案、提出假设、用实验来验证假设的部分。
有的时候一个理论能解释几个实验结果,但是再跑一次新的,结果又和理论偏离了,就只能再对理论进行调整,再根据暂时的理论来设计出对模型训练中有意义的调整方向。
这才是只有博士才能干的活儿,连ai都暂时还做不到。
当然,等到ai能做到自我演进的时候,那个时候才是真正的agi时代到来了。
章闻铎又是第一个到办公室的,他刚坐下不久,大门又开了,赵文渊走了进来。
看到章闻铎,赵文渊并不惊讶,两人总是最早到办公室的,有时候你早点儿,有时候我早点儿。
「早啊,章博士。」赵文渊说道。
「赵总早。」章闻铎坐在原地点了点头。
赵文渊却没进自己的办公室,而是直接走到章闻铎的工位边上,问道:「怎麽样?最近项目进展还顺利吗?」
章闻铎脸色一沉,说道:「不太顺利。」
这就是他的第二个烦恼了,基於汤圆1.0的世界模型研究撞墙了。
赵文渊听完来了兴致,从旁边拉了把椅子坐下来,问道:「我记得上周还有新进展,这次发现什麽问题了?」
章闻铎的组属於长期战略方向的组,没有短期内要出成果的压力,况且他们之前的研究已经有了不少进展,所以赵文渊并不担心,这个问题也只是出於领导对员工的关心而不是对项目的关心。
章闻铎说道:「赵总,最近几轮的探针结果,能力不仅没有提升,反而还有些降低。」
赵文渊接着问道:「你觉得是什麽原因?」
章闻铎想了想,说道:「我觉得应该是数据不够了。」
赵文渊惊讶地看了他一眼。