9.2024年风投或将回归加密圈。一些过度的AI炒作将转向其他地方。
另外，与小爱同学、OPPO 等合作伙伴的 “召唤小冰” 技能服务也将切换至小冰大模型。
论文地址:https://arxiv.org/pdf/2401.01792.pdf
站长之家(ChinaZ.com) 1月4日 消息:微软公司的研究团队最近提出了一种独特且简单的方法，用于生成高质量的文本嵌入。这种新方法仅使用合成数据和极少的训练步骤（少于1，000步），就取得了令人瞩目的成果。相比于现有的方法，该方法不依赖于多阶段的预训练和有限的标记数据微调，避免了繁琐的训练流程和手动收集数据集的问题，这些数据集通常在任务多样性和语言覆盖方面存在问题。
该研究表明使用大型语言模型可以显著提高文本嵌入的质量。该研究的训练过程极大地减少了对中间预训练的需求，相较于当前的多阶段系统，更加简洁高效。