移动支付网·· 27 天前AI 评分38
工商银行申请大语言模型训练方法发明专利,可降低灾难性遗忘概率
工行申请一项发明专利:关于大模型训练
AI 导读
工商银行一项名为“大语言模型的训练方法、装置、设备和存储介质”的发明专利于9月25日公布,申请时间为2026年5月29日。该方法通过第一大语言模型以第二大语言模型参数为初始值并添加领域专家网络,结合自回归损失项和蒸馏损失项进行训练。专利称在将大语言模型应用于特定垂直领域训练时,能够学习新特征并降低灾难性遗忘的发生概率。
来源:移动支付网 · mpaypass.com.cn