企业大模型微调项目落地实施最核心的关键团队主要有两个:懂专业业务知识的业务团队和专业人工智能技术应用团队。
大模型本质是基于语料预测文本出现概率,通用大模型仅针对公开通用数据进行训练,无法理解证券业或者银行业的专业业务知识,所以大模型微调的本质,就是通过业务人员的专业标注,使大模型学习到专业知识逻辑,才能真正为业务场景所应用。
团队中需有业务专家、算法专家、架构专家、数据专家。业务专家主要负责对场景的业务逻辑通过标签体系、知识图谱、数据标注等方法,将专业业务逻辑进行形式化表述;算法专家需要设计模型调优具体方法,将形式化表述的业务逻辑“喂”给模型,进行模型微调,让模型学习到业务知识;架构专家负责进行模型离线训练和线上推理的架构设计,提升模型训练调优效率,并能支持最多的线上并发应用;数据专家对场景应用需要的安全性、全面性、完整性进行相关支持。
所有人员共同完成具体场景的落地建设,才能切实解决真实业务问题,并充分做到业务赋能。其实真正落地没有所谓完全正确的方法论,集合所有能调用的资源,真正对业务产生价值才是目标。