找回密码
 加入怎通
查看: 422|回复: 4

大模型开发路径主要有哪些?

[复制链接]
heshao 发表于 2024-08-29 16:27:34 | 显示全部楼层 |阅读模式
  近年来,大模型在全球资本市场和技术市场掀起狂澜,已经成为人工智能发展的重要方向之一。它被广泛应用于图像识别、语音识别、自然语言处理等领域。那么,大模型开发路径主要有哪些?下面就让小编来为大家简单介绍下:
& C4 ~/ `$ q& H" O3 R* }6 W
/ P. u" a2 U, O: A+ m  g  目前大模型的开发主要有两种路径,一种是从头构建完整大模型;另一种是在开源的通用大模型之上调优。前者所需数据、算力、时间投入较大,但大模型的性能更为突出。后者模型的参数和能力受限于开源模型,但成本较低,可以快速形成所需的大模型。
( P  G/ _  h5 i0 Q
7 {7 Y5 v6 O9 e  完整大模型开发流程:
% @" X3 K( w* \1 U( k3 }
( J; I2 K; s, ?: p* J  首先是训练构建基座模型。基座模型已经初步具备良好的知识框架和认知能力,但需要复杂指令的准确引导才可以生成正确内容,因而一般不能直接用于作为日常交互。7 K$ |/ k" E- H6 s

4 o" v# c: D$ c# j3 B  其次是策略精调。目的是让模型具备适用性,能与人类正常交流,即让基座模型理解用户想问什么,以及自己答的对不对。这个环节主要通过高质量的人工标注<指令,答案>优化模型。
1 t) W9 M% S' X/ \
& Z& U5 F  {" R. t  第三步是训练一个独立于基座模型的判别模型,用来判断模型生成结果的质量,为下一步的强化学习做准备。
! `6 Q" u. H7 R" x: p2 q' N) K
5 u2 @5 @  X, N1 o8 b* a  最后一步是利用奖励机制优化基座模型,完成模型的领域泛化能力。本阶段无需人工标注数据,而是利用强化学习技术,根据上一阶段判别模型的打分结果来更新内容生成模型参数,从而提升内容生成模型的回答质量。
0 Z* G% ]5 V# K5 ?; G  J& }9 g2 V" }/ W
  关于大模型开发问题,小编就先为大家介绍到这里。值得注意的是,大模型定制开发的过程始于需求分析,开发团队需要与客户或项目相关方进行充分沟通。小编这里为大家推荐分形科技公司,具体服务内容,大家可通过公司官网咨询了解。% r( G1 Y. V) w- R  M( n. i+ g
+ I! W; O8 }/ L8 S6 }5 ~

暂时无法加载帖子列表

回复

使用道具 举报

wang_wei 发表于 2026-07-15 11:45:53 | 显示全部楼层
楼主辛苦了,整理这么多内容,必须点赞收藏
回复

使用道具 举报

西万路小混混 发表于 2026-08-04 17:54:03 | 显示全部楼层
学习到了,之前一直没注意过这个点,受教了
回复

使用道具 举报

外链专属 发表于 2026-08-23 11:54:45 | 显示全部楼层
完全赞同,我也是这么认为的,英雄所见略同~
回复

使用道具 举报

偲淰湜伤 发表于 2026-09-21 13:25:31 | 显示全部楼层
分析得很透彻,很多细节都说到点子上了~
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-10-29 00:13 , Processed in 0.033907 second(s), 25 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表