2023人工智能专题报告-AI大模型应用中美比较研究正式版.docx

园林媪OnIf三im三2023人H智能专题报告Al大模型应用中美比较研究AComparativeStudyofLargeLanguageModels(LLM)ApplicationsinChinaandtheU.S.2023刘洋雪、谷硕、何俊妮（钛媒体资深作者林志佳、副总编辑胡润峰对本报告亦有贡献）2023年9月关注公众号钛媒体国际智库对话框输入大模型免费获取报告全文目录一、大模型发展的前世今生41. Al42. .553. 8“”91. 20092. 133. “+”194. 205. 30Al321. .Al+332. AI÷373. Al+414. Al+455. Al+486. Al+517. Al+66教苜：美国侧重辅助教师，中国侧重应试交通：交通应用中国具备优势，智能驾驶中美处于竞争状态能源：中美在该领域渗透率均较低，处于探索时期68一总结四、参考来源：701/72t三fln三三刖百康波周期是描述宏观经济增长与技术革命间内在关系的重要模型，第一次工业革命以来，人类已经完整经历了纺织和蒸汽机技术、钢铁和铁路、电气和重化工业、汽车和电子计算机四轮康波周期，目前处于信息技术周期的萧条阶段，Al驱动的第六轮康波周期一触即发。以ChatGPT为代表的Al大模型的诞生,意味着强人工智能的时代即将到来,AlGC正在成为引发生产力变革的引擎，为了抓住第六轮康波周期的机遇，更是在未来的科技竞争中占领先机，中美两国在大模型的布局上不遗余力，两国的竞争不仅仅体现在大型科技企业之间，更是在应用领域也展开了对决。2023年以来，不仅仅是行业先行者，如谷歌、百度等大型科技企业纷纷推出自己的AI大模型，来割Jbpt、Inflection>Cohere×MinimaX名之梦、光年之外等创业公司也加紧融资，投身大模型创业。不过也应该看到基础模型的研发和训练非常昂贵，非常有实力的企业才能支撑起来，留给创业者的机会更多是在基础模型上做场景应用，这在一级市场上也有所反映。业内普遍认为，大模型只是配菜，真正要服务行业还需要上主菜，而这个主菜就是与实际业务场景相结合，商业模式自洽的应用，中美两国在各行业的应用上也进行了不同的探索。一般而言，具有数据量大、质量高、多样性强，技术需求高、创新能力强等特点的行业对大模型的接受程度也会更高，这也造成了在不同行业，大模型的渗透率也有所不同，其中在金融、政务、文娱、教育等渗透率最高，而相对在医疗、制造、能源、建筑等渗透率较低，从上半年一二级市场Al这波投资热可以看出，2/72T5XI1三三金融、政务、文娱、教育等渗透率较高的多个场景均得到了资金的青睐，而在港透率较低的行业，资金并不活跃。本报告从大模型的发展脉络展开阐述，并根据大模型在各行业的渗透进度,结合一二级市场的热度，对中美大模型在金融、办公、文娱、教育等行业的应用进行梳理，对比中美在大模型商业化场景价值各自的探索，旨在发掘中美在人工智能发展之间各自的优势，并以此提出中国人工智能发展的相关建议。本报告由钛媒体宏观研究部政策组资深分析师刘洋雪、能源组分析师谷硕、钛媒体国际智库总监何俊妮共同撰写。同时钛媒体技术与产业组体资深作者林志佳、副总塌Ul胡海峰对本报告亦有贡献，谨此致谢。3/72t三fln三三一、大模型发展的前世今生1.Al大模型的进化简史：从神经网络到预训练大模型195670自年，“人工智能”瞬曼嘏始，已经有菰一2。铮发展历餐舞历了三个发展阶段，即萌芽期（甫索视epLearning，发展黑fence年以后），不过真正大篇锣勺历史还要从年首次在上发袈弁始，不过在年之前，大模型的探索与学习的关注度并不是很高。2AIexNetImageNet年，战胜这一标志性事件，引发了行业对深度学习Al明芾注和研究,而谷歌、百度等行业先行者也是在这一时期开始重视的发展。3年，GoogleBrain项目发布了深度学习模型DistBeIief为大规模分布式训练奠定基础。2014年，被誉为21世纪最强大算法模型之一蛉AN（对抗式生成网络）诞生，标志着深度学习进入了生成模型研究的新阶段。201,Google又提出了Transfomerj这成为GPT发展的基础。说起TranSfOmer,那就不得不提那篇传奇论文AttentionIsAllYouNeed，这篇论文不仅仅成为大模型研究的必读参考文献，该论文的8位作者也成为大模型创投圈炙手可热的人物，据悉，该论文的8位作者，仅有一位留在了谷歌,剩下的7位纷纷加入了创业大军，他们创立的4家公司中，有3家成为独角兽，其中包括AdePt、CharaCter.Alpohere,而在这些独角兽背后站着的是谷歌、英伟达、SaIeSfOrCe等行业先行者。不过让人意外的是，作为行业先行者，谷歌并没有率先发布令市场轰动的产品，反而是一家2015年12月成立的创业公司，引领了接下来大模型的发展，这家公司便是OPenAI。4/72柩媒il三三201弹，OPenAl发布GPT1模型，标志着预训练模型在自然语言处理领域的兴起。2019年，OPenAl和Google又分别发布了GPT2苧ERT大模型，意味着预训练大模型成为自然语言处理领域的主流。2020年，大模型进入快速发展阶段，当年OPenAl推出了GPT-3,模型参数规模达到了1750亿，成为当时最大的语言模型，并且在零样本学习任务上实现了巨大性能提升。随后，更多策略如基于人类反馈的强化学习QHLF）、代码预训练、指令微调等开始出现，被用于进一步提高推理能力和任务泛化。202年11月，OPenAl推出了搭载GPT3,IChatGPT其逼真的自然语言交互与多场景内容生成能力，迅速火爆全网，202降上半年的Al热潮也就此展开。2023年，OPenAl发布超大规模多模态预训练大模型一GPT4,具备了多LLaMA-模态理解与多类型内容生成能力。谷歌推出PaLM2模型,Meta发布13B,微软基于ChatGPT打造NewBing,Windows全面集成Copiloto国内，百度率先发布文心一言，随后阿里、商汤、36华为等企业纷纷发布自己的大模型，复旦、清华、哈工大、中科院等学院派，也发布了各自的大模型，中小非上市公司印象笔记、医联科技、左手医生等也推出了行业大模型，市场进入了“百模混战”格局。2 ,5年后全球大模型市场规模破千亿美元，国内破千亿元人民币大模型作为通用性技术，在自然语言处理、计算机视觉、语音识别、文本识别、推荐系统等多个领域均能展现其突出的作用，如何判断其市场规模在学术上仍有较多的争论，不同机构根据统计方法的不同，所得出的结论也有所出入。5/72其中，根据大模型之家的测算，预计到2023年，全球大模型市场规模将达21020281095到亿美元，到年，其规模将达到亿美元。2020-202812oo年全球大模型市场规模（亿美元）图表1数据来源：大模型之家，钛媒体整理根据国际数据公司IDq页测，全球Al计算市场规模将从2022年的195.0亿美元增长到2026年的346.6亿美元。其中，生成式AI计算市场规模将从2022年的82亿美元增长到202年的109.9（乙美元。而中国庞大的市场需求和丰富的人才储备，为大模型的发展壮大提供了有利的客观条件，大数据之家预测，中国大模型产业市场规模将达到147亿元人民币，并在2028年达到1179亿元。6/722020-2028年中国大模型市场规模（亿元人民币）14001179图表2数据来源：大模型之家，钛媒体整理而IDC对基于大模型的Al市场规模进行了预测，预计中国人工智能市场规模在2023年将超过147亿美元，三J2026年这一规模将超过264亿美元。20212026rhJ国人T智能市场观""S¾）I30,0000202120222023E2024E2025E2026E图表3数据来源：IDC钛媒体整理尽管不同机构对大模型市场规模的测算有着明显的差距，但不可否认的是,对于大模型，市场都抱有较强的期待和较乐观的预期，这与近几年中美在大模型7/72T5XI1三三3 .小结通过对Al大模型发展史的梳理可以发现,AI的基础研究发源并发展于美国,在基础大模型方面美国具有开创性作用，而国内大模型厂商更多扮演者追随者的角色，不过国内人工智能市场规模大，增长速度快，这又对人工智能的发展集聚数据燃料，提出新的落地需求，中国人工智能或在这样的环境下，率先在场景落地上赶超美国。2FI÷.：三券，：二丁分行只、5i2f S2.号三分季：一号312、2人号J主&M 我宏誉W： FXiS4.全烫券就及麦4.*«：任天号2?£去交真野上一W无关0C兔I.9>tCWR:1aL4t*9tMKR：；«««.t*K««U.if'xHMm*.CH<e*H<H*u知炽星球行业与管理费建TiiF:专月分事三C8+行。年Z我去、莓匚沙艺、三5F,iXB3tS3772三5.fi蚊胃、XFSU«»«.三箜，.5T'三72f.三lSM、=干?'£2工1、Ar?身导二*5：子.TAJKflK三三二、大模型进入“百模混战”时代1,全球已发布大模型超200个，中美数量占全球的九成虽然ChatGPT点燃了大模型发布的热情，不过早在ChatGP啜布之前，全球已经发布了不少大模型，中国人工智能大模型地图研究报告显示，201诈美国已经有了4个大模型，而中国202(有了2个大模型，此后每年都有大模型发布，仅仅2023年的前五个月，中美分别有Iq1衿大模型发布。截至2023年5月底，国内10(乙级参数规模以上基础大模型至少已发布79个，而美国这一数字为100个，全球累计发布大模型202个，中美两国大模型的数量占全球大模型数量的近90%，中国大模型数量已进入第一梯队。全球大粳型分布情况美国大模型中国大模型其他国家大空型ttKfltlBl2019420201101-051._叵1注：被打趾至2023年5月，数据来源：中国人工智能大模型地图研究报告。产品特色两用百度文T天互助、回答可现、文本生成、丑片生成河里漕义车间。天互成、问答同IL文本生成、IW何BiB文本生成、文生墨L手书BIH)飞WMyAPL*KM华为ft三文拿、Werp财务检测、阿拉伯语公德京东三内容生忠人机则话Eai360360Za复月大学文本生成、文N梅要、M得MOSS清华大学回答词熟、文&生成ChatGLM皆源人二青能怡道储丽2.0武汉大学/-Chee能hat9MIlDEA缈窦匿.朱衣太初以文携昆、以生品上海人二Ir能天气械大次SM10/72Al阿里达总院浙大皖州y斜色中C八卦炉占日质大收堂M科枝i圻ChatGLM商游科技日匕新文方生成、8B片生成、次第生成、3D内容生成、数字昆仑力传天H云从科技行业精如抬大讯飞讯飞星火文玄、语义、MT.界理、代珥、好讨何杏H出门向司停列言子自殖大模世7tittltLnaIYUan天赫APUS三VH竹引智雏册酬rWvWXt汪出八大夕R火山引孽咫男方ifl火山方舟子日TI5®MathGPT11/72e区衣业械行ChatABC江苏假行小4却.0旗子王KidsGPT达观效抠漉和帕源1.0同若可息、ii和古文司花做ILJ-；CTIHexinGrT长城大模型程司我承孱严经纪大嗯暨*友髭BLOOM-Zh天宏JE天权大模型企Aa意喷闻尔法中国电信TeleChat大模型数据来源：公开信息整理，钛媒体整理。发布大模型的机构可以分为四种类型，互联网公司、学术/研究机构、Al公司及行业公司。国内大模型呈快速发展之势，在以下几个方面表现突出：一是，大模型应用越来越广泛，在自然语言处理、图像识别、语音识别、内容生成等多个领域有着广泛应用。二是,大模型算法丰富,国内的模型上除了GPT之外,还对BERTALBERT、NEZHA等进行了广泛的探索。12/72柩媒il三三三是，大模型性能不断提升，国内大模型玩家纷纷加大对A的研发投入，据钛媒体钛度图闻不完全统计，202¾,华为在研发费用上投入161?乙元，成为研发投资资金最多的企业；其次，腾讯以614（乙元排名第二，阿里以555亿元排名第三，他们在硬件和软件领域的大规模投入，大大提高了大模型的运算速度和效率。四是，大模型研究成果不断涌现，国内以清华、复旦、哈工大等高校也推出了自己的大模型，国内机构在NLP、CV等领域也拿到了多个国际级别的冠军。然而不得不承认的是，国内大模型迅猛发展的同时也面临着基础模型研发能力不足，部分行业数据搜集整理难度大等问题。2,美国大模型投资热度不减，国内机构出手谨慎据国外风投数据分析公司PitChBoO种数据，202注半年，全球人工智能领域共计发生融资138彳牛，筹集融资金额255（乙美元，平均融资金额达2605万美元。根据CnJnChbaSe数据库，2011202奔共计3658个A颔域融资项目（仅统计50%以上融资金额的项目，且融资公司所在地为美国），美国A领域融资项目数及融资金额稳步增长。2022年美国风投Al领域融资项目数为574个,2011-2022年CAGF29.3%2022年美国Al领域融资金额为243.5美元，2011-202¾CAGF422.5%13/72mm图堂图茨4数据来：Crunchbase国信证券经济研究所、非凡产研史图2023AIGC据业界不完全统计，年上半年，美国一级市场中，硅谷在好智能领域共完成了4锢融资，总金额约14q乙美元，占世界总融资金额的o平均轮次融资金额为3.3(2美元，是平均融资水平的近1监之多。其中，8家人工智能明星独角兽公司拔地而起，平均轮次融资金额乙美元。林媒侦里除朋2023年上半年柱谷Al初创公8费一戋表投公勒BttXOSlIMtm7KSAftA>VM9CohrEZTCfltA>M9ContMtuafAlMfW2000HtA.BMBEtctwAi636万”力，EXWOPenM“>eMaVttJUBRa&eat。火TCQMfW千”TOOORMtRBOB0pnN<VO£iIt人”中回届AlM7t,9万金A工廿6GPTZ6但MJI工具Wo)tPtneona瞰悦!¾iR蛇(kr三RiHt的方叁”!WW*«000万金LQhAnUtKCOMoo万.RlAiIAflOfOffuB,一00万UOO万H*!，内0次干同CAjv3万食MftAIAUngCMrtWfit3)万JUR0A1XH8w5itm*AiMV9AWMS0»万费金他A工A9HtiVJBAWhmVW文重CwMntBttIMO方充mEtMnLflbea<X万拿ItflBSvnthMMA0deM5RftHMH三千ItXO方gfeR!>ttV0W>4NJVWo万，vcw>M7WTMO万看H<ajVMMhu»?«XO万囊今Fga<WOC万AAiK1UIAAfitfvopc04CI(t但口“AIut及我BO万要也HSSAXflHarWVAftm11ftlEEU»0«8万Il元affNlftfTAiO6万”yMXsm中.Chrac三rAC1MZfltM4Un3HO万金ACAMAU*MAie2000万23DWW>三Tcrw4pD遇4300万Df)DmU.»«Ht一北wear习表5数据来源：光锥智能，非凡产业，钛媒体整理据国内商业信息服务平台企名片数据显示，2023上半年，国内人工智能领域共发生161起投融资事件，其中包括人工智能核心技术44起，人工智能基础支撑4g,人工智能应用场景4%g,人工智能通用场景34起。较去年同期减少15,同比下降49为202吐半年度国内人工智能领域投融资交易事件涉柩媒il三三及总金额61.74乙元，较去年同期减少亿元，同她下降62%。20231-6年月人工智能行业融资趋势2023.012023.022023.032023.042023.052023.06事件数（起）一金额（亿元人民市）图表6数据来源：企名片，钛媒体整理据钛媒体数据，2023年上半年，国内披露获得投资的大模型公司只有大约20家，融资额普遍在千万到数亿元之间。其中，获得融资金额最多的是大模型初创公司MiniMax，其在明1日完成了超2.5（乙美元的新一轮融资，目前该公司估值超12亿美元，被冠以“腾讯首次投资的创企”称号。此外，成立于2021年的西湖心辰分别在202萍阳、组接连完成了两笔融资，融资速度很快。16/722023号上隼内AJGC校«!，（耐闰fl5MMi2«a»UBBH.<X9Vif9MMn2.AC»jsw.nBVINB.MI>aW>B-ftAl三三Mtt2MMtB<BAJM*raMB，MtanM23bsaun*«9KAIImYBEtMNBReycq.”.KOW<xaeWA1Wv«mm内一，*«“XttVSg，NMI«*tt4KAJItaw*MltMIAAVBIBSfnnm*«27MBJlMIMfaBft.4UM.KaK”tonn/nMW“BKMMM>C*eQ5tann/nTMMIBMSy*nbtcMmat*vsafOT*7MTWUMTASnconajtMNM«1!««mvwvwent'；1avmm9KAtVlUCIW7f-MHMnzg山«"gA*A*vaa>0f3A,UKMlW<A*”，11MRSieIMlMIIMummu«mvv0etM2O茂«B*BBMIiAt0m4MB*t<aanrv7on«*«¾awwmyrja7F»o«27MX>fl>HMtWtAIMaMra.roMntS0M<MafcT««»««Q(Mi>M>MMAmrwCwMtmo4)dMflUB9*t*S*flXa=IM-><rrMflHNW*P<Aatrseonn/sWaIMVM2'VtSBUMacnKUIitKV>M*Ht±B<空HJlteilRV40E9DaiAIViBflMXS3MMAVW，方Allfl»9CMBI4MIMMWMNIB0*nABe.VOBMtVWm4naoMM.*MlAMl«RE»IE，I*jR*ta*MIIQnMm万034万ARMtH<*9M2X*fe*4Maxmt值MQV4tchoTBXMa<HA*B*1NBA9NMn««3万AlIM««vm«VtMMtAmvwVWMMTMf«SICCMA“椎，三<M*aaW3T1f*MWwCKtWtfVMooaA便删“艮，口xnkaaa<tMKmLA.tmtMA*B*MTXHVTt>w<AR*vt>mA”11MnrVx>，S"a.WAS”ay，SMft.203M1MMv三a79Mfl2fttfAN4UAMWwrs«fiaIW-MIaba“1"«!，ara<VttttH*BBJttw»9MI««mmn«1C：MIVAMBB.9X>*>«411A««WAR*a，991Waav43»«幺AI«*«VtBMQFWne“<vra«»1a4Mnn0roooAVWxe“yr>"*.IanM32Cc«»>碑»»enVWRV*lrVMaMaetM0八«Mt>，hCCMHtoOf"AZnrx,uAamihrBarXUYA“«2MM39tJL%MHffM-SMl余XttM1IetMWSaeMHM，B4KJl*IBNtMe««a.MrJtsaxnrwIW-A*B4AHA”aw43MC*rM11Mf1mm90CAmflAnc-t><aM*OmaC9MBIIfEAMI*ant*'“n*"VttlJ*ow>20TVWkMflM(-A-9a<BAAStlM0,seIWVWMIMUtIAMLA!W*MAfljraiftS48IMU*aJ+wsnra2XJIxAIVmMBAB引入7数据来源：非凡产研，钛媒体整理据钛媒体不完全统计，腾讯投资、创新工场、奇绩创坛、红杉中国是较活跃的投资机构，投资企业均达到3家，其次是BV百度风投和智谱AI，投资企业分别为2家，大多数机构投资的企业仅为1家，而一向活跃的高令瓦创投、深创投没有公开数据显示其进行过Al大模型赛道的投资，IDG资本、经纬创投、真格基金等头部VC的出手也较少。图2 H来源：公开费收，钛媒体IM这主要是因为，大模型创业是极其烧钱的，据估算，大模型训练一次的成本介于20画美元.120诉美元之间。即便是有马斯克和微软支持的OPenAl也要5.42022不断融资来维持，仅年，其就亏损了18/72亿美元左右。柩媒il三三所以，国内的通用大模型玩家主要还是百度、阿里、腾讯、华为等大型企业，而创业公司更多是寻找可落地的场景来实现变现Q3 .“龙头大模型+”是当前大模型发展主要模式虽然大模型发布数量不断增长，然而对于大模型如何落地变现，仍在不断探索中，据中国电信研究院分析，国外行业大模型发展模式主要有三种，且以前两种发展模式为主。一是。目前国际巨头多采用这种模式，如谷歌、微软、Meta等龙头厂商利用大模型重构原有业务，比如微软利用GPTW+原有业务”赋能AZUe云、OffiCe365、全面“龙头大模型DynamiCS365利用大模型的强大语言能力，提升原有业务的智能化水平，同时也可以借助原有业务的数据和用户资源，增强大模型的应用相关性和准确性。二是“龙头大模型+方式，通过直接调用API或基于GPTAl产品，比如哈维基大模型微调改进自身于及行业数据推出“GPTAl法律助手”。这种模式的优势在于可以利用龙头大模型的先进技术和算力，快速打造出具有行业特色和竞争力的Al产品，同时也可以借助外部数据源，增强行业相关性和准确性。三是“开源大模型+自有行业数据搭建行业大模型”。这种模式多适用于有着丰富的行业数据积累的中大型企业。例如基于开源模型研发，实现LLM与金融垂直领域知识的深度融合。这种模式的优势在于可以充分利用自有数据的质量和数量级，打造出更专业、更精准的行业大模型，同时也可以借鉴开源大模型的技术和经验，提升训练效率和效果。19/72柩媒il三三总体而言，基础大模型训练成本高，研发难度大，这决定了大模型会遵照“者通吃”的规律，未来市场上仅存几个龙头大模型，而围绕龙头大模型的创业生态将逐步形成。在商业模式上，根据天风证券研报，目前大模型主要的盈利模式包括交易量收疑、定制开发费用、服务费用和订阅收费。交易收费主要是根据客户每月便用的APl调用或交易量收取费用。定价标准通常是按交易量计算，例如每千个APl调用收取一定的费用。定制开发费用是，如果客户需要特定领域的Al模型，公司通常会收取定制开发费用。定价标准通常取决于开发的难度和时间成本。服务费用指，根据提供数据处理、标注和质量控制服务等来收取费用。订阅费用是指，客户可以根据需要选择不同的订阅级别，如基本、标准或高级。订阅费用通常按月或按年收取，并根据所需服务的数量和类型进行定价。4 .国内外代表性大模型介绍1) GPTOpenAh大模型热度引爆者，2015年12月，OpenAI由马斯克、美国创业孵化器YCombinatOr总裁阿尔特曼、全球在线支付平台PayPal2023年4月，OPenAl完成3亿美兀最新一轮融资，累计完成103亿美兀融资，最新估值达270亿290亿美元。OpenAI 是基于 Transformer基础模型推出了GP系列大模型。GPTT(Generative Pre-trained TransformerTransformer 模型，)即生成式预训练模型被设计为对输入的单词进行理解和响应并生成新单词，能够生产连贯的文本20/72柩媒il三三段落。201奔、202推，OPenAl分别发布了GPT-2和3PT-3，但并未在市场上GP引起轰动，202W月，OPenAI发布ChatGPlChatGPT基于T技术，通过大量的语料训练，可以模拟人类的对话方式和思维方式，从而实现了与人类的交互。相比传统的聊天机器人，ChatGPT自然，更加符合人类的交流习惯。ChatGPT想要说的话，ChatGPT娱乐等,随着用户的探索,ChatGPT这些优点让ChatGPT2023年的人工智能热潮。迅速引爆市场，开启了2023年3月，OpenAI又推出了GPT-4,这是其在深度学习扩展方面最新里程碑，GPT-4多现实场景中的能力不如人类，但在各种专业和学术基准测试中表现出人类水平的性能。例如，它在模拟律师资格考试中的成绩位于前0%的考生，iGPT-3.5的成绩在后1腆。GPTW不仅在文学、医学、法律、数学、物理科学和程序设计等不同领域表现出高度熟练程度，而且它还能够将多个领域的技能和概念统一起来，并能理解其复杂概念。除了生成能力,GPT4还具有解释性、组合性和空间性能力。在视觉范畴内，虽然GPT4只接受文本训练，但GPTd不仅从训练数据中的类似示例中复制代码，而且能够处理真正的视觉任务，充分证明了该模型操作图像的强大能力。另外，GPT-4在草图生成方面，能够结合运用StabIeDifUSiOn的能力，同时GPT-编程的学习创造能力也得到了验证。4针对音乐以及211722)谷歌：大模型基础理论贡献者谷歌对人工智能的贡献，尤其是对基础理论的贡献是不言而喻的，即便在聊天机器人上被OPenAl捷足先登，但谁也不敢小觑谷歌的实力，其推出了BERT模型JaMDA'SWhChTransformerGLaIVKPaLM-E多樗模型、通用稀疏语言模型VLM谷歌最早在2017年提出TransformerBER模型，在11个NLP领域数行业进展的基础。随后在2018年，谷歌提出的一TBERT的任务上都刷新了以往的纪录。和GPT相比，GPT专注于文本生成，使用的是上文。BERT使用了ransformer的Encoder和MaskedLMOpenAIGPTS结构,利用了DeCOder中的Mask，Transformer附DeCOder使月BERT只能顺序预测。NLP年26Bard，Bard背后是LaMDA在提供后端支撑。LaMDA是继BERT2021之后，谷歌于语言模型，可以实现拟物化£用W交谈。此外，谷歌还推出了SwitchTransformer参数，可实现简单且高效计算；推出的通用稀疏语言模型GLaMGPT-3相同数量下的表现也有提升；2023年3月，谷歌和柏林工业大学Al研-PaLME多模态视觉语言模型(VLM)，1.dLlVI-匚该模型较ChatGPT柩媒il三三3自度文心一言：国内首个大模型发布者，Al应用场景覆盖广202降组16g,百度官方发布“文心一言”。“文心一言”是百度研发的知识增强大语言模型，拥有文学创作、商业文案创作、数理逻辑推理、中文理解和多模态生成五大能力。文心一言在百度ERNIE及PLATO系列模型基础上研发而成，关键技术包括监督精调、人类反馈的强化学习、提示、知识增强、检索增强以及对话增强。其中，百度在知识增强、检索增强和对话增强方面实现技术创新，使得文心一言在性能上实现重大进步。在商业模式上，文心一言或将提供大模型APl相关功能。技术上来说，文心大模型已经具备了搜索、文图生成等功能，并成功得到应用，这些能力或将集成于文心一言。此外，据百度官方信息，文心一言或将提供大模型APl相关功能。PLATO 以及正目前，文心大模型提供的大模型APl包ERNIE-ViLGERNIE 3.0 在开发的文本理解与文生图和ERNIE 3.0网相关联，能够认为，文心一言等生成式对话产品或将同样提供大模型APl相关功能。文心千帆提供开发运维管理一体化服务平台。3月27日，百度于首批测试企业闭门沟通会中正式推出企业级“文心千帆”大模型平台，其中包括文心一言在内的大模型服务，还提供相应的开发工具链及整套环境，未来文心千帆还会支持第三方的开源大模型，并探索具体应用场景。23/72UM.TM*MUrWiIMaL9、«4<4«AGCKMtlilMtA44nfMAe4/04-fAILe(Oll匕r*A6JVA.tt4.<ta”更：4JT4aii4t:，AS4tH<7卜曾夕41岸，4*tt4<t44""w4H¼ftMt"li*i9A*U*U.+««««4*a*CC<XCAMfv<li*tKt*-*<4<w-rrJC4,.筌ef,a<<AHMtffAfi*:<1*£，*,A*MM(M<4riMt>As>C*tA<2MSKS444.EXM”用.44<««<<«.t»«小“EAW”EM图表8数据来源：兴业证券，钛媒体整理4)MiniMax：国内大模型创业企业，新晋独角兽MiniMaX成立于2021年12月，具备自研文本、语音等多模态融合的通用大模型能力，目前自研了文本到视觉(tfex遍赠iS音(text-to-audio)、文本到文本(text-to-text)三个模态的基础模型架构，并在基础模型之上构建起一个计算推理平台。文本大9:能力及应用场I*的侑