开云体育 
DeepSeek基础知识详解pdf开云体育官方
2025-10-21
浏览次数：
次
返回列表
-团队成员大多来自清华大学、北京大学、中山大学、北京邮电大学等国内顶尖高校。
·2007年，考上浙江大学信息与通信工程专业研究生；2010年，获得硕士学位；
·2023年7月，幻方量化宣布成立大模型公司DeepSeek,进入通用人工智能(AGI)领域。
-2024年12月13日，正式发布DeepSeek-VL2,用于高级多模态理解的专家混合视觉语言模型；
-适用场景：高性能对话、复杂任务处理和高精度场景，例如长文档分析、多模态推理、科研计算等。
-设计目标：进一步提升开源模型的能力，缩小与闭源模型的差距，同时保持训练成本的经济性。
-参数规模：共有6710亿个参数。但每次处理一个token时只激活370亿个参数。这种设计降低了计算成本。
-价格费用：模型API服务定价为每百万输入tokens0.5元(缓存命中)/2元(缓存未命中),每百万输出
tokens8元。在性能实现领先的同时，定价大幅低于市面上所有模型，性价比优势明显。
-在数学推理(GSM8K)、代码生成(HumanEval)、常识推理(MMLU)等基准测试中达到领先水平。
-在公开评测集(如MMLU、BBH、DROP)中表现优异，尤其在复杂推理任务上接近或超越GPT-4Turbo等顶
-多项评测成绩超越了Qwen2.5-72B和Llama-3.1-405B等其它开源模型，并在性能上和世界顶尖的闭源模型
-通过算法和工程上的创新，将生成吐字速度从20TPS(TransactionsPerSecond每秒完成的事务数量)大幅
提高至60TPS,相比V2.5模型实现了3倍的提升，可以带来更加流畅的使用体验。
-采用了多头潜在注意力(MLA)和DeepSeekMoE架构，实现高效推理，提升成本效益。
-开创了一种无辅助损失(auxiliary-loss-free)策略用于负载平衡，并设置了多token预测训练目标，以提升性能。
-在训练效率上，运用了FP8混合精度训练，让显存得到了优化，极大提升了计算性能与训练稳定性。
-采用DualPipe(双向流水线)算法和通信优化，实现计算-通信近乎完全重叠。
-推理环节通过独特的P/D分离策略和NanoFlow的双流推理模式，提升了系统的资源利用率。
-DeepSeek-V3将大部分计算密集型操作(如矩阵乘法)使用FP8精度进行，同时保留一些关键操
作(如嵌入层、输出头、归一化操作等)的高精度(BF16或FP32),以确保训练的数值稳定性。
-在此基础上，进一步叠加细粒度量化、高精度累加、在线量化、低精度存储和通信等技术方法，
-核心思想是将模型的不同层分配到不同的GPU上进行并行训练，并通过双向流水线调度来同时处
-具体来说，它允许从流水线的两端同时输入微批次(micro-batches),从而最大化地利用计算资
源并减少通信开销，该方法实现了高效的模型训练，为大规模分布式训练提供了强大的支持。
-通过高效的跨节点全对全通信内核、通信和计算的重叠、定制化通信内核、低精度通信以及对未
-不仅减少了通信开销，还提高了整体训练效率，为大规模分布式训练提供了强大的支持。
-两者均基于DeepSeek-V3的混合专家(MoE)架构，总参数量为6710亿，但每个推理请求仅激活约10%的参
要目的是探索和验证纯RL的可行性和潜力。R1-Zero除了证明纯强化学习的有效性，亦有“顿悟”现象的出现，即在模型
·R1:在R1-Zero基础上引入冷启动数据和多阶段优化，结合监督微调(SFT)与强化学习(RL),提升输出的可读性和
冷启动数据：先给DeepSeekV3Base模型看几千条人工写的高质量推理示例(比如详细的解题步骤),让它“开窍”;
多阶段训练：先用冷启动数据微调模型，再用强化学习进一步优化，最后结合其他任务的数据(比如写作、翻译)再训练，让模型既聪明
主要特点段优化，结合监督微调(SFT)与强化学完全依赖强化学习(RL)训练，
-DeepSeek-R1作为开源模型，在数学、代码、自然语言推理等任务上，性能能够比肩OpenAl01正式版。
-在国外大模型排名榜ChatbotArena上，DeepSeek-R1的基准测试排名已经升至全类别大模型第三，与
-强化学习：DeepSeek-R1的训练方法是最大亮点。通过重新设计训练流程、以少量SFT数据+多轮RL强化学习的办法(基础
模型→RL→微调迭代),既提高了模型准确性，也显著降低了内存占用和计算开销。
-奖励机制设计：DeepSeek-R1采用了准确性奖励、格式奖励、语言一致性奖励等机制，确保了模型在推理任务中的高效性和
-训练模板与结构化输出：DeepSeek-R1采用“思考-回答”双阶段训练模板，模型需先展示推理过程，再提供最终答案，推理
70B参数蒸馏版本，其中7B模型经INT4量化后仅需2-4GB存储，完美适配终端设备内存限制。DeepSeek在开源R1-Zero和
R1两个660B模型的同时，蒸馏了6个小模型开源给社区，其中32B和70B模型在多项能力上可以对标OpenAl01-mini。
-开放思维链(CoT,ChainofThought)输出：DeepSeek-R1的动态思维链，支持数万字级内部推理过程，解决复杂问题
时能自主拆解步骤并验证逻辑，输出可解释性更强的结果。DeepSeek-R1通过API对用户开放思维链输出。
-1月27日，DeepSeek引发了股票市场的剧烈波动。Al概念股大跌，欧美科技股市值蒸发1.2万亿
美元，欧美芯片制造商以及为Al和数据中心供电的全产业链公司齐跌。其中，英伟达收盘暴跌
16.97%,市值一个交易日蒸发5926.58亿美元(约合人民币4.3万亿元),规模创美股史上最大。
-截至2月2日，DeepSeekApp迅速攀升至140个国家的苹果AppStore下载排行榜首位，并在美国
-美国总统特朗普：DeepSeek给我们(科技)行业敲响了警钟，我们应为了赢得胜利而努力竞争。
-微软CEO纳德拉：在财报电话会议上称DeepSeek“有一些线模型已经可以通过微
-ASMLCEO:DeepSeek这样的低成本模型将带来更多而非更少的Al芯片需求。
-OpenAICEO山姆奥特曼：“在开源上，OpenAl站在了历史的错误一方”。
-DeepSeek通过算法创新和系统工程优化，实现了与国际顶尖模型相当的性能，同时大幅降低了
-算力至上的传统认知被彻底打破。训练Al大模型，并不只有算力堆砌这一条路。
-DeepSeek大模型的出现，对美国的人工智能领导地位构成威胁，不仅引发了OpenAl、Meta、谷
-DeepSeek表明中国与美国在AI大模型领域的差距正在快速缩小，甚至在某些方面实现了超越。
-DeepSeek大幅提升了国产AI产业链(芯片、终端、大模型、应用)的信心。
-DeepSeek进一步引发了资本市场对中国科技力量的重新评估，也影响了对中概股的重新估值。
-DeepSeek的成功，对其它发展中国家也有鼓舞作用，有助于Al全球化普及和应用。
-Al推理首次真正突破硬件限制，部署成本从高端GPU扩展至消费级GPU。
-大模型开始具有低参数量的特征，加上蒸馏技术的崛起，为本地化部署到Al终端运行提供了可能。
-本地部署为用户提供了更高的灵活性和隐私保护，尤其适合对数据安全有较高要求的场景，有利
-算力需求会从预训练端转移到推理端。推理需求的持续增长，会带动端侧Al算力芯片、终端等产
-Al端侧应用普及，会进一步推动各行各业的效率提升，加速催生了新的商业模式和产业形态。
-短期来看，市场和公众普遍认为DeepSeek的出现，降低了Al大模型对智算算力的需求(英伟达
-但事实上，从长期来看，根据杰文斯Jevons悖论(第一次工业革命期间，蒸汽机效率的提升，使
得市场上煤炭的消耗总量反而增加了),整个社会随着Al应用的加速普及，对算力的总需求反而
-DeepSeek的成功，吸引了大量开发者参与改进和研究，推动了开源社区的发展。
-DeekSeek对闭源模型市场形成了冲击，迫使闭源厂商降低价格或提升性能以维持市场份额。
-华为云：2月1日，华为云联合硅基流动首发并上线基于昇腾云服务的DeepSeekR1N3推理服务。
-腾讯云：2月3日，腾讯云宣布DeepSeek-R1大模型一键部署至腾讯云[HAI,高性能应用服务」上。
2、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
3、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
4、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
2025年用腾讯云工具产品更好使用DeepSeek（工具指南9期）.pdf
国信证券-AI赋能资产配置-三-：DeepSeek与风险“再平价”.pdf
2.1.2 植物 第1课时 苔藓植物和蕨类植物（教学课件）生物冀少版2024七年级上册.pptx
国开(电大)本科《管理英语4》形考任务(单元自测1至8)试题及答案.docx
中医康复护理临床实践新进展题库及答案-2025年华医网继续教育.docx
原创力文档创建于2008年，本站为文档C2C交易模式，即用户上传的文档直接分享给其他用户（可下载、阅读），本站只是中间服务平台，本站所有文档下载所得的收益归上传人所有。原创力文档是网络服务平台方，若您的权利被侵害，请发链接和相关诉求至 电线) ，上传者
