关于DeepSeek的几点思考
UserDisable
关于这几天很火的DeepSeek,我们(ArchermanCapital)做了一些研究和思考,和大家分享,enjoy!灰色部分是技术细节,不感兴趣的可略过。几个事实1)DeepSeek不是套壳不是蒸馏美国的大模型。虽然中国有些大模型是套壳和蒸馏的,但DeepSeek不是。2)核心架构还是基于Transformer,deepseek在架构、工程设计上进行了创新和工艺提升,实现效率优化。架构上,采用了混合专家模型(MoE)、多头潜注意力(MLA)、多令牌预测(MTP)、长链式推理(CoT)、DualPipe算法等设计,并进行了依赖强化学习(RL)而不加入监督微调(SFT)的训练尝试。工程上,在数据...
相关推荐
-
北京市2019年中考地理真题试题
2025-09-25 999+ -
2019年广西梧州市中考地理试题(word版,含解析)
2025-09-25 999+ -
四川省内江市2019年中考地理真题试题(含解析)
2025-09-25 999+ -
湖南省邵阳市2019年中考地理真题试题
2025-09-25 999+ -
山东省滨州市2019年中考地理真题试题(含解析)
2025-09-25 999+ -
河南省2019年中考地理真题试题(含解析)
2025-09-25 999+ -
2019年湖南省张家界市中考地理试题(Word版,含解析)
2025-09-25 999+ -
2019年山东省日照市中考地理试卷(word版,含解析)
2025-09-25 999+ -
山东省潍坊市2019年中考地理真题试题
2025-09-25 999+ -
2019年湖北省宜昌市中考地理试题(Word版,含答案)
2025-09-25 999+
相关内容
-
河南省2019年中考地理真题试题(含解析)
分类:教育专区
时间:2025-09-25
标签:地理
格式:DOC
价格:1 智慧点
-
2019年湖南省张家界市中考地理试题(Word版,含解析)
分类:教育专区
时间:2025-09-25
标签:地理
格式:DOC
价格:1 智慧点
-
2019年山东省日照市中考地理试卷(word版,含解析)
分类:教育专区
时间:2025-09-25
标签:地理
格式:DOCX
价格:1 智慧点
-
山东省潍坊市2019年中考地理真题试题
分类:教育专区
时间:2025-09-25
标签:地理
格式:DOCX
价格:1 智慧点
-
2019年湖北省宜昌市中考地理试题(Word版,含答案)
分类:教育专区
时间:2025-09-25
标签:地理
格式:DOCX
价格:1 智慧点

