1)对于训练而言,最引人注目的自然是FP8的使用。根据深度学习与NLP公众号,DeepSeek-V3是第一个(至少在开源社区内)成功使用FP8混合精度训练得到的大号MoE模型。
2)与OpenAI依赖人工干预的数据训练方式不同,DeepSeekR1采用了R1-Zero路线,直接将强化学习应用于基础模型,无需依赖监督微调(SFT)和已标注数据。
3)低成本模型有望引领AI产业“新路径”:开源+MOE。
4)开源VS闭源:开源重构AI生态,与闭源共同繁荣下游。
来源: 华西证券,报告厅推荐阅读,版权归作者所有。文章内容仅代表作者独立观点,不代表报告厅立场,转载目的在于传递更多信息。如涉及作品版权问题,请联系我们删除或做相关处理!
立即下载
