用60%成本干80%的事,DeepSeek分享沉淀多年的高性能深度学习架构
用60%成本干80%的事,DeepSeek分享沉淀多年的高性能深度学习架构硬件发展速度跟不上 AI 需求,就需要精妙的架构和算法。
来自主题: AI技术研报
8114 点击 2024-09-07 11:08
搜索
硬件发展速度跟不上 AI 需求,就需要精妙的架构和算法。
本文出自启元世界多模态算法组,共同一作是来自清华大学的一年级硕士生谢之非与启元世界多模态负责人吴昌桥,研究兴趣为多模态大模型、LLM Agents 等。本论文上线几天内在 github 上斩获 1000+ 星标。
汤道生:对于腾讯来讲,怀有长期主义的心态来看待AI是刻在基因里的。
沿着 Scaling Law、卷模型性能,可能会走到「死胡同」。
从模型独奏到生态协奏
目前这个产品还在探索阶段。
「大模型,你听我解释」
无论是OpenAI还是Canva,涨价背后的原因都让人猜测与融资相关。
涌现(Emergence),是生成式AI浪潮的一个关键现象:当模型规模扩大至临界点,AI会展现出人类一般的智慧,能理解、学习甚至创造。
快速更迭的开源大模型领域,又出现了新王:Reflection 70B。 横扫 MMLU、MATH、IFEval、GSM8K,在每项基准测试上都超过了 GPT-4o,还击败了 405B 的 Llama 3.1。 这个新模型 Reflection 70B,来自 AI 写作初创公司 HyperWrite。