快科技3月7日消息,日前美团技术团队宣布对DeepSeek R1进行了INT8精度量化,让DeepSeek R1可以在如A100等老型号GPU上进行部署。 据介绍,DeepSeek R1发布 ...
据悉,美团搜推机器学习团队最新发布了INT8无损满血版DeepSeek R1模型。该模型通过量化实现了对原生版本的基本无损,并可以在A100 GPU上进行部署。