美格智能驱动

用户头像
松花江上桃花开
 · 福建  

驱动点1:苹果计划在今年秋季发布的iPhone17系列中全系标配eSIM功能,并在部分国家和地区取消实体SIM卡槽。

驱动点2:华为即将于9月发布的第二代三折叠旗舰手机(Mate XTs),很有可能成为国内首款商用eSIM的智能手机,后续的Mate 80系列也可能会有eSIM版本 ,如果华为真的能在9月推出,那将在国内从苹果手中抢下eSIM的首发 。

驱动点3:唯一支持FP8的端侧芯片美格智能AIMO智能体+DeepSeek-R1模型

驱动点4:算力产业链

美格智能:已成功在高算力AI模组上部署LLaMA-2、通义千问Qwen、ChatGLM2等大模型,验证了从模型压缩(量化、剪枝)到框架适配(ONNX/TFLite)的全流程能力。美格智能自研的MEIG AI算法部署平台、AIMO智能体、模型优化器等,可大幅缩短模型落地周期,支持开发者通过Python快速完成应用开发,并支持开发者进行模型训练。

(上述文字为转载)

美格智能已成功在高算力AI模组上部署LLaMA-2、通义千问Qwen、ChatGLM2等大模型,验证了从模型压缩(量化、剪枝)到框架适配(ONNX/TFLite)的全流程能力。美格智能自研的MEIG AI算法部署平台、AIMO智能体、模型优化器等,可大幅缩短模型落地周期,支持开发者通过Python快速完成应用开发,并支持开发者进行模型训练。

AIMO智能体内置的高算力AI模组的异构计算架构,具备协同加速能力,支持模型并行计算与低功耗运行,LPDDR5X内存提供超过60GB/s带宽,满足7B模型推理时的高吞吐需求。内置专用AI加速引擎支持INT4/FP16混合精度计算,与DeepSeek-R1模型的量化格式(INT4/FP8)高度适配。

DeepSeek-R1低调亮相,蒸馏小模型超越OpenAI o1-mini

DepSeek在开源DeepSeek-R1-Zero和DeepSeek-R1两个660B模型的同时,通过DeepSeek-R1的输出,蒸馏了6个小模型开源给社区,其中32B和70B模型在多项能力上实现了对标OpenAI o1-mini的效果。除32B和70B模型能力强悍外,DeepSeek-R1同步开源1.5B、7B、8B、14B等多个蒸馏小模型,极大扩展了终端侧模型部署的可选性,并支持用户进行“模型蒸馏”,明确允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。

算力与模型的技术迭代,AI应用的iPhone时刻即将带来

美格智能研发团队结合AIMO智能体、高算力AI模组的异构计算能力,结合多款模型量化、部署、功耗优化Know-how,正在加速开发DeepSeek-R1模型在端侧落地应用及端云结合整体方案。

(上述文字为转载)