爱芯元智

我们是AI推理SoC的供应商,专注为边缘计算与终端设备AI应用打造最先进的感知与计算平台。我们致力於构建先进的AI计算基础设施,推动人工智能普及化,普惠AI,造就美好生活。 AI已成为当今最重要的技术之一。AI模型架构指AI模型中组件及流程的结构设计与组织方式,决定如何处理资料、如何训练及评估模型并生成预测。Transformer架构是近十年来最受欢迎的AI模型架构之一,已成为当今几乎所有主要大型AI模型的基础。随着大语言模型(「LLM」)、视觉语言模型(「VLM」)、视觉语言动作模型(「VLA」)等基於Transformer架构的AI大模型的快速发展,全球科技巨头和创新型初创企业都对AI大模型的训练和推理进行了大量投资。AI大模型因其庞大的计算与内存需求,通常仅能部署於云端。