我们能做什么?
端侧AI算法模型
指部署在无网终端设备(如机器人/监控设备/个护产品/物联网设备等资源受限产品)上的图像视觉算法模型、语音识别(ASR)、文本转语音(TTS)、大语言模型(LLM)和多模态模型等,它直接在终端设备运行,不依赖网络及云端服务器算法模型。
1、数据本地化隐私:用户数据无需上传云端,减少隐私泄露风险
2、低延迟:无需网络传输,响应速度更快,支持实时交互(如即时翻译、离线语音助手)
3、有限资源适配:设备内存、计算能力和能耗约束,技术实现为模型压缩(量化/剪枝等)、高效架构设计(如混合专家 MoE)等
4、离线可用:在网络覆盖差或无网环境下仍能运行,提升可靠性
