CAMPHOR是苹果团队推出的端侧小语言模型(SLM)多智能体框架,能提升移动设备的隐私保护和响应速度。框架基于在设备本地处理多个用户输入并进行个人上下文推理,确保用户隐私安全。CAMPHOR基于分层架构,其中高阶推理智能体负责分解复杂任务,并协调专家智能体执行个人上下文检索、工具交互和动态计划生成。基于智能体间的参数共享和提示压缩技术,CAMPHOR显著减少模型的体积、延迟和内存占用。

CAMPHOR – 苹果推出的端侧小语言模型多智能体框架  第1张
(图片来源网络,侵删)
CAMPHOR – 苹果推出的端侧小语言模型多智能体框架  第2张
(图片来源网络,侵删)