KTransformers是清华大学KVCache.AI团队联合趋境科技推出的开源项目，能优化大语言模型的推理性能，降低硬件门槛。KTransformers基于GPU/CPU异构计算策略，用MoE架构的稀疏性，支持在仅24GB显存的单张显卡上运行DeepSeek-R1、V3的671B满血版，预处理速度最高达到286 tokens/s，推理生成速度最高能达到14 tokens/s。项目用基于计算强度的offload策略、高性能算子和CUDA Graph优化等技术，显著提升推理速度。
Minion Agent是Agent框架，支持浏览器操作、MCP、自动规划和深度研究等功能。Minion Agent支持多种模型，基于灵活的配置选项满足不同需求。...
MiniRAG是香港大学推出的新型检索增强型生成（RAG）系统，专为在资源受限的场景下高效部署小型语言模型（SLMs）设计。MiniRAG基于两个关键技术实现这一目标：一是语义感知的异构图索引机制，将文本片段和命名实体结合，...
MiniPerplx 是开源的 AI 搜索引擎，基于 Grok 2.0 模型进行搜索。MiniPerplx提供了免费的替代方案，用在搜索网页、推特帖子、研究论文和 YouTube 视频等内容。MiniPerplx 的技术构建...
MiniMind 是开源的超小型语言模型项目，极低成本帮助个人开发者从零开始训练自己的语言模型。MiniMind 基于轻量级设计，最小版本仅需25.8M参数，体积仅为GPT-3的1/7000，适合在普通个人GPU上快速训练。...
MiniMax-Remover 是新型的视频目标移除方法，解决现有技术中常见的幻觉物体、视觉伪影以及推理速度缓慢等问题。采用两阶段方法：第一阶段基于简化版的 DiT 架构，通过移除文本输入和交叉注意力层，得到更轻量级和高效的...
MiniMax-M1是MiniMax团队最新推出的开源推理模型，基于混合专家架构（MoE）与闪电注意力机制（lightning attention）相结合，总参数量达 4560 亿，每个token激活 459 亿参数。模型超...
MiniMax-01是MiniMax推出的全新系列模型，包含基础语言大模型MiniMax-Text-01和视觉多模态大模型MiniMax-VL-01。MiniMax-01首次大规模实现线性注意力机制，打破传统Transfor...
MiniMax MCP Server 是 MiniMax 稀宇科技推出的基于模型上下文协议（MCP）的多模态生成服务器。通过简单的文本输入，可调用视频生成、图像生成、语音生成及声音克隆等多项前沿能力。...
全部评论
留言在赶来的路上...
发表评论