5月17日，Technology Media Winbuzzer昨天（5月16日）发布了一篇博客文章，报道说，大型语言服务工具的开源Ollama推出了一款联合开发的多模式AI自定义引擎，以摆脱对Llama.cpp框架的直接依赖。 Llama.CPP项目最近通过LIBMTMD图书馆提供了全面的视觉支持，Olllama在这里的关系也导致了社区讨论。 Hacker News中的Ollama团队的成员明确表示，Olllama是使用Golang独立开发的，并未直接借鉴Llama.cpp的C ++的实施，并感谢社区对技术改进的评论。 Olllama在一份官方声明中指出，随着Meta的Llama 4，Google 3，Alibaba的Qwen 2.5 VL和Missmral Small 3.1等模型的复杂性，现有的Architecturalis很难满足需求。因此，olllama推出了一款新引擎，以实现局部准确性的突破tanding，尤其是在处理大图像以产生大量令牌时。 olllama引入了其他元数据的图像处理，这将使批处理处理和定位数据管理进行优化，并避免图像绝缘误差以降低输出质量。此外，KVCache优化技术促进了变压器模型的速度。新引擎还可以极大地优化内存管理并增加图像缓存功能，以确保可以在处理后再次使用图像并防止早期处置。 Olllama还可以通过准确发现硬件元数据来操作巨型硬件（例如NVIDIA，AMD，Qualcomm，Intel和Microsoft Tothe Tothe Tothe Tothe Tothe估算）的手。对于Meta的Llama 4侦察兵（10090亿混合专业的MOE模型参数），该发动机还支持诸如关注点和2D旋转嵌入之类的技术。 Olllama计划支持更长的上下文长度，复杂的工具流过程和工具流响应，进一步增强本地AI模型。 【来源：这在家】
