目前，对于非程序员类个人用户来说，笔记本上缺一个好用的端侧AI工具。

我现在用的是LM Studio，问题是这个工具只能读取文字，如果我有个长文PDF，也没法总结提炼。

LM Studio已经算目前最简单的AI工具之一了，但主要只支持CUDA和纯CPU，但对Intel/AMD的CPU里的NPU加速器支持的也不好，CPU这块主要支持的是AXV256指令集。

所以，我用本地大模型的时候，要么CPU风扇起飞，要么GPU风扇起飞，要么CPU与GPU落霞与孤鹜齐飞。

LM Sutdio相较于在线工具麻烦很多。

但我很多文档也没法用在线工具。

在线工具还有个偷懒的毛病，比如我输入一万字让它提炼总结成1500字，可能这1500字里面，前1200字是一万字的前五千字，剩下300字是这一万字的后五千字。

谁也别笑话谁，GPT4/KIMI/GLM4都有这毛病。

做一套能做好总结提炼的大模型，在笔记本上，支持Intel最新的NPU，不算太难。

无非是支持文本和PDF OCR，但已经超过我的能力范围了，我只会用现成的工具。

在大部分环境中可以大幅降低功耗，提升使用体验。

目前确实是缺少这么一套工具。

希望华为能做好。