blog
•
2026年7月30日
•
149 次阅读
我的电脑上一直跑着一个LLM我都快忘了
tech
ai
基本信息:
ollama、qwen2-0.5B-INSTRUCT、4060laptop8G
占用显存大约1G
用途为实时屏幕翻译,搭配LunaTranslator(提供屏幕上层显示),后者调用windowsOCR和本地模型API,推理速度满足实时翻译需求
缺点是上下文塞不下名词纠正prompt
优点是机翻味不重,支持多语言
一年多使用体验下来效果很好,我设置了Insert键为隐藏/显示翻译文字快捷键,fnc几个键为单次翻译、屏幕截取持续翻译的功能键
---
所以,PC这种均价算力平台部署LLM的实用价值应该就在翻译这种简单实时任务上,但是要我再举几个例子的话还真想不出多少,可能路由模型也算,还有文件名规范、复杂信号报警这种用途吧。
