本帖最后由 Ref 于 2025-5-20 19:18 编辑
现在测一下双路CPU下768G对于Q4和Q8两种硬盘的不同速度，验证下硬盘对于这种CPU推理的配置是否会有很大的影响。
之前比较笼统的测试，在Q4大概是5-6，在Q8大概是4-4.7，为了更加精准，我们需要列清楚条件和记录结果。
测试工具：Llama.cpp (Linux) 和Ollama(Windows)
测试模型：Deepseek R1-Q4/R8, V3-Q4/Q8 V3(0324版)-Q4/Q8
测试硬盘：
两种硬盘分别是机械盘和M.2固态硬盘。
品牌分别是
西部数据
16T HC550
相关介绍：
https://post.smzdm.com/p/a90zd7g0/
https://post.smzdm.com/p/az6p6nxo/
和梵想
S770M
为了综合测试性能，我让官网的Deepseek自己出20道题，然后加上之前考GPT的9道选择题，和一道单独的诗+词创作，总共30题。
https://zhuanlan.zhihu.com/p/628884068
模型下载地址：
llama.cpp：
R1：https://www.modelscope.cn/models/unsloth/DeepSeek-R1-GGUF/files
V3：https://www.modelscope.cn/models ... -V3-0324-GGUF/files
Ollama：
R1：https://ollama.com/library/deepseek-r1/tags
V3：https://ollama.com/library/deepseek-v3/tags
最后看测试速度如何。
为了方便分辨，蓝色字为提问，橙色字为思考，黑色字为回答：
我现在要准备测试Deepseek的表现，请为我准备二十个问题。问题需要包含以下领域：数学、物理、逻辑、社交、创业、情感、诗词、历史。问题字数长度在二十到二百之间。问题要用中文提问，并且需要能够考察对方的知识库、逻辑思考以及表达能力。
好的，用户让我准备二十个问题，涵盖数学、物理、逻辑、社交、创业、情感、诗词、历史这些领域，每个问题要能考察知识库、逻辑思考和表达能力。首先，我需要确定每个领域的问题数量分配，尽量均衡。不过八个领域，二十个问题，所以大概每个领域2-3个问题。
接下来，数学方面，可能需要一些需要计算或理论的问题，比如概率或者几何。物理的话，经典问题如相对论、量子力学的基础，或者日常现象的解释。逻辑题可以设计一些悖论或者推理题。社交方面可能涉及沟通技巧或情景分析。创业问题需要考察商业思维和问题解决能力。情感类的问题可能涉及人际关系处理或情绪识别。诗词需要记忆和理解，比如名句出处或赏析。历史则要具体事件或人物的影响分析。
要注意问题不能太简单，要能测试深度思考。比如数学题不只是计算，还要解释背后的原理。物理题可能需要联系实际应用。逻辑题要避免常见题目，但也不能太冷门。社交情景题要真实，让回答者展示应对策略。创业问题要结合实际挑战，比如市场定位或团队管理。情感问题可能需要处理矛盾或提供建议。诗词和历史题要准确，同时要求分析能力。
还要考虑问题的多样性，避免重复。比如数学和逻辑可能有交叉，但需区分侧重点。每个问题字数控制在20到200字之间，确保清晰明了。同时，问题要用中文，符合用户要求。需要检查每个问题是否确实能考察知识、逻辑和表达，比如是否开放性问题，是否有多种解答可能。
可能需要先列出每个领域的可能问题，再筛选和调整数量。例如，数学：解释贝叶斯定理，证明根号2无理数。物理：相对论时间膨胀，量子叠加态。逻辑：理发师悖论，三段论例子。社交：同事意见冲突，拒绝请求。创业：新产品市场验证，股权分配。情感：朋友失业安慰，平衡工作家庭。诗词：李白杜甫风格对比，名句赏析。历史：明朝灭亡主因，丝绸之路影响。
然后检查是否覆盖所有领域，问题是否具有挑战性，是否鼓励深入回答。可能需要调整问题顺序，确保各领域分布均匀。最后，确保问题表述准确，没有歧义，并且符合字数限制。
数学 1.请解释贝叶斯定理的核心思想，并举例说明它在现实决策中的应用场景（如医疗诊断）。 2.如何用反证法证明√2是无理数？请完整推演并说明该方法在数学证明中的普遍价值。 物理
3. 假设你乘坐接近光速的飞船离开地球，如何向初中生解释“你的时间流逝会比地球慢”这个现象？
4. 量子力学中的“观测者效应”是否意味着意识影响物理系统？请从哥本哈根诠释角度分析。 逻辑
5. 罗素理发师悖论宣称“只给不自己刮脸的人刮脸”，这个悖论如何动摇集合论基础？请用编程中的循环逻辑类比说明。
6. 请构造一个包含大前提/小前提/结论的三段论案例，并指出其是否违反充足理由律。 社交
7. 团队讨论时两位同事激烈争执且都引用你的观点佐证，此时如何回应既保持中立又推动进程？
8. 需要拒绝上级的不合理请求时，怎样运用“三明治沟通法”结构化表达？请举例说明。 创业
9. 新产品验证阶段，如何设计最小可行性实验（MVP）来区分真实需求与用户礼貌性好评？
10. 初创公司三个创始人股权应如何分配？请用数学模型量化技术、资金、资源投入的不同权重。 情感
11. 朋友因失业陷入自我否定，如何用“认知行为疗法”框架帮助他重建信心？分步骤说明。
12. 长期异地恋中，除了日常沟通外有哪些心理学方法可维持情感联结？请列举3个具体策略。 诗词
13. 对比李白《将进酒》与杜甫《登高》，分析两者在意象选择与情感表达上的核心差异。
14. “昨夜西风凋碧树，独上高楼，望尽天涯路”这三重境界说，如何体现王国维的人生哲学？ 历史
15. 从财政税收角度分析明朝灭亡的必然性，对比张居正改革与雍正摊丁入亩的长期效果。
16. 丝绸之路如何促成佛教中国化？请结合鸠摩罗什译经与敦煌壁画演变具体说明。 综合挑战题
17. 用数学归纳法解释“温水煮青蛙”理论的逻辑缺陷，并延伸到现代人的认知盲区分析。
18. 设计物理实验验证“薛定谔的猫”思想实验，需包含对照组和可观测指标。
19. 王阳明“知行合一”理念对当代创业者有何启示？结合心学理论与精益创业方法论论述。
20. 如果苏轼穿越到现代遭遇职场PUA，根据他的诗词性格推断其应对方式，需引用作品佐证。
而在翻译方面，我们测试一下三种语言，英文、法语、阿拉伯语。
【嗯，用户之前已经询问过如何在Ubuntu下运行GGUF模型，现在他们提到自己装的是双系统，有一个A盘是exFAT格式，用来存储模型和软件。现在用户想知道在Ubuntu下如何用-m参数指定这个A盘的位置。
首先，我需要确认用户的需求。他们可能已经将模型文件存放在这个exFAT格式的硬盘上，不想复制到Ubuntu系统的内部存储，而是直接挂载后访问。关键点在于如何在Ubuntu中正确挂载exFAT格式的硬盘，并获取正确的路径来使用-m参数。
接下来，我需要回忆exFAT在Ubuntu下的支持情况。Ubuntu默认可能不安装exFAT的支持，需要安装exfat-fuse和exfat-utils包。用户可能需要先安装这些软件包才能挂载exFAT硬盘。
然后，用户需要知道如何挂载硬盘。通常，exFAT硬盘在插入后会被自动挂载到/media/用户名/磁盘标签的路径下。但如果是双系统的情况，可能需要手动挂载，特别是如果硬盘没有自动挂载的话。用户可能需要使用mount命令，或者修改/etc/fstab文件实现自动挂载。
另外，用户可能需要确认硬盘的设备标识符，比如/dev/sda1这样的路径，使用lsblk或者sudo fdisk -l来查看。挂载时需要指定正确的设备路径和挂载点。
挂载完成后，用户需要确定模型的路径，例如/mnt/A_disk/models/xxx.gguf，然后在运行llama.cpp时使用-m参数指定这个路径。】
【《顶果钦哲饶色达瓦之自传》中记载：”堪钦托嘎如意宝身语意一切所行皆如理如法，严守戒律，膳时不语，诵经止语，稍有闲时则阅览群书、著书立说、讲经说法，不积微财，袈裟褴褛，处居简陋。”法王如意宝也说：”自我初见上师老人家之始，上师老人家戒律极其清净，凡所行事皆以持戒为准，（我）依照行菩提心二地的特性，故认为上师老人家定是二地菩萨。”佐钦堪钦阿沃拉贡仁波切亦如是赞叹：”释教律藏戒学极清净。”但凡正士，无论教派，不分老幼，皆称大德高僧应如巴特尔堪钦托嘎如意宝般持戒清净、道德高尚。】
【The Assignee acknowledges COOK’s exclusiveownership on the assigned intellectual and industrial property rightsand therefore undertakes the obligation toadopt the appropriate measuresto this end. Within said measures, the Assignee shallrefrain from acting in anymanner which could adversely affect the Company's interests and in thisregard expressly accepts that it will not, file or register, directly and/or indirectly,any industrial and intellectual property right that might be considered identical orsimilar to the ones contained in Annex I. Additionally, the Assignee will be obliged toinform the Company as soon as possible of any evidence of infringement over saidindustrial and intellectual property rights that it may, at any time, appreciate.】
| 
软件部署
332 人阅读
|
12 人回复
|
2025-05-06
