立即登录 免费注册

[统计]Deepseek 671b q4以上部署数据

该统计只记录Deepseek 671b q4（8专家）以上数据，所有数据均为实际测试而非理论值，有更详细文章会备注。查找比对时，请注意以下几个数据，方便分析差距： 1、是采用哪种部署模式（显存、CPU推理、Ktransformer） 2、使用哪类CPU 3、使用多少频率多少总量的内存 4、Ktansformer框架下使用的是什么显卡 因为论坛UI限制， ...
赞 ·阅读 1001 ·Ref ·2025-03-07

[Digital Spaceport][AMD EPYC]两千美金成本，本地化运行671b-Q4

文章作者：DigitalSpaceport(https://www.youtube.com/watch?v=Tq_cmN4j2yY&t=2s)原文：Digital Spaceport译者：珠海宇扬翻译译文首发：太素阁转载请保留此简介 AIDeepseek 本地推理系统搭建教程首先分享一个好消息：我从同一套AMD EPYC Rome基准系统中获得了非常稳定的推理性能表现，这台服务器始终是我们整个技术探索旅 ...
x 40· 赞 ·阅读 1429 ·Ref ·2025-03-06

达人分享汇总（持续更新）

注：可以用Folo直接订阅，请参考本站链接 名称：cyberbus 内容：AI、驱动、算法、软硬件 地址：https://cyberbus.net/communities 强化学习曾小健 内容：AI、测评 地址：https://zengxiaojian.blog.csdn.net/?type=blog LLM张老师 内容：模型分析、原理解读 地址：https://space.bilibili.com/3546611527453161 Chiph ...
赞 ·阅读 1029 ·Ref ·2025-03-06

KT框架汇总20250306

github: https://github.com/kvcache-ai/ktransformers
赞 ·阅读 889 ·Ref ·2025-03-06

太素阁版主及工作人员招募说明20250305

自2025年3月8日，太素阁招募版主详细说明如下： [岗位职责] 管理论坛（1-2个版块），日常维护，互动交流，保证基础的文章转载更新频率。 [工作要求] 有论坛运营或程序/软硬件测试经验，对AI感兴趣，能保证每天有至少一小时时间。 太素阁版主分为两类，一类是固定兼职工资，一类是按照论坛收益比例分配。可以自由选择， ...
赞 ·阅读 846 ·Ref ·2025-03-05

全站精华与经验贴分类汇总20250408

该内容持续更新 AI相关论文翻译/分享：点击 DS部署数据记录：点击 达人分享：点击 工具分享：点击 Ktransformer相关汇总：点击
x 1· 赞 ·阅读 8718 ·Ref ·2025-03-05

太素阁论坛总版规20250305
赞 ·阅读 8031 ·Joseph ·2025-03-05
1234567
推荐作者

Ref

发表了 53 篇主题，661 积分

+ 好友

Joseph

发表了 11 篇主题，201 积分

+ 好友

范明昊

发表了 0 篇主题，88 积分

+ 好友

范佳琪

发表了 0 篇主题，88 积分

+ 好友

太素小编

发表了 1 篇主题，43 积分

+ 好友

Bigrecalhaw

发表了 0 篇主题，24 积分

+ 好友
  • Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud.