近日，一位Reddit用户分享了他在俄罗斯二手交易平台Avito上寻宝的经历。他以约3000卢布（约250元人民币）的价格购得了一台退役矿机，内置9张显卡，总显存达到54GB，成功运行本地AI模型。这台矿机装备的是9张P106显卡，属于GTX 1060的挖矿优化版本，每张显卡配备6GB显存，合计提供54GB。
原本卖家的要价为5000卢布（约395元人民币），经过讨价还价后，买家成功将价格压至3000卢布，相当于打了六折。该系统在8-bit量化下能运行Qwen3.8-27B等模型，若采用4-bit或5-bit量化，能支持最高70B参数级别的模型。测试显示，使用Ollama运行Qwen3.6-35B-A3B时，生成token的速度超过每秒30个，后续优化还有提升空间。
尽管显存容量很大，但这种架构存在物理瓶颈。影响AI推理效率的不单是显存，还包括数据传输带宽。矿机主板常见的PCIe x1接口带宽受限，导致多张显卡在数据交换时性能下降。目前，买家尚未公布该系统在满负载情况下的功耗及长期稳定性表现。
发表评论