编辑:[db:作者] 时间:2024-08-25 07:50:44
在这一年里,大量的AI大模型、大量的AI运用问世,Meta、Google等厂商也开始面向民众推出自己的在线/本地大模型,彷佛“AI人工智能”瞬间从一个遥不可及的观点,就这么溘然来到了人们身边。
现在大家在生活中多多少少都打仗过AI了,可如果你仔细分辨,你会创造,你所能打仗到的各种AI运用,他们险些都支配在“云端”上。如果想要搭建一台本地运行大模型的设备,那最少都是售价在5000元以上的全新AIPC,对付普通消费者来说彷佛并不友好。
(图源:Google)
不过将预算压缩到极致,然后搭配出一套「能用」的主机,正是每一位DIY玩家的终极乐趣。而现在的问题是,如果真的想弄一台可以本地运行大语音模型的电脑,到底须要多少钱?
我的预算是——300元。
只管近期正经的内存/存储产品有价格上涨的趋势,但是在洋垃圾这边实在价格变革倒是不大,乃至一批从前的洋垃圾CPU和矿卡GPU还有价格下跌的趋势。在如今AI大潮席卷而来的背景下,我乃至不准备拘泥于办公影音需求,决定寻衅一下用三百块钱的预算,试着去打造出一套性价比颇高的入门级本地大模型主机。
至于详细该当怎么操作,终极成效是否快意,随着我一起看下去自然就知道了。
经典的老CPU,矿工级的GPU
在CPU的选择上,我直接从闲鱼上捡了一颗Intel Core™i3-4170T。
该处理器为二核四线程,3.2GHz主频,没有睿频能力,具备3MB智能缓存,采取22nm制程工艺的Haswell架构,最大的特点便是拥有一颗HD4400核显,这也是我选择它的关键。
(图源:雷科技)
俗话说得好,低价U配低价板嘛,主板我选的便是一块华硕工包H81M-V3主板,只有两根DDR3内存插槽不说,乃至都没有HDMI输出接口,也没有M2硬盘位,USB 3.0、SATA III接口都只有两个,这玩意最大的上风便是超级低的二手价格。
这加起来不到80的板U套装,性价比放在今时今日也是出类拔萃的。
(图源:淘宝)
这种CPU,散热就不用太担心了。
闲鱼20包邮寄过来的下压式风冷散热,虽然外不雅观上是丑了一点,简陋了一点,但是用来压我这一套超低价配置肯定是绰绰有余了。
(图源:雷科技)
至于显卡嘛,近期闲鱼上面流出了一大堆P106-090/P106-100矿卡,个中前者的价格普遍在75块钱旁边,后者的价格普遍在120块钱旁边,考虑到我这次的初衷并不是为了游戏而来,我终极直接选择了一张索泰P106-090矿卡,这卡由于带宽问题并不适宜游戏,但价格就摆在这里。
末了,给它大略配上两根杂牌DDR3内存,组成内存双通道,用一个350W长城电源供电,一块120GB SATA SSD做系统盘,用上次装机剩下来的大水牛硅脂凑合凑合,末了再配上个20块钱的电脑城小机箱,我们三百元装机的根本硬件就到齐了。
(图源:雷科技)
不服跑个分!
还算合理的性能表现
装机完成,点亮机箱!
先做个大略的性能测试,作为多年服役的老将,Intel Core™i3-4170T的性能也就那样,即便是在用TrottlesStop解锁功耗的情形下,也就差不多相称于移动端酷睿六代、酷睿七代处理器的水平。
(图源:雷科技)
在实测环节中,CPU-Z测试单核跑分有319.9分,多核跑分有881.0分,在CINEBENCH测试标准下,CINEBENCH R20多核732cb、单核301cb。这成绩当然算不上亮眼,但是拿来日常办公、轻度娱乐倒是完备足够。
(图源:雷科技)
再看看GPU部分,我们手上这张索泰P106-090采取16nm工艺打造,显卡核心为GP106,核心频率为1354MHz,可提升到1531MHz,具有768个着色单元,支持DirectX12,显存规格为3072MB/192Bit三星GDDR5内存,显存频率可达2002MHz。
(图源:雷科技)
值得把稳的是,P106-090的接口是PCI-E x4 1.1,而P106-100的接口是PCI-E x16 1.1,这导致二者即便是在相同核心的情形下,依然存在着比较明显的性能差异,我选择P106-090这张显卡,也仅仅是由于它能在极低的价格下供应CUDA算力的加持罢了。
如图所示,在测评DX11性能的Fire Strike测试中,P106-90在Extreme测试中取得了3287分的图形分数;在测评DX12性能的Time Spy测试中,P106-90在基本测试中取得了2251分的图形分数,这个性能表现和GTX1050差不多,较R5-7640H的核显性能有一定差距。
(图源:雷科技)
存储方面,我们斥资40元购入的这块杂牌128GB Sata SSD硬盘,顺序读写速率达到505.28MB/s和400.09MB/s,随机4K读写达到132.35MB/s和244.29MB/s,只管和M2 SSD硬盘没得比,但是作为系统启动盘肯定是绰绰有余了。
(图源:雷科技)
至于这对双通道的DDR3内存,利用AIDA64进行内存缓存测试,测得的读取速率为20894 MB/s,写入速率为23629 MB/s,复制速率为20901 MB/s,延迟为67.5ns,给这台电脑用可以说是刚刚好。
(图源:雷科技)
大模型游戏,居然都能跑
既然目的是在几百块钱的预算下,打造出一套可用确当地大模型游戏主机,那么实际体验肯定是我们最关注的一环。
先考试测验一下Koblodcpp,这是一款整合Koblod.AI界面的llamacpp启动程序,可以运行目前外网盛行的GGUF格式本地大模型,乃至可以整合语音大模型和绘图大模型,实现在对话的同时,天生语音和对应场景的效果。
(图源:雷科技)
遗憾的是,目前在Huggingface上面共享的GGUF格式大模型,其容量大小普遍超过了3GB,即便选用容量大小只有5GB旁边的causallm_7b模型,依然会导致显卡显存溢出引发CPU的运算参与,终极导致全体大模型的运行效率降落。
(图源:雷科技)
姑且测试一下,在这种模式下,Kobold.AI的回答最长达到了599s(即10分钟)旁边,最短的回答也须要50s来天生旁边,和云端大模型均匀10s就能供应回答的效果相差甚远,体验确实很一样平常。
既然如此,我们不妨退而求其次,用英特尔AIGC助手来体验本地大模型,这是一个集成了多种本地大措辞模型的演示Demo,致力于在不连接网络的情形下,实现智能人机对话。
在关闭电脑网络的情形下,除开首次支配大模型时须要一定韶光外,后续的提问基本上在5秒内都能得到答复,不管是回答问题、翻译还是写作都非常迅速,虽然在应对一些脑筋急转弯或者算术题时依然会涌现逻辑缺点,但是在这种情形下的整体体验可比之前强太多了。
(图源:雷科技)
当然,角色卡、提示词这些比较高等的功能就肯定用不明晰。
再看看AI绘画,我这里利用的是bilibili UP主@整合的绘世启动器,集Stablediffsion WebUI、各种SD插件下载和模型远程利用于一体,算是个相称实用的一体启动器。
(图源:雷科技)
考虑到P106-90仅有3GB的运存限定,我选择了经由剪裁后容量仅为2GB的mistoonAnime MIX_v20模型,实测P106-90天生4张128160的图片耗时约三分钟,天生4张240320的图片耗时七到八分钟,而天生1张512512的图片则须要六分钟旁边。
(图源:雷科技)
从实际体验来看,个人建议在减少提示词和插件的情形下,从128160的图片开始天生,碰着了得当的图片再进行单张图片的AI升格重绘,这样整体的体验还是挺不错的,否则用512512的规格天生图片,废图概率不是一样平常的高。
(图源:雷科技,用SD天生的图片)
既然本地大模型算是能用,那么游戏体验又怎么样呢?
考虑到实际硬件配置,我们先后测试了《孤岛惊魂6》《古墓丽影:暗影》《F1 2020》以及《地平 线:零之黎明》四款游戏在FHD分辨率下的体验,让我们来看看各自的表现。
在《孤岛惊魂6》的性能测试中,在19201080最低画质下,这台电脑的均匀帧数为32fps,即便开启FSR性能档,终极游戏帧数也只能在40fps高下颠簸。
(图源:雷科技)
再看看赛车游戏,在《F1 2020》中,我们开启19201080中画质,进行澳大利亚赛道的晴天测试,终极均匀帧率可以达到59fps,即便是这张多次服役的矿卡也能流畅运行。
(图源:雷科技)
作为标准测试游戏,《古墓丽影:暗影》自然没有错过这次测试。在没有开启FSR、默认19201080最低画质下,这台电脑运行游戏基准测试的均匀帧数为50fps,算是这一批3A游戏里最靠近稳定60帧的游戏体验。
(图源:雷科技)
末了来个硬茬,《地平线:零之黎明》,由于最低画质也会爆显存的缘故,这台电脑在1280720最低画质下,才能勉强达到30fps的及格线,只能说不适宜嬉戏了。
(图源:雷科技)
总的来说,受到严苛的带脱期制影响,P106-090的实际性能并不如和它跑分附近的GTX1050,最多便是比Iris Xe 96EU核显略强一些的水平,搪塞近些年的3A游戏已经有些捉襟见肘了。
总结:确实能跑大模型,但稳定性欠佳
优点:
1、本钱预算低廉;
2、确实能运行本地大模型。
缺陷:
1、二手零部件无保障;
2、矿卡驱动非常随意马虎掉,白屏问题时有发生。
这款预算300元的电脑主性能用吗?
只管CPU规格老旧、矿卡表现不稳定,但是这款预算300元的电脑主机确实能完成本地大模型的支配,在文本天生和AI绘图的体验上都没有什么问题,你乃至也能把它当成一台AI PC。
即便运行《孤岛惊魂6》这样的3A大作,这款机子也能在FHD低画质下担保60帧稳定运行,那么搪塞《英雄同盟》这类网游该当是绰绰有余的,也可以当一台入门的网游主机来用。
(图源:雷科技)
那么我对这款电脑主机感到满意吗?
答案是否定的,在实际利用的过程中,P106-90这张矿卡多次涌现掉驱动导致电脑白屏,须要用DDDU卸载驱动再重装的情形。如果说这放在测试里还只是有点麻烦的话,那么放在日常利用中肯定是很难让人接管的。
值得把稳的是,目前闲鱼上面还有不少和我组装起来的这台机子配置类似的洋垃圾整机,售价普遍在350-400元旁边,目标受众很明显是刚上大学或者走出社会的年轻群体,个人建议大伙别去购买这些产品,一分钱一分货可不是开玩笑的。
归根结底,捡垃圾有风险,上车前需谨慎。对付玩腻了高端电脑的玩家来说,偶尔玩玩捡垃圾主机还是很故意思的,但这只是为了乐子,并不是真的打算将其作为主力机长期利用,毕竟捡垃圾主机的配件年久失落修且没有质保,万一由于它的故障而丢失了主要数据,那就得不偿失落了。
不过,通过用三百块预算完成能运行本地大模型PC的考试测验,一定程度上解释,硬件性能可能不是制约AI PC发展的紧张成分。至少在普通消费者的利用场景中,比较起算力提升,PC厂商更该做的该当是帮助用户搭建好AI大模型的框架和环境,在系统和软件上给用户带来更好的体验。换句话说,AI PC该当是用户拿得手就能用的,而不是像我们自己组装DIY PC这般折腾。
本站所发布的文字与图片素材为非商业目的改编或整理,版权归原作者所有,如侵权或涉及违法,请联系我们删除,如需转载请保留原文地址:http://www.baanla.com/ktwx/184196.html
下一篇:返回列表
Copyright 2005-20203 www.baidu.com 版权所有 | 琼ICP备2023011765号-4 | 统计代码
声明:本站所有内容均只可用于学习参考,信息与图片素材来源于互联网,如内容侵权与违规,请与本站联系,将在三个工作日内处理,联系邮箱:123456789@qq.com