普通东谈主在电脑上尝鲜AI时刻的三种形状

TechWeb 文 / 新喀鸦

跟着科技的赶紧发展，东谈主工智能（AI）还是不再是牛年马月的将来科技，而是冉冉融入咱们生计的各个边际。从智能家居的方便操控，到线上劳动的智能保举，再到医疗、素养等行业的深度应用，AI正以其独有的魔力改变着天下。然而，关于许多普通东谈主而言，AI似乎仍然是一个充满深重感的高技术界限。那么行动普通东谈主，咱们该如何尝鲜AI时刻呢？

以网页版AI为代表的“云霄AI”

当咱们提到AI时，确信好多东谈主的脑海中齐会裸走漏一个名字——ChatGPT。没错，即是阿谁在科技圈掀翻山地风云的聊天机器东谈主。它的发布，仿佛所有精致的闪电，照亮了AI界限的夜空，让咱们清醒地感受到了东谈主工智能的无穷可能。

ChatGPT是一款集成了顶端天然言语处理时刻与深度学习身手的聊天机器东谈主，它宛如一位两脚书橱的万能督察人，不管在哪个界限，齐能针对您的问题提供详备的解答。关于本色创作家而言，ChatGPT更是一位不可或缺的助手，它能生成高质料的图片、编写精确的代码、构念念宽裕创意的案牍、制作专科的PPT，并对文档进行润色，使著述本色愈加出色。天然这些只是是ChatGPT功能的冰山一角，诸君可以去切体魄验一番，了解它简直的实力。

从使用角度来说，ChatGPT使用起来相配淘气。咱们只需要翻开网页，登陆账号就可以享受到关连的AI功能。

值得一提的是，在本年4月，OpenAI告示ChatGPT（3.5版块）免费了。也即是说要是你只是想体验ChatGPT 3.5版块的话，连账号也不需要，只须登陆ChatGPT的网页就可以了。

要是你当今无法使用ChatGPT的话，国内也有好多厂商推出了访佛ChatGPT的产物，比如百度的文心一言。凭证百度官方的先容，文心大模子4.0综称身手和 GPT-4比较绝不忘形。文心一言的使用形状和ChatGPT访佛，亦然只需要翻开网页，登陆百度账号就可以享受到关连的AI功能。当今文心大模子3.5免费通达，文心大模子4.0则需要购买会员才可以使用。国内除了文心一言，还有其他一系列AI应用，如通义千问、豆包、智谱清言、腾讯混元以及讯飞星火等，这些AI应用在使用步调上是大同小异的。

天然以上这些其实齐属于“云霄AI”的限制。“云霄AI”淘气来说即是将AI关连的数据处理放在劳动器上跑，用户只需要通过网页、应用要道输入辅导即可。这种部署模式有三个自制：

1、低廉：当今云霄算力本钱并不算太高，因此好多“云霄AI”是免费通达的，就算是收费的会员，价钱也不算太贵。以文心一言会员VIP为例，当今一个月也只须49.9元（一语气包月，可随时取消）。

2、不挑成立：AI既然是放在劳动器上跑，那么关于用户使用的终局基本就没什么性能条目了。毕竟找个能平淡观察网页的电脑照旧很容易的。

3、易用：由于“云霄AI”的部署、热爱、升级等职责是由厂商持重，是以关于用户来说基本是“即开即用”，往往只需要点开个网页登陆账号就能获胜使用AI功能。

基于现存硬件土产货部署AI

天然“云霄AI”有诸多上风，但照旧有一个问题不可疏远，那即是数据奥妙性。此前三星就被曝出因ChatGPT而泄露芯片奥密。其时因为三星职工获胜将企业奥密信息以发问的形状输入到ChatGPT中，导致关连本色干预学习数据库，从而形成信息泄露。关于这种情况，土产货部署大模子其实是个很好的措置主张。

由于土产货部署大模子是将AI放到土产货成立上跑，关连的信息并不会发送到其它劳动器上。是以当咱们用这种形状处理个东谈主诡秘信息或者企业奥密信息时就无需担忧信息外泄的风险。

不外从另一个方面看，土产货成立的算力性能往往不如劳动器，因此只须部分性能强的成立才恰当土产货部署大模子。

以英伟达发布的Chat With RTX为例，Chat With RTX 是一款基于言语大模子的应用要道，可让用户方便纠合到我方的本色（文档、札记、视频或其他数据），诓骗RAG(检索增强生成)、TensorRT-LLM 和 RTX 加快，全部在用户个东谈主的 Windows RTX PC 或职责站上土产货运行，取得快速、安全的截至。

其在硬件方面主要就两点条目：

1、领有8GB以上显存的RTX 30或RTX 40系列显卡。天然同规格的专科显卡也可以。

2、电脑内存朝上16GB。

关于显卡来说，即使是2022年发布的RTX 3050也能悠闲关连需求。RTX 3050基本可以算是最近几年“游戏电脑”的基本竖立了，是以当今好多现存的 “游戏电脑”齐能得当这么的竖立条目。

要是你想要部署其它土产货大模子，硬件竖立条目可能会略略高少许。淘气来说大模子参数越大，需要的显存就越多。假定你使用的显卡其显存大小为16GB，那么想要土产货部署7B以下参数目级的大模子应该是问题不大的。

淘气转头一下，这种部署模式有两个优点：

1、数据在土产货运筹帷幄，无需操心信息外泄。

2、大巨额最近几年购买的“游戏电脑”基本齐可以跑，不需要稀疏购置新成立。

通过AI PC土产货部署大模子

早在2023年9月，英特尔CEO帕特·基辛格在硅谷提议了PC的蜕变性认识——AI PC。英特尔亦然开端提议AI PC认识的厂商。AI PC淘气来说即是能玩转AI功能的PC。

具体来说，AI PC集成了中央处理器（CPU）、图形处理器（GPU）和神经网罗处理单位（NPU），每种处理器齐具有特定的AI加快功能。NPU是一种专用加快器，它能高效地在PC上获胜处理东谈主工智能和机器学习（ML）任务，而不是将数据发送到云霄进行处理。因此用AI PC跑AI也无需担忧信息外泄的风险。

相较于惯例的游戏电脑，AI PC在浮滑与便携性方面展现出了显耀的上风。这主要归因于游戏电脑平庸需要配备孤苦显卡，而这类显卡不仅体积宏大，还需要配备宏大的散热模组来草率其散热需求，进而需要更高功率的电源来保险供电通晓。因此，游戏电脑在缱绻上往往显得更为安靖，便携性相对较差，而AI PC则能凭借其更为紧凑的缱绻，为用户提供更为马虎的使用体验。

是以关于职责中需要用到AI，且需要时时到处跑的东谈主来说，AI PC会是个可以的采选。毕竟要是可以选的话，应该没几许东谈主快意背着“板砖”（游戏电脑）外出吧？

当今市面上的AI PC按所用处理器分歧可以分红四个主要阵营，分别是苹果、英特尔、AMD、高通。

苹果：苹果在AI界限的布局其实挺早，只不外苹果似乎不太心爱AI这个标签，搞出来的后果往往会以“机器学习”这类更细化的名字定名。比如苹果在2017年推出了Core ML框架，这是苹果为其开荒者准备的机器学习框架。辅助iOS、MacOS、tvOS和watchOS。也就说是在苹果生态内开荒AI，基本不需要商酌兼容性等问题，可以按照调节的法式进行开荒。另外苹果从M1芯片运行推出了“调节内存”的认识，使用调节内存跑大模子在带宽和容量方面会有昭彰上风。

英特尔：英特尔专为AI PC推出了英特尔酷睿Ultra处理器，在这款处理器中除了领有CPU、GPU之外，还集成了用于客户端的片上AI加快器“神经网罗处理单位（NPU）。不外需要讲明的是，平庸并不是只须NPU来处理AI应用，CPU、GPU也会承担对应的AI加快功能。

AMD：AMD的AI PC处理器诓骗了三种运筹帷幄引擎：基于Zen架构的CPU、基于AMD RDNA的集成或孤苦GPU、以及基于AMD XDNA的AI引擎（NPU）。XDNA是该公司在收购Xilinx后提议的新架构。它是一种自得当数据流架构，被以为可以大幅度改变PC体验。AMD XDNA还可以优化AI算法运行着力，进而减少电耗。

高通：近期微软推出了基于高通骁龙 X Elite和骁龙 X Plus处理器的AI PC产物Surface Pro和Surface Laptop。微软的AI PC在宣传上似乎更偏向于“生态赋能”。具体来说，英特尔、AMD在宣传AI PC的时刻往往会重心先容AI的土产货化部署上风。而微软似乎并不太在乎土产货部署AI这件事。比如微软在发布会时重心先容的Copilot，其中的不少功能是需要将数据上传的劳动器进行处理，也即是极端于在走“云霄AI”的途径。不外关于微软来说也可以通晓，毕竟微软是一个系统厂商，它细则照旧但愿鼓吹Windows和Copilot生态的发展。

结语

1、关于想在电脑上尝鲜AI时刻的东谈主来说，访佛ChatGPT、文心一言之类的“云霄AI”是当先。毕竟价钱低廉并且使用起来也很浅显。

2、关于担忧信息外泄风险的东谈主来说，基于现存硬件土产货部署AI是个可以的采选。其上风在于无需稀疏购置成立，领有一台“游戏电脑”平庸就能悠闲需求。污点在于这类“游戏电脑”往往短少便携性，未便于移动使用。

3、关于上班、出差，并且还需要使用AI的东谈主来说，AI PC会是个可以的采选。毕竟AI PC渊博毕竟浮滑、便携，带AI PC出差可以显耀消弱咱们肩膀上的压力。

　　声明：新浪网独家稿件，未经授权辞谢转载。 -->