Re: [新聞] 輝達預告「PC新紀元」 黃仁勳下周GTC將

看到蠻多留言質疑AI on local PC的可行性,質疑的點主要有幾個(1)這種PC太貴(2)用 雲端AI就可以了(3)日常生活中用不到AI PC 但看到前幾天蘇媽認為AI PC會開始呈現雙位數的成長到這幾天黃仁勳要拿出的新產品來看 ,大廠都往這個方向顯然業界有這樣的共識。 AIPC這個概念應該2024甚至2023,GPT提出來的時候就有出現了,但那時候的AIPC僅僅只是 停留在像現在大部分一般人使用AI的方式一樣,就是對話,只是把雲端上大家在GPT、Gemin i、Claude網頁搬到電腦上。在過去的本地AI只有這樣的功能就會顯得很雞肋,一樣的事情 我在網路上做就好,除非我非常重視資安否則我完全沒必要再去買一台號稱可以使用AI的桌 機/筆電。 但在小龍蝦這個概念起來之後,AIPC可以做的事情變得多元了,只要一個命令就可以直接跳 過所有中間指令到產出內容。(如果對小龍蝦有興趣的話可以上YT看台大李宏毅老師的講解 ,甚至他還有經營一個頻道是由小龍蝦全部自己找資料、發表影片、回覆觀眾留言)但也因 為要在持續使用API的關係,小龍蝦如果跑在雲端上消耗下來的token數和費用都十分驚人( 每個月幾千甚至上萬的花費)。這時如果有好用的地端模型作為搭配,在任務執行上可以將 任務拆分,簡單的本地做,困難的再丟到雲端上處理會更有效率。 現在大廠們目標就是看向這個市場。可能有人會質疑地端的模型是否足夠好?若單純是推論 ,現在Google有一些地端的模型Gemma就可以處理,至於能處理的多好取決於記憶體有多大 記憶體越大就能有更快推理速度和精度,比如說36GB大概可以等同GPT-4的水準。 目前市面上有推出的真AI相關電腦如下 https://i.imgur.com/F1VJ3VM.jpeg 誠如有些留言指出,目前的AI相關電腦還是太貴,當然在產品的初期價格高昂乃是常態(但 可以看到AMD價格相對來說也有競爭力) 我個人的猜想,這類電腦初期的落地肯定不會是在家庭,而是商務,試想,如果公司可以買 一台電腦而少僱用幾個人,那幾個人整年的薪水可以買幾台的電腦,這樣的算術比較利益就 會開始出現。 同時AI PC也會使AI大模型公司很好的變現與提升ROE的管道,就如同windows的授權費,AI 大模型也能透過預載和更新來收取費用。 即使AIPC的勢頭初見苗頭,我還是認為目前會遇到一些挑戰。(1)老黃的ARM架構CPU在過 去x86累積的程式面臨到的挑戰。(2)AIPC能不能在針對本地的資料進行優化/fine tune, 避免同質性過高的問題。(3)價格? 最後補點股點,如果AIPC可以大規模鋪開,受益的股票會有哪些?目前我想到的部分: (1)品牌廠 (2)記憶體,用量每台電腦可能從過去的16-32GB翻倍甚至三四倍成長 (3)高速傳輸晶片I/O

推文討論 174

1F bojan0701 05/31 06:30
. 但只是商用,個人PC要發展啥?
2F bj45566 05/30 23:53
(他本業就非常賺錢,而且五年前左右他就把多餘的
3F bj45566 05/31 00:12
*完全不違法
4F nick982009 05/31 14:47
5F Gaujing 05/31 22:33
=即時感知,狀態辨識,低延遲提醒,三者共同組成個
6F prussian 05/30 22:21
AI PC 是不同品種,而且 M5 Max 的 mac studio 是
7F sdbb 05/31 00:01
AI PC或自建模型,小魯以為錢其次,尤其對股板而言
8F gn7722 05/30 22:12
Aipc 其實也沒搞頭我覺得,主要是,阿不就是大家換
9F htiio 05/31 07:06
AIPC要起來的話,網通相關一定會帶動
10F mopa 05/30 23:32
AI代理吧
11F pujos 05/30 22:40
Ai個鳥PC
12F qoo10067 05/31 20:37
AI電腦最後才是消費者,目前養龍蝦 普有誰做得出來?
13F s1612316 05/31 00:53
Dell的財報暴增業務又不是消費PC..甚至有些是因為怕
14F cphe 05/31 00:08
Google 正在做Android PC的系統,八成會直接把AI做
15F TameFoxx 05/31 12:16
Google長期提供Gemma系列模型API For Free
16F nick982009 05/31 12:42
hybrid-ai-infrastructure-cost-reduction/
17F cphe 05/31 00:06
ntic AI夠成熟就可以是完美助理幫你處理,家用也不
18F ActionII 05/31 10:18
Nv 有慢慢在補這一塊
19F TameFoxx 05/31 03:53
Server花個一千萬就可以好幾百開(大概500吧
20F TameFoxx 05/31 03:50
一台AIPC 全年無休跑一整年 出來的Token價值可能
21F cphe 05/31 00:06
一定需要太複雜的模型
22F TameFoxx 05/31 13:21
一整年就是1460M 1460M*0.3鎂=438鎂=一萬三台幣
23F qoo10067 05/31 20:37
一般人都不知道要怎麼開頭
24F shrimprock 05/30 23:25
不會用類PC
25F TameFoxx 05/31 14:47
不算電費折舊你一樣要他不眠不休跑4~5年才回本
26F bj45566 05/31 00:11
中的,那應該完全不違反而且會名氣大增,簡直是印鈔
27F bj45566 05/31 00:11
之前還有因此爆發賄賂案的 -- 但如果是 AI 幫忙猜
28F Gaujing 05/31 22:33
人agent network,Google自己的方向也是朝這前進
29F bj45566 05/30 23:55
人年薪是一千萬起跳
30F ActionII 05/31 10:12
他可以多賣你錢啊,怎麼沒有搞頭
31F offstage 05/31 16:52
以前EUC(End User Computing)提高效率,後來發現
32F bnn 05/31 10:19
但大廠不能不作 慢了就是可能完全丟掉一個潛在市場
33F TameFoxx 05/31 14:47
你就算真能100tps,那就是一年兩萬六
34F TameFoxx 05/31 10:55
你用API一定比自己買硬體划算
35F qoo10067 05/31 20:39
你說AI PC一台 20、30萬 會買得少
36F badgreen 05/31 13:02
來,需求端倒是一直想辦法生出來,這是要想辦法噴
37F jinmin88 05/31 23:34
個人想像會變成規劃階段用雲端 照規格開發用本地
38F siyaoran 05/30 22:35
個人用本來AI就用不多
39F ActionII 05/31 10:22
個人秘書的要求,是比寫扣還要更難的…
40F templar44 05/31 06:49
個人這個價位肯定沒搞頭
41F ActionII 05/31 10:14
全部廠商都放,就會一起漲價了
42F TameFoxx 05/31 12:17
其他一些付費的供應商也是百萬輸出0.3~0.4美金
43F badgreen 05/31 13:02
到2030的意思XD
44F pujos 05/30 22:40
到現在這群人還是不願意搞懂用戶電腦是在幹什麼用的
45F devidevi 05/30 22:10
原來記憶體吃最多???比一般電腦多5倍記憶體
46F dasuperray 05/31 03:16
又AI機器人 又AIPC根本亂槍打鳥
47F devidevi 05/30 22:10
反而不吃硬碟
48F a524528 05/30 23:27
只有這樣,那就沒救了
49F greedypeople 05/31 02:47
可是養龍蝦不是用一般PC就好了 AI PC是什 ?
50F bj45566 05/30 23:55
台灣的開業醫/牙很多人的
51F bj45566 05/31 00:03
台灣社會的商業價值真的不敢想像...
52F aewul 05/30 23:24
史上最大泡泡即將破滅!快跑吧! 噱頭
53F badgreen 05/31 12:55
商用針對公司不到10人的有明確的需求
54F bj45566 05/31 00:06
圖的
55F ActionII 05/31 10:16
在ai 寫扣方面也算是堪用
56F bnn 05/31 10:18
大廠可以提出貴的prototype 你可以不買
57F TameFoxx 05/31 13:22
如果一台DGX Spark賣3萬那可能可以
58F TameFoxx 05/31 03:52
如果一間公司需要大規模的AI數位員工
59F TameFoxx 05/31 10:56
如果是工廠銀行醫院政府這種量體 也會選自建server
60F bj45566 05/31 00:06
少數顧客都是皮包鼓到滿出來的有錢人,那也蠻有利可
61F NexusPrime 05/30 22:36
就RAM太貴啊,你要跑稍微大的模型起碼64G
62F TameFoxx 05/31 03:50
就也才一萬多一點
63F OnceAFreak 05/30 23:02
就表示有戲 所以最近系統廠都亂噴
64F bj45566 05/30 23:53
己的即時醫學論文知識庫... 不過他本來就一直是 IT
65F Gaujing 05/31 22:33
憶,檔案,工作流,重複任務代理,手機眼鏡感測器
66F Gaujing 05/31 22:36
憶體只會永遠缺
67F jinmin88 05/31 23:33
成本問題 claude/gpt 的照量付費的價格真的太貴
68F bigair888 05/31 01:12
成本是唯一考量
69F coldeath 05/31 14:14
成熟普及,不就代表算力過剩,ai崩盤時刻的到來
70F greedypeople 05/31 02:47
我不太相信邊緣運算普及 算力跟能源的效率太低
71F mopa 05/30 23:30
我在家裡就是滑滑YT和遊戲,是要本地代理人幹嘛?
72F kausan 05/31 21:59
我現在喂我喜歡的小說 然後叫他上網去讀並篩給我
73F qoo10067 05/31 20:37
我認識只有真的有寫軟體的人有在養龍蝦
74F pujos 05/30 23:44
我錢很多,就非得搞本地弱化降智版本搞著玩?
75F bnn 05/31 10:18
手機一開始也是黑金剛又貴鬆鬆的
76F gn7722 05/30 22:14
換完就沒啦
77F y598763 05/31 13:47
新的這台可以幹到100TOPS...
78F MrBing 05/31 00:28
時候也沒人覺得實用 現在輪到AI
79F prussian 05/30 22:21
未來人給你的嗎,作圖也檢查一下
80F Gaujing 05/31 22:36
本地agent做80%雜務,雲端模型處理20%困難判斷,手
81F ActionII 05/31 10:16
本地ai也沒到那麼不堪,配有3090以上等級的機器,
82F bj45566 05/30 23:53
業餘愛好者,而且這些對他來說真的只是很小的錢...
83F bj45566 05/31 00:11
84F Gaujing 05/31 22:36
機就變成溝通本地與雲端的橋樑,這條路線起來,記
85F TameFoxx 05/31 03:50
比你機器的折舊還低
86F yes920101 05/30 22:43
洗睡,那還有力氣開電腦。
87F s1612316 05/31 00:53
漲價提前拉貨
88F offstage 05/31 16:51
然後分散式運算,再到三層式架構。
89F bnn 05/31 10:20
然後大部分消費級也不是寫code堪用 是個人秘書堪用
90F zonezone 05/30 23:45
理幹嘛
91F offstage 05/31 16:53
用AI自己EUC的時代。
92F kausan 05/31 21:57
用說的不是用打字 一句話幫你安排好
93F bj45566 05/30 22:52
用需求,這對他們來說是小錢
94F x123392003 05/31 00:48
的MAC MINI來獨立安裝使用,最後問題還是價格就是了
95F qoo10067 05/31 20:40
目前都還圍繞雲端企業算力
96F gn7722 05/30 22:11
笑死
97F bojan0701 05/31 06:30
答各式問題,根據學生能力安排課程...應該有潛力..
98F cphe 05/31 00:08
系統整合,到時更沒有權限問題
99F bojan0701 05/31 06:30
線上影片課程已經很多但無法互動,若能及時由AI回
100F TameFoxx 05/31 03:49
而不是花個十幾萬去買個AI PC
101F mopa 05/30 23:32
說公司會買來給員工用我還信,但是應該沒有多少會用
102F offstage 05/31 16:51
資訊業就是合久必分、分久必合。古時候大型主機,
103F offstage 05/31 16:50
跟CPU的需求才會繼續上去啊
104F gn7722 05/30 22:14
跟目前ai伺服器是無限增生不一樣
105F prussian 05/30 22:20
這幾台都是用巨大iGPU硬幹的,和之前用雞肋 NPU 的
106F devidevi 05/30 22:11
這邊5K單位是美金嗎???
107F offstage 05/31 16:52
過於分散並有各種漏洞所以又推SaaS,現在又回到全民
108F pujos 05/30 23:39
遠端連回事務所、醫院跑很困難?架本地是要耍什麼智
109F TameFoxx 05/31 03:52
那他也是直接架Server 不會選AIPC
110F sdbb 05/31 00:02
重點是目的和必要性
111F bj45566 05/30 23:53
錢定期定額存 0050 了)
112F kalapon 05/31 10:13
開機不再是桌面,而是對話
113F pujos 05/30 23:39
114F gn7722 05/30 22:12
電腦嗎
115F ActionII 05/31 10:18
風險應該在於開源領導廠商還願意開多久
116F nick982009 05/31 12:42
117F CNTsai 05/31 16:32
AI NB-->面版廠?
118F AnimalSpirit 05/31 07:05
AI PC 主力是商用 辦公用途
119F q8977452 05/30 22:05
ai pc 前intel執行長提出的呀 但那時可能太早囉:?
120F astrokid 05/30 23:45
AI PC可以幫我打電動嗎,那我會買
121F gn7722 05/30 22:08
Ai龍蝦如果去罵網友,被告的時候算誰的
122F PTIMIKE 05/30 22:28
ram太貴誰要買
123F TameFoxx 05/31 14:46
TOPS是算力指標不代表輸出速度
124F LLSBOY 05/31 00:26
一開始大家質疑智慧型手機一樣...
125F kausan 05/31 21:57
不只管理a片還能依照你的性癖幫你抓a片 以後一定是
126F gn7722 05/30 22:11
他自動去罵網友,我人在無網路環境的不在場證明
127F offstage 05/31 16:50
伺服器需求要滿了,開始回頭吹個人電腦,這樣顯卡
128F TameFoxx 05/31 12:16
你可以把你查到的資料分享出來
129F source0209 05/31 11:35
你得到它了!
130F TameFoxx 05/31 13:21
假設你的AIPC輸出50tps 一天86400秒就是約4M
131F iwcuforever 05/31 09:10
價位量體尷尬,只有小型企業容易買單
132F ups 05/31 13:06
優質好文
133F OnceAFreak 05/30 23:02
先不說dell財報 聯想財報開出來告訴你高階PC需求強
134F siyaoran 05/30 22:35
公司會買
135F cphe 05/31 00:06
分析得不錯啊 個人用戶不見得就不會買,未來Age
136F lakres51204 05/30 23:16
可以用來打楓之谷 合法外掛
137F zonezone 05/30 23:45
商務先能起來再說,一般人電腦是拿來耍廢的,要助
138F yes920101 05/30 22:43
商務我贊同,但是個人真的不可能,社畜回家只想洗
139F overpolo 05/31 09:22
太貴的東西不會普及
140F bj45566 05/31 00:03
如果 AI 能分析出大考中心的出題方向或知識點,那在
141F a524528 05/30 23:27
如果只是地端的AI也太無趣了,那麼多家大公司發布
142F bj45566 05/30 23:59
對喔,補習班名師應該也會需要
143F Gaujing 05/31 22:33
就是雲端=高難度推理與大模型驗證,PC=本地長期記
144F q888atPt 05/31 07:57
工廠一定要落地阿 銀行醫院政府這種也是
145F hanm1234 05/31 02:30
感覺大幅降低創業成本? 自己當慣老闆
146F coldeath 05/31 14:14
我信這個商業地端aipc的說法,但假裝這一天真的應用
147F bj45566 05/30 23:53
我是真的有認識開業醫師用 Mac 搞本地端 AI 建立自
148F kalapon 05/31 10:13
我會猜微軟下一版視窗就把agent放進去了
149F badgreen 05/31 12:55
我覺得是娛樂以及多媒體創作者有這需求,這類型的
150F ksjr 06/01 02:05
所以你自己架email server了嗎?
151F j68345517 05/31 13:02
152F shrimprock 05/30 23:25
有aws誰還自建伺服器 除非規模夠大,但規模大的也
153F bj45566 05/31 00:06
本地端 AI 一開始一定是只有小眾市場,但如果那些
154F pujos 05/30 22:39
現在一堆換在教codex只能講神經病
155F sdbb 05/30 23:46
生色圖,本地最安心
156F egghan 05/31 10:45
看看MS當初對 手機的立場跟策略就知道了
157F sdbb 05/31 00:00
站上ENT開業醫Tosca就自己弄了,詳見AI_art板
158F jo4 05/31 00:17
等AI PC能讓人更廢的話 就能成功
159F Samurai 05/31 14:20
算力過剩這個詞就像有人嫌自己錢太多
160F MrBing 05/31 00:28
網路剛出來的時候也沒人覺得實用 個人電腦剛出來的
161F domodesty 05/31 00:15
群聯 aiDAPTIV+ AI 有效解決 大幅降低硬體成本
162F a77942002 05/31 09:18
能跑3A再說~
163F pujos 05/30 23:30
自吸、類外掛自喵、鎖頭,這樣?
164F TameFoxx 05/31 03:49
自己當老闆 你就應該用雲端API
165F sdbb 05/31 00:05
補習班可以把名師的課程弄成影片,講師任你選
166F bj45566 05/31 00:11
補習班最重要最艱難的任務是猜中今年的考題,記得
167F oyaji5566 05/31 15:09
買AI PC讓本地AI agent管理A片
168F jen1121 05/30 23:40
走arm掛統一記憶體,壓低價格
169F pujos 05/30 23:39
這玩意騙都不知道從那裡騙起,醫師、律師有需要?那
170F TameFoxx 05/31 10:55
那些開源小模型都有很多雲端服務了
171F DHPdotD 05/30 22:32
都被裁員了,可能買不起AI PC
172F badgreen 05/31 13:02
重點是晶片記憶體各式各樣的供給端,產能都開不出
173F bj45566 05/30 22:52
開業醫師、開業律師這一類的高薪專業人士可能會有家
174F x123392003 05/31 00:47
龍蝦真的證明有這市場,那時候對岸一堆推薦買最便宜