洗涤屋在线,久久无码人妻精品一区二区三区,潮湿的心动漫高清在线观看,黄色免费网站在线

行業(yè)資訊

ChatGPT服務(wù)器是什么?ChatGPT有多燒錢(qián)?
2023-02-24 17:16:31
閱讀()
來(lái)源:互聯(lián)數(shù)據(jù)
摘要: ? ? 最近,全世界都在熱議ChatGPT。這款史上用戶增速最快的消費(fèi)級(jí)應(yīng)用,只用了兩個(gè)多月,就火到了幾乎無(wú)人不知的程度。何為人工智能ChatGPT?大家應(yīng)該都是有所了解的。而人工智能的推進(jìn),離不開(kāi)ChatGPT服務(wù)器的支

最近,全世界都在熱議ChatGPT。這款史上用戶增速最快的消費(fèi)級(jí)應(yīng)用,只用了兩個(gè)多月,就火到了幾乎無(wú)人不知的程度。何為人工智能ChatGPT?大家應(yīng)該都是有所了解的。而人工智能的推進(jìn),離不開(kāi)ChatGPT服務(wù)器的支持。那么,何為ChatGPT服務(wù)器呢,簡(jiǎn)單來(lái)說(shuō),就是提供服務(wù)的機(jī)器,兩者結(jié)合在一起,就組成了人工智能服務(wù)器,那么,ChatGPT人工智能服務(wù)器是什么?ChatGPT的服務(wù)器到底有多燒錢(qián)?


一、ChatGPT人工智能服務(wù)器是什么?


ChatGPT服務(wù)器采用特殊的Ai產(chǎn)品陣列,對(duì)于功能的實(shí)現(xiàn)有很大的幫助。它的優(yōu)勢(shì)主要呈現(xiàn)在語(yǔ)音識(shí)別、圖像處理、視頻成像、語(yǔ)義識(shí)別等領(lǐng)域,特別是在數(shù)據(jù)中心計(jì)算領(lǐng)域取得了卓越的成就人工智能服務(wù)器提供的數(shù)據(jù)計(jì)算是多方面的,包括檔案、市場(chǎng)細(xì)分、類型劃分等,通過(guò)特定的分析,為企業(yè)提供精準(zhǔn)的發(fā)展方向,更有針對(duì)性的發(fā)展和改進(jìn)。


ChatGPT之所以能擁有如此強(qiáng)大的能力,是因?yàn)閷⒋罅康臄?shù)據(jù)、強(qiáng)大的計(jì)算能力和新穎的處理技術(shù)相結(jié)合,其核心并且不可或缺的就是算力與算法。ChatGPT的支撐使用了數(shù)千臺(tái)GPU服務(wù)器,網(wǎng)傳每次問(wèn)答的成本是0.8美元。由此可見(jiàn),生成式AI對(duì)算力的需求是超乎想象的,這為算力及基礎(chǔ)設(shè)施相關(guān)賽道創(chuàng)造了巨大的發(fā)展空間。


資料顯示,ChatGPT 是基于 GPT-3.5 優(yōu)化的一個(gè)模型,GPT-3.5 是 GPT-3.0 的微調(diào)版本。OpenAI的GPT-3.0模型存儲(chǔ)知識(shí)的能力來(lái)源于1750億參數(shù),單次訓(xùn)練費(fèi)用約460萬(wàn)美元,GPT-3.5 在微軟 AzureAI 超算基礎(chǔ)設(shè)施上進(jìn)行訓(xùn)練,總算力消耗約 3640PF-days(即假如每秒計(jì)算一千萬(wàn)億次,需要計(jì)算 3640 天)。


ChatGPT服務(wù)器是什么?ChatGPT有多燒錢(qián)?


二、ChatGPT的服務(wù)器到底有多燒錢(qián)?


ChatGPT服務(wù)器和傳統(tǒng)的服務(wù)器一樣,在我們搜索、聊天、瀏覽網(wǎng)頁(yè)時(shí),提供數(shù)據(jù)和信息服務(wù)。當(dāng)然,這只是它的基礎(chǔ)功能,為了滿足市場(chǎng)和不同應(yīng)用場(chǎng)景的需求,人工智能服務(wù)器最多可支持n多個(gè)處理器,抵得上幾十臺(tái)個(gè)人電腦的運(yùn)作能力,實(shí)力超群,不僅如此,它的擴(kuò)展性強(qiáng),可根據(jù)企業(yè)的真實(shí)需求,提供精準(zhǔn)的解決方案,幫助他們實(shí)現(xiàn)數(shù)據(jù)和資源的訴求,升級(jí)企業(yè)地位和形象。


而GPT-3訓(xùn)練一次的成本約為140萬(wàn)美元,對(duì)于一些更大的LLM模型,訓(xùn)練成本介于200萬(wàn)美元至1200萬(wàn)美元之間。這一成本于全球科技大企業(yè)而言并不便宜,但尚在可接受范圍內(nèi)。今年1月平均每天約有1300萬(wàn)獨(dú)立訪客使用ChatGPT,對(duì)應(yīng)芯片需求為3萬(wàn)多片英偉達(dá)A100GPU,初始投入成本約為8億美元,每日電費(fèi)在5萬(wàn)美元左右。


1)計(jì)算假設(shè):


英偉達(dá)A100:根據(jù)OneFlow報(bào)道,目前,NVIDIAA100是AWS最具成本效益的GPU選擇。


英偉達(dá)DGXA100服務(wù)器:?jiǎn)螜C(jī)搭載8片A100GPU,AI算力性能約為5PetaFLOP/s,單機(jī)最大功率約為6.5kw,售價(jià)約為19.9萬(wàn)美元/臺(tái)。


標(biāo)準(zhǔn)機(jī)柜:19英寸、42U。單個(gè)DGXA100服務(wù)器尺寸約為6U,則標(biāo)準(zhǔn)機(jī)柜可放下約7個(gè)DGXA100服務(wù)器。則,單個(gè)標(biāo)準(zhǔn)機(jī)柜的成本為140萬(wàn)美元、56個(gè)A100GPU、算力性能為35PetaFLOP/s、最大功率45.5kw。


2)芯片需求量:


每日咨詢量:根據(jù)Similarweb數(shù)據(jù),截至2023年1月底,chat.openai.com網(wǎng)站(即ChatGPT官網(wǎng))在2023/1/27-2023/2/3這一周吸引的每日訪客數(shù)量高達(dá)2500萬(wàn)。假設(shè)以目前的穩(wěn)定狀態(tài),每日每用戶提問(wèn)約10個(gè)問(wèn)題,則每日約有2.5億次咨詢量。


A100運(yùn)行小時(shí):假設(shè)每個(gè)問(wèn)題平均30字,單個(gè)字在A100GPU上約消耗350ms,則一天共需消耗729,167個(gè)A100GPU運(yùn)行小時(shí)。


A100需求量:對(duì)應(yīng)每天需要729,167/24=30,382片英偉達(dá)A100GPU同時(shí)計(jì)算,才可滿足當(dāng)前ChatGPT的訪問(wèn)量。


3)運(yùn)行成本:


初始算力投入:以前述英偉達(dá)DGXA100為基礎(chǔ),需要30,382/8=3,798臺(tái)服務(wù)器,對(duì)應(yīng)3,798/7=542個(gè)機(jī)柜。則,為滿足ChatGPT當(dāng)前千萬(wàn)級(jí)用戶的咨詢量,初始算力投入成本約為542*140=7.59億美元。


每月電費(fèi):用電量而言,542*45.5kw*24h=591,864kwh/日。參考HashrateIndex統(tǒng)計(jì),我們假設(shè)美國(guó)平均工業(yè)電價(jià)約為0.08美元/kwh。則,每日電費(fèi)約為2,369,640*0.08=4.7萬(wàn)美元/日。


ChatGPT服務(wù)器以突出的優(yōu)勢(shì),被眾多企業(yè)所認(rèn)可,當(dāng)下,已經(jīng)代替部分的人工,被運(yùn)用于金融、教育、制造、交通等多個(gè)行業(yè),在未來(lái)的發(fā)展中,將更加全面的分布于各個(gè)行業(yè),通過(guò)自身的優(yōu)勢(shì),為企業(yè)降低成本、節(jié)省能耗,提高效率,真正的消除計(jì)算瓶頸期,為人工智能的性能提升提供堅(jiān)實(shí)的基礎(chǔ),讓人工智能擁有更強(qiáng)的商業(yè)價(jià)值,為人類帶來(lái)便捷,成就更高品質(zhì)的科技效益。

0

上一篇:urlebirdtiktok網(wǎng)頁(yè)版是啥?
下一篇:海外靜態(tài)住宅IP代理是什么?哪里有?
HKT4為您的網(wǎng)站提供全球IDC資源
立即免費(fèi)測(cè)試