1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. AI智能
  4. 正文

世界上最大的AI大模型:馬斯克的Grok-1正式開(kāi)源

 2024-03-20 16:53  來(lái)源:A5專(zhuān)欄  我來(lái)投稿 撤稿糾錯(cuò)

  阿里云優(yōu)惠券 先領(lǐng)券再下單

關(guān)注盧松松,會(huì)經(jīng)常給你分享一些我的經(jīng)驗(yàn)和觀點(diǎn)。

馬斯克是真男人啊,不僅SpaceX發(fā)射基地可以隨意參觀、連設(shè)計(jì)圖紙都公開(kāi)了。SpaceX剛剛發(fā)射完沒(méi)幾天,連他的AI大模型Grok-1也正式開(kāi)源了。

Grok-1是當(dāng)前世界上參數(shù)最大的、開(kāi)源大語(yǔ)言模型。296GB的大小,3140億參數(shù),遠(yuǎn)超OpenAI GPT-3.5的1750億?;A(chǔ)模型基于大量文本數(shù)據(jù)進(jìn)行訓(xùn)練,沒(méi)有針對(duì)任何具體任務(wù)進(jìn)行微調(diào);3140億參數(shù)的MoE模型,在給定token上的激活權(quán)重為25%;2023年10月,xAI使用JAX庫(kù)和Rust語(yǔ)言組成的自定義訓(xùn)練堆棧從頭開(kāi)始訓(xùn)練。

開(kāi)源就是開(kāi)放源代碼,說(shuō)白了就是開(kāi)放專(zhuān)利,公開(kāi)技術(shù)!但需要有足夠的GPU才能運(yùn)行。可能需要一臺(tái)擁有628GB GPU內(nèi)存的機(jī)器。英偉達(dá)Tesla A100 80G(原版PCIE)京東售價(jià)16萬(wàn),平民玩家根本玩不起,僅8塊GPU就接近百萬(wàn)。其他硬件配置就更不用說(shuō)了。

前幾年馬斯克公布了特斯拉的多項(xiàng)專(zhuān)利,中國(guó)的新能源汽車(chē)如雨后春筍迅猛發(fā)展。這次會(huì)有什么會(huì)爆炸式發(fā)展呢?

預(yù)計(jì)全球Ai企業(yè)將迎來(lái)快速發(fā)展,馬斯克開(kāi)源Grok—1,將會(huì)同時(shí)造福中國(guó)Ai企業(yè),助力中國(guó)Ai技術(shù)發(fā)展!

馬斯克之前說(shuō)過(guò):科技創(chuàng)新才是推動(dòng)人類(lèi)進(jìn)步的關(guān)鍵,而專(zhuān)利保護(hù)只會(huì)阻礙這個(gè)進(jìn)程。他希望通過(guò)公開(kāi)這些專(zhuān)利設(shè)計(jì),鼓勵(lì)更多人加入科技創(chuàng)新行列,共同推動(dòng)人類(lèi)社會(huì)進(jìn)步。

盧松松是一位自媒體人、短視頻博主。也是創(chuàng)業(yè)者必看的賬號(hào),關(guān)注草根創(chuàng)業(yè)圈、科技互聯(lián)網(wǎng)、自媒體和短視頻行業(yè)。感謝您的關(guān)注!

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)文章

  • Figma股價(jià)熱情僅存1天,AI焦慮成關(guān)鍵隱憂?

    文/道哥美國(guó)設(shè)計(jì)軟件公司Figma近期在紐約證券交易所掛牌上市,首日即上演“狂飆”行情——發(fā)行價(jià)定每股33美元,開(kāi)盤(pán)報(bào)價(jià)85美元,較發(fā)行價(jià)翻倍。首日收?qǐng)?bào)115.50美元,較發(fā)行價(jià)大漲約250%,市值飆升至近670億美元,創(chuàng)下近30年來(lái)同等規(guī)模美股IPO的最大單日漲幅紀(jì)錄。然而,隨著短線資金獲利了結(jié),

    標(biāo)簽:
    ai智能
  • 人類(lèi)首屆機(jī)器人運(yùn)動(dòng)會(huì):跑歪了+撞人了+打哆嗦,但我卻看到了中國(guó)智造的未來(lái)

    8月16日,盧松松非常榮幸的成為了一名《2025世界人形機(jī)器人運(yùn)動(dòng)會(huì)》的觀眾。這是一場(chǎng)超酷的機(jī)器人運(yùn)動(dòng)會(huì),也是人類(lèi)給機(jī)器人辦的第一屆奧運(yùn)會(huì),來(lái)自16個(gè)國(guó)家的280支隊(duì)伍會(huì)參加500多個(gè)比賽項(xiàng)目??戳艘惶斓谋荣?,晚上就回來(lái)寫(xiě)文章,編輯短視頻。先說(shuō)感悟:(1)這是人類(lèi)首次給機(jī)器人辦的第一屆運(yùn)動(dòng)會(huì),史無(wú)前

    標(biāo)簽:
    智能機(jī)器人
  • AI「帶飛」騰訊業(yè)績(jī)

    文/一燈來(lái)源/節(jié)點(diǎn)財(cái)經(jīng)在當(dāng)前無(wú)人敢缺席的AI軍備競(jìng)賽中,巨頭們一面為巨額的資本支出焦慮,一面又向市場(chǎng)勾勒著未來(lái)的宏偉藍(lán)圖。在各家動(dòng)輒千億級(jí)投入的背景下,市場(chǎng)迫切需要一份關(guān)于AI回報(bào)價(jià)值的有力證明。而騰訊,率先給出了答卷。8月13日,騰訊控股發(fā)布2025年第二季度財(cái)報(bào)。盡管資本開(kāi)支同比劇增119%,達(dá)

    標(biāo)簽:
    ai智能
    騰訊
  • Meta用億元薪酬發(fā)起「人才狙擊」能否買(mǎi)來(lái)一個(gè)AI未來(lái)?

    文/二風(fēng)來(lái)源/節(jié)點(diǎn)財(cái)經(jīng)2025年的硅谷,一場(chǎng)沒(méi)有硝煙的戰(zhàn)爭(zhēng)正以前所未有的烈度上演。這場(chǎng)戰(zhàn)爭(zhēng)的核心武器不是代碼或芯片,而是人——那些全球僅有數(shù)千名、能夠構(gòu)建未來(lái)人工智能基礎(chǔ)模型的頂尖大腦。在這場(chǎng)激烈的人才爭(zhēng)奪戰(zhàn)中,Meta及其首席執(zhí)行官馬克·扎克伯格(MarkZuckerberg)正扮演著最具侵略性的

    標(biāo)簽:
    ai智能
  • 騰訊AI夢(mèng):克制的雄心

    關(guān)乎14億用戶的深刻變化

    標(biāo)簽:
    ai智能
  • 阿里媽媽、巨量引擎、騰訊廣告,誰(shuí)是當(dāng)代“AI印鈔機(jī)”?

    阿里媽媽、巨量引擎、騰訊廣告,誰(shuí)是當(dāng)代“AI印鈔機(jī)”?

熱門(mén)排行

編輯推薦