[每日中文朗读] 大模型2024：先把价格打下去

2024年3月15日

要約
本文（ピンイン）
単語（ピンイン）

要約

仏の人工知能ベンチャーMISTRAL AIが最新の大モデルMISTRAL LARGEを発表。同AIは、複雑な多言語推論タスクに使用できる最高レベルの推論能力を達成。MICROSOFTとより深い協力協定を結んでおり、計算力とクラウドサービスを提供。

原文：创事记 2024-03-12

本文（ピンイン）

　　AI新[xīn]星[xīng]OpenAI最[zuì]近[jìn]有[yǒu]点[diǎn]头[tóu]疼[téng]，不[bù]仅[jǐn]公[gōng]司[sī]和[hé]CEO被[bèi]马[mǎ]斯[sī]克[kè]起[qǐ]诉[sù]，其[qí]拳[quán]头[tou]产[chǎn]品[pǐn]GPT–4在[zài]性[xìng]能[néng]和[hé]价[jià]格[gé]上[shàng]均[jūn]面[miàn]临[lín]竞[jìng]争[zhēng]对[duì]手[shǒu]的[de]冲[chōng]击[jī]。

　　近[jìn]期[qī]，成[chéng]立[lì]不[bú]到[dào]一[yī]年[nián]的[de]法[fǎ]国[guó]人[rén]工[gōng]智[zhì]能[néng]创[chuàng]企[qǐ]Mistral AI发[fā]布[bù]了[le]最[zuì]新[xīn]大[dà]模[mó]型[xíng]Mistral Large，并[bìng]推[tuī]出[chū]了[le]首[shǒu]个[gè]聊[liáo]天[tiān]机[jī]器[qì]人[rén]产[chǎn]品[pǐn]Le Chat，直[zhí]接[jiē]对[duì]标[biāo]ChatGPT。据[jù]了[liǎo]解[jiě]，Mistral Large在[zài]目[mù]前[qián]所[suǒ]有[yǒu]能[néng]通[tōng]过[guò]API访[fǎng]问[wèn]的[de]大[dà]模[mó]型[xíng]中[zhōng]评[píng]分[fēn]第[dì]二[èr]，仅[jǐn]次[cì]于[yú]GPT–4。

　　更[gèng]值[zhí]得[de]关[guān]注[zhù]的[de]是[shì]，Mistral AI还[hái]与[yǔ]微[wēi]软[ruǎn]达[dá]成[chéng]了[le]更[gèng]加[jiā]深[shēn]入[rù]的[de]合[hé]作[zuò]协[xié]议[yì]，微[wēi]软[ruǎn]将[jiāng]投[tóu]资[zī]入[rù]股[gǔ]Mistral AI，并[bìng]为[wèi]其[qí]提[tí]供[gōng]算[suàn]力[lì]和[hé]云[yún]服[fú]务[wù]，而[ér]Mistral AI的[de]大[dà]模[mó]型[xíng]资[zī]源[yuán]也[yě]将[jiāng]在[zài]微[wēi]软[ruǎn]的[de]Azure云[yún]平[píng]台[tái]中[zhōng]售[shòu]卖[mài]。要[yào]知[zhī]道[dào]，上[shàng]一[yī]个[ge]有[yǒu]此[cǐ]待[dài]遇[yù]的[de]AI创[chuàng]业[yè]公[gōng]司[sī]还[hái]是[shì]OpenAI。

　　除[chú]此[cǐ]之[zhī]外[wài]，更[gèng]低[dī]廉[lián]的[de]API接[jiē]口[kǒu]价[jià]格[gé]也[yě]让[ràng]Mistral Large成[chéng]为[wéi]了[le]GPT–4的[de]有[yǒu]力[lì]竞[jìng]争[zhēng]者[zhě]，并[bìng]有[yǒu]望[wàng]在[zài]当[dāng]前[qián]的[de]大[dà]模[mó]型[xíng]军[jūn]备[bèi]竞[jìng]赛[sài]中[zhōng]掀[xiān]起[qǐ]一[yī]场[chǎng]价[jià]格[gé]战[zhàn]。

　　比[bǐ]GPT–4更[gèng]具[jù]性[xìng]价[jià]比[bǐ]？

　　作[zuò]为[wéi]一[yī]款[kuǎn]诞[dàn]生[shēng]于[yú]欧[ōu]洲[zhōu]的[de]大[dà]模[mó]型[xíng]，Mistral Large支[zhī]持[chí]英[yīng]语[yǔ]、法[fǎ]语[yǔ]、西[xī]班[bān]牙[yá]语[yǔ]、德[dé]语[yǔ]和[hé]意[yì]大[dà]利[lì]语[yǔ]，可[kě]深[shēn]度[dù]理[lǐ]解[jiě]语[yǔ]法[fǎ]和[hé]文[wén]化[huà]背[bèi]景[jǐng]。另[lìng]外[wài]，Mistral Large的[de]上[shàng]下[xià]文[wén]窗[chuāng]口[kǒu]为[wèi]32K，可[kě]从[cóng]约[yuē]2.4万[wàn]个[gè]英[yīng]文[wén]单[dān]词[cí]的[de]大[dà]型[xíng]文[wén]档[dàng]中[zhōng]精[jīng]准[zhǔn]提[tí]取[qǔ]信[xìn]息[xī]；具[jù]备[bèi]精[jīng]确[què]的[de]指[zhǐ]令[lìng]跟[gēn]随[suí]能[néng]力[lì]，便[biàn]于[yú]开[kāi]发[fā]者[zhě]定[dìng]制[zhì]审[shěn]核[hé]策[cè]略[lüè]；支[zhī]持[chí]原[yuán]生[shēng]函[hán]数[shù]调[diào]用[yòng]和[hé]限[xiàn]定[dìng]输[shū]出[chū]模[mó]式[shì]，助[zhù]力[lì]应[yìng]用[yòng]开[kāi]发[fā]规[guī]模[mó]化[huà]和[hé]技[jì]术[shù]栈[zhàn]现[xiàn]代[dài]化[huà]。

　　性[xìng]能[néng]方[fāng]面[miàn]，虽[suī]然[rán]Mistral AI并[bìng]未[wèi]公[gōng]布[bù]Mistral Large的[de]参[cān]数[shù]量[liàng]，但[dàn]其[qí]关[guān]键[jiàn]性[xìng]能[néng]已[yǐ]达[dá]到[dào]业[yè]界[jiè]前[qián]三[sān]。

　　具[jù]体[tǐ]来[lái]看[kàn]，Mistral Large在[zài]MMLU基[jī]准[zhǔn]测[cè]试[shì]中[zhōng]的[de]常[cháng]识[shí]和[hé]推[tuī]理[lǐ]得[dé]分[fēn]为[wéi]81.2%，仅[jǐn]次[cì]于[yú]GPT–4的[de]86.4%。Mistral Large达[dá]到[dào]了[le]顶[dǐng]级[jí]的[de]推[tuī]理[lǐ]能[néng]力[lì]，可[kě]用[yòng]于[yú]复[fù]杂[zá]的[de]多[duō]语[yǔ]言[yán]推[tuī]理[lǐ]任[rèn]务[wù]，包[bāo]括[kuò]文[wén]本[běn]理[lǐ]解[jiě]、转[zhuǎn]换[huàn]和[hé]代[dài]码[mǎ]生[shēng]成[chéng]。其[qí]推[tuī]理[lǐ]准[zhǔn]确[què]性[xìng]优[yōu]于[yú]Anthropic的[de]Claude 2、谷[gǔ]歌[gē]的[de]Gemini 1.0 Pro、OpenAI的[de]GPT–3.5，推[tuī]理[lǐ]速[sù]度[dù]甚[shèn]至[zhì]超[chāo]过[guò]了[le]GPT–4和[hé]Gemini Pro，显[xiǎn]示[shì]了[le]其[qí]在[zài]处[chǔ]理[lǐ]复[fù]杂[zá]任[rèn]务[wù]时[shí]的[de]高[gāo]效[xiào]能[néng]力[lì]。

　　多[duō]语[yǔ]言[yán]能[néng]力[lì]测[cè]试[shì]中[zhōng]，Mistral Large在[zài]法[fǎ]语[yǔ]、德[dé]语[yǔ]、西[xī]班[bān]牙[yá]语[yǔ]和[hé]意[yì]大[dà]利[lì]语[yǔ]的[de]Arc Challenge、HellaSwag、MMLU等[děng]基[jī]准[zhǔn]测[cè]试[shì]中[zhōng]的[de]表[biǎo]现[xiàn]均[jūn]远[yuǎn]超[chāo]目[mù]前[qián]公[gōng]认[rèn]最[zuì]强[qiáng]的[de]开[kāi]源[yuán]大[dà]模[mó]型[xíng]——Meta的[de]LLaMA 2 70B。

　　数[shù]学[xué]和[hé]编[biān]程[chéng]能[néng]力[lì]方[fāng]面[miàn]，Mistral Large同[tóng]样[yàng]表[biǎo]现[xiàn]不[bù]俗[sú]：其[qí]在[zài]MBPP基[jī]准[zhǔn]测[cè]试[shì]中[zhōng]的[de]编[biān]程[chéng]得[dé]分[fēn]高[gāo]于[yú]LLaMA 2 70B，在[zài]Math maj@4基[jī]准[zhǔn]测[cè]试[shì]中[zhōng]的[de]数[shù]学[xué]得[dé]分[fēn]也[yě]领[lǐng]先[xiān]于[yú]GPT–3.5、Gemini Pro 1.0等[děng]模[mó]型[xíng]。

　　作[zuò]为[wéi]Mistral AI商[shāng]用[yòng]系[xì]列[liè]中[zhōng]的[de]旗[qí]舰[jiàn]模[mó]型[xíng]，Mistral Large与[yǔ]GPT–4一[yí]样[yàng]并[bìng]未[wèi]开[kāi]源[yuán]。用[yòng]户[hù]可[kě]通[tōng]过[guò]三[sān]种[zhǒng]方[fāng]式[shì]访[fǎng]问[wèn]与[yǔ]使[shǐ]用[yòng]Mistral模[mó]型[xíng]：其[qí]中[zhōng]，在[zài]欧[ōu]洲[zhōu]的[de]Mistral Al基[jī]础[chǔ]设[shè]施[shī]上[shàng]安[ān]全[quán]托[tuō]管[guǎn]的[de]La Plateforme是[shì]开[kāi]发[fā]者[zhě]访[fǎng]问[wèn]Mistral Al所[suǒ]有[yǒu]模[mó]型[xíng]的[de]首[shǒu]选[xuǎn]方[fāng]式[shì]，开[kāi]发[fā]者[zhě]可[kě]通[tōng]过[guò]点[diǎn]击[jī]创[chuàng]建[jiàn]自[zì]己[jǐ]的[de]应[yìng]用[yòng]程[chéng]序[xù]和[hé]服[fú]务[wù]；Mistral Al的[de]开[kāi]源[yuán]模[mó]型[xíng]目[mù]前[qián]可[kě]通[tōng]过[guò]GCP、AWS、Azure、NVIDIA等[děng]云[yún]服[fú]务[wù]商[shāng]获[huò]得[dé]，而[ér]Mistral Large目[mù]前[qián]仅[jǐn]通[tōng]过[guò]Azure云[yún]平[píng]台[tái]提[tí]供[gōng]服[fú]务[wù]，包[bāo]括[kuò]Azure AI Studio和[hé]Azure Machine Learning。

　　此[cǐ]外[wài]，开[kāi]发[fā]者[zhě]还[hái]可[kě]以[yǐ]通[tōng]过[guò]虚[xū]拟[nǐ]云[yún]或[huò]on–prem自[zì]行[xíng]部[bù]署[shǔ]使[shǐ]用[yòng]Mistral模[mó]型[xíng]，这[zhè]种[zhǒng]方[fāng]式[shì]提[tí]供[gōng]了[le]更[gèng]高[gāo]级[jí]的[de]自[zì]定[dìng]义[yì]和[hé]控[kòng]制[zhì]，自[zì]有[yǒu]数[shù]据[jù]将[jiāng]保[bǎo]留[liú]在[zài]公[gōng]司[sī]内[nèi]部[bù]。

　　价[jià]格[gé]方[fāng]面[miàn]，目[mù]前[qián]上[shàng]下[xià]文[wén]窗[chuāng]口[kǒu]为[wèi]128k的[de]GPT–4 Turbo的[de]输[shū]入[rù]价[jià]格[gé]为[wèi]0.01美[měi]元[yuán]/1000 token，输[shū]出[chū]价[jià]格[gé]为[wèi]0.03美[měi]元[yuán]/1000 token。相[xiāng]比[bǐ]之[zhī]下[xià]，Mistral Large的[de]输[shū]入[rù]、输[shū]出[chū]价[jià]格[gé]均[jūn]为[wèi]前[qián]者[zhě]的[de]80%。

　　体[tǐ]验[yàn]方[fāng]面[miàn]，有[yǒu]AI创[chuàng]业[yè]者[zhě]指[zhǐ]出[chū]，Mistral Large的[de]使[shǐ]用[yòng]体[tǐ]验[yàn]碾[niǎn]压[yā]曾[céng]经[jīng]的[de]第[dì]三[sān]名[míng]Claude 2。截[jié]至[zhì]2023年[nián]11月[yuè]，OpenAI的[de]开[kāi]发[fā]者[zhě]规[guī]模[mó]达[dá]200万[wàn]，其[qí]中[zhōng]包[bāo]含[hán]92%的[de]世[shì]界[jiè]500强[qiáng]企[qǐ]业[yè]。而[ér]Mistral Large直[zhí]逼[bī]GPT–4的[de]性[xìng]能[néng]和[hé]更[gèng]低[dī]的[de]售[shòu]价[jià]有[yǒu]望[wàng]为[wèi]需[xū]求[qiú]量[liàng]巨[jù]大[dà]的[de]企[qǐ]业[yè]用[yòng]户[hù]节[jié]省[shěng]一[yī]大[dà]笔[bǐ]开[kāi]支[zhī]，从[cóng]被[bèi]OpenAI垄[lǒng]断[duàn]的[de]MaaS（模[mó]型[xíng]即[jí]服[fú]务[wù]）市[shì]场[chǎng]撕[sī]开[kāi]一[yí]个[gè]口[kǒu]子[zi]。

　　MoE架[jià]构[gòu]立[lì]大[dà]功[gōng]

　　Mistral Large把[bǎ]价[jià]格[gé]打[dǎ]下[xià]来[lái]的[de]底[dǐ]气[qì]是[shì]更[gèng]低[dī]的[de]训[xùn]练[liàn]成[chéng]本[běn]。OpenAI CEO Sam Altman曾[céng]表[biǎo]示[shì]，GPT–4的[de]模[mó]型[xíng]训[xùn]练[liàn]成[chéng]本[běn]“远[yuǎn]远[yuǎn]超[chāo]过[guò]了[le]”5000万[wàn]至[zhì]1亿[yì]美[měi]元[yuán]。而[ér]据[jù]Mistral AI创[chuàng]始[shǐ]人[rén]Arthur Mensch透[tòu]露[lù]，Mistral Large...