[每日中文朗读] AI换脸下的扭曲生意链

2024年3月17日

要約
本文（ピンイン）
単語（ピンイン）

要約

AIの「顔替え」が疑われる画面に、消費者はどのように防ぐのかを解説している。一部の業者は、AIの顔交換技術を利用して消費者の買い物を誘導し始めた。生放送で荷物を持っていくだけで満足していないという。
原文：新浪媒体浓动 2024年03月15日

本文（ピンイン）

　　“活[huó]跃[yuè]在[zài]巴[bā]黎[lí]时[shí]尚[shàng]秀[xiù]场[chǎng]上[shàng]的[de]明[míng]星[xīng]居[jū]然[rán]也[yě]开[kāi]始[shǐ]带[dài]货[huò]了[le]”“杨[yáng]幂[mì]、刘[liú]亦[yì]菲[fēi]竟[jìng]然[rán]卖[mài]起[qǐ]了[le]减[jiǎn]肥[féi]茶[chá]”，消[xiāo]费[fèi]者[zhě]在[zài]直[zhí]播[bō]间[jiān]里[lǐ]看[kàn]得[de]一[yī]头[tóu]雾[wù]水[shuǐ]，但[dàn]却[què]因[yīn]“眼[yǎn]见[jiàn]为[wéi]实[shí]”屡[lǚ]屡[lǚ]疯[fēng]狂[kuáng]下[xià]单[dān]，被[bèi]骗[piàn]了[le]还[hái]浑[hún]然[rán]不[bù]知[zhī]。

　　更[gèng]有[yǒu]甚[shèn]者[zhě]，打[dǎ]着[zhe]“包[bāo]教[jiào]包[bāo]会[huì]”的[de]旗[qí]号[hào]当[dāng]起[qǐ]了[le]职[zhí]业[yè]培[péi]训[xùn]师[shī]。“培[péi]训[xùn]费[fèi]用[yòng]”从[cóng]29.9元[yuán]到[dào]高[gāo]至[zhì]上[shàng]万[wàn]元[yuán]，涵[hán]盖[gài]工[gōng]具[jù]，承[chéng]诺[nuò]包[bāo]教[jiào]包[bāo]会[huì]，消[xiāo]费[fèi]者[zhě]交[jiāo]费[fèi]后[hòu]才[cái]知[zhī]道[dào]所[suǒ]谓[wèi]的[de]包[bāo]教[jiào]包[bāo]会[huì]，是[shì]“只[zhǐ]售[shòu]出[chū]无[wú]售[shòu]后[hòu]”。从[cóng]“AI换[huàn]脸[liǎn]”到[dào]“Sora”，当[dāng]消[xiāo]费[fèi]者[zhě]们[men]还[hái]沉[chén]浸[jìn]在[zài]科[kē]技[jì]对[duì]世[shì]界[jiè]的[de]重[chóng]塑[sù]力[lì]上[shàng]时[shí]，有[yǒu]这[zhè]样[yàng]一[yī]些[xiē]商[shāng]家[jiā]早[zǎo]已[yǐ]经[jīng]构[gòu]建[jiàn]起[qǐ]了[le]一[yī]条[tiáo]低[dī]成[chéng]本[běn]牟[móu]暴[bào]利[lì]的[de]灰[huī]色[sè]产[chǎn]业[yè]链[liàn]。

　　“主[zhǔ]播[bō]”变[biàn]“明[míng]星[xīng]” 骗[piàn]你[nǐ]没[méi]商[shāng]量[liáng]

　　晚[wǎn]上[shàng]9点[diǎn]，点[diǎn]进[jìn]电[diàn]商[shāng]直[zhí]播[bō]间[jiān]，“杨[yáng]幂[mì]”和[hé]“刘[liú]亦[yì]菲[fēi]”竟[jìng]然[rán]卖[mài]起[qǐ]了[le]减[jiǎn]肥[féi]茶[chá]，不[bù]久[jiǔ]后[hòu]“迪[dí]丽[lì]热[rè]巴[bā]”也[yě]加[jiā]入[rù]到[dào]直[zhí]播[bō]带[dài]货[huò]中[zhōng]。在[zài]短[duǎn]短[duǎn]4个[gè]小[xiǎo]时[shí]的[de]时[shí]间[jiān]里[lǐ]，依[yī]靠[kào]着[zhe]“明[míng]星[xīng]同[tóng]款[kuǎn]”“顶[dǐng]流[liú]力[lì]荐[jiàn]”的[de]标[biāo]签[qiān]，直[zhí]播[bō]间[jiān]内[nèi]的[de]商[shāng]品[pǐn]销[xiāo]量[liàng]已[yǐ]达[dá]上[shàng]千[qiān]件[jiàn]。

　　“追[zhuī]直[zhí]播[bō]追[zhuī]了[le]好[hǎo]几[jǐ]天[tiān]，结[jié]果[guǒ]追[zhuī]了[le]个[gè]‘李[lǐ]鬼[guǐ]’，简[jiǎn]直[zhí]欺[qī]骗[piàn]了[le]我[wǒ]的[de]感[gǎn]情[qíng]和[hé]信[xìn]任[rèn]。”消[xiāo]费[fèi]者[zhě]李[lǐ]响[xiǎng]忿[fèn]忿[fèn]不[bù]平[píng]道[dào]。

　　消[xiāo]费[fèi]者[zhě]在[zài]观[guān]看[kàn]直[zhí]播[bō]购[gòu]物[wù]时[shí]，会[huì]因[yīn]为[wèi]对[duì]某[mǒu]个[gè]明[míng]星[xīng]的[de]喜[xǐ]爱[ài]和[hé]信[xìn]任[rèn]而[ér]购[gòu]买[mǎi]产[chǎn]品[pǐn]。部[bù]分[fèn]商[shāng]家[jiā]正[zhèng]是[shì]抓[zhuā]住[zhù]了[le]消[xiāo]费[fèi]者[zhě]的[de]这[zhè]一[yī]心[xīn]理[lǐ]，开[kāi]始[shǐ]借[jiè]助[zhù]AI换[huàn]脸[liǎn]技[jì]术[shù]诱[yòu]导[dǎo]消[xiāo]费[fèi]者[zhě]消[xiāo]费[fèi]购[gòu]物[wù]。

　　北[běi]京[jīng]商[shāng]报[bào]记[jì]者[zhě]在[zài]实[shí]际[jì]对[duì]比[bǐ]了[le]十[shí]余[yú]个[gè]同[tóng]类[lèi]型[xíng]“明[míng]星[xīng]”直[zhí]播[bō]间[jiān]后[hòu]发[fā]现[xiàn]，通[tōng]常[cháng]情[qíng]况[kuàng]下[xià]，只[zhǐ]要[yào]直[zhí]播[bō]间[jiān]里[lǐ]的[de]“明[míng]星[xīng]”不[bù]做[zuò]过[guò]于[yú]大[dà]幅[fú]度[dù]的[de]动[dòng]作[zuò]，真[zhēn]的[de]很[hěn]难[nán]分[fēn]辨[biàn]出[chū]真[zhēn]伪[wěi]。

　　但[dàn]只[zhǐ]要[yào]直[zhí]播[bō]时[shí]间[jiān]一[yī]长[cháng]，仔[zǐ]细[xì]观[guān]察[chá]就[jiù]不[bù]难[nán]发[fā]现[xiàn]，该[gāi]直[zhí]播[bō]间[jiān]内[nèi]的[de]“女[nǚ]明[míng]星[xīng]”如[rú]果[guǒ]动[dòng]作[zuò]稍[shāo]大[dà]，就[jiù]会[huì]暴[bào]露[lù]“面[miàn]具[jù]”之[zhī]下[xià]的[de]本[běn]来[lái]样[yàng]貌[mào]。或[huò]者[zhě]出[chū]现[xiàn]“面[miàn]具[jù]”出[chū]画[huà]的[de]现[xiàn]象[xiàng]。

　　当[dāng]眼[yǎn]见[jiàn]也[yě]不[bù]一[yí]定[dìng]为[wèi]实[shí]，针[zhēn]对[duì]疑[yí]似[sì]“AI换[huàn]脸[liǎn]”的[de]画[huà]面[miàn]，消[xiāo]费[fèi]者[zhě]如[rú]何[hé]防[fáng]范[fàn]？产[chǎn]业[yè]观[guān]察[chá]家[jiā]陈[chén]一[yī]凡[fán]指[zhǐ]出[chū]，大[dà]面[miàn]积[jī]遮[zhē]挡[dǎng]脸[liǎn]部[bù]，或[huò]在[zài]脸[liǎn]部[bù]前[qián]方[fāng]挥[huī]手[shǒu]，将[jiāng]导[dǎo]致[zhì]人[rén]脸[liǎn]检[jiǎn]测[cè]失[shī]效[xiào]，消[xiāo]费[fèi]者[zhě]可[kě]以[yǐ]由[yóu]此[cǐ]判[pàn]断[duàn]是[shì]否[fǒu]应[yìng]用[yòng]了[le]相[xiāng]关[guān]技[jì]术[shù]。

　　“骗[piàn]术[shù]”当[dāng]“技[jì]术[shù]” 玩[wán]多[duō]元[yuán]变[biàn]现[xiàn]

　　光[guāng]直[zhí]播[bō]带[dài]货[huò]还[hái]不[bù]过[guò]瘾[yǐn]。如[rú]今[jīn]部[bù]分[fèn]商[shāng]家[jiā]还[hái]做[zuò]起[qǐ]了[le]更[gèng]“高[gāo]级[jí]”的[de]生[shēng]意[yì]，将[jiāng]已[yǐ]经[jīng]烂[làn]熟[shú]于[yú]心[xīn]的[de]“骗[piàn]术[shù]”，当[dàng]作[zuò]“技[jì]术[shù]”输[shū]出[chū]。

　　顺[shùn]着[zhe]某[mǒu]科[kē]普[pǔ]博[bó]主[zhǔ]的[de]账[zhàng]号[hào]，北[běi]京[jīng]商[shāng]报[bào]记[jì]者[zhě]进[jìn]入[rù]一[yí]个[gè]独[dú]立[lì]站[zhàn]点[diǎn]，而[ér]该[gāi]博[bó]主[zhǔ]科[kē]普[pǔ]AI技[jì]术[shù]的[de]身[shēn]份[fèn]背[bèi]后[hòu]，掩[yǎn]藏[cáng]着[zhe]一[yī]条[tiáo]完[wán]整[zhěng]的[de]“AI换[huàn]脸[liǎn]”套[tào]餐[cān]销[xiāo]售[shòu]链[liàn]。

　　除[chú]了[le]售[shòu]价[jià]29.9元[yuán]的[de]“AI换[huàn]脸[liǎn]”教[jiào]程[chéng]，该[gāi]博[bó]主[zhǔ]还[hái]提[tí]供[gōng]人[rén]脸[liǎn]模[mó]型[xíng]定[dìng]制[zhì]。整[zhěng]体[tǐ]定[dìng]制[zhì]服[fú]务[wù]在[zài]2000元[yuán]至[zhì]上[shàng]万[wàn]元[yuán]不[bù]等[děng]，具[jù]体[tǐ]价[jià]格[gé]视[shì]质[zhì]量[liàng]要[yāo]求[qiú]和[hé]应[yìng]用[yòng]场[chǎng]景[jǐng]而[ér]定[dìng]，能[néng]够[gòu]全[quán]流[liú]程[chéng]帮[bāng]助[zhù]科[kē]技[jì]“小[xiǎo]白[bái]”完[wán]成[chéng]“AI换[huàn]脸[liǎn]”的[de]一[yī]系[xì]列[liè]操[cāo]作[zuò]，实[shí]现[xiàn]视[shì]频[pín]通[tōng]话[huà]、直[zhí]播[bō]等[děng]多[duō]个[gè]场[chǎng]景[jǐng]下[xià]“换[huàn]脸[liǎn]”。

　　而[ér]服[fú]务[wù]于[yú]“技[jì]术[shù]流[liú]”的[de]套[tào]餐[cān]则[zé]更[gèng]加[jiā]简[jiǎn]单[dān]直[zhí]接[jiē]。通[tōng]过[guò]电[diàn]商[shāng]平[píng]台[tái]直[zhí]接[jiē]检[jiǎn]索[suǒ]“AI换[huàn]脸[liǎn]模[mó]型[xíng]”，无[wú]法[fǎ]显[xiǎn]示[shì]出[chū]相[xiāng]关[guān]结[jié]果[guǒ]，但[dàn]用[yòng]于[yú]训[xùn]练[liàn]人[rén]脸[liǎn]模[mó]型[xíng]的[de]src（源[yuán]视[shì]频[pín]）素[sù]材[cái]包[bāo]却[què]可[kě]在[zài]平[píng]台[tái]公[gōng]开[kāi]兜[dōu]售[shòu]。

　　素[sù]材[cái]包[bāo]售[shòu]价[jià]低[dī]至[zhì]16.8元[yuán]，最[zuì]贵[guì]的[de]仅[jǐn]29.8元[yuán]。北[běi]京[jīng]商[shāng]报[bào]记[jì]者[zhě]购[gòu]买[mǎi]了[le]其[qí]中[zhōng]一[yī]款[kuǎn]素[sù]材[cái]包[bāo]，其[qí]中[zhōng]约[yuē]含[hán]图[tú]片[piàn]4000张[zhāng]，大[dà]部[bù]分[fèn]是[shì]对[duì]应[yìng]演[yǎn]员[yuán]的[de]影[yǐng]视[shì]剧[jù]截[jié]图[tú]和[hé]个[gè]人[rén]照[zhào]片[piān]。而[ér]在[zài]明[míng]星[xīng]之[zhī]外[wài]，该[gāi]商[shāng]家[jiā]还[hái]提[tí]供[gōng]“大[dà]众[zhòng]脸[liǎn]女[nǚ]带[dài]货[huò]主[zhǔ]播[bō]”“中[zhōng]年[nián]男[nán]路[lù]人[rén]”等[děng]素[sù]材[cái]包[bāo]。

　　北[běi]京[jīng]商[shāng]报[bào]记[jì]者[zhě]以[yǐ]消[xiāo]费[fèi]者[zhě]身[shēn]份[fèn]暗[àn]访[fǎng]了[le]某[mǒu]素[sù]材[cái]包[bāo]销[xiāo]售[shòu]商[shāng]家[jiā]，该[gāi]商[shāng]家[jiā]向[xiàng]记[jì]者[zhě]介[jiè]绍[shào]，“如[rú]果[guǒ]是[shì]纯[chún]新[xīn]手[shǒu]，不[bù]推[tuī]荐[jiàn]购[gòu]买[mǎi]，需[xū]要[yào]有[yǒu]一[yí]定[dìng]搭[dā]建[jiàn]此[cǐ]类[lèi]模[mó]型[xíng]的[de]基[jī]础[chǔ]”。而[ér]在[zài]记[jì]者[zhě]的[de]一[yī]再[zài]追[zhuī]问[wèn]下[xià]，该[gāi]商[shāng]家[jiā]表[biǎo]示[shì]，也[yě]有[yǒu]可[kě]以[yǐ]直[zhí]接[jiē]使[shǐ]用[yòng]的[de]人[rén]脸[liǎn]模[mó]型[xíng]，但[dàn]需[xū]要[yào]脱[tuō]离[lí]平[píng]台[tái]私[sī]下[xià]购[gòu]买[mǎi]，女[nǚ]性[xìng]面[miàn]孔[kǒng]居[jū]多[duō]，售[shòu]价[jià]更[gèng]高[gāo]，男[nán]性[xìng]面[miàn]孔[kǒng]较[jiào]少[shǎo]。

　　想[xiǎng]售[shòu]后[hòu]？不[bù]支[zhī]持[chí]任[rèn]何[hé]理[lǐ]由[yóu]退[tuì]换[huàn]

　　这[zhè]笔[bǐ]存[cún]在[zài]于[yú]“技[jì]术[shù]流[liú]”层[céng]面[miàn]的[dí]交[jiāo]易[yì]也[yě]并[bìng]不[bù]省[xǐng]心[xīn]。通[tōng]过[guò]“AI换[huàn]脸[liǎn]”从[cóng]事[shì]虚[xū]拟[nǐ]主[zhǔ]播[bō]的[de]柒[qī]柒[qī]谈[tán]道[dào]，“模[mó]型[xíng]用[yòng]得[dé]久[jiǔ]了[le]，慢[màn]慢[màn]出[chū]现[xiàn]了[le]一[yī]些[xiē]运[yùn]行[xíng]不[bù]稳[wěn]定[dìng]、脸[liǎn]部[bù]有[yǒu]锯[jù]齿[chǐ]、表[biǎo]情[qíng]无[wú]法[fǎ]识[shí]别[bié]的[de]问[wèn]题[tí]，当[dāng]时[shí]砸[zá]进[jìn]去[qù]近[jìn]万[wàn]元[yuán]做[zuò]的[de]模[mó]型[xíng]，但[dàn]商[shāng]家[jiā]已[yǐ]经[jīng]联[lián]系[xì]不[bù]上[shàng]了[le]，如[rú]果[guǒ]另[lìng]外[wài]找[zhǎo]人[rén]修[xiū]改[gǎi]模[mó]型[xíng]，几[jī]乎[hū]要[yào]重[chóng]新[xīn]开[kāi]始[shǐ]，又[yòu]是[shì]一[yī]大[dà]笔[bǐ]费[fèi]用[yòng]”。

　　在[zài]暗[àn]访[fǎng]中[zhōng]，北[běi]京[jīng]商[shāng]报[bào]记[jì]者[zhě]注[zhù]意[yì]到[dào]，几[jī]乎[hū]所[suǒ]有[yǒu]的[de]“换[huàn]脸[liǎn]”明[míng]星[xīng]素[sù]材[cái]包[bāo]商[shāng]家[jiā]商[shāng]品[pǐn]详[xiáng]情[qíng]，都[dōu]在[zài]商[shāng]品[pǐn]介[jiè]绍[shào]中[zhōng]写[xiě]明[míng]：“本[běn]店[diàn]为[wèi]虚[xū]拟[nǐ]产[chǎn]品[pǐn]，下[xià]单[dān]后[hòu]自[zì]动[dòng]发[fā]货[huò]，不[bù]支[zhī]持[chí]任[rèn]何[hé]理[lǐ]由[yóu]退[tuì]款[kuǎn]和[hé]换[huàn]货[huò]。”

　　聚[jù]焦[jiāo]在[zài]人[rén]脸[liǎn]模[mó]型[xíng]定[dìng]制[zhì]服[fú]务[wù]上[shàng]的[de]问[wèn]题[tí]同[tóng]样[yàng]是[shì]售[shòu]后[hòu]。北[běi]京[jīng]商[shāng]报[bào]记[jì]者[zhě]以[yǐ]咨[zī]询[xún]换[huàn]脸[liǎn]明[míng]星[xīng]进[jìn]行[xíng]...