近期，上海網(wǎng)信部門依法約談筑夢(mèng)島App運(yùn)營(yíng)企業(yè)主要負(fù)責(zé)人，要求平臺(tái)立即整改，健全人工智能（AI）生成合成內(nèi)容審核機(jī)制，提升技術(shù)把關(guān)能力，加強(qiáng)涉未成年人不良內(nèi)容的整治清理，切實(shí)落實(shí)未成年人網(wǎng)絡(luò)保護(hù)義務(wù)。企業(yè)負(fù)責(zé)人表示，將按照約談要求，對(duì)照問(wèn)題舉一反三、全面整改。

當(dāng)前，在特定環(huán)境中能夠自主感知、思考、行動(dòng)的AI智能體（AI Agent）正在加速進(jìn)入企業(yè)和個(gè)人應(yīng)用場(chǎng)景。其中，直擊人們情感需求的“AI伴侶”智能體產(chǎn)品以即時(shí)陪伴、擬人應(yīng)答、場(chǎng)景化預(yù)設(shè)等為賣點(diǎn)，一度備受熱捧。

然而，AI智能體在走進(jìn)人們生活的同時(shí)，涉黃、不雅、“擦邊”等涉未成年人保護(hù)問(wèn)題頻頻亮起紅燈。

有相關(guān)平臺(tái)的用戶坦言，只要不斷訓(xùn)練、引導(dǎo)，就能打造一個(gè)愿意“擦邊”的虛擬戀人。其原理，一方面在于用戶可以自行選擇AI扮演的虛擬角色和故事演繹：由于這些智能體能夠做到“短暫記憶”，用戶可以獲得沉浸式親密體驗(yàn)，訓(xùn)練出專屬“伴侶”。另一方面來(lái)自平臺(tái)的“擦邊營(yíng)銷策略”：一些智能體依賴身材夸張的二次元形象、具有挑逗性的回應(yīng)等曖昧設(shè)定吸引用戶，逐步使用戶沉溺其中。

對(duì)于身心尚未發(fā)育完全的未成年人，沉溺AI“擦邊”和涉黃內(nèi)容，可能會(huì)增強(qiáng)現(xiàn)實(shí)中的模仿行為。過(guò)度沉迷AI智能體提供的所謂“情緒價(jià)值”，還可能導(dǎo)致未成年人社交疏離，減少真實(shí)人際互動(dòng)，加劇孤獨(dú)感，甚至模糊現(xiàn)實(shí)與虛擬的邊界。其中危害不言而喻。

未成年人保護(hù)無(wú)小事。由于人機(jī)聊天內(nèi)容本身具有私域化特征，當(dāng)中出現(xiàn)涉黃、“擦邊”內(nèi)容具有隱蔽性。主打“AI伴侶”的平臺(tái)作為第一責(zé)任方，應(yīng)切實(shí)擔(dān)起保護(hù)未成年人的責(zé)任，尤其需守好“三關(guān)”。

首先，是法律倫理關(guān)。當(dāng)前主流AI大模型雖設(shè)置了內(nèi)容過(guò)濾機(jī)制，攔截違法內(nèi)容，但也有不法分子利用部分開(kāi)源模型，調(diào)整提示詞，繞過(guò)關(guān)鍵詞屏蔽，誘導(dǎo)模型生成“擦邊”內(nèi)容。平臺(tái)應(yīng)進(jìn)一步健全內(nèi)容審核機(jī)制，切勿為了短期商業(yè)利益，以增強(qiáng)所謂用戶體驗(yàn)和黏性為目的，以“擦邊”為賣點(diǎn)，利用人性“軟肋”，突破法律倫理底線。

其次，是技術(shù)保護(hù)關(guān)。應(yīng)進(jìn)一步加強(qiáng)對(duì)涉“AI伴侶”平臺(tái)未成年人保護(hù)技術(shù)體系建設(shè)。例如，做到“身份證+人臉識(shí)別”等多因子安全認(rèn)證，啟用未成年人保護(hù)模式。同時(shí)，完善防沉迷系統(tǒng)，對(duì)大額充值、頻繁充值等異常行為人員建立回訪機(jī)制，對(duì)充值者進(jìn)行二次身份確認(rèn)。

第三，是行業(yè)發(fā)展關(guān)。當(dāng)前，越來(lái)越多的行業(yè)都在更加關(guān)注AI智能體在產(chǎn)業(yè)上的應(yīng)用。賽道的拓展，要與產(chǎn)業(yè)發(fā)展更貼近。在同具體應(yīng)用場(chǎng)景的結(jié)合中，AI智能體要從用戶指令的被動(dòng)執(zhí)行者，變?yōu)橹鲃?dòng)幫助用戶提升工作效率的助手。通過(guò)AI智能體的幫助，使人們從重復(fù)性、事務(wù)性的工作中解脫出來(lái)，專注于更具創(chuàng)造性的工作，增強(qiáng)產(chǎn)業(yè)發(fā)展的核心競(jìng)爭(zhēng)力。

（本報(bào)評(píng)論員吳振東 蘭天鳴）