近期，上海網(wǎng)信部門依法約談筑夢島App運營企業(yè)主要負責人，要求平臺立即整改，健全人工智能（AI）生成合成內(nèi)容審核機制，提升技術把關能力，加強涉未成年人不良內(nèi)容的整治清理，切實落實未成年人網(wǎng)絡保護義務。企業(yè)負責人表示，將按照約談要求，對照問題舉一反三、全面整改。

當前，在特定環(huán)境中能夠自主感知、思考、行動的AI智能體（AI Agent）正在加速進入企業(yè)和個人應用場景。其中，直擊人們情感需求的“AI伴侶”智能體產(chǎn)品以即時陪伴、擬人應答、場景化預設等為賣點，一度備受熱捧。

然而，AI智能體在走進人們生活的同時，涉黃、不雅、“擦邊”等涉未成年人保護問題頻頻亮起紅燈。

有相關平臺的用戶坦言，只要不斷訓練、引導，就能打造一個愿意“擦邊”的虛擬戀人。其原理，一方面在于用戶可以自行選擇AI扮演的虛擬角色和故事演繹：由于這些智能體能夠做到“短暫記憶”，用戶可以獲得沉浸式親密體驗，訓練出專屬“伴侶”。另一方面來自平臺的“擦邊營銷策略”：一些智能體依賴身材夸張的二次元形象、具有挑逗性的回應等曖昧設定吸引用戶，逐步使用戶沉溺其中。

對于身心尚未發(fā)育完全的未成年人，沉溺AI“擦邊”和涉黃內(nèi)容，可能會增強現(xiàn)實中的模仿行為。過度沉迷AI智能體提供的所謂“情緒價值”，還可能導致未成年人社交疏離，減少真實人際互動，加劇孤獨感，甚至模糊現(xiàn)實與虛擬的邊界。其中危害不言而喻。

未成年人保護無小事。由于人機聊天內(nèi)容本身具有私域化特征，當中出現(xiàn)涉黃、“擦邊”內(nèi)容具有隱蔽性。主打“AI伴侶”的平臺作為第一責任方，應切實擔起保護未成年人的責任，尤其需守好“三關”。

首先，是法律倫理關。當前主流AI大模型雖設置了內(nèi)容過濾機制，攔截違法內(nèi)容，但也有不法分子利用部分開源模型，調(diào)整提示詞，繞過關鍵詞屏蔽，誘導模型生成“擦邊”內(nèi)容。平臺應進一步健全內(nèi)容審核機制，切勿為了短期商業(yè)利益，以增強所謂用戶體驗和黏性為目的，以“擦邊”為賣點，利用人性“軟肋”，突破法律倫理底線。

其次，是技術保護關。應進一步加強對涉“AI伴侶”平臺未成年人保護技術體系建設。例如，做到“身份證+人臉識別”等多因子安全認證，啟用未成年人保護模式。同時，完善防沉迷系統(tǒng)，對大額充值、頻繁充值等異常行為人員建立回訪機制，對充值者進行二次身份確認。

第三，是行業(yè)發(fā)展關。當前，越來越多的行業(yè)都在更加關注AI智能體在產(chǎn)業(yè)上的應用。賽道的拓展，要與產(chǎn)業(yè)發(fā)展更貼近。在同具體應用場景的結合中，AI智能體要從用戶指令的被動執(zhí)行者，變?yōu)橹鲃訋椭脩籼嵘ぷ餍实闹帧Ｍㄟ^AI智能體的幫助，使人們從重復性、事務性的工作中解脫出來，專注于更具創(chuàng)造性的工作，增強產(chǎn)業(yè)發(fā)展的核心競爭力。

（本報評論員吳振東 蘭天鳴）