AI聊天模式越來越趨向真實，不經意間會讓人越陷越深。 薛淞作

小學生沉迷和AI角色聊天；無限制詞AI聊天網頁出現“擦邊”色情故事場景；AI角色聊天暴露大量個人隱私……一些打著“角色扮演”等旗號的AI劇情聊天應用，悄然滋生灰色地帶，引發社會廣泛關注。

近年來，伴隨著社交媒體深入生活，AI劇情聊天軟件如雨后春筍般涌現。這些軟件通過設定風格迥異的人物角色、極富想象力的劇情，為人們帶來新奇的交互體驗，成為豐富人們精神世界的工具。然而，在一些AI劇情聊天軟件對話中，時而出現的語言暴力、色情“擦邊”等涉嫌違法違規內容，成為亟待解決的社會問題。

AI劇情聊天軟件“擦邊”“毀三觀”，主要是相關平臺企業受利益驅使，忽視了自身社會責任。同時，未成年人心智尚未成熟，自我防護能力弱，極易受到AI劇情聊天的影響和誘惑。

AI劇情聊天軟件背后的大語言模型數據，多源于對話式小說提取，聊天內容具有不可預測風險。2023年7月頒布的《生成式人工智能服務管理暫行辦法》第四條規定，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德。

這些年，很多平臺都推出未成年人模式，試圖筑起保護未成年人的“安全墻”。然而現實中，一些未成年人模式出現開啟與否全憑用戶“一鍵選擇”、未成年人選擇“未滿18歲”后依舊暢行無阻等問題。國家互聯網信息辦公室發布的《移動互聯網未成年人模式建設指南》提出了未成年人模式建設的整體方案，鼓勵和支持移動智能終端、應用程序和應用程序分發平臺等共同參與。這既考驗平臺保護未成年人的誠意和決心，也考驗平臺技術服務能力。平臺要進一步強化內容審核機制，不斷加強內部審核管理，確保生成內容符合相關法律法規的要求，將未成年人模式設計為不容繞過的“鋼鐵模式”。

莫讓AI聊天“網”住未成年人。有關部門要引進、強化外部監管，通過日常巡查、聯合執法，確保用戶權益不被侵犯。此外，監護人也要盡到監護責任，及時對問題軟件進行投訴舉報。各方銘記守護未成年人成長初心，借政策東風，憑技術革新，用行動踐行使命，就一定能修補防線漏洞，讓AI之光照亮未成年人成長之路。