近期，“外國山海經(jīng)”“AI山海經(jīng)”等AI“魔改”（指利用AI技術(shù)對原作品進行大幅或顛覆性改編的行為）內(nèi)容在網(wǎng)絡(luò)上暗流涌動。據(jù)媒體報道，一些包含血腥暴力、惡搞低俗內(nèi)容的“邪典動畫”正借AI技術(shù)卷土重來。部分AI“魔改”內(nèi)容還被制作成商品，在電商平臺堂而皇之售賣。這些亂象值得警惕。
近年來，隨著相關(guān)政策的完善，曾經(jīng)的“邪典視頻”已得到較好治理。然而，在AI技術(shù)“加持”下，更加隱蔽、更具傷害性的“邪典視頻”再次登臺。據(jù)報道，有的動畫看似是卡通風格，實則充斥殘害肢體、高空墜落等血腥暴力內(nèi)容；有的視頻看似是對經(jīng)典的二次創(chuàng)作，實則是對經(jīng)典和傳統(tǒng)進行惡搞、歪曲和污名化。這些內(nèi)容主要瞄準了身心尚在發(fā)育成長的孩子們，其危害無異于心靈“投毒”，誤導他們的三觀、人格與文化認知，如果放任此類AI“邪典視頻”繼續(xù)生產(chǎn)傳播，后果不堪設(shè)想。
AI“邪典視頻”的危害顯而易見，為何會卷土重來，為何還會有一些力量在推波助瀾？背后其實是相關(guān)方的利益盤算。部分創(chuàng)作者為了博取關(guān)注、賺取流量，制作無底線內(nèi)容；一些短視頻平臺和社交平臺，在商業(yè)利益驅(qū)使下，降低算法推薦的道德門檻，放任此類視頻大肆傳播。更令人擔心的是，制作此類動畫視頻，價格極其低廉，還有“一鍵生成”式教程，助長快速傳播。這些有毒內(nèi)容甚至已從線上蔓延至線下，諸如盲盒、積木等商品熱銷，形成一條產(chǎn)業(yè)鏈。在手機上瘋狂傳播的AI“邪典視頻”，背后實際是制作、銷售、傳播等環(huán)節(jié)的層層失守，助紂為虐。
AI本是科技進步的產(chǎn)物，但別有用心者卻將其異化為賺黑心錢的工具，將商業(yè)利益置于未成年人身心權(quán)益之上，借機給孩子們“投毒”。守護未成年人的身心健康，家長和學校需要強化對孩子的陪伴幫助、教育引導，提升孩子們的技術(shù)素養(yǎng)，正確認識和運用AI技術(shù)。同時，給孩子們營造一個健康清朗的網(wǎng)絡(luò)環(huán)境也不可或缺——監(jiān)管部門需加大執(zhí)法力度，嚴厲打擊制作傳播“邪典”內(nèi)容及銷售相關(guān)商品的行為，斬斷利益鏈條；網(wǎng)絡(luò)平臺應(yīng)承擔起主體責任，優(yōu)化內(nèi)容審核機制，及時下架“有毒”內(nèi)容的制作教程，阻斷傳播路徑，同時完善青少年模式，為青少年健康上網(wǎng)保駕護航。各方協(xié)力，才能對此類有毒內(nèi)容拉起“警戒線”，構(gòu)筑“防波堤”。
唯有平臺守責、監(jiān)管發(fā)力、家校聯(lián)動，才能有效清除AI“邪典視頻”等精神“毒藥”的影響，避免其侵蝕未成年人的心智，讓技術(shù)進步真正助益孩子們健康成長。
來源:人民日報客戶端
編輯:聶臻臻 張興紅
一審:姜健 李敬友
二審:孫瑞永
三審:管延會
