近日,用AI制作“流浪漢闖入家中”圖片來(lái)整蠱家人的帖子、視頻,在社交平臺走紅。有網(wǎng)友用AI制作流浪漢闖入家中吃早餐的視頻并發(fā)給爸爸,并將爸爸的反應發(fā)到網(wǎng)上,有40多萬(wàn)人點(diǎn)贊,70多萬(wàn)人轉發(fā);一名12歲的小孩用AI制作流浪漢闖入家中的整蠱圖片,圖片流入業(yè)主群,嚇壞業(yè)主……
隨著(zhù)AI相關(guān)應用技術(shù)的日益成熟和普及,其應用場(chǎng)景不斷拓寬,使用門(mén)檻也持續降低。然而,當這樣的技術(shù)進(jìn)步成果被用于制作恐慌性整蠱內容,其性質(zhì)顯然就偏離了科技向善的軌道。要知道,這些整蠱內容的效果越“逼真”,可能帶來(lái)的危害性就越大。比如,引發(fā)恐慌和誤判,導致報警,繼而浪費公共資源,甚至還可能擾亂公共秩序,造成不必要的社會(huì )緊張。更值得警惕的是,這類(lèi)濫用行為還可能對青少年造成惡劣的示范,引發(fā)不良的模仿效應。事實(shí)上,已有一些青少年用這類(lèi)工具來(lái)整蠱,這背后的風(fēng)險不可不察。
隨著(zhù)AI應用的普及,一些人的好奇心被打開(kāi),愿意積極嘗試,這本身無(wú)可厚非。但是,技術(shù)應用也得有邊界,在使用中守住倫理底線(xiàn),不違背公序良俗和法律規范,這是起碼的要求。對此,一方面需要AI開(kāi)發(fā)企業(yè)在產(chǎn)品設計之初就設置必要的安全提示與使用規范,對可能引發(fā)誤解、恐慌或侵權的生成內容進(jìn)行風(fēng)險標識,甚至對特定敏感場(chǎng)景進(jìn)行技術(shù)限制。特別是針對青少年的使用,應該有相應的分類(lèi)引導,防止讓他們在缺乏清晰認知的情況下誤用、濫用。
另一方面,也離不開(kāi)社會(huì )大背景下的國民科技素養的培育。近日,教育部等七部門(mén)聯(lián)合印發(fā)的《關(guān)于加強中小學(xué)科技教育的意見(jiàn)》就指出,要在科技教育中融入人文元素,引導學(xué)生在科學(xué)實(shí)驗、項目探究等活動(dòng)中,主動(dòng)思考科技發(fā)展對社會(huì )、環(huán)境及倫理的深遠影響,增強社會(huì )責任感與人文底蘊。這一點(diǎn)在A(yíng)I技術(shù)日益滲透日常生活的今天,無(wú)疑顯得愈發(fā)重要。
說(shuō)到底,我們不僅需要培養青少年的創(chuàng )新意識和能力,也要從娃娃抓起培育善用技術(shù)的責任感。一定程度上說(shuō),“流浪漢闖入家中”這類(lèi)利用AI技術(shù)來(lái)整蠱的現實(shí)案例,恰恰是開(kāi)展科技倫理教育生動(dòng)的反面教材。從家庭到學(xué)校、社區等都不妨積極利用好這類(lèi)案例的教育價(jià)值,增強大眾尤其是青少年對科技應用濫用的風(fēng)險認知,以及善用科技的自覺(jué)意識和責任感。