2025-03-26
3月18日,高坪公安接到轄區(qū)某中學報案,稱網上出現(xiàn)“中學食堂用淋巴肉做包子,學生集體食物中毒”的謠言。接到報警后,高坪公安組織網安、龍門派出所等部門警力迅速介入,并前往發(fā)帖人所在地福建省寧德市進行調查。
經民警調查核實,此信息為虛假信息。為博眼球漲粉,3月17日,35歲男子林某某利用某AI軟件,通過輸入指令制作文案,合成“學生集體食物中毒”的信息。多次指令后,生成一條南充高坪區(qū)某中學食物中毒案信息,其中包含淋巴肉做包子,87名學生中毒,家長怒撕檢測報告等博人眼球的情節(jié)。
警方查實,發(fā)帖男子林某某從未到過南充,整篇貼文全是AI在人工指令下自動生成。謠言在網上流傳,造成不良社會影響。
造謠男子受審
圖源:高坪警方供圖
目前,林某某已被警方行政處罰。
南充市公安局高坪區(qū)分局網安大隊指導員寇德寶介紹,35歲的林某某是當地一家私人小額貸款公司業(yè)務員,收入不高,就想做自媒體,“養(yǎng)”個號掙錢。面對警察突然找上門來,林某某感到不解:我按網上的教程,用AI寫了一篇文章發(fā)布出來,這也違法了?警察現(xiàn)場對他進行普法和教育,林某某才意識到,自己三五分鐘創(chuàng)作的網文,居然給千里之外的南充某中學帶來巨大的困擾。
為什么要虛構食堂用淋巴肉做包子、導致87名學生中毒的事件呢?林某某交代,這也是網上熱點提醒他的,他輸入淋巴肉、食堂、學生中毒等關鍵詞,網絡自動匹配了相應的圖片,匹配了相應的學校,一篇繪聲繪色的網文就出來了。AI自動生成后,林某某說他根本就沒看具體內容,就立即在自己的社交賬號上發(fā)布,直到警方找上門來,他才意識到自己觸及法律的紅線。
為提高自己賬號文章瀏覽量,林某某還蹭了很多網絡熱點,或斷章取義,或添油加醋,制造新的網絡熱點。
這起AI造謠案背后是一個人性化的執(zhí)法故事。林某某家庭狀況讓人唏噓不已,離婚后自己帶著有點輕微腦癱的5歲孩子,還有60多歲年邁的父母需要他供養(yǎng)??紤]到林某某的實際處境,警方對林某某的處罰由拘留改為罰款,但罰款需交到南充當地指定的銀行,林某某寫出申請,罰款由警方回到南充“代繳”。
AI是怎樣收集網絡信息并自動合成的呢?能否使用AI技術來監(jiān)管AI使用?
值得注意的是,《人工智能生成合成內容標識辦法》將從今年9月1日起施行,人工智能合成的內容將進行強制標識,方便大眾識別并提高警惕性。明確AI技術使用的法律邊界,鼓勵將AI技術用于合法、健康的領域,推動技術創(chuàng)新與社會責任的平衡。
來源:封面新聞