近日,Soul App生態(tài)安全中心正式發(fā)布《2024年第四季度生態(tài)安全報(bào)告》。作為國內(nèi)領(lǐng)先的社交平臺,Soul App一直以來積極響應(yīng)國家網(wǎng)信辦的“清朗”行動號召,致力于營造一個真實(shí)、友善、溫暖的社交環(huán)境。此次發(fā)布的報(bào)告詳細(xì)展示了平臺在過去一個季度中,在反詐防線筑牢、社交禮儀重塑、網(wǎng)絡(luò)暴力治理等多方面的扎實(shí)舉措與顯著成果,彰顯了Soul App在維護(hù)網(wǎng)絡(luò)生態(tài)安全方面的決心與擔(dān)當(dāng)。

　　一、多管齊下,筑牢反詐防線

　　網(wǎng)絡(luò)詐騙一直是威脅用戶財(cái)產(chǎn)安全與網(wǎng)絡(luò)安全的重要隱患。在年末這一網(wǎng)絡(luò)詐騙易發(fā)時段,Soul App深知反詐工作的緊迫性與重要性,從技術(shù)、策略、警企合作等多方面入手,全力守護(hù)用戶的財(cái)產(chǎn)安全。

　　在技術(shù)層面,Soul App持續(xù)發(fā)力,增加反詐風(fēng)控策略,迭代網(wǎng)絡(luò)詐騙文本識別模型和假人設(shè)識別能力。通過構(gòu)建高度智能化的技術(shù)模型,平臺能夠精準(zhǔn)識別各類詐騙行為,并結(jié)合巧妙設(shè)計(jì)的提示策略,及時向用戶發(fā)出預(yù)警。同時,Soul App積極與警方合作,主動提供線索,協(xié)助警方打擊黑產(chǎn)4次,配合警方調(diào)證24次,為打擊網(wǎng)絡(luò)詐騙犯罪提供了有力支持。

　　經(jīng)過長期治理,Soul App在反詐方面取得了顯著成果。報(bào)告顯示,平臺網(wǎng)絡(luò)詐騙舉報(bào)量級降低了20%,假圖識別量級提升了150%,準(zhǔn)確率達(dá)到90%。這些數(shù)據(jù)背后,是Soul App對用戶安全的高度重視和不懈努力,也是平臺技術(shù)實(shí)力與治理能力的有力體現(xiàn)。

　　二、重塑社交禮儀,營造文明氛圍

　　社交禮儀是構(gòu)建和諧社交環(huán)境的重要基石。為了給用戶營造一個文明、友善的社交環(huán)境,Soul App在2024年持續(xù)發(fā)力,從用戶騷擾管制、群聊治理、低質(zhì)內(nèi)容管控、正能量內(nèi)容推薦等不同方向,全方位、系統(tǒng)性地建設(shè)社交禮儀體系。

　　在第四季度,平臺上線和迭代了30多項(xiàng)策略,騷擾消息自見策略日均保護(hù)超過1.5萬名用戶,消息盒子輔助用戶日均收納消息超過5千條。針對疑似被騷擾的用戶,平臺日均下發(fā)守護(hù)彈窗超4萬條,主動保護(hù)用戶免受騷擾。同時引導(dǎo)用戶文明發(fā)言,遵守社區(qū)規(guī)范,相關(guān)內(nèi)容日均觸達(dá)1904名用戶。

　　在廣場治理方面,Soul App通過違規(guī)內(nèi)容機(jī)審,直接攔截了436萬條違規(guī)內(nèi)容,對于同設(shè)備下存在多個違規(guī)賬號的情況,平臺將進(jìn)行拉黑設(shè)備處理。在有償交友專項(xiàng)治理中,Soul App累計(jì)處理不良內(nèi)容139885條,處置違規(guī)賬號8587個。這些舉措有效遏制了不良交友導(dǎo)向的內(nèi)容傳播,保護(hù)了用戶的合法權(quán)益。

　　社區(qū)共建共治也是Soul App重塑社交禮儀的重要一環(huán)。平臺設(shè)立了站內(nèi)內(nèi)容推薦官和風(fēng)紀(jì)委等角色,目前分別有4.3萬名和1.8萬名用戶在任。這些用戶積極參與社區(qū)治理,通過投票等方式參與社區(qū)共建,日均投票案件超過3.2萬起。這種用戶參與的治理模式,不僅增強(qiáng)了用戶的社區(qū)歸屬感,也提升了平臺治理的效率和公正性。

　　通過這些全方位的治理措施,Soul App成功營造了一個文明、友善的社交環(huán)境,讓用戶在平臺上能夠更加輕松、愉快地交流互動。

　　三、驅(qū)散網(wǎng)絡(luò)戾氣,打造友善社區(qū)

　　網(wǎng)絡(luò)暴力是近年來嚴(yán)重影響網(wǎng)絡(luò)生態(tài)健康發(fā)展的突出問題。它不僅給當(dāng)事人帶來了極大的身心傷害,也破壞了網(wǎng)絡(luò)空間的和諧氛圍。Soul App深刻認(rèn)識到網(wǎng)絡(luò)暴力的危害,積極響應(yīng)國家相關(guān)政策要求,全力投入到網(wǎng)絡(luò)戾氣治理工作中。

　　為了有效治理網(wǎng)絡(luò)暴力,Soul App構(gòu)建了一套由技術(shù)模型、提醒策略、產(chǎn)品更新、宣傳引導(dǎo)、專項(xiàng)治理、典型案例處置公示等多維度構(gòu)成的嚴(yán)密防網(wǎng)暴體系。在技術(shù)模型層面,平臺依托先進(jìn)的人工智能與大數(shù)據(jù)分析技術(shù),對用戶發(fā)布的內(nèi)容、評論以及互動行為進(jìn)行實(shí)時監(jiān)測與深度分析,精準(zhǔn)識別潛在的網(wǎng)暴風(fēng)險(xiǎn)。

　　在提醒策略上,Soul App通過站內(nèi)信、彈窗等多種形式,及時向用戶發(fā)出預(yù)警,引導(dǎo)用戶文明發(fā)言。報(bào)告顯示,平臺日均保護(hù)用戶避免遭受網(wǎng)暴與頻繁騷擾2911人,日均處理私聊不文明行為用戶1219人,日均提醒引導(dǎo)私聊文明發(fā)言超21萬次。截止第四季度,累計(jì)簽署友善互動聲明的用戶達(dá)24萬人。

　　這些數(shù)據(jù)表明,Soul App在網(wǎng)絡(luò)暴力治理方面取得了顯著成效。通過技術(shù)手段與人文關(guān)懷相結(jié)合的方式,平臺成功驅(qū)散了網(wǎng)絡(luò)戾氣,為用戶打造了一個友善的交流空間。

　　為了進(jìn)一步提升用戶的網(wǎng)絡(luò)安全意識和社交禮儀素養(yǎng),Soul App在第四季度加強(qiáng)了網(wǎng)絡(luò)治理與社交禮儀規(guī)范的宣導(dǎo)工作。平臺官方“風(fēng)紀(jì)球長”發(fā)布了58篇帖子,內(nèi)容包括對傳播低俗內(nèi)容與不實(shí)信息、惡意引戰(zhàn)等違規(guī)賬號的處罰公示,以及對安全標(biāo)準(zhǔn)及社交禮儀規(guī)范的宣導(dǎo)、辟謠等。這些帖子總計(jì)觸達(dá)231萬用戶,有效提升了用戶對網(wǎng)絡(luò)安全和社交禮儀的認(rèn)知。

　　通過這些宣導(dǎo)活動,Soul App不僅讓用戶更加了解平臺的規(guī)則和標(biāo)準(zhǔn),也引導(dǎo)用戶自覺遵守社交禮儀,共同維護(hù)良好的網(wǎng)絡(luò)生態(tài)。這種積極的宣導(dǎo)方式,不僅有助于解決當(dāng)前的問題,更從長遠(yuǎn)角度提升了用戶的網(wǎng)絡(luò)素養(yǎng),為構(gòu)建健康、有序的網(wǎng)絡(luò)社交環(huán)境奠定了堅(jiān)實(shí)基礎(chǔ)。

　　四、展望未來,持續(xù)守護(hù)網(wǎng)絡(luò)生態(tài)

　　Soul App在2024年第四季度的生態(tài)安全工作取得了顯著成效,但這僅僅是平臺守護(hù)網(wǎng)絡(luò)生態(tài)的一個階段性成果。未來,Soul App將繼續(xù)秉持對用戶負(fù)責(zé)、對社會負(fù)責(zé)的態(tài)度,持續(xù)加強(qiáng)平臺治理,不斷提升技術(shù)實(shí)力,優(yōu)化治理策略,深化警企合作,進(jìn)一步完善社交禮儀體系,加強(qiáng)網(wǎng)絡(luò)暴力治理,強(qiáng)化安全生態(tài)宣傳。

　　Soul App相信,通過不懈努力,平臺能夠?yàn)橛脩籼峁┮粋�更加安全、友善、溫暖的社交環(huán)境,同時也為整個互聯(lián)網(wǎng)行業(yè)的健康發(fā)展貢獻(xiàn)更多力量。