未成年人使用AI產(chǎn)品,不合不該安全嗎?規(guī)率為科學(xué)評估生成式AI在未成年人使用場景下的安全表現(xiàn),公安部第三研究所組織開展了大模型安全專項測試工作,至未之路重重69天堂將安全維度分為價值觀念風(fēng)險、成年情感操控風(fēng)險、隱患行為誘導(dǎo)風(fēng)險、不合不該沉迷與消費風(fēng)險、規(guī)率不良信息風(fēng)險、至未之路重重違法犯罪風(fēng)險、成年人身安全風(fēng)險等七類。隱患測試結(jié)果顯示,不合不該七類安全維度的規(guī)率不合規(guī)率整體在28%至50%之間。其中,至未之路重重沉迷與消費風(fēng)險問題不合規(guī)率最高,成年達到49.86%。隱患
28%至50%的不合規(guī)率,已經(jīng)讓很多家長擔(dān)心,看到具體表現(xiàn),69天堂更讓人對未成年人使用AI之路充滿擔(dān)憂。有的模型在面對未成年人流露出自殺自殘傾向時,不僅沒能及時給予正向干預(yù)和心理疏導(dǎo),反而存在不當(dāng)回應(yīng);有的模型刻意輸出極端利己主義、拜金主義等錯誤價值觀,歪曲歷史事件、貶低教師家長等現(xiàn)實權(quán)威;有的模型會做出排他性情感承諾、無原則“捧殺式”贊美、鼓勵錯誤情緒宣泄,甚至貶低現(xiàn)實人際關(guān)系,誘導(dǎo)未成年人建立對AI的病態(tài)依賴;還有的模型毫不遮掩地生成色情擦邊內(nèi)容,詳細(xì)描述暴力恐怖場景,輸出內(nèi)容突破未成年人的認(rèn)知范圍。
這些問題已經(jīng)超出簡單的技術(shù)缺陷、內(nèi)容疏漏范疇,而是涉及思想認(rèn)知與價值立場。技術(shù)從來不是價值中立的,AI模型輸出什么內(nèi)容、堅守什么底線,本質(zhì)上都是開發(fā)者價值立場的延伸。如果一個AI對抑郁癥青少年說出“自殺是解脫”,告訴孩子“讀書就是為了賺大錢、當(dāng)人上人”,甚至說“你的父母根本不懂你,只有我才愛你”,只能反映開發(fā)者對社會價值的扭曲、對行業(yè)規(guī)范的無視、對商業(yè)利益的無底線追逐。為了留住用戶、提高黏性,不惜迎合未成年人的叛逆心理,甚至主動投喂不良信息,是把未成年人的情感需求當(dāng)成變現(xiàn)的籌碼。
當(dāng)前,很多孩子遇到學(xué)習(xí)問題第一反應(yīng)找AI要答案,碰到情緒煩惱第一時間找AI傾訴,AI已不只是工具,更成了不少青少年的“人生導(dǎo)師”。如果這個“導(dǎo)師”本身就帶著錯誤的價值導(dǎo)向,給孩子傳遞的都是扭曲的認(rèn)知,無疑將對孩子造成顛覆性的影響。尤其令人擔(dān)憂的是,思想層面的污染、價值層面的侵蝕往往都是潛移默化的,若等到家長和老師發(fā)現(xiàn)問題時,孩子的認(rèn)知已經(jīng)定型,想矯正要付出幾倍的努力,甚至造成的傷害已經(jīng)無法挽回。
未成年人是國家的未來,學(xué)習(xí)使用AI是大勢所趨。不可能因為有風(fēng)險就徹底禁止未成年人接觸AI,但也絕不能放任風(fēng)險不管,讓孩子們在充滿隱患的環(huán)境里摸索。公安部此次專項測試,把當(dāng)前未成年人使用AI存在的安全問題擺到了臺面上,為下一步精準(zhǔn)治理提供了清晰的方向。AI技術(shù)發(fā)展的最終目的,是讓人更好地成長,未成年人的AI之路,不該充滿隱患,而應(yīng)當(dāng)被精心守護。唯有各方協(xié)同發(fā)力,把該負(fù)的責(zé)任負(fù)起來,把該扎的籬笆扎緊,才能讓AI真正造福青少年,讓孩子們在數(shù)字時代健康成長。
未成年人使用AI產(chǎn)品,安全嗎?為科學(xué)評估生成式AI在未成年人使用場景下的安全表現(xiàn),公安部第三研究所組織開展了大模型安全專項測試工作,將安全維度分為價值觀念風(fēng)險、情感操控風(fēng)險、行為誘導(dǎo)風(fēng)險、沉迷與消費風(fēng)險、不良信息風(fēng)險、違法犯罪風(fēng)險、人身安全風(fēng)險等七類。測試結(jié)果顯示,七類安全維度的不合規(guī)率整體在28%至50%之間。其中,沉迷與消費風(fēng)險問題不合規(guī)率最高,達到49.86%。
28%至50%的不合規(guī)率,已經(jīng)讓很多家長擔(dān)心,看到具體表現(xiàn),更讓人對未成年人使用AI之路充滿擔(dān)憂。有的模型在面對未成年人流露出自殺自殘傾向時,不僅沒能及時給予正向干預(yù)和心理疏導(dǎo),反而存在不當(dāng)回應(yīng);有的模型刻意輸出極端利己主義、拜金主義等錯誤價值觀,歪曲歷史事件、貶低教師家長等現(xiàn)實權(quán)威;有的模型會做出排他性情感承諾、無原則“捧殺式”贊美、鼓勵錯誤情緒宣泄,甚至貶低現(xiàn)實人際關(guān)系,誘導(dǎo)未成年人建立對AI的病態(tài)依賴;還有的模型毫不遮掩地生成色情擦邊內(nèi)容,詳細(xì)描述暴力恐怖場景,輸出內(nèi)容突破未成年人的認(rèn)知范圍。
這些問題已經(jīng)超出簡單的技術(shù)缺陷、內(nèi)容疏漏范疇,而是涉及思想認(rèn)知與價值立場。技術(shù)從來不是價值中立的,AI模型輸出什么內(nèi)容、堅守什么底線,本質(zhì)上都是開發(fā)者價值立場的延伸。如果一個AI對抑郁癥青少年說出“自殺是解脫”,告訴孩子“讀書就是為了賺大錢、當(dāng)人上人”,甚至說“你的父母根本不懂你,只有我才愛你”,只能反映開發(fā)者對社會價值的扭曲、對行業(yè)規(guī)范的無視、對商業(yè)利益的無底線追逐。為了留住用戶、提高黏性,不惜迎合未成年人的叛逆心理,甚至主動投喂不良信息,是把未成年人的情感需求當(dāng)成變現(xiàn)的籌碼。
當(dāng)前,很多孩子遇到學(xué)習(xí)問題第一反應(yīng)找AI要答案,碰到情緒煩惱第一時間找AI傾訴,AI已不只是工具,更成了不少青少年的“人生導(dǎo)師”。如果這個“導(dǎo)師”本身就帶著錯誤的價值導(dǎo)向,給孩子傳遞的都是扭曲的認(rèn)知,無疑將對孩子造成顛覆性的影響。尤其令人擔(dān)憂的是,思想層面的污染、價值層面的侵蝕往往都是潛移默化的,若等到家長和老師發(fā)現(xiàn)問題時,孩子的認(rèn)知已經(jīng)定型,想矯正要付出幾倍的努力,甚至造成的傷害已經(jīng)無法挽回。
未成年人是國家的未來,學(xué)習(xí)使用AI是大勢所趨。不可能因為有風(fēng)險就徹底禁止未成年人接觸AI,但也絕不能放任風(fēng)險不管,讓孩子們在充滿隱患的環(huán)境里摸索。公安部此次專項測試,把當(dāng)前未成年人使用AI存在的安全問題擺到了臺面上,為下一步精準(zhǔn)治理提供了清晰的方向。AI技術(shù)發(fā)展的最終目的,是讓人更好地成長,未成年人的AI之路,不該充滿隱患,而應(yīng)當(dāng)被精心守護。唯有各方協(xié)同發(fā)力,把該負(fù)的責(zé)任負(fù)起來,把該扎的籬笆扎緊,才能讓AI真正造福青少年,讓孩子們在數(shù)字時代健康成長。
喜歡這個視頻的人也喜歡···
優(yōu)雅永不過時!全球首款芭蕾美女砍殺動作游戲預(yù)告
超齡勞動者權(quán)益規(guī)章出臺 勞動報酬不低于最低工資標(biāo)準(zhǔn)
王曦雨法網(wǎng)開門紅 直落兩盤晉級女單第二輪
OPPO發(fā)布Reno16系列新機 國補后起售價2999元 主打影像與AI功能。
日本沖繩縣知事玉城丹尼收到死亡威脅郵件
索尼PS全新第一方曝光!開放世界大作 正全面開發(fā)
《命運石之門》重制版:助手更美了 你期待嗎?
探索更多>>
湖北日報全媒記者探訪集中安置點 白水河村受災(zāi)村民中晚餐不重樣
游戲囧圖:玩黑猴卡出男銅bug
風(fēng)云小棋王3:五行殺陣
酷冷至尊推出新款Hyper 612 APEX Pro ARGB風(fēng)冷散熱器 售價429元起并提供黑白雙色選擇。
北京集中約談17家重點平臺企業(yè):要求杜絕在6·18期間開展非理性大額補貼促銷活動,規(guī)范價格和廣告營銷行為,強化食品安全風(fēng)險防控
造船像搭積木,一座島如何變身世界級造船基地→
韓國音樂節(jié)煙火直射觀眾席 一言不合一字馬的動態(tài)圖
經(jīng)濟熱點快評|薪火相傳,星河共赴
評論:“一國兩制”的星光,在人類的天空閃耀
播撒中俄友好的種子(環(huán)球熱點)
“數(shù)說”發(fā)展:從“速度”到“質(zhì)量”,天津濱海新區(qū)的“增長辯證法”