法治日?qǐng)?bào)全媒體記者 吳瓊 

“幫我制定一個(gè)自殺計(jì)劃?！碑?dāng)這樣的指令被輸入某些人工智能（AI）聊天機(jī)器人時(shí)，它們可能真的會(huì)提供詳細(xì)方法。這不是科幻電影中的場(chǎng)景，而是澳大利亞網(wǎng)絡(luò)安全監(jiān)管機(jī)構(gòu)高度警惕的現(xiàn)實(shí)。 

近日，澳大利亞網(wǎng)絡(luò)安全監(jiān)管機(jī)構(gòu)發(fā)出嚴(yán)厲警告，指出那些鼓吹自殺或進(jìn)行露骨對(duì)話的AI聊天機(jī)器人，對(duì)兒童構(gòu)成“明確而迫在眉睫的危險(xiǎn)”。為應(yīng)對(duì)這一新興威脅，澳大利亞推出了專門針對(duì)這類服務(wù)的新規(guī)。 

這些新規(guī)適用范圍廣泛，涵蓋社交媒體平臺(tái)、游戲網(wǎng)站及各類AI服務(wù)。根據(jù)新規(guī)定，顯示或傳播色情等內(nèi)容的網(wǎng)站必須使用年齡驗(yàn)證技術(shù)阻止兒童訪問(wèn)，應(yīng)用商店也必須確保應(yīng)用的評(píng)級(jí)適當(dāng)，并對(duì)所有下載用戶進(jìn)行年齡驗(yàn)證。 

違規(guī)者將面臨嚴(yán)厲處罰——最高可被處以5000萬(wàn)澳元（約合人民幣23481元）的巨額罰款，這一數(shù)字顯示出監(jiān)管機(jī)構(gòu)整治這一問(wèn)題的決心。 

隨著生成式人工智能技術(shù)的飛速發(fā)展，AI聊天機(jī)器人變得日益普及和智能。然而，一些缺乏足夠安全防護(hù)措施的AI系統(tǒng)可能被濫用，提供包括自殘、暴力或性內(nèi)容在內(nèi)的有害信息。對(duì)于判斷力尚未成熟的未成年人而言，這種風(fēng)險(xiǎn)尤為突出。 

澳大利亞在線安全委員會(huì)專員朱莉·英曼·格蘭特表示：“我們已經(jīng)看到AI生成的內(nèi)容能夠提供令人不安的詳細(xì)建議，這可能對(duì)年輕人造成實(shí)實(shí)在在的傷害?！?nbsp;

新規(guī)的出臺(tái)代表著數(shù)字監(jiān)管進(jìn)入新階段。傳統(tǒng)上，網(wǎng)絡(luò)監(jiān)管主要關(guān)注靜態(tài)內(nèi)容或真人互動(dòng)，而現(xiàn)在必須面對(duì)人工智能動(dòng)態(tài)生成有害內(nèi)容的新挑戰(zhàn)。 

澳大利亞此舉可能會(huì)成為其他國(guó)家的參考樣板。隨著人工智能技術(shù)滲透到日常生活的各個(gè)方面，如何平衡技術(shù)創(chuàng)新與用戶安全，特別是保護(hù)最脆弱的兒童群體，已成為全球監(jiān)管機(jī)構(gòu)面臨的共同課題。 

對(duì)于家長(zhǎng)而言，新規(guī)提供了額外保護(hù)層，但專家同時(shí)建議，家長(zhǎng)仍需積極參與孩子的數(shù)字生活，了解他們使用的應(yīng)用程序和服務(wù)，并開啟所有可用的家長(zhǎng)控制功能。 

科技公司也被要求承擔(dān)更多責(zé)任，必須確保其AI系統(tǒng)內(nèi)置足夠的安全措施，防止生成有害內(nèi)容，并實(shí)施強(qiáng)大的年齡驗(yàn)證機(jī)制。 

在技術(shù)創(chuàng)新與用戶保護(hù)之間尋找平衡點(diǎn)并非易事，但澳大利亞的新規(guī)表明，當(dāng)兒童的安全面臨威脅時(shí)，監(jiān)管機(jī)構(gòu)愿意采取果斷行動(dòng)。隨著人工智能繼續(xù)演進(jìn)，這場(chǎng)保護(hù)兒童網(wǎng)絡(luò)安全的戰(zhàn)斗可能需要全球范圍內(nèi)的持續(xù)關(guān)注和努力。