中新網(wǎng)3月26日電 中國(guó)發(fā)展高層論壇2024年年會(huì)于2024年3月24-25日舉行。3月24日下午舉行了“人工智能發(fā)展與治理專(zhuān)題研討會(huì)”，清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)、中國(guó)工程院院士張亞勤在“小組討論二”環(huán)節(jié)的發(fā)言中表示：各國(guó)要在全球智能領(lǐng)域共同合作，將人工智能紅線作為社會(huì)風(fēng)險(xiǎn)共同應(yīng)對(duì)。
張亞勤簡(jiǎn)要總結(jié)了人工智能大模型的發(fā)展趨勢(shì)，一是多模態(tài)、多尺度、跨模態(tài)的新智能；二是未來(lái)五年要在整個(gè)架構(gòu)上有大的突破，追隨尺度定律(Scaling Law)，但未必是transformer模型結(jié)構(gòu)；三是智能逐漸向“人工智能手機(jī)”“人工智能PC”邊緣側(cè)延伸；四是可以實(shí)現(xiàn)定義任務(wù)、規(guī)劃路徑、自我升級(jí)、自我編碼等的自主智能；五是信息式智能逐漸走向物理世界；六是大模型與生物體連結(jié)的生物智能。
張亞勤認(rèn)為，未來(lái)五年隨著各大領(lǐng)域大規(guī)模應(yīng)用人工智能技術(shù)，將帶來(lái)三方面風(fēng)險(xiǎn)，包括：信息世界的風(fēng)險(xiǎn)，包含錯(cuò)誤、虛假信息的風(fēng)險(xiǎn)；已經(jīng)出現(xiàn)的大模型幻覺(jué)問(wèn)題，隨著信息智能大規(guī)模應(yīng)用延伸至物理智能、生物智能時(shí)，風(fēng)險(xiǎn)也會(huì)規(guī)�；�；大模型與經(jīng)濟(jì)體系、金融體系、軍事系統(tǒng)、電力網(wǎng)絡(luò)相連接的風(fēng)險(xiǎn)。
如何防范這些風(fēng)險(xiǎn)問(wèn)題，張亞勤提出五個(gè)長(zhǎng)期建議。
一是像標(biāo)識(shí)廣告一樣，對(duì)人工智能生產(chǎn)的數(shù)字人等智能體進(jìn)行標(biāo)識(shí)。
二是設(shè)立映射和注冊(cè)機(jī)制。明確機(jī)器人作為從屬體，必須映射到主體，這個(gè)主體可以是人或公司等法定實(shí)體，如果機(jī)器人出現(xiàn)問(wèn)題，就可以追溯主體責(zé)任。
三是建立分級(jí)監(jiān)管體制機(jī)制。對(duì)應(yīng)用在物理世界、生物系統(tǒng)等不同領(lǐng)域的大模型，分級(jí)監(jiān)管。
四是加大對(duì)大模型風(fēng)險(xiǎn)研究的投入，呼吁政府、科學(xué)家、技術(shù)從業(yè)者和企業(yè)家共同參與，一邊發(fā)展，一邊治理。
五是制定人工智能發(fā)展的紅線。目前北京人工智能?chē)?guó)際安全對(duì)話已經(jīng)達(dá)成了《北京AI安全國(guó)際共識(shí)》，提出人工智能發(fā)展的紅線。各國(guó)要在全球智能領(lǐng)域共同合作，將人工智能紅線作為社會(huì)風(fēng)險(xiǎn)共同應(yīng)對(duì)。