界面新聞記者 | 楊舒鴻吉

今年以來，大模型和AIGC備受矚目。大模型數量急劇增加，開啟“千模大戰”。如何加強對AIGC內容的規范管理？

在9月11日舉行的2023年國家網絡安全宣傳周上海地區高峰論壇上，中國信息通信研究院華東分院院長廖運發透露，上海可信AI評測中心正在逐步在建立評測相關標準，開展評估評測工作，致力于可信AI進一步健康發展。

廖運發認為，AIGC目前面臨較多挑戰。從企業管理上來看，大模型開發及應用企業，都要求對大模型從技術、內容等方面進行深度審核、管理、治理。

另外，他指出，從技術上應要求監測人工智能算法是否有缺陷、內容是否符合法律法規要求以及政策監管等等。

2021年，由中國信息通信研究院、中國人工智能產業發展聯盟（AIIA）和中國信通院華東分院共同成立的上海可信AI評測中心揭牌。

依托人工智能發展高地建設契機，上海以“搭建安全可靠人工智能系統”為目標，率先成立上海可信AI評測中心，打造全國乃至全球知名的集AI標準制定、可信AI評測與產業落地于一體的科研中心，推動可信AI治理準則貫穿人工智能產品和服務的全生命周期，確保人工智能安全、可靠、可控，推動經濟、社會及生態可持續發展。

廖運發認為，大模型未來的發展之路中，發展與安全是兩個重要的命題。從技術上要加快人工智能技術進一步研發，特別是可信人工智能的邏輯可控等。從產業維度上，需要加快可信人工智能的落地，形成共識。從生態維度，要加快標準的研究、制定，以及從監管的維度要推動底線政策的監管。“總體來看，這些監管都不是抑制AIGC大模型的產業發展，而是要統籌發展與安全。“

2022年，全球人工智能產業市場達到3619億美元，我國已經達到5080億人民幣，平均增長速度達到近20%。中國信通院預計，到2030年，中國人工智能產業會達到1萬億人民幣的規模。