上海首家生成式AI質檢中心掛牌 為人工智能軟件各項指標“體檢”

“無中生有”可謂生成式人工智能強壯學習才能的“本色”?？墒?，在從無到有的過程中，人工智能會不會犯錯？近日，由上海計算機軟件技能開發中心籌建的上海市生成式人工智能質量查驗檢測中心掛牌。作為上海首家批籌的人工智能范疇質檢中心，其將幫助生成式人工智能在深度學習，智能生成過程中及時修偏糾錯，助生成式AI產品當之無愧，少走彎路。

Chatgpt強壯的智能潛力，讓生成式AI瞬間火遍全球。本年5月發布的《中國人工智能大模型地圖研究報告》顯示，我國已有79個10億級以上參數規模的大模型。不過，在一些大言語模型使用初期，部分歹意用戶可能會經過角色扮演、分步提問等方式，躲避大言語模型安全規則，誘導其給出違背法律法規的回答，或許生成違背倫理道德的內容。怎么客觀地點評大模型的性能，同時讓剛剛萌發且學習才能飛快的大模型使用合禮、合規，成為賦能各行各業的重要一環。

生成式人工智能質量查驗檢測中心，正是要檢測生成式AI產品中潛在的類似縫隙，提高人工智能體系的安全性，減少各類危險?！霸蹅儠�對送檢的人工智能軟件各項指標進行‘體檢’，并出具詳細‘體檢報告’?！鄙虾？茖W院直屬上海計算機軟件技能開發中心主任蔡立志說，上海市生成式人工智能質檢中心要點聚集生成式人工智能、工業智能質檢、才智醫療、人臉辨認、自動駕駛范疇的人工智能查驗檢測。

據介紹，該質檢中心將參考國內外人工智能測評標準，自主研制人工智能深度安全和測評技能與東西，包括對立樣本生成與防御評估東西、自然言語處理體系測評數據生成東西、人工智能虛假人臉檢測東西、人工智能危險評估與管理東西等，為企事業單位供給人工智能質量“一站式”測評服務。

近年來，在上?？茖W院布置下，上海計算機軟件技能開發中心布局并開展了人工智能的使用、管理、測評等技能研究與第三方技能服務，參加編寫了《人工智能標準化白皮書（2021版）》，完成了《人工智能深度組成圖像體系技能規范》《人工智能計算機視覺體系測評規范》等30余項標準研制，近三年來為人工智能企業與使用方供給第三方測評年均超越500項。