由上海市科学学研究所牵头主办的2020世界人工智能大会治理论坛于7月10日下午举行。图灵奖获得者约翰·霍普克劳伏特，中国科学院院士何积丰等30余位国内外嘉宾与会演讲分享。
霍普克劳伏特认为，迄今为止，计算机决策规则一直是与人类决策一致的，但未来，计算机将根据从训练数据中得来的经验进行决策，这是AI的本质，将对人类未来产生重大影响。
在论坛报告中，从事可信人工智能研究的何积丰院士提出，从技术源头建立起规范，让AI算法本身就具备安全、可信的素质，显得尤为重要。从技术角度，他将AI风险总结为数据安全和模型安全两大类问题。
论坛上，上海市科委副主任傅国庆与薛澜、李仁涵、季卫东等知名专家共同宣布成立“上海国家新一代人工智能创新发展试验区专家咨询委员会治理工作组”。工作组由科学家、法学家、伦理专家和企业代表组成，主要职能是加强人工智能治理相关研究，促进国际交流参与全球人工智能治理合作，就人工智能立法、伦理规范、标准评估等提出建议，推进人工智能治理原则落到实处。
上海国家新一代人工智能创新发展试验区专家咨询委员会在论坛上发布了“协同落实人工智能治理原则的行动建议”（上海AI治理协同行动9条），提出了“一平台、四工作、四体系”的系统落实人工智能治理原则的行动方案建议。
“一个平台”，即构建全球合作网络和交流平台，推动形成全球人工智能治理研究和协作共同体，汲取全球多元文化智慧，为解决相关问题提供解决方案；“四工作”是推进AI治理标准规范的制定、推动建立行业自律、总结推出实践、推动安全可信技术研发；“四体系”是致力于建立人工智能治理的评估体系、监管体系、人才体系、保障体系。
据悉这是国内首次提出系统落实国家人工智能治理原则的行动建议方案，将为进一步推进人工智能治理工作提供参考。
