如何构建安全可信的人工智能？这场“对话”备受世界关注

2022年底，以ChatGPT为代表的人工智能大模型面世，26日，在山东曲阜召开的世界互联网大会数字文明尼山对话上，与会专家和代表一致认为应加强人工智能发展的潜在风险研判和防范，相关领域立法提速，确保人工智能安全可信可控。

26日上午，世界互联网大会数字文明“尼山对话”主论坛的第一个重要议题就是“构建安全可信的人工智能”。与会专家认为，人工智能在近些年得到了快速发展和普及应用，它的巨大潜力被迅速挖掘释放的同时，对它的潜在风险也应保持高度警惕。

中国科技大学公共事务学院网络空间安全学院教授 左晓栋：人工智能的风险和传统的风险相比，它有一些独特的特点，比如说人工智能它是高度的自主智能的，它是要极大依赖数据的，而且这里面还有算法黑箱的问题，还有算法不可解释的问题，都使得人工智能的风险很难预测，而且大量的是未知事物。

与会代表认为，相关科研机构和科技企业在人工智能系统设计之初就要充分考虑安全、可控的风险，只有在这个前提下，人工智能的创新发展才能可持续。

此外，与会代表表示，我国应加快建立人工智能领域相关法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。

据中国信息通信研究院测算，2022年中国人工智能核心产业规模达5080亿元人民币，我国人工智能产业生态正在逐步形成，产业布局也在提速。在昨天（26日）召开的世界互联网大会数字文明“尼山对话”上，与会代表认为，面对人工智能技术发展的突飞猛进，我们既要警惕它存在潜在的风险隐患，也要抓住它所带来的巨大机遇。

这里是位于浙江杭州桐庐县的一座矿山，虽然这段时间正是梅雨季，矿山的工程进度却没有受到任何影响，而这正是得益于传统机械装上了人工智能的“大脑”。工作人员在数公里开外的项目中心，只需要动动键盘和鼠标，就可以远程操控现场的无人挖掘机进行施工作业。

网易伏羲工程机器人业务负责人 杨新伟：人工智能挖掘机基本上是所有的场景都可以适用，无论是露天的，还是说隧道里面就是各种危险的场景，它越是危险的场景它越实用。一个人可以同时开3台、5台甚至10台、20台的挖机。基于人工智能大模型所有的工程机械都可以使用，泛化性非常强。

人工智能技术的应用不仅大大提高了传统行业的生产效率，更是让传统制造业变得更有市场竞争力。在杭州的这家丝绸生产企业，原来生产一条丝巾需要经过设计、打样、打印、固色等5至7个流程，而现在通过人工智能现场定制设计，数智化印花一体机开启即时生产，半个小时就可以拿到一条丝巾成品。

万事利丝绸数码印花有限公司技术研发部总监 朱海云：传统的丝绸印染企业最大的痛点就是库存压力，现在我们通过人工智能AI的设计，再加上我们的一体机快返的工艺特点，它能够达到一个先销后产的经营模式，能够解决我们库存压力的痛点。

随着一批智能车间、智慧供应链等涌现，人工智能与实体经济迅速融合，有力推动各行各业数字化、智能化转型，孕育出一大批新产业新模式新业态。

据科技部“新一代人工智能发展研究中心”近期发布的《中国人工智能大模型地图研究报告》显示，以“大数据+大算力+强算法”相结合的人工智能大模型，在中国正在得到迅猛发展，中国研发的大模型数量排名已居全球第二，仅次于美国，目前中国10亿参数规模以上的大模型已发布79个。

百度董事长兼首席执行官 李彦宏：可以预见，我国大模型正在渗透到越来越多的领域，以大模型驱动的数字经济与实体经济深度融合，将做强做优做大实体经济，创造可观的增量价值，带来经济社会发展和产业的深刻变革。

在此次数字文明尼山对话大会上，与会专家也对人工智能发展带来的新就业空间展开了研讨，专家表示，随着以人工智能为核心的产业生态日益壮大，在为我国经济发展注入新动力的同时，也出现了大量新的职业需求，为更多年轻人打开了就业新空间。

AI捏脸算法工程师 吴佳阳：这个就是我们智能捏脸的一个界面，我们能支持通过图片输入的形式和文字输入的形式来进行捏脸。

他叫吴佳阳，他所从事的职业是AI捏脸算法工程师，随着近几年“元宇宙”、网络游戏等新业态的兴起，催生了专业的“捏脸师”，也就是专门帮用户打造具有个人特色的网络虚拟形象。

AI捏脸算法工程师 吴佳阳：很多玩家他们实际上希望在游戏或者元宇宙里面有一个跟自己非常高相似的虚拟形象，那么我们这里就可以通过上传自己的照片来生成跟自己非常相似的一个角色。能够让每一个用户在游戏里面都非常有沉浸感代入感，仿佛自己也身临其境。

在人社部最新公布的新职业名录中，虚拟建筑师也赫然在列，而这份最新的职业目前已经不再局限于元宇宙、网络游戏领域，它的服务领域已经有了新的拓展和延伸。

虚拟建筑师 邹毅：像虚拟空间的应用现在还是比较的广泛，比如说企业这块，它们会需要搭建自己的3D企业空间，然后有一些展览会发布会，在文旅这一块的话，比如说博物馆、线下的这些旅游风景区也会有线上的一个虚拟空间，所以应用的范围是非常广泛的。

据了解，伴随着人工智能技术的发展，一些专业门槛相对不高的新职业也在不断催生，比如数据标注师、人工智能训练师等现在已经成为热门职业。

加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控，这是中国推进人工智能治理的方向。中国始终以高度负责任的态度参与人工智能国际合作和全球治理，积极贡献“中国智慧”和“中国方案”。

据了解，早在2017年，国务院印发《新一代人工智能发展规划》明确提出，到2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力；2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。

另外，我国还在积极参与人工智能国际合作和全球治理，2022年，中国发布《中国关于加强人工智能伦理治理的立场文件》，从人工智能监管、研发、使用及国际合作环境提出主张，受到国际社会高度评价。

（原标题：如何构建安全可信的人工智能？这场“对话”备受世界关注）

【责任编辑：肖　好】

【内容审核：符　坚】