2022WAIC世界人工智能大会下一代可信AI论坛：“安全可信”是AI发展的重要趋势

中国经济导报、中国发展网 记者崔立勇报道

9月3日，2022世界人工智能大会（WAIC）“下一代可信AI——认知兴起，因果探路”主题论坛于上海世博中心举行。此次论坛由零犀科技和中国通信工业协会人工智能专业委员会联合主办，集智俱乐部协办，旨在聚焦不同视角，探索AI可信、可解释、安全可靠等方向的发展与应用创新，深入探讨下一代AI的技术实现、商业路径以及产业级创新创造的价值范例。

论坛现场，科技部原副部长吴忠泽在线参会并致辞。现加州大学洛杉矶分校计算机科学教授、“贝叶斯网络”之父、图灵奖获得者、美国国家科学院院士朱迪亚·珀尔（Judea Pearl），北京大学讲席教授、北京大学公共卫生学院生物统计系主任、北京大学北京国际数学研究中心生物统计和信息研究室主任周晓华，重庆大学教授、博士生导师刘礼，零犀科技CTO曾文佳等嘉宾带来主题演讲。

吴忠泽在致辞中指出：“我国高度重视人工智能的发展。部分领域核心关键技术实现重要突破，但也要清醒地看到，AI技术目前处于弱人工智能向强人工智能过渡的关键阶段，技术路线、产业形态、商业模式等方面都具有很大不确定性。”随着AI发展，特别是在产业应用的不断深入中，诸如安全稳定、可信可解释、公平公正的问题也越来越受到关注。中国要进入下一代AI技术的应用实践，既需要提出新理论、新技术，还需要有突破性的应用场景与组织架构建设。

科技部原副部长吴忠泽在线致辞

朱迪亚·珀尔从两种范式进行分析：“其一，以数据为中心的范式，即如何更好地拟合数据，以便最大化数据指标的‘拟合度’。例如，来自观察研究、随机对照试验数据等。其二，是科学范式，即一切都以现实为目标，将它与人类对世界的经验结合起来，再通过数学运算，最终得出一个从全局出发的解决方案。”实际上，以数据为中心的范式正在向以科学为中心的范式偏移，一场席卷多个学科的“因果革命”正在发生，产业实践达成高质量价值创造的发展也迎来新的机遇。

现加州大学洛杉矶分校计算机科学教授、“贝叶斯网络”之父、图灵奖获得者、美国国家科学院院士朱迪亚·珀尔在线接入

零犀科技CTO曾文佳表示：“AI的探索必然导向实践，实践的目的必然是创新与价值创造。在这样的目标下，AI已经开始迈向可信、可解释、强鲁棒性、可迁移的实践范式。”零犀科技的因果AI架构，使得全面深维理解用户成为可能，在服务式销售的场景里，通过因果决策引擎计算成单概率，排除营销噪音，借助模型驱动不同的销售变量在合适的时间以合适的方式介入，从而以低于“纯人”的成本达成高于“纯人”的效果。目前，零犀科技基于因果AI打造了“需求探询”系统，并以“人机融合”的方式率先切入销售场景，可实现深入“理解和激发需求”，已为众多金融、保险、互联网等合作伙伴提供直达关单的代理销售服务，形成了从理论指导、技术支持到融合落地的实践方法论。

零犀科技CTO曾文佳

具体来看，理论上零犀认为在真实世界中，客观观察到的用户选择结果，往往是用户综合各种因素（如供给、价格、时间、性格等）妥协之后的结果，因此对用户的理解与刻画需要升维与更新，以便认知用户主观需求、偏好、决策约束等。其次，技术上，零犀科技将因果AI作为技术核心，并融合多项AI技术向上构建，为高效的机器决策提供了底座基石。最后，在理论与实践的“强强联合”下，零犀科技以“人机融合”——由人、机、环境系统相互作用而产生的新型智能模式完成工程化落地，以全局最优效果为目标，按优势为人和机在同一流程中分配不同任务进行深度融合协作，最终实现效率与效果的双重提升。

周晓华教授分享了因果推荐系统在工业界的应用及挑战。他表示：“推荐系统的应用场景已非常广泛，在进行推荐的过程中需要对描述性的产品和内容完成数据化，但仅仅获取观测层面的数据是不够的，这将产生普遍的数据偏差。而一个可以适用不同场景的因果分析框架或因果启发推荐方法将为推荐系统提供新的应用机会和研究视角。”

北京大学讲席教授、北京大学公共卫生学院生物统计系主任、北京大学北京国际数学研究中心生物统计和信息研究室主任周晓华在线接入

长期致力于因果AI学术探索的刘礼教授认为：“因果关系理论与现有机器学习系统的结合开拓了机器学习领域的新思想和新途径。仅靠数据拟合，AI往往会产生偏见、难以迁移和不可解释的问题。目前，因果模型在涉及数据拟合的独立分布层面有了较大发展，但在干预、反事实层面还在持续深入探索。在越来越多的工程实践中，过往以数据为中心的‘大计算’逐渐转向以‘数据理解’为目的的探索中，这不仅是技术的迭代，更意味着深刻的范式转换。”不难发现，AI产业应用与商业化正越来越以效果与价值为导向，并对技术解决方案与非技术解决方案的迭代、交叉融合同时提出了更高的要求。

重庆大学教授、博士生导师刘礼

由零犀科技编制撰写、中国信息通信研究院进行方向指导的《基于用户需求的人工智能商业化探索分析报告》也于现场正式发布。报告围绕AI商业化的本质，下一代AI商业化的突破重点、技术要求，以及未来展望作出分析探讨，并提出了建设性方向。中国信息通信研究院人工智能部副主任曹峰围绕报告进行解读，AI商业化应聚焦于企业自身与用户本身，并运用新的技术和理论更好地挖掘用户“未被完整表达”的潜在需求。其中，AI的可信问题也尤为重要。

中国信息通信研究院人工智能部副主任曹峰

主题演讲之后，围绕“人工智能的发展现况与未来可能性”的高峰对话在现场举行。零犀科技创始人兼CEO夏仲璞作为这一环节的主持人，与Bitrock投资合伙人朱晖、360金融CTO王继平、中国通信工业协会人工智能专业委员会理事长方中华、中国信息通信研究院人工智能部副主任曹峰和重庆大学教授博士生导师刘礼展开深度交流。

从左至右依次为零犀科技创始人兼CEO夏仲璞、Bitrock投资合伙人朱晖、360金融CTO王继平、中国通信工业协会人工智能专业委员会理事长方中华，中国信息通信研究院人工智能部副主任曹峰，重庆大学教授、博士生导师刘礼

夏仲璞邀请来自投资界、产业界、协会、科研机构、学界的嘉宾，从不同角度就AI过去几年的发展情况与问题，下一步AI发展的方向与路径，以及未来AI将带来的变革进行分析和展望。朱晖围绕应用场景、技术成熟度、可用性、数据质量四个方面总结了现阶段AI技术为传统行业带来新兴生产力与释放出的行业产能，并指出作为投资人一方面希望继续支持行业发展，另一方面也希望给行业带来正向支持。方中华认为，AI发展非常迅速，但也要正视其出现的阶段性问题。为了进一步推动AI在国内的发展，政府侧在AI企业服务、AI人才培养与培训，以及加强国际交流等方面起到积极的促进作用。王继平基于金融科技领域强调了AI的稳定性和可信问题，他表示AI已经悄然改变了我们的世界，但仍旧处于较初级阶段，而未来AI也需辩证性发展，拥抱变革的同时也需警醒可能出现的问题。曹峰就亟待解决的AI工具体系、模型管理、可信落地等工程化挑战分享了个人观点，强调了AI产业应用的“标准化”要求。最后，刘礼从学术视角出发，分析了AI现阶段在科研与创新上面对的不同难点，并特别指出在AI的创新应用方面，不仅要知其然更要知其所以然，重视数据量的同时也要重视数据的质量问题，在更加鲁棒、稳定、可解释的技术方向上探索发展。

AI已经成为建设科技强国道路上的重要助力，“安全可信”必将是AI发展的重要趋势之一。探索和发展符合各个产业实践所需要的下一代AI技术，不只是技术难题，还需要有更多与之匹配的新理论与新规则的支撑。本次论坛，不仅展示了在以因果AI为代表的技术发展下，产学研携手共进的多视角经验，还围绕着AI现况、下一步实践与商业化落地展开深入探讨，为AI技术的发展与价值创造提供了新思路、新框架。未来，可信的、可解释的AI技术将为创新、创造带来更多可能性。