第二十一期CCF秀湖会议在CCF业务总部&学术交流中心成功举办，来自学界、业界的二十余位专家围绕“具身智能安全”这一主题开展探讨和交流。本次会议主要围绕“具身智能及其安全总体展望”、“具身智能算法及控制安全”、“信息物理系统融合下具身智能安全”、“具身智能多模态及对齐安全”、“具身智能网络通信及数据安全”等五个专题进行深度研讨。

▲部分与会专家合影▲

2024年10月18日至20日，第二十一期CCF秀湖会议在苏州CCF业务总部&学术交流中心举办，会议为期三天，就“具身智能安全”进行深入交流和探讨。会议邀请中国科学院郭世泽院士，欧洲科学院院士、西湖大学金耀初教授，中控信息产业股份有限公司杨永耀高工，中科院计算所蒋树强研究员等20余位专家出席会议。本次会议由浙江大学徐文渊教授和上海交通大学朱浩瑾教授共同发起。秀湖会议AC主席、CCF副理事长、中国科学院院士、清华大学胡事民教授在开幕式上致辞。

▲胡事民教授致辞▲

▲郭世泽院士发言▲

-01-特邀报告 | 开宗明义

▲金耀初教授作特邀报告▲

欧洲科学院院士、西湖大学金耀初教授作特邀报告“安全学习、优化与群智能安全”。金耀初教授首先概述当前人工智能的风险与管理，包括隐私、可靠性、公平性、可解释性、责任性方面；其次，报告谈及隐私保护的机器学习方法，如联邦学习方面的现状与挑战，进而突出研究安全性机器学习方法的重要性；最后，报告阐述了群体机器人安全的研究挑战与方向。

清华大学陶建华教授作特邀报告《大模型技术发展与安全思考》。报告从深度学习的三次研究范式引入大模型时代与AI新生态，体现出大模型在科学研究上日益重要的枢纽作用；其次，报告概述了大模型瓶颈问题，如可信性、可解释性等，介绍了应急管理、安全检修等方面的典型应用案例；最后，报告阐述了隐私窃取、模型泄露等方面安全问题，强调对相关技术的审核与规范构建。

▲蒋树强研究员作特邀报告▲

中科院计算所蒋树强研究员作特邀报告《浅谈具身智能安全的正面与侧面》。蒋树强老师从真实世界的特点出发，介绍作为具身智能“本体支撑”——机器人的发展现状与研究趋势。同时，类比人类智能的独特性，思考具身智能体的综合能力及其未来趋势。在具身智能安全方面，蒋树强老师认为应当考虑其在涉身性、主动性、交互性、情境性方面的特点，重新思考具身智能的安全边界，帮助人工智能更稳定地从互联网走向物理世界。

-02-专题分享 | 精彩纷呈

本次会议设置了“具身智能及其安全总体展望”、“具身智能算法及控制安全”、“信息物理系统融合下具身智能安全”、“具身智能多模态及对齐安全”、“具身智能网络通信及数据安全”五个专题，每个专题均安排了多个观点分享报告。参会专家通过报告分享了自己的前沿研究和领域思考，包括网络信息物理融合安全、具身多模态机器人安全、大模型安全与对齐、移动群智感知网络安全、工控与具身智能安全、跨域及感知安全、具身操作的可解释性、可信芯片、网络安全、多方计算等方面。参会专家提出众多具有启发性、思辨性的研究观点，丰富了对于具身智能安全的理解和思考。

-03-开放讨论 | 观点碰撞

▲现场-Panel、集中研讨▲

在各场专题报告后，参会嘉宾就具身智能安全的不同主题进行交流，深入探讨了具身智能应用的新质安全问题、模型和算法安全问题、安全性与可用性的平衡问题以及安全防护问题，此外专家们也针对具身智能的社会治理、法律法规等方面进行了讨论。

-04-思想汇聚 | 求同存异

本期会议执行主席：徐文渊、朱浩瑾

会议最后半天，与会嘉宾围绕具身智能安全目标、安全框架设计、隐私风险管控、标准、评估、规范等进行了专题研讨，针对前期会议内容进行观点总结，并在具身智能与离身智能的区别、具身智能体与人的交互安全等多个议题上达成共识，共同呼吁构建可控可用具身智能体，打造具身智能安全生态。 

秀湖会议是CCF全新打造的小型精品国际学术讨论会品牌，借鉴德国达堡研讨会（Dagstuhl Seminars）、日本湘南会议模式，旨在深入探讨计算机相关领域的科学、技术、应用、教育和产业等问题，为未来计算技术的发展和应用提供新思路和新建议。每个研讨会均针对某一个具体的前沿问题讨论交流为主，仅限发起人邀请的一线专家参与，不对外开放，会期3天以上，要求参会者全程参会，不能中途离会，引导科学家、企业技术专家及教育专家在浮躁的社会中沉下心来钻研学术。

参会专家名单

特邀嘉宾

郭世泽  中国人民解放军信息技术安全研究中心

金耀初  西湖大学

陶建华  清华大学

蒋树强  中科院计算所

参会嘉宾 （姓名拼音序）

成秀珍   山东大学

董   豪  北京大学、智元机器人

何银军  宇树科技

胡鹏飞  山东大学

冀晓宇  浙江大学

金意儿  华为

靳文强  湖南大学

李默涵  广州大学

李   琦  清华大学

李树涛  湖南大学

罗洪斌  北京航空航天大学

吕勇强  清华大学

沈   超  西安交通大学

苏   洲  西安交通大学

田   臣  南京大学

王   骞  武汉大学

王   震  西北工业大学

王志波  浙江大学

吴秉哲  腾讯AI Lab

杨耀东  北京大学

杨永耀  中控信息产业股份有限公司

会议执行主席

徐文渊  浙江大学

朱浩瑾  上海交通大学

会议工作人员

陈国兴  上海交通大学

信息来源：中国计算机学会