或迎爆发性拐点！并非简单工具箱，未来的可信AI能帮我们做决策本文转自：文汇网2022世界人工

本文转自：文汇网

文章图片

文章图片

2022世界人工智能大会“可信人工智能技术及产业化”论坛今天在上海世博中心举行，与会嘉宾围绕支持产业人工智能的发展瓶颈和关键问题，研讨人工智能技术在鲁棒性、可解释性、安全一致性等前沿理论和关键技术，共同探讨可信人工智能技术如何完成“四个面向”的科技发展要求，实现对创新驱动与产业发展的保障。
中电科数字科技（集团）有限公司董事长江波表示，世界人工智能发展正处于第三次浪潮，特点是产业多元探索及商业模式持续革新。人工智能技术在多领域实现落地，应用场景日益拓展，资本注入热度不减，加快推动了产业化进程及技术红利释放。电科数字愿与政府及行业合作伙伴以场景促创新，以规模助生态，以自主保可信，以责任报社会，筑牢可信人工智能技术基石，支撑智能产业转型升级。
中科院院士、上海华科智谷人工智能研究院院长何积丰做《可信人工智能的展望》的主旨报告。他深入浅出地讲述了可信技术在人工智能领域的研究现状、问题和发展趋势，以及对人工智能产业的技术保障和路径规划。
何积丰表示，可信人工智能，主要包含三个要素——人、信息、物理。而所谓的安全，也包括数据安全、技术安全和系统安全。判断是否可信的先决条件之一，是设立关于可信的度量标准。比如，要求数据本身真实可信。数据可信之外是技术可信和系统可信。当人工智能程序或产品发生错误时，对错误或会发生的结果具备可解释性。在其特性或参数发生摄动时，相关系统和技术依旧具备品质指标保持不变的性能，即鲁棒性等。
在他看来，智慧城市和智慧制造已经成为了推动可信AI落地最主要的两大应用场景。智慧城市也就是社会治理的智能化，大数据分析已经在发挥很大的作用。智慧制造方面也在逐步推进。
“从长远来看，我们希望人工智能不是一个简单的工具箱，而是与人类在同一个闭环内相互互动，帮助我们做决策。”何积丰认为，人工智能的发展轨迹可能不是一个线性的变化，而是会迎来指数性的增长机会， “未来或许会有一个爆发性的拐点出现。”
他建议从核心要素，基础研究，共性技术和创新示范的四个领域推广形式化方法，提高用户体验，促进可信及易用人工智能技术发展。
对于可信AI ，不少企业在实际的落地层面也有更为具体的见解。
雅迅网络股份有限公司首席专家陈典全表示， “对于智能网联汽车而言，可信人工智能至关重要。在我们的业务场景中，一旦不可信造成的后果很可能不仅仅是数据泄露的问题，而是人身财产损失的严重后果。因此，我们在解决方案的层面，持续努力探索提升人工智能的鲁棒性以及隐私保护，未来还要在可解释性方面继续提升。”
雅迅网络的车联网终端、系统平台、安全服务，已成为东风汽车、中国重汽等商用车主流供应商。同时，雅迅网络积极开展智能驾驶算法研究和系统开发，也为汽车电子系统转型和升级提供了智能化保障。
京东集团副总裁何晓冬表示，人工智能不能仅停留在商业，更应该符合社会价值，确保人工智能安全与可控，符合人类的规则观念，真正做到以人为中心，实现可持续发展目标。
而国产GPU新军、曲速科技创始人CTO孟海波以智能驾驶芯片为例，分析了系统设计的全流程中，可信技术将在核心功能硬件加速、软硬件融合与协同、国产实时操作系统和高效可信编译器工具链等方面的创新前景，让大家对自主安全AI芯片产业发展充满信心。