7月8日，在2021世界人工智能大会上，除了人工智能发展的最新成果和观点外，关于信息安全和人工智能伦理的话题也频频被提及。
30集团创始人、董事长Xsdct在开幕致辞中表示，“大数据时代，当数据积累到一定程度，数据安全就成为一种挑战，甚至关系到国家安全。”西门子股份公司董事长、总裁兼首席执行官罗兰布施(Roland Busch)也在会上提到，要在人工智能领域取得成功，在网络信息安全领域建立信任与合作是前提之一。这家外企唐科技联合创始人兼CEO指出，人工智能的创新来自于对过去认知的颠覆，但在很多情况下，机器并没有实现完全的控制和迭代，因此人工智能在行业应用中的伦理治理非常重要。
Xsd:数字化程度越高，安全挑战越大。
在xsdct看来，数字城市是数字化的核心场景。未来，数字城市必然是一个高度复杂的数字环境，这将给网络安全带来更大的挑战。
“一个城市的构成不仅仅是数千个网络化的政府部门、企事业单位，更是数字化的城市基础设施。比如智能交通、智能电网、各种政务云和大数据中心，以及它们背后的数亿互联网设备、工业互联网设备、IT设备和数字终端。城市数字化转型本质上是以大数据为核心，运用物联网传感器、云计算、5G、人工智能边缘计算、区块链等技术。并通过数据生产、采集、运营和赋能，打通数字空间和物理空间，形成数字闭环。”Xsdct提到。
同时，从事网络安全多年的xsdct也认为，在“万物皆可编程，万物必互联，大数据驱动商业”的世界里，当数据积累到一定程度，就会发生质的变化，数据安全将与国家安全建立直接联系。
“一切都必须互联互通，开放虚拟世界和物理世界，特别是工业互联网、车辆互联网和物联网。他们已经将联网设备和基础设施连接到网络。过去虚拟世界的攻击和伤害，现在会直接影响现实世界，造成身体伤害，导致工厂停工、大规模停电、社会停工等情况。”Xsdct说：“一切都可以编程，这意味着漏洞无处不在，这意味着支持我们整个城市运行的每一个系统都不可避免地存在安全漏洞。如果有漏洞，可能会被攻击。”
Xsdct认为，目前谈论安全并不是为了限制新技术的发展，而是为了更好地保证新技术的使用。“数字城市虽然有无限的想象空间，但从安全角度来看，数字化程度越高，安全挑战越大。”Xsdct建议与城市数字化转型同步，将安全体系与数字化体系融合，将攻防能力与管控能力融合，构建数字城市新一代能力框架。
西门子首席执行官博伦：引入网络安全技术进行信息监管
通过视频连线，西门子股份公司董事长、总裁兼首席执行官罗兰布施也指出，数字化正在推动产业转型，带来更高的生产力、质量和灵活性，以及可持续发展，其中建立信任和网络信息安全至关重要。
“以基础设施为例，数字技术可以帮助商业建筑的运营和维护节省高达20%的投资；在交通领域：数字信号技术可以在不增加任何基础设施的情况下增加20%的运力；在工业领域，60%的制造任务可以实现自动化，这意味着我们可以实现更高的资源效率。”博伦表示，数字化转型是所有市场乃至社会经济实现高质量、有韧性发展的必由之路，人工智能在这一变革中发挥着重要作用。
以汽车制造为例。在冲压过程中，振动可以显示机器的健康状况。然而，不可能手动监控和分析所有振动。但基于传感器产生的数百万个数据点，通过数据科学和人工智能技术，可以轻松跟踪振动情况，结合西门子专家的行业知识进行预测。“我们的人工智能解决方案在工厂部署后不久就发现了一个异常振动规则，这触发了预警，帮助客户避免了设备故障。”博伦说，但他也指出，在人工智能领域取得成功的先决条件之一是建立信任和网络信息安全。
“要在人工智能领域取得成果，我们需要深刻理解客户及其运营面临的挑战。此外，双方需要建立互信，共享数据。但即使拥有最高程度的相互信任，仍然存在数据泄露的风险，安全体系仍有可能被攻破。因此，保障网络信息安全是成功实现数字化转型和应用人工智能的必要前提。中国已经意识到这个话题的重要性，这与西门子不谋而合。”博伦说。在这方面，博莱伦建议，在建立平等合作的生态系统的同时，应通过引入网络安全等技术对其进行监督。
上塘科技创始人徐莉：AI创新颠覆过去的认知，坚守人工智能“发展”的伦理。
上塘科技联合创始人兼CEO徐莉在题为《人工智能创新新范式-机器的猜想》的开幕辞中提到，人工智能的突破将定期拓展人类的认知边界。他指出，无论是过去的经验归纳、推理演绎，还是现在使用的大数据和模拟，一般意义上的四种研究创新范式都有既定的模式，但人类历史上许多颠覆性的科学创新和重大突破都是不可预测的，这大多源于“天才猜想”，而造成这种现象的原因在于人类对未知世界的认知局限。
yt?from=pc">“但在今天的人工智能时代，机器也可以进行猜想，有望帮助我们更早地发现科学规律的本质，更快地探索和发现未知，这正是人工智能所带来的创新的新范式。”徐立称。
以自动驾驶的发展为例，从无人泊车，到封闭园区的无人接驳，再到开放道路的自动驾驶，就是一个通过应用数据定义技术的使用边界和规范的过程，从而逐步做到技术的可控发展，更好地推动产业的进步。在更多巨大状态空间的决策应用中，如智能交通灯控制，通过利用视觉感知和AI智能决策，能在固定片区内将人均等待时间缩短20分钟，突破了传统模式的边界。
同时徐立强调，人工智能的创新来源于对过往认知的颠覆，因此行业应用中的伦理治理问题就愈发重要。“以人为本、技术可控、可持续”是国际上具有广泛共识的技术伦理治理框架，但在不同的发展阶段，需要三者的平衡发展。对此，徐立倡导行业社会要秉承“发展”的人工智能伦理观，其一是在谈论伦理治理时，我们要考虑普惠发展的目标，即用人工智能技术推动社会进步；其二是在先进技术落地的同时，要考虑行业变革的快速性，针对不同的发展阶段，找出不同治理框架下的发展平衡。
南都记者 atgdnm 实习生 独特的果汁