学院动态

首页 / 学院动态 / 正文

人工智能技术的安全保障—教育实验学院《科技前沿概述》第四周外专课程顺利开展

发布日期:2021-04-15 浏览量:

4月11日晚,教育实验学院外专课程《科技前沿概述》(Frontier Technology)如约而至。来自学院本科四个不同年级共计一百七十多名学生参加了本次课程,其中2018级学生在学院楼启翔室、启智室和启真室集中上课。本次课程由哈利法大学(KU)电子工程和计算机科学系教授、KU机器人和人工智能系统部门高级负责人、KU网络物理系统中心负责人Ernesto Damiani教授主讲:Securing Artificial Intelligence-Machine Learning pipelines。内容主要包括在人工智能技术蓬勃发展的今天,我们如何应对网络安全威胁(Threats)。哈利法大学张铁军教授和教育实验学院副院长袁云分别在两地现场全程主持本次课程。

首先,Ernesto Damian教授介绍了Threats的种类,以及建立Threats模型的意义。紧接着,教授详细阐释了建立Threats模型的工作流程。教授对于建模的每一个环节都进行了详细的介绍和解释,尤其启发并引导同学们在不同应用场景下,应首先思考和明确网络安全重点保护的对象(assets)是什么。

其次,教授对不同Threats的等级评估方法进行了介绍,并用DREAD原则总结了应从5个主要方面综合考虑应对安全威胁。一是考虑威胁潜在的危害性(Damage Potential);二是考虑威胁出现的频次(Reproducibility);三是考虑威胁的侵入性(Exploitability);四是考虑威胁的影响范围(Affected Users);五是考虑造成威胁的安全漏洞的易察觉性(Discoverability)。

最后,教授在总结时再次强调:如果没有完善的模型和工作流程而盲目应对安全威胁的话,那么网络安全保护就好比闭眼睛打靶,难有成效;从事人工智能的研究人员应该尽可能创新研发和使用更多安全举措;一定对安全威胁要高度重视,然后找出系统薄弱环节进行安全应对。

连续一个半小时的讲座让同学们意犹未尽,课程结束前同学们针对自己感兴趣的问题纷纷提问,教授做了细致详实的解答,其渊博的知识储备和严谨治学的态度,让同学们再一次深切感受到了“师者,传道授业解惑”的魅力。

教育实验学院和哈利法大学对《科技前沿概述》外专课程的每一堂课都精心组织和筹备,专门邀请不同领域科技前沿的海外著名专家学者,为同学们带来一次又一次科技前沿发展动态和学术研究创新的饕餮大餐,拓展同学们国际视野的同时,也使同学们在课程学习中收获满满的专业知识。

文稿:张晓伟摄影:张晓伟 审核:袁云