【访谈】以伦理为基准的设计 通往AI时代的至高美德——访IEEE标准协会首席执行官 康斯坦丁诺?卡拉卡琉斯博士

【访谈】以伦理为基准的设计 通往AI时代的至高美德——访IEEE标准协会首席执行官 康斯坦丁诺?卡拉卡琉斯博士


上世纪五十年代,艾萨克•阿西莫夫在其科幻著作《I,Robot》中首次提出了“机器人学三定律”,历史性地开启了人们对于人机伦理的思考。随着人工智能技术的快速进步,人们不断赋予机器人更多的独立技能,而当人工智能更深入地渗透进人类生活中时,机器自主的趋势给人类带来更多可能性的喜悦的同时,也不免让人们忧虑:在即将可触及的高阶智能时代,我们应该如何与机器无伦理障碍地相处?

 

人类创造了智能机器,如何让机器能够按照符合人类社会伦理和法律要求的方式造福人类,这是不可回避的现实问题。从技术角度而言,在智能机器的底层算法融入伦理要素,是预防和解决未来可能出现的人机伦理冲突的最有效的方法。

 

电气电子工程师学会(IEEE)针对自主系统设计规范于2016年底发布了《以伦理为基准的设计》,旨在解决将人类规范与价值嵌入智能系统的问题,这一途径的核心在于广泛讨论形成一套标准,指导人们在智能系统的设计构成中充分参考并融入人类的伦理价值。与愿景文件制定同时进行的还有IEEE 7000TM系列标准项目。

 

2017年12月,IEEE发布第二版的《人工智能设计的伦理准则》,对文档结构、内容等进行了大幅更新,仍然强调的是:自主与智能系统不应只是实现功能性目标和解决技术问题,而且应造福人类……伦理思考有助于我们确立理想的生活方式,实现亚里士多德所阐述的“幸福(Eudaimonia)”——将人类福祉定义为社会最高美德的实践。

 

 

 

为此,我们专门采访了IEEE标准协会首席执行官康斯坦丁诺•卡拉卡琉斯博士,对IEEE自主与智能系统伦理全球倡议、最新版愿景、系列伦理设计标准等关键问题进行了权威解读。在此特别感谢IEEE自主与智能系统伦理全球倡议项目中国委员会主席王亮迪博士与项目经理张文瀚在采访过程中给予的支持。

 

IEEE于两年前发起了针对自主与智能系统伦理的全球性倡议(Global Initiative on Ethics of Artificial Intelligence and Autonomous Systems)。IEEE是出于怎样的背景考虑适时启动了这方面的工作?

点击空白处查看答案

IEEE自主与智能系统伦理全球倡议项目的目标非常明确,就是在自主与智能系统设计与制造中嵌入以为人类福祉为本的伦理准则,不然,人们目前还不大可能自发地这么做;同时,IEEE这个倡议项目志在重新定义成功的概念,使得个人、社群和社会伦理价值的优先关注能被有意识地纳入人类进步的考量范围。

 

这项倡议早在2016年4月就已启动,那时这些新事物还没有获得如此广泛的关注,发起倡议的本意也并不是借着自主和智能系统中的技术来哗众取宠或让人盲目崇拜。人们普遍觉得一切正常,没有必要采取什么行动,但IEEE却认为这个时候科技界与其他相关方应该来明确解决与这项技术演化相关的一些重大议题。同时,我们也相信让技术发展与应用符合伦理价值基准将有助于促进技术创新,并减少可能没有意识到的负面后果。

 

 

 

为什么是由IEEE来发起这样的倡议?担负着什么样的使命?