“AI作恶,不是因为坏,而是因为无知”如何培养有良知的人工智能?

“AI作恶,不是因为坏,而是因为无知”如何培养有良知的人工智能?

工业机器人和工人一起工作时,如何保证机器人不误伤工人?使用无人驾驶技术时,如何保证汽车不被黑客入侵,变成某些人作恶的工具?当机器人掌握了使用者无数隐私时,怎样保证这些隐私不被窃取,或者不被制造商非法利用?

如今,我们已经无可避免地进入了与机器共存的时代,在我们无意识的情况下,机器正在替我们做出更多的决定。面对人工智能引发的道德问题时,人们不禁思考:如果出现问题,谁负责?怎样培养有“良知”的AI,从技术底层保证AI从根本上是“善良”的?

9月3日上午,由上海市欧美同学会和徐汇区委统战部联合举办的2022世界人工智能大会分论坛“有良知的人工智能技术”暨上海市欧美同学会人工智能分会成立仪式在徐汇西岸举行。

在中国科学院院士、市欧美同学会长裴钢看来,之所以选择“有良知的人工智能”这一主题,是因为“如今,人工智能领域充满了无限可能,也充满了无限挑战,我们不仅要知道能够做什么,更要知道不要做什么,这就是在当下讨论伦理问题的意义。”

裴钢表示,上海市欧美同学会成立了生物医药分会、集成电路分会,如今人工智能分会成立后,将积极打造多元的交流平台,加强会员与各级政府部门和机构的互动,促进人才、技术、项目的交流合作,实现共赢,为上海建设更具国际影响力的人工智能高地贡献智慧和力量。他还鼓励广大留学人员心系“国家事”、肩扛“国家责”,加快突破关键核心技术,实现国家科技自立自强。

该场分论坛围绕“有良知的人工智能“进行讨论,聚焦人工智能技术带来的机遇与风险,探寻如何发展符合人类法律、道德的人工智能技术。与会的各位专家探讨了关于人工智能带来的隐私、法律、公平、透明等问题。

“AI作恶不是因为它恶,因为它坏,而是因为它无知。”在联影智能医疗科技有限公司联席CEO周翔看来,今天的人工智能还没有自知之明,它不知道自己所学习的东西的上下文和局限性,不知道自己不知道的事情,不知道自己可能搞错了。在医疗或自动驾驶领域,更具体、更实际的问题是“AI还不能承担责任”。

目前,在医疗领域,政府监管很严格,还没有公司申报自主决策的AI产品,政府的关注点在于产品的预期用途是什么、是否具有安全性和有效性、是否有临床数据支持“AI无害”。 周翔说:“AI学不全所有情况,所以不可能独立做决定,医生的把关是非常重要的。除了影像,医生还掌握很多其他信息,可以进行逻辑思考,并综合其他相关信息作出更科学的判断,这种能力AI还达不到。但科学的发展需要时间,序幕刚刚拉开,精彩的还在后面。”