■本报记者 姜澎
      
       日前，在莫斯科国际象棋公开赛上，一个下棋机器人突然抓住了正在和它对弈的一名7岁男孩的手指，导致男孩手指被折断。事发后主办方表示，这是因为小男孩落子的速度过快，机器人传感器来不及反应从而发生了软件错误。但不少网友显然不买账，留言评论区充斥着“机械公敌既视感”。
      
       另一边，7月14日，国际顶级期刊《科学·机器人学》（Science Robotics）发表了北京大学人工智能研究院朱松纯团队的最新研究成果——实时双向人机价值对齐。简言之，科学家试图通过一种算法，让机器实时理解人类价值观并且与人类用户通过实时沟通完成一系列复杂的人机协作任务。
      
       在人机共存的时代，在工程师眼中，工程学科是需求强驱动的学科，必然会使机器成为越来越符合人类需求的工具；而在一部分科学家眼中，对人工智能的不断探索、升级，也是探寻科技发展边界的一部分。但不论这个边界在何处，工程界和科学界的共识是：应该尽快构建机器伦理的边界。
      
       和人工智能“谈感情”？还没到时候
      
       机器人棋手夹断7岁男孩手指后，不少网友纷纷将其视为人工智能的“意识觉醒”。机器越来越智能，是否会对人类产生威胁？人工智能领域的专家们表示，这起事件仅仅是源于程序出错，提醒我们要更加注意机器人的意外伤害事件。但要特别强调的一点是：人工智能目前并没有主动创造思想和意识的能力。
      
       “以我个人的经验来看，目前大众所说的人工智能具有‘意识’，并非真正意义的人类意识，只是在某个人为限定的范围中的机器认知。”上海交通大学电子系教授、计算机视觉专家倪冰冰解释说，从目前已有的技术路径来看，人工智能仍然是算法和数据驱动，要赋予其自主意识，目前并没有很好的方法。
      
       就在不久前，一名谷歌工程师因为宣称人工智能LaMDA具备情感和哲学思考，也引发轩然大波。同样，在业内，多位国内外的学者也表达了类似看法：虽然这一人工智能在交谈中能够准确地表达孤独、悲伤是什么样的情绪，甚至宣称自己经常思考生命的意义并试图弄清楚自己是谁、是什么，但是这并不意味着它已具备人类的情感。
      
       复旦大学计算机系教授张军平也就这一案例剖析道，这只能说明人工智能具备了学习人类语言精准表达、从而实现交流的目的，并不意味着其具备自主思考的能力。很多时候，机器人的表现看起来再智能，也都是基于程序员编的代码。而以目前人类对自身智能的了解，还不足以有能力复现人类的智能。“所以，不管是谷歌人工智能还是下象棋的机器人，我们看到的只是表象。其背后都是代码在运行，人类只要改变代码，就能改变这些表象。”
      
       那么，机器人能不能谈恋爱，能不能有感情？现在是否已经到了讨论人工智能情感和自主意识的时候？对此，复旦大学信息科学与工程学院教授邹卓表示，目前大规模应用的人工智能仍然是数据驱动的，与情感、广义价值观等相对混沌概念相关的认知模型、知识图谱、类脑计算等都在研发阶段。“从当下的研究进展看，为通用人工智能赋予情感仍然很困难，距离机器具有自主意识，那更是遥远了。”
      
       赋予人工智能价值观，前路仍漫长
      
       虽然还不能和机器人“谈感情”，但学界也有一则越来越响亮的呼声：必须赋予人工智能机器人以价值观。“价值观只要可以量化，就可以让人工智能‘习得’。”张军平表示，从技术层面看，目前可以做到的“量化”只能是为人工智能完成某一个具体目标而设定其所需要具备的“价值观”。简言之，就是人工智能对于完成某个目标而言，具备判断某个行为好或者不好的能力。但要赋予其更广义的价值观，并不容易。
      
       另一位人工智能领域的专家在接受记者采访时也表示，包括朱松纯团队的最新成果在内，都不能被简单解读为赋予人工智能价值观。“准确地说，应该是让人工智能在某一些特定任务领域形成认知或逻辑判断，而非公众眼中的具备普遍意义层面的价值观。”
      
       “但是，随着人工智能的应用场景越来越多，探索赋予人工智能更广义的价值观，确实非常有必要。”邹卓举例，目前在日本等国家开始投入使用的养老陪护机器人以及正不断升级的儿童陪护机器人，对于这类承担相对复杂功能的机器人来说，具备更完善的价值观体系就非常重要，“但是要实现这一目标，目前仍然有很长的路要走”。
      
       人工智能伦理牵涉的领域比想象的更多
      
       从某种程度上来说，人工智能的价值观也是人工智能伦理的一部分。事实上，随着人工智能应用范围的不断扩大，人工智能伦理所牵涉的领域比我们想象的更多。邹卓举例说，最初机器视觉用于自动驾驶时，就有一个伦理问题引起业界激烈争论，即汽车在行驶的过程中，左转、右转或者直行分别会造成老人、小孩、年轻人的伤亡，在这样的情况下，算法应该如何帮助自动驾驶汽车选择；再如，人工智能在辅助医疗时读CT影像数据时发生了错误、造成了误诊或漏诊，造成的伤害该如何处理等。
      
       而当人类不断推动技术快速发展至某一个阶段时，也许技术会有自己的发展逻辑或者路径，甚至会重塑人类社会形态。这同样也会带来越来越多的伦理问题。比如，一度引发关注的被算法困住的骑手的现象、算法推荐带来的信息茧房问题、社交媒体的点赞评论重塑未成年人的心理和认知等，都是随着人工智能发展而产生的伦理问题。
      
       “虽然人工智能技术的背后，不排除来自资本力量的推动，但不得不承认的是，技术确实在重塑人类社会。”邹卓表示，现在，除了认知科学家以外，更多领域的学者也加入了相关研究领域，人工智能伦理同样也在求解路上。