8月22日，在2024世界机器人大会期间，北京具身智能机器人创新中心推出了具身智能服务机器人“天一”。值得注意的是，“天翼”搭载的是具身智能情感模型，其中情感模型源于北京大学计算机科学学院情感与认知智能机器人实验室主任王涛研究员开发的情感与认知技术，也就是说，“天翼”可以对人类的情感做出反应。
据了解，人形机器人是一种具身智能机器人。未来有没有可能给更多的类人机器人赋予情感模块？一旦类人机器人拥有与人类相似的情感，是否有必要探索它们的道德边界？针对这些问题，新京报记者对王涛进行了专访。
王涛，北京大学计算机学院情感与认知智能机器人实验室主任。受访者供图
通过建模驱动机器人“学习”情绪
新京报记者：“天翼”机器人搭载了具身智能情感模型，这让机器人实现了哪些功能？
王涛：北京大学计算机科学学院情感与认知智能实验室成立于2017年，一直在研究如何让机器人更具情感能力和互动性，从而成为通过认知环境与人打交道，更重要的是与人打交道的机器人。未来，人形机器人不仅要在工厂里“工作”，还要与人打交道。
因此，这种类型的机器人必须能够读懂人的心理或情绪，读懂人的喜怒哀乐，也能够感知到人们更细微、更丰富的情绪和认知状态。这是我们实验室一直在研究的方向，我们称之为情感计算，我们在这个领域发表了一些期刊文章，在智能机器人中取得了许多实际的相关应用，也取得了一些国际上的关注和认可。
机器人中的情感计算有许多重要的用例。例如，如果一个配备了情感计算模型的机器人陪我们去市场买菜，它可以捕捉我们的表情并注意目标，并分析我们更喜欢哪种蔬菜。它也可以陪伴老人在家，如果发现老人抑郁，它会做出一些正确的应对反应，以缓解老人的不愉快情绪。此外，它还可以监测人们心率变化等生理指标，可用于确定一些特殊情况，甚至可以作为健康监测。
从今年6月开始，我们与北京具身智能机器人创新中心合作，建立了情商应用联合实验室，使“天一”具备了情感交互的能力，从而更好地为人们服务。
未来，我们希望不仅有“天一仪”，还有更多情感化的机器人，它们能像人类一样，拥有更细腻的情感识别和反应能力。
新京报记者：工业机器人需要不断学习，掌握各种工作技能，让机器人有情感也需要学习吗？
王涛：机器人必须学习，但这种学习和我们现在看到的机器人学习抓东西不一样，它需要特殊的学习方法，我们需要在机器人的“大脑”中建模，而不仅仅是数据驱动的机器人，更好的建模，让它能更好地理解和学习是必要的。
这
机器人情感训练在这个领域的问题比较突出，因为人类的情感非常复杂，而且没有大规模的具有全面情感标注的数据集，所以我们必须继续推进这一领域的研究。
对于情感化的机器人来说，设计师的道德操守非常重要
新京报记者：如果要赋予类人机器人情感功能，是否有必要探索其伦理边界？
王涛：首先，我们需要明确，情绪分为三个方面，首先是比如那些长得很像人的机器人，他们是能够表达情绪的机器人，很多机器人在这方面做得很好;第二种是机器人对人的情绪识别，可以知道眼前的人是什么情绪，比如悲伤、愤怒、快乐、沮丧等;第三种是机器人的“情商”，例如，它能识别出人的心情不好，那么它应该如何反应才能使人感觉更好。
在以上三个方面中，机器人识别情绪和“情商”是非常困难的，但我们一直在这个领域做文章，希望能在今年年底或明年初取得突破。
其次，我们讨论道德界限。当机器人能够识别人类的情绪时，它可以做出自己的反应，例如机器人是否表现出关心或说教，或者当一个人心情不好时以其他方式，这涉及到机器人设计师的道德操守。
我一直认为，机器人的伦理不是机器人本身的伦理，而是设计师、数据工程师、设计架构师等的伦理。这跟教育孩子一样，父母的思想和道德影响着孩子的成长。
对于机器人来说，即使在通用人工智能阶段，设计师的道德操守也非常重要，尤其是对于情感化的机器人来说，它反映了设计师的水平和设计师的道德操守。
新京报记者：人类也需要为情感机器人设定道德底线吗？
王涛：是相互影响的。情绪化机器人对人类的情绪做出反应，这时候我们需要注意的事实是，虽然情绪化机器人能够读懂人类的情绪，并以情商做出反应，但就目前而言，机器人还没有和人类一样的“内心情绪”。
所以我们需要注意一个问题——机器人的情感模型，尤其是神经网络模型，往往并不能完全理解模型内部发生了什么，而更多的是在一般情况下看到模型的外在表现，那么机器人有没有可能在模型内部产生不好的反应呢？这是一个需要我们特别关注的问题。这又回到了设计师的道德和技术水平的话题。所以至少就目前而言，设计师非常重要。
新京报记者：人形机器人将给人工智能伦理带来哪些挑战？如何处理？
王涛：类人机器人是人工智能的载体，人工智能的挑战和伦理就是类人机器人的挑战和伦理。当然，如果有一天，人形机器人的外貌真的与真人的外表无限接近，甚至混淆不清，那么就会出现一些新的伦理挑战。
如果有将机器人完全拟人化的愿望，研发人员还是需要探索的
新京报记者：在这次机器人大会上，我们看到了很多以真人为原型的机器人。人形机器人需要逼真地拟人化吗？
王涛：机器人可以分为两类，第一类是不怎么与人打交道的机器人，比如工业机器人。从科学技术发展的角度来看，工业机器人不一定是人形机器人。第二类是与人打交道的机器人，我认为最好是人形机器人。
那里
造成这种情况的原因有两个，一方面，人类在与类人产品的交流上自然效率更高，另一方面，机器人必须与人一起生活或服务，并在人类环境中与人互动，如果不是很像人类，可能很难适应。
是否需要逼真的拟人化，以及人形机器人被设计成什么样的外观，最终是设计师的问题。一位科学家提出了不可思议的山谷效应，认为机器人在靠近人类时很可怕，但如果它们突破了边界，机器人就不再可怕了。从现阶段基于真人原型的人形机器人的出现来看，诡异谷效应还没有被打破，所以对机器人的综合拟人化感兴趣的研发人员还需要继续探索。就我个人而言，我还是喜欢看起来像科幻电影或动画片里那些可爱的机器人，其实“天一”这个机器人并不写实和拟人化。
新京报记者 吴婷婷
