科幻与科学在拓展人类认知边界方面有着奇妙的契合，是科技进步的感性与理性驱动力，成为前沿探索的先锋。但无论科技如何发展，人类始终需要在技术创新与伦理约束之间寻找平衡，在效率提升与人文关怀之间寻求共识。
7月12日，由成都市经济和信息化局指导、成都高新区支持，腾讯研究院、腾讯新文创总部、新经济发展研究院iNED、科幻世界杂志社联合主办的“新智能涌现未来场景——‘数字现实成都’第六届科幻AI专场对话活动”在成都天府长岛数字文创园举行，围绕AI大模型的未来场景与社会影响，现场举办圆桌论坛，对焦点问题进行研讨和“预告”。
作为中国首个、亚洲第二个举办世界科幻大会的城市，成都不断推动科技创新、培育科幻产业，成为科技和科幻的“双高地”。本次大会旨在促进数字经济背景下的政产学研对话，助力成都数字经济与实体经济深度融合。
未来的人工智能将会是什么样子？
人工智能一直是科幻小说中永恒的主题，而大模型作为人工智能技术的重要发展方向，正逐渐成为未来技术发展的重要方向之一。那么未来人工智能和大模型会发展成什么样呢？
对此，著名科幻作家姜波表示，大模型有三个基本要素：算力、算法、数据。因此在他看来，只要有数据的积累，人类能想象到的任何东西都可以形成大模型。目前，市场上已经出现了不少大模型产品，对人们的生活产生了重要影响。在他看来，未来人工智能和大模型的发展会是什么样子，取决于人们能在哪里挖掘数据。只要有数据，场景就会非常丰富。同时，他认为科幻作家在这个过程中也受益匪浅，可以寻找这样的场景，将其写进科幻小说中。
圆桌论坛
电子科技大学出版社社长兼总编辑田江认为，随着人工智能的发展，未来的场景将不断创新。在他看来，人工智能对于科幻创作来说是一把双刃剑：一方面提供了便利，过去科幻作家需要花费很大的精力去创作，而现在借助大模型可以快速生成大纲和内容；另一方面，这也对科幻作家提出了更高的要求。
“在大模型快速发展的背景下，原创、正宗的作品越来越少，如何让AI和人类更好地结合？”田江认为，两者应该是互补的，AI可以做很多提取、排序等基础工作。同时，他认为人才才是真正的创造者，好的作品一定会体现人类的智慧。无论未来如何发展，一定是AI和人类共存的生态系统。
机器变得越来越像人类
如何重新定义人的价值？
过去人们希望机器能够代替一些日常的体力劳动，比如洗衣服、做饭，从而解放人类。但随着大模型进入人类智力创造的越来越多领域，AI越来越“聪明能干”，甚至可以做科学研究。在这样的时代，机器越来越像人，甚至可能超越人。那么，我们该如何重新定义人的价值呢？
针对这一问题，中国科普作家协会理事顾蓓表示，科幻是寻找高科技未来应用场景、预测危机的重要途径。他认为，科幻不能简单理解为“不靠谱”，相反，科幻给人们指明了方向，它表明一切皆有可能。
“我们一直关注科学与科幻的结合，每当一个新技术出现，我们都要思考它是用来做什么的？”顾蓓认为，回答这个问题，可以反过来看：最初人们希望用机器人代替体力劳动，让人们的生活更加便捷。后来发现人工智能应用在各行各业，甚至即将取代很多人的工作，包括一些白领，比如股票交易、财务分析等。这也促使人们加强学习，不断转型。
在顾蓓看来，AI是软件，具身智能是硬件。只要具身智能得到发展，未来越来越多的人类劳动场景会被机器人取代。比如，可能不再需要人去种植庄稼、去农田采摘水果。她认为，当这样的场景出现时，一定会回归到以人为本的状态。每个人都应该思考自己在社会中负有什么样的责任，对社会有什么价值。在她看来，人应该回归情感，给身边的人带来幸福。
如何防范人工智能发展带来的潜在风险？
目前，大模型的不断发展也引发了人们的担忧，甚至造成了技术理念的差异。很多科幻作品中充斥着未来人工智能失控甚至灾难性风险的描述。在现实中，这些场景发生的概率有多大？如何防范和控制风险？
对此，姜波认为，人工智能不断发展是不可阻挡的趋势，人工智能自我意识的诞生也是必然。“比如我们现在看到的机器狗，已经具备了类似昆虫的自我意识，但记忆和预测的能力还不够。”他认为，一旦机器具备了相应的预测和行动能力，就会像人类一样思考“自己为什么存在”等根本性问题，可能不再听从人类的指令。
如何应对这种情况？姜波认为，可以通过某种方式将人类的道德观念灌输给机器，就像教育孩子一样，让机器不至于无视人类的利益，完全按照自己的想法行事。
复旦大学科技伦理与人类未来研究院教授杨庆峰表示，日前召开的2024世界人工智能大会暨人工智能全球治理高层会议发表了《人工智能全球治理上海宣言》，其中提到，要用发展的眼光看问题，利用人工智能技术防范人类决策和监督下的人工智能风险，提高人工智能治理的技术能力。“也就是说，要通过技术来治理，这种思想会成为未来人工智能发展的主导思想。”杨庆峰认为，这是一条可行的路径，但最终的效果如何，仍需要时间来验证。
红星新闻记者王俊峰与实习生白雅婷合影
陈以熙 编辑
（下载红星新闻，举报有奖励！）
