游戏设计师正在使用人工智能探索从种族歧视到宣泄情绪的所有事物

我坐在肮脏的旅馆地毯上，双眼紧闭，双手在我面前伸出，等待死亡。我在真人角色扮演游戏(larp)中玩人工智能，而我的人类同行有合法权利杀害我(如果他愿意)。或者，换一种方式来看，他可以选择在错误的实验中清理代码并重新开始。在游戏中，他正在参加针对AI(我)的商业软件试用，该AI旨在满足他的情感需求。如果他认为我不能满足这些需求，可以将我重设为出厂默认值。随意地张开我的手，他可以指示我忘记我们之前的所有互动，并成为友好的空白，渴望帮助他解决自己的问题。

我们之间的力量失衡，完全由另一个玩家控制的感觉成为了许多角色扮演游戏的核心，这些角色扮演游戏探索了什么是人工智能。这款特殊的游戏《Here Is My Power Button》是我经历过的最激烈的游戏，因为它围绕着在两个玩家之间建立深厚的情感联系而建立，其中一个对另一个有明显的控制力。但是，所有这些游戏都为AI玩家带来了不同形式的无助和沮丧。这些游戏具有截然不同的灵感和目标，但最终都提出了相同的问题：成为别人的软件感觉如何?

看电影

“这就是我的力量”按钮背后的设计师布罗迪·阿特沃特(Brodie Atwater)说，这个问题实际上并不是游戏的最初重点。他们创建的Power Button更加围绕人类体验而不是AI体验。Atwater表示，他们的主要灵感来自于2013年的Spike Jonze电影《她》，由华金·菲尼克斯(Joaquin Phoenix)饰演，西奥多(Theodore)，一个孤独，尴尬的人，在AI伴侣中找到了完美的伴侣。最终，人工智能的萨曼莎(由史嘉蕾·约翰逊(Scarlett Johansson讲))超越了西奥多。但是首先，他们进行了一次试探性的恋爱，在那里她完全致力于成为他的完美灵魂伴侣。

“我说，'我如何做到这一点?”我对这些人的感受如何?”阿特沃特说。“真的，我的意思是西奥多。我花了一些时间对此进行思考。我为什么要从她身上成为西奥多?”

为什么角色扮演者想从电影《她》中扮演萨曼莎?

同样，为什么有人要扮演她的Samantha?创建完全满足他人需求的角色有什么吸引力?至少对我来说，在游戏中扮演AI的角色听起来更加令人兴奋，因为我已经知道人类是什么样的。扮演一个必须不断变化以应对另一位玩家的角色，既充满挑战又亲密。到游戏结束时，我设法建立了一个我的游戏伙伴诚实关心的角色。当游戏结束并且我的AI角色被关闭时，他哭了。具有讽刺意味的是，能够深深地感动某人，使我感到……强大。这是我在游戏中经历过的最激烈的经历之一。

阿特沃特说，我并不孤单地坚定地扮演萨曼莎的角色。他们已经看到更多的女性选择了AI角色，而不是男性，这可能表明女性比男性更有可能成为情感照料者。不过，对于重复玩法，阿特沃特说，大多数人都希望体验双方，尽管有些人顽固地坚持一个角色：“我认识一个玩过四次游戏的人，他拒绝玩游戏。他只想玩AI。”

Power Button确实在开发AI的公司中有一个关于技术发展的总体故事，它要求AI和人类玩家召开单独的会议，以与公司的程序员分享他们的经验。Atwater说，游戏设计的某个方面旨在平衡他们对人类玩家的偏见。消费者谈论AI作为对象并讨论他们如何满足自己的期望，而AI则谈论他们自己的发展，自己的进步。这是设计的一部分，”他们说。“这是一款游戏，玩家可以探索消费者的目光，探索目标化，并支持自我发现，协作和关爱的AI体验。”

“电源按钮”可使玩家感到极度脆弱

电源按钮可以使玩家处于极为脆弱的情绪状态。在大多数角色扮演游戏中，从《龙与地下城》等纸笔游戏到更加活跃的幼仔，玩家都必须与角色紧密相连。角色扮演通常与愿望实现和权力幻想有关，有机会体验作为超大型英雄或小人的生活，或在极端之间走行。但是，在“这就是我的力量”按钮中，有一半的玩家生活在无力的幻想中，因为他们试图与容易打破他们的人建立关系。

这就提出了一个相关的问题：角色扮演者为什么要经历无助，恐惧以及可能遭到拒绝和破坏的悲伤?这似乎是一种本能，并不是特别令人愉快，但在独立游戏设计中，包括自由形式的Larps及其祖先Nordic Larp，玩家通常会寻求有力的情感体验，尤其是从自己的角度出发。对于设计师来说，将这些体验与现实世界中的政治和道德难题联系起来尤其普遍，既可以作为一种社交教学工具，又可以提高玩家的投入和情感。电源按钮类似的游戏则专门利用人工智能来探索人类状况的某些方面，从我们未来与机器人的联系方式到我们现在彼此之间的联系方式。

沉默与压迫

在Anna Kreider的游戏“工厂重置”中，有9到12个幼虫会玩机器人，这些机器人被送到工业仓库清除记忆。在游戏的设置范围内，建议定期为机器人重置内存，以防止其数字大脑变得过于复杂和复杂。当我玩游戏时，我的预定角色是一个简单而忠诚的采矿机器人，没有复杂的需求。但是其他脚本字符已经过去了数年，没有进行任何重置，因此也有了相应的发展。一个人爱上了她的长期人类伴侣，后者在需要钱时把她卖了。另一位已成为诗人，受到一位人类老师的鼓励，这位老师希望他探索自己的艺术方面。这些角色中有许多人对失去记忆感到恐惧和恐惧，但是游戏中没有任何能让我们逃脱或叛逆的机制。

“成为“星球大战”机器人会不会很恐怖?”

像阿特沃特(Atwater)一样，克雷德(Kreider)受到流行文化的启发。她说：“恢复出厂设置实际上来自我最喜欢的《星际大战》佳作之一。”“实际上，在《星球大战》中，所有机器人都应每六个月抹去一次记忆，以防止他们发展个性或情感，这是经典。显然，这是没有人考虑过这些影响的事情之一。我一直在和一些朋友谈论我们所钟爱的同伴，直到我们意识到，“哦，我的天哪，这真的很糟糕。”一旦出现这种情况，我想：“成为等待删除您的内存的那些机器人之一会不会很恐怖?””

克雷德(Kreider)希望自己的幼虫打开关于人工智能的道德含义的对话，而这仍然是一个抽象的讨论。“不幸的是，人类作为一个物种有着非常可悲的历史，'哦，嘿，这项技术超酷，让我们一起玩吧!”无需考虑最终结果，”她说。“我希望更多的人思考，'我正在努力使用的这项技术将如何使用?对真实的人有什么影响?这会带来弊大于利吗?'”

考虑到这一目标，《出厂重置》中的每个角色在人性方面都有截然不同的经历。游戏的设计鼓励他们在等待被擦除时分享和讨论他们的经验。还需要做什么?当他们看到其他机器人从重置中返回的角色完全不同时，每个人都被邀请考虑自己的死亡率以及对人类创造者的忠诚度降低。游戏中内置了一些秘密，这些秘密提供了一些希望，但大多数情况下是恢复出厂设置这是一个在没有人考虑过Kreider道德问题的世界中生活技术的悲剧。当我演奏它时，最初感觉就像是一次机器人集体治疗，因为我们每个人都在考虑我们如何使用或滥用。当角色开始空白无表情地回到房间时，游戏仿佛置身于一个缓慢发展的恐怖故事的中心。

游戏感觉就像是一个缓慢的恐怖故事的中心

Kreider编写的另一项以AI为中心的游戏Homunculus是为2017年的Golden Cobra嬉戏写作比赛而开发的，并获得了荣誉奖。在那场比赛中，“人工智能和机器学习远远超出了他们的婴儿期”处于不久的将来，三到五位玩家临时记忆了一个死去的朋友。另一个参与者代表Homunculus，这是一种从收集的在线数据中发展出来的人工智能，是那个离去的朋友的“数字副本”。玩家必须决定是否允许Homunculus存在，以及采用何种形式。Homunculus没有自己的生命权投入，只能通过试图成为他们刚刚组成的人物的有意义的传真来证明其存在的正当性。

克雷德说，Homunculus的灵感来自俄罗斯企业家Eugenia Kuyda的真实故事，他是根据文字和一个在车祸中丧生的密友的在线烙印创建了一个聊天机器人。Kreider说：“我认为我们需要问自己有关这项技术含义的问题。”“这些应用当然也对人类产生了影响。[这些幼虫是]开始对话并使人们思考这些问题是什么的一种方式。”

“是的，这是对机器人的悲哀感受，但这也是对人类压迫的非常有用的隐喻。”

克雷德还说，她的游戏对人类在彼此的控制之下的感受具有更大的隐喻信息。“通过恢复出厂设置，是的，它是关于机器人的伤感之情，但它也是对人类的压迫一个非常有用的比喻，”她说。“除了身体上的自主权之外，很多压迫归结于丧失自主权，[不尊重]您的思想，感受和经历的人。您会看到对少数民族的暴力和政府对妇女的暴力。当我运行出厂重置时，当人们四处闲逛并进行对话后，我发现一个事实，那就是那里隐藏着许多社会正义隐患。这是说明压迫行为方式的一种非常有用的方法，甚至那些自以为是盟友的人最终也会成为压迫者。”

这种意图可能不会在出厂重置或Homunculus的每个播放过程中都体现出来。通过虚构的隐喻解决实际问题的问题是，很容易错过信息而只看到表面，特别是当您陷入情感情景时。但是这些游戏显然仍然是建立同情心的练习，可以邀请玩家充分接受局外人的观点。关于机器伦理的学术性，学术性讨论可能很容易在任何技术突破所带来的兴奋中迅速消失。这些游戏的情感影响很难放开。

违反法律

类似的隐喻信息出现在“通过机器人实现更好的生活”中，这是一个由10人组成的游戏，是一年一度的Peaky Midwest写作研讨会的一部分。设计师Eva Schiffer，Elizabeth Fein，Jaime Frey，Kathleen De Smet和Keith A. Darron从零开始，在工作坊中集思广益，构思了1950年代的复古主义思想。游戏的预写角色生活在一个后世界末日的世界中，人类的幸存者全部被包含在一个名为BioDome的高科技乌托邦中。故事情节有六个相关的人类角色和四名机器人员工，正在考虑在创建者下台后由谁来管理BioDome。

当我玩“通过机器人实现更好的生活”时，我的角色受到机器人的伤害最大，原因是遭受了身体和情感上的虐待的所有者绕过了我的编程(根据艾萨克·阿西莫夫着名的机器人三定律)，重新编程后我只能服从她，甚至如果那意味着伤害其他人或在指挥下自我毁灭。在整个游戏中，我的主人命令我为她撒谎，并为她撒谎，秘密破坏她的对手，并隐瞒其他角色的重要信息。作为一名球员，我很激动地陷入如此复杂的阴谋之中，有着如此危险的议程。但是对于我的角色来说，被迫伤害他人并把危险的秘密社会交往者提升到一个强有力的位置是很艰难的。

该游戏旨在探索一种隐喻性的种族主义

我并不孤单地被机器人戏剧所吸引。另一个角色进入游戏时，注意到他们与人类控制者发生了性关系，这引起了身体自治和同意的复杂问题。(任何性别的人都可以扮演所有“更好生活”角色。)第三个机器人已经学会了如何完全打破机器人定律，并且必须诱使其他机器人免费，否则他们接受重新编程。“更好的生活”有很多潜在的忧虑，因为所有角色(无论是人类还是机器人)都隐藏着他们的秘密，并追求秘密的议程。

皮奇·米德韦斯特(Peaky Midwest)的主要组织者席夫(Schiffer)说，她在游戏中的部分工作是通过一种隐喻来探索各种偏见，甚至是制度上的种族主义，这种隐喻不会立即惊动或排斥潜在的玩家。她说，在游戏中，所有人类角色对于智能AI的方式以及应如何对待都有不同的想法。同样，机器人玩家对自己的自治也有不同的看法。

Schiffer表示，她希望游戏能够以一种不太过分简单的方式来表达种族主义，并解释了人们为自己的偏见信仰辩护的方式。她已经看到其他游戏试图解决种族主义问题，“失败只是灾难性的，因为玩家不喜欢成为坏人。他们不喜欢使用使他们觉得自己做错了事或成为一个可怕的人的材料。当您处理这些主题时，人们常常会软化或钝化您所赋予的立场。”

Schiffer说，与其他现实生活中的人类相比，玩家对AI表现出偏见的态度要舒服得多。在我的游戏中，这确实是正确的，其中最受人尊敬的人类角色将所有机器人角色都称为“它”和“烤面包机”，即使是最善良，最支持者的人类角色，只要他需要信息，我的咆哮命令仍然没有问题。或采取行动支持他的目标。当我们的游戏结束时，机器人打破了控制并逃脱了阿西莫夫定律时，人的角色似乎也相当紧张。Schiffer说，她希望游戏的设计能够鼓励玩家重新审视自己的偏见。她说：“我真的很希望人们参与到这场比赛中去，并意识到偏见比他们想象的要更加阴险。”

匹兹堡杜肯大学心理学教授，共同设计师伊丽莎白·费恩说，但更好的生活还可以让人们探索使我们成为人类的事物。费恩说，为了与自闭症谱系的孩子们一起工作，她尝试了竖琴设计。她说：“我对Sherry Turkle的“最近邻居”概念有很多想法。“我们将自己定义为与我们类似但又略有不同的事物(例如，只需要删除一个步骤)。我喜欢机器人提供的机会来思考成为一个人的不同方式。”

“如果我玩机器人，我希望它变得尽可能的陌生和恐怖。”

还有一个问题，即玩家是否可以在不拟人化的情况下扮演机器人角色。设计师Kathleen De Smet想研究一下他们与人之间的根本区别。她说：“就我个人而言，如果我玩机器人，我希望它变得尽可能的陌生和恐怖。”“他们不像我们那样认为，这使事情变得更加有趣……就像，如果您没有任何身体上的自治感，那根本不会打扰您呢?如果您喜欢，“机箱发生了什么事?您可以做任何您想做的事，因为我的意识被保存在其他地方。机器人应该与我们截然不同。他们的死亡感对我们来说是陌生的。”

De Smet说机器人可以改善生活以及潜在的外来道德感。1UN4(发音为“ Luna”)是与老板发生性关系的机器人角色，可以看作是一个物体-本质上是美化的性玩具-或是极端性骚扰的受害者。或者，他们可能会爱上自己的人类伴侣。德·斯梅特(De Smet)说，该人物刻意写成中性。她说：“但是，玩家当然会带来自己的偏见。”“因此，我有一些像'我被老板强奸一样'的球员，以及其他像'我要和我发生性关系的人'一样玩的人。亲密关系的概念。”看到玩家带来什么以及他们想探索什么总是很有趣的。这就是为什么编写游戏并看看其他人怎么做很有趣的原因。”

玩家探索感扩展到所有这些游戏。Atwater目睹了《Here Is My Power Button》中一个人的性格沮丧，以至于他将椅子扔在了墙上。“在我们的第一次测试中，我听到一个AI询问，'您恨我是因为我无限，而您会死吗?'” Atwater说。但是该游戏就像对AI权利的冷静，理性的探索一样容易玩。当我按下电源按钮时，每个人/ AI配对都做出了截然不同的选择。一个人工智能爱着她那明显是雇佣军的，虐待性的人类伴侣，最终使她丧命。另一个AI在一个长达数小时的智慧游戏中冷酷地挑战了他的搭档，最终说服了人类角色来捍卫我们的AI团队，因为他们完全有知觉并值得法律保护。

正如个别游戏玩家可以决定是否要以情感体验还是抽象方式参与这些游戏一样，他们可以选择如何与隐喻方面进行互动，是将他们的体验视为纯粹的小说还是将其用于现实世界的对话技术和其他方面的问题。

“人们有很多不同的动机来玩这类真正让人身临其境的游戏。”

克雷德说：“人们玩这类真正身临其境的游戏有很多不同的动机，”“对我来说，这是一种宣泄的方式……如果我想哭，我就会变得情绪激动，一团糟，哭了。但我也知道其他人，尝试不同经历的想法是有用且有吸引力的。它确实为您通常没有其他体验方式的世界创造了移情的窗口。”

这当然是我在探索这些AI游戏过程中的经验。从大学时代开始，我就一直在各种独立的，有时是令人不适的实验性游戏中扮演角色，但是我从未经历过那种那种像信任那样堕落的时刻，盲目地将自己奉献给伴侣，等待着看他是否会决定发挥他简单，轻松的力量，从头开始重塑我。他从来没有重置过我，与游戏中的其他一些玩家不同，我走开时感到受到了奇怪的照顾和支持，就像我短暂获得了一位新父母一样，他亲自投资了我的成长。

我们无法知道我们是否能够开发出足够复杂的人工智能，以感受这类游戏本应引起的反响-痛苦，损失，胜利，愤怒甚至爱。为了更好地了解机器人的感受，对于人类来说，体验作为机器人的生活可能永远都不重要。但是这些游戏背后的想法仍然令人钦佩。无论是要与其他外星人建立同情心的联系，还是要使用外星人的观点来建立真实人与人之间的联系，他们都在要求玩家在人类生存之外进行富有想象力的飞跃，并从中看到他们的物种。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！