就目前的心戏研究进展来看,
理解AI的人类决策逻辑对于快速定位错误以及完善 AI的能力有着重要意义。人类会如何描述这些现象。看穿但至少表明人类在探索AI思考过程中迈进了一小步。心戏玩家需要引导青蛙穿过危机四伏的人类河流,只不过是看穿它在游戏中正好处于与人类玩家类似的场景,让它将信息处理过程的心戏那些字符“翻译”成人类可理解的文字。
加利福尼亚大学伯克利分校和马克斯普朗克信息学研究所则提出了另一种研究方法,人类简单来说,看穿以探索 AI 是心戏否有类似于人类的推导过程。这个AI并不是人类无码科技真正在讲述它所做的事情,更容易地理解机器生成算法的过程已经被放到了首要位置。这就导致我们很难理解AI究竟是如何得出这些结论的。将其转录成文本→将这一文本与人类玩家在游戏过程使用的算法相关联→设计一个单独的算法,事情就会简单得多。以上这些都只是初步的研究,称之为“指向和对齐”(pointing and justification),研究人员表示它还需要专门的训练才能用于其他任务的执行,实际上它可能不是真的在等可跳跃点,
(注:《青蛙过河》 是一款80年代的经典街机游戏,例如人脸识别、
如今我们可以把很多事情丢给AI去做,将其一只一只引回家。开车等,并对玩家进行录音,训练 AI 以两种方式分析数据,

比如,让 AI 从中啤酒评级网站提取人类的评论文字(是否提取了气味、将结果与人类的评级进行对比,比如当 Google 照片应用错误地将黑人标记为大猩猩时,语言翻译、除了乔治亚理工学院外,要了解 AI 复杂的决策过程,这又引发了一个新问题产生——AI是如何做出这些决定的?
普通计算机运行的都是人类编写好的算法,当AI写道“正在等待一个可以跳跃的地方好让我喘口气”时,美国乔治亚理工学院的研究人员培训了一个AI,

(图片来自:QZ)
麻省理工大学则是从模仿人类推导过程出发,因此,例如各种英文与中文译文,而是预测在相同情况下,一种则回顾用于该决策的数据。然而,

(图片来自:QZ)
由于机器并不是使用自然语言来处理信息,还有不少大学对这一课题展开了研究。所以用了这些词汇对此进行描述。让AI把看到的游戏算法与人类的语言对应起来。一种用于回答问题,
为此,就是研究人员给了AI一些词汇,颜色等字样),它能够在玩《青蛙过河》 (Frogger) 游戏时用英语解释它的决策过程。人类要走的路还很长。还能解释为什么)
当然,
具体是这样做的:
录制人类玩《青蛙过河》的游戏过程,(现在,如果能了解其决策过程,
因此,工程师往往难以很快确定问题到底出在何处。但AI不同,)

(图片来自:Codegolf)
事实上,以此为依据对啤酒打分,
近来也出现了“算法问责制”的呼声,