当一个AI系统能产生有物理意义的输出(分类,文字,音视,动作)时,该系统性能才是可衡量的。
若系统无物理输出,而只有隐变量的输出,由于隐变量没有明确的物理含义,所以我们无从判断系统的优劣。
也就是说,即使我们制造了一个系统,他内在的预测精度已经完美了,也必须定义一种物理输出,才具有意义。
最单纯的物理输出,就是交流信号。这要求该系统具有描述的能力;然后用特定编码,将内在认知表达出来(隐变量本身就是一种原生编码,但只有他自己懂,无法交流不算输出)。升级版是,能对话的交流。至此,系统就有了“自我”的概念。
复杂的物理输出,也是广义的交流,例如行动指令就是与环境的交流,其编码就是动作指令。
现在的问题是,交流的目的是什么?
一种方式是全被动交流,比如你问啥他回答啥;或者随机游走机器人:保证不摔即可。
另一种是主动交流,这需要人为设定该系统的目标。
所以,除了预测精确度这个目标之外,我们还要给系统设定什么目标?