写给VR手游开发小白的教程:(六)Cardboard如何实现沉浸式VR体验之构造双眼

原文地址:http://blog.csdn.net/mao_xiao_feng/article/details/52454560
沉浸体验是VR的核心也是一直以来的技术难点,虚拟现实的发展一直专注于怎样让用户获得更好的沉浸式体验,这涉及到多个领域的多项技术,上至渲染优化,性能优化,下至人眼的构造,肢体的运动与感知。Cardboard也为沉浸式体验提供了一种方案,本篇主要介绍Cardboard是用哪些技术实现VR体验的。
之前有人和我说,用Unity实现VR效果,很简单,新建两个Camera,相隔一定长度,然后把两个摄像机的viewport,分屏输出,就实现了VR,乍一听还挺有道理的,但是仔细一想,这种实现方式,漏洞百出,更夸张的说,它可能根本算不上VR
首先我们要明白沉浸式的虚拟现实系统是怎样的系统?
以下摘自百度百科:沉浸式虚拟现实其明显的特点是:利用头盔显示器把用户的视觉、听觉封闭起来,产生虚拟视觉,同时,它利用数据手套把用户的手感通道封闭起来,产生虚拟触动感。系统采用语音识别器让参与者对系统主机下达操作命令,与此同时,头、手、眼均有相应的头部跟踪器、手部跟踪器、眼睛视向跟踪器的追踪,使系统达到尽可能的实时性。临境系统是真实环境替代的理想模型,它具有最新交互手段的虚拟环境。那么我们从第一个特征开始:虚拟视觉虚拟视觉是一个很抽象的概念,要去理解他,必须要进行具体化,而我们手上正好有Unity这样的工具可以帮助我们实际去感受,什么是虚拟视觉。


这是Cardboard的主物体,我们把它全部展开,发现CardboardMain下面有三个层级,Head是CardboardMain的子物体,GazePointer和Main Camera分别又作为Head的子物体,而Main Camera下又附带着两个Camera,,可能有人不明白为什么这样设置,别担心,等我们介绍完你就明白了。



纵观整一个CardboardMain,发现带有Camera组件的只有Main Camera和他所属的两个子物体,如上图所示,三个Camera的近裁面大小并不一样,我们截图进行一下对比




Main Camera Left和Main Camera Right的近裁面分别是相比Main Camera的近裁面等高但是宽度减小的两个矩形,而且两个矩形不重叠,它们相差了一定间隔。
这个间隔看似不起眼,实际就很有讲究了,要阐明其原理,首先要从3D电影的原理讲起:

/***********************************************************************************************************************************/

不知道大家有没有在脱掉3D眼镜的情况下,观察3D电影的屏幕,会发现其实屏幕上的画面,很模糊,看起来像是两幅画面的叠加。但是戴上眼镜以后瞬间清晰了,而且更加逼真震撼。
3D电影的原理其实很简单,它确实是利用两台并列安置的电影摄影机,同步拍摄出两条略带水平视差的电影画面(要注意的是,这样的两幅画面,并不是时间上的先后关系,而是在拍摄时,摄影机摄像位置的空间上的间距),所以,一部只用一个摄像机拍摄的电影,无论用什么方法也成为不了3D电影,3D的基础,就是两幅在不同点观察的画面。
为什么要这样做?
做一个小实验吧,先闭上左眼,同时睁开右眼。
然后迅速睁开左眼,同时闭上右眼
再回到第一步,不停的循环。比对一下,左眼中的世界,和右眼中的世界,是一样的吗?

这就是我们视觉的运行方式,两眼在不同的空间位置去观察这个世界,接受不同的反射光线,然后被大脑所接受,形成一个条件反射,我们在看“现实”的世界,所有物体都是实际存在的,都是有空间大小的。这就是我们感觉的“3D”

问一个很玄乎的问题。在看一幅画的时候,为什么我们知道是在看一幅画,而不是画中的世界?

也许我们的双眼在看这幅画的时候,大脑就已经确定了这是一幅画,里面的物体都是处于“画”这个平面上的,我们永远不可能进入到画中去看画中的世界。

然而科学的进步告诉我们,真的可以进入画中的世界,只要在画中给我们的眼睛建模,形成“画中的视觉“。

如何建模呢?
很简单的一种方式,像3D电影拍摄一样,用摄像机替代我们的双眼,但是摄像机获得的画面并不能直接投射到我们的视网膜上被大脑感知,我们还需要一样东西,3D眼镜。

3D眼镜将匹配的偏振光接受,拒绝不匹配的光线,这样的设计导致了,我们的左右眼可以获取到对应的画面,而两个画面互不影响。
于是,两幅用摄像机模拟眼睛拍摄的画面,就在我们的左右视网膜上分别投影出来了。

这就是虚拟视觉。

用一句话概括就是,把自己的双眼“放”到虚拟世界中去,“感知”这个世界的光线,让你觉得这个世界像是实际存在的,于是“虚拟”就变成了“现实”。

/***********************************************************************************************************************************/

现在我们来看Cardboard是怎么实现虚拟视觉的,Main Camera Left和Main Camera Right上都有一个脚本,叫Cardboard Eye.cs



这是关于此脚本的介绍:
Controls one camera of a stereo pair. Each frame, it mirrors the settings of the parent mono Camera, and then sets up side-by-side stereo with an appropriate projection based on the head-tracking data from the Cardboard.SDK object.To enable a stereo camera pair, enable the parent mono camera and set Cardboard.SDK.vrModeEnabled = true.
控制一对立体摄像机中的其中一个,每一帧都复制其父物体上的单摄像机的设置,然后根据从Cardboard.SDK对象得到的头部追踪数据同合适的投影来建立立体像对。
要启用立体摄像机对,先启用父物体的单摄像机并置Cardboard.SDK.vrModeEnabled = true

显然Cardboard是用这对摄像机来产生立体图像的,这个摄像机Cardboard给了个定义叫stereo camera,介绍里还涉及到一个摄像机,叫mono Camera,这个mono Camera就是Main Camera物体上camera组件


为什么要叫mono Camera或者说这个mono Camera有什么用呢?上面介绍过了mono Camera的近裁面是一个大的矩形,而两个stereo Camera的近裁面只是包含于mono Camera的近裁面中的矩形,这说明stereo Camera获得的投影来自于mono Camera投影的一部分。Cardboard把mono Camera的投影作为世界的投影,而stereo Camera的投影作为输入眼部的投影,为了与现实保持一致,stereo Camera使用函数public void CopyCameraAndMakeSideBySide(StereoController controller, float parx = 0, float pary = 0)保证相机的所有settings是与mono Camera保持一致的。这样做的目的,就是希望我们看到的,是和世界一致的,这是想当然的问题,我们肯定不会希望我们眼睛看到的与世界表现的不相同,即使在虚拟世界中。

细心的同学会发现一个问题,在工程运行的时候,Main Camera Left和Main Camera Right上的camera组件是关闭的,但是我们依然能看到图像,这是怎么回事呢?
Alternate means of rendering stereo, when you don't plan to switch in and out of VR mode:In the editor, disable the MainCamera's camera component. Enable the two stereo eye camera components.
Cardboard给了两种渲染stereo的方式,一种是启用mono Camera,关闭两个stereo Camera(默认方式),还有一种是关闭mono Camera,启用两个stereo Camera。
这是在UnityEditor里的功能,所以Android运行时应该用不到

当然实现视觉的虚拟不仅仅是以上这么简单,我们获得了两个不同视点观察的经过投影变换后的图像(准确的来讲,这个图像应该叫做RenderTexture),现在我们需要将摄像机输出的视口(viewport)摆放到屏幕的准确位置,这一步很重要,因为我们不希望在用VR眼镜观察的时候因为输出的viewport位置不对,导致看不全viewport或者看到了viewport外围黑色背景的现象,我们希望,我们的视野(视野这个词,后面都简写为FOV,field of view,这个视野可能是眼睛的视野,也有可能是眼睛透过VR透镜观看的视野),正好覆盖输出的viewport,一分一毫也不能偏差,差一点点可能就会毁了我们的沉浸式体验过程。
这个过程,我自己定义了一个名字,叫做外部的FOV适配。(不同于内部的FOV适配,后面会讲)。

完成了外部的FOV适配,至少我们已经将我们的眼睛“放”到了游戏场景中,但是这仅仅是一个开始,我们还需要解决很多问题。

例如,VR透镜的使用造成的最典型的一个问题,图像畸变。

下一章我们会从扭曲矫正开始继续介绍。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,214评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,307评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,543评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,221评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,224评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,007评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,313评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,956评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,441评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,925评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,018评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,685评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,234评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,240评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,464评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,467评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,762评论 2 345

推荐阅读更多精彩内容