在 ROS 中提取 Kinect 图像信息

引言

在机器人和计算机视觉领域,微软的游戏外设 Kinect 是非常流行的感知设备。它可以同时提供普通的 RGB 图像,红外图像、深度图像以及 RGB图像与深度图像的点集匹配 (point set registration 或者称为 point matching)。

Kinect 有两个比较常见的版本:

  • Kinect for XBOX 360,一般称为 Kinect v1,即第一代 Kinect,外观如下:


    kinect1.jpeg
  • Kinect for XBOX ONE,一般称为 Kinect v2,外观如下:


    kinect2.jpeg

在本项目中我们选用 Kinect v2。

为了将 Kinect 的图像信息发布到 ROS 中,需要做两方面的工作

  1. 安装 Kinect 的驱动
  2. 安装 Kinect 相关的 ROS package

本文主要参考了下边的文章,并对其中的部分内容做了修改、更新
https://github.com/code-iai/iai_kinect2
https://github.com/OpenKinect/libfreenect2

平台

  • Ubuntu 16.04
  • ROS Kinetic 版本
  • USB 3.0

尽管我们的机子上有 Nvidia 显卡,也装了 CUDA,但是在之前的使用中经常出现与 CUDA 相关的问题。所以为了避免麻烦,我们在后续的编译过程中将禁用 CUDA。

安装 Kinect 开源驱动程序 libfreenect2

  1. 安装编译工具
    sudo apt-get install build-essential cmake pkg-config
    
  2. 安装 libusb,用来与 usb 设备交互
    sudo apt-get install libusb-1.0-0-dev
    
  3. 安装 TurboJPEG,用于 JPEG 格式图片编码与压缩
    sudo apt-get install libturbojpeg libjpeg-turbo8-dev
    
  4. 安装 OpenGL
    sudo apt-get install libglfw3-dev
    
  5. 安装视频硬件加速 API — VAAPI
    sudo apt-get install libva-dev libjpeg-dev
    
  6. 安装 OpenNI2
    sudo apt-get install libopenni2-dev
    
  7. 下载 libfreenect2 源文件并编译
    git clone https://github.com/OpenKinect/libfreenect2.git
    cd libfreenect2
    mkdir build 
    cd build
    cmake .. -DCMAKE_INSTALL_PREFIX=$HOME/freenect2  -DENABLE_CUDA=OFF
    make
    make install
    
    其中 -DENABLE_CUDA=OFF 参数就是禁用 CUDA。
    在编译过程中如果出现了与 libusb 有关的错误,可能是 ubuntu kernel 的问题,换一个 kernel 就可以了。可以用软件 ukuu 安装新的 kernel,图形界面操作,非常直观。
  8. 权限设置。一般情况下要与硬件设备交互需要超级用户权限,即用 sudo 。为了避免这种麻烦,我们用如下的方法设置权限:
    sudo cp ../platform/linux/udev/90-kinect2.rules /etc/udev/rules.d/
    
  9. 测试。重新插拔一下 Kinect,然后执行如下程序:
    ./bin/Protonect
    
    执行以上程序时,当前目录依然是 build 文件夹。
    如果一切顺利,会出现 viewer 窗口,包括四个画面,分别是 RGB,红外,深度,以及深度与 RGB 的点匹配画面。

安装 Kinect 相关的 ROS package

  1. 下载 package
    cd ~/catkin_ws/src/    
    git clone https://github.com/code-iai/iai_kinect2.git
    
    上边第一行命令是假设本机已有了 ROS workspace。设置 workspace 的方法可以参考我们之前的文章
  2. 安装 ROS package 的依赖
    cd iai_kinect2
    rosdep install  --from-paths .  --ignore-src
    
  3. 编译 ROS package
    cd ~/catkin_ws
    catkin_make
    
    如果在编译时报错找不到 libfreenect2 文件,则将 catkin_make 命令修改为:
    catkin_make -Dfreenect2_DIR=$HOME/freenect2/lib/cmake/freenect2
    
    即指明了前边安装的 freenect2 库的路径。
  4. 测试
    roslaunch kinect2_bridge kinect2_bridge.launch
    rosrun kinect2_viewer kinect2_viewer kinect2 sd image
    
    如果一切顺利,则会看到 RGB 图片。这里参数可以选
    • sd: 512x424 像素
    • qhd: 960x540 像素
    • hd: 1920x1080 像素
    • ir: 红外图像
    • image: 以图像的形式显示
    • cloud : 以点云的形式显示
    • both: 一起显示
  5. 在 rviz 中显示
    我们也可以在 rviz 中可视化 kinect 发布的图像信息。实际上,当运行
    roslaunch kinect2_bridge kinect2_bridge.launch
    
    的时候,kinect 已经在向 ROS topic 上发布信息了,可以通过 rqt_graph 查看,部分显示如下:
    ros_graph.png

    既然有了 topic,就可以很简单的在 rviz 中将对应的 topic 显示出来。
    启动 rviz
    rviz
    

    添加 topic 如下


    rviz.png

    点击 OK 之后就可以看到 Kinect 发布的图片了。

有了 Kinect 发布的 RGB 和 Depth 图像,后续就是具体的项目应用了,这部分内容将在其他文章中介绍。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 200,302评论 5 470
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,232评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 147,337评论 0 332
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,977评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,920评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,194评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,638评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,319评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,455评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,379评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,426评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,106评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,696评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,786评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,996评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,467评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,043评论 2 341