首页 > 编程知识 正文

这是不是文物(多媒体虚拟互动设备)

时间:2023-05-06 20:57:12 阅读:89791 作者:359

jqdlc,彩色的花,wzdjz

(重庆邮电大学信号与信息处理重庆市重点实验室,重庆400065 )

:利用Kinect的局部骨骼跟踪技术捕获人体数据、颜色数据、深度数据,分析收集到的数据,绘制手的轮廓,根据深度信息识别手势的含义,进行逻辑处理后,通过Kinect设备将信息发送到PC,然后测试结果表明,系统运行稳定可靠,体验者可以通过体感交互技术很好地控制虚拟文物。 虚拟文物交流展示系统突破了传统文物的展示方式,吸引了观众积极参与展览。

: Kinect; 骨架跟踪; 手势识别

: TP391文献识别码: adoi:10.19358/j.ISSN.1674-7720.2017.02.014

引用格式:基于jqdlc、彩花、wzdJZ.kinect虚拟文物交流展示系统的设计与实现[J] .迷你电脑与应用,2017、36(2) 41-43、47。

0引言

2008年,香蕉奇异果提出了“自然用户界面”的概念,预言人机交互在未来几年内将发生巨大变化,键盘和鼠标将被更自然的触摸、视觉性、语音控制界面所取代。 Kinect是一种运动捕捉设备,Kinect和用户的组合形成了一个完整的控制系统。

目前,我国许多博物馆建立的虚拟博物馆大多使用VRML语言进行建模,使用WRL文件浏览器插件基于IE进行浏览,使用户可以方便快捷地浏览。 但是,VRML是基于浏览器的脚本语言,对相应事件的处理能力有限,与用户的交互能力较差,并且无法连接到数据库,因此在构建虚拟展馆的过程中需要手动添加文物模型[1]。

针对以上问题,本文设计的虚拟文物对话展示系统使用MySQL数据库保存文物详细信息; 使用FTP服务器保存3D模型文件,由系统自行检索; 利用Kinect手势识别技术,通过与用户隔着文物模型进行对话,有效地解决了对话能力较差的问题。 本文还提出了一种k均值算法,以有效解决手型图标的抖动问题。

可以想象,在一个博物馆里,观众只要用手势触摸虚拟的按钮,就可以选择感兴趣的文物,只要改变手势,就可以移动、放大、旋转文物。 虚拟文物与参观者的交流方式,使展览更具感染力。

1系统介绍

基于Kinect的虚拟文物展示系统的结构主要由显示模块、文物控制模块、UI对话模块、文物保存模块以及运动捕捉模块组成,各模块之间相互协作,构成了功能完整的虚拟文物展示系统。 如图1所示。

图1系统结构图(1)显示模块:获取场景中的用户图像,将虚拟文物模型和用户图像融合显示。

)2)文物控制模块:调整虚拟文物模型的位置、大小、角度,并且接收运动捕捉和识别模块发送的控制信息,并进行相应的变更。

)3) UI交互模块:获取接口控制件的位置,并与用户手的位置进行对照,进行相应的响应。

)手势捕捉识别模块:捕捉用户手的关键点,获取手的深度信息,然后处理信息,识别用户手势的含义,并向文物控制模块发送指令。

5 )文物保存模块:该系统包括MySQL数据库及FTP服务器。 虚拟文物的编号、王朝和其他详细数据存储在MySQL数据库中。 由于虚拟文物模型占有比较大的空间,因此将模型放置在FTP服务器上,直接从该软件调用。

基于Kinect的虚拟文物交互展示系统的结构化设计,通过提高系统的灵活性,降低模块之间的耦合性,在不同模块之间经由接口进行通信,从而使各个模块能够独立有效地发挥各自的功能

2Kinect的介绍

Kinect体感设备主要由彩色照相机、深度照相机、红外线投影仪构成。 Kinect设备和普通照相机的区别在于红外线发光和红外线接收功能,通过该功能Kinect可以获取场景的深度信息。 Kinect的基本原理是,当红外线投影仪积极投射红外线光谱,照射到粗糙的物体上或透过毛玻璃时,光谱会变形,形成随机的反射光斑,即斑点,由红外线照相机读取。 这些散斑非常随机,随着距离的变化,散斑也会发生变化,从而在同一空间内不同的散斑图案不同[2]。 因此,如果利用散斑对空间进行编码,则当物体进入空间时可确定位置。

3系统软件设计

文物交流展示平台软件是利用WPF开发的。 WPF是微软推出的Windows Vista用户界面框架。 提供统一的编程模型、语言和框架,实现将界面的设计者与开发者分离的工作,提供新的多媒体交互用户图形界面。 WPF最重要的特色是支持3D模型和支持模型的点击事件。 整个虚拟文物展示系统的软件设计采用了Kinect体感设备和WPF框架等技术手段,包括手势识别、UI交互、文物展示以及文物存储的智能交互展示系统,对虚拟文物展示进行了积极的选择、引入文物互动展示的主要功能模块如图2所示。

3.1GUI设计

p>

在主界面上包括四个不同功能的悬浮按钮,这四个悬浮按钮是根据人体的合理肢体操作距离而设计的。这四个悬浮按钮的功能分别为虚拟文物展示、虚拟文物详情、博物馆视频简介以及退出。在本项目设计中,最重要的是虚拟文物展示功能。当用户选择虚拟文物展示悬浮按钮时,该软件会弹出另一个窗口,用户可以根据自己的兴趣爱好,选择不同朝代的文物来进行控制,比如根据不同的手势来移动、放大以及缩小和旋转文物。

3.2悬浮按钮

悬浮按钮控制流程如图3所示。悬浮按钮其实是一个普通的控件,有三种状态分别为经过、按下和离开,可以有效地解决不小心点击的问题[3]。通过Kinect SDK首先识别出用户举起的是左手还是右手,再获取左手或者右手的三维坐标数据,然后激活界面的一张手型图标,通过坐标映射的方法,把手的三维坐标转换成二维坐标,转换过的二维坐标映射到手型图标上,这样界面上的手型图标会随着用户的手在界面上移动。当用户的手型图标没有接触到该悬浮按钮的时候,它没有任何变化。当手型图标移动到按钮区域时,手型图标周围会出现进度条控件,当时间超过2 s后,会触发悬浮按钮OnClick事件,当手型图标不在按钮区域时,悬浮按钮恢复初始状态。

3.3解决手型图标抖动问题

图4二维坐标点群Kinect每秒钟会采集30帧的深度/RGB数据,每帧所获取的骨骼的三维坐标都是不相同的,转变成二维坐标也是不相同的,所以把二维坐标映射到手型图标上,手型图标会出现抖动的情况。在软件编程中,取出30帧的二维坐标数据如图4所示。

本文的设计考虑到抖动这一问题,提出采用KMeans算法[4]的解决方案,其基本方法为:首先在软件中提取出最近的6个帧的骨骼三维数据,然后转换成二维坐标数据。再使用KMeans算法,随机在图中取K个种子点,然后对所有点求出到其K个种子点的距离,假如点pi离种子点最近,那么pi属于si点群。接下来,把种子点移动到属于它的点群中心。然后重复上述步骤,直到种子点没有移动。最后使用各个点的X/Y坐标的平均值,计算出点群中心的坐标。把6帧二维坐标的点群中心坐标映射到手型图标上可以有效地解决抖动的问题。具体算法流程如图5所示。

3.4文物选择与控制

该系统首先根据客户的需求,对用户的手势行为做了规范协议[5],如表1、表2所示。如果用户的手势不是协议中所规定的,系统将不会做出任何响应。

用户操作虚拟文物的流程如图6所示。用户可以用自己的左右手来选择查看哪个朝代的文物,只需要把手放在图标按钮2 s即可。当用户选择了清朝的文物,界面右边会出现文物的二维图片,用户可以继续选择具体的文物。当用户选择了一个自己比较感兴趣的文物时,界面会出现一个3D文物模型,用户可以根据手势协议来操作模型,例如对模型旋转、放大等。当用户想查看其他的文物时,只需要把当前文物撤销即可。用户想要和当前文物模型合影时,只需要把手放在照相按钮上,系统会把图片保存到文件夹上。

4实验结果

为了验证系统的可靠性以及响应时间,进行了如下的现场测试。测试环境为Win10+WPF+Kinect for Windows SDK 1.8。测试者站在Kinect正前方,做出不同的手势,以验证不同手势识别的准确性。

实验结果表明,使用Kinect能够正确判断出用户手势的意思,通过相应的算法以及手型图标抖动问题的解决,进而实现了对虚拟文物的位置、角度、姿态的控制,充分验证了基于Kinect的虚拟文物互动展示系统的可行性。

5结束语

基于Kinect的虚拟文物互动展示系统是一个新颖而又充满意义的课题。本文使用Kinect与WPF完成了一套用户体验良好、功能完备的用户与虚拟文物互动系统。该系统主要通过Kinect 来获取人体骨骼坐标数据,通过对数据的分析与综合识别出用户的肢体语言,然后映射到3D文物上,实现用户与3D文物之间的互动。本文还提出了使用KMeans算法来解决手型图标在屏幕上的抖动问题,使用户具有更好的体验。下一步研究方向是采用手机App和Unity3D的开发方式,如通过扫描文物图片,在手机屏幕上出现3D文物模型,用户通过触屏的方式与3D文物进行互动。这样可以有效地解决用户多的问题,让每位用户都可以积极参与到博物馆展览之中。

参考文献

[1] 文艺的花生 虚拟博物馆系统的设计与实现[D].长春:吉林大学,2011.

[2] 虚心的火龙果驵.基于Kinect的内容展示系统设计与实现[D].郑州: 郑州大学,2014.

[3] 炙热的含羞草,超级的含羞草,钟单成,等. 基于Kinect的虚拟试衣系统设计与实现[J].信息技术,2015(7):59-61.

[4] 自信的面包.K均值算法[DB/OL].(2013-11-28)[2016 08 25]http://blog.jobbole.com/23157/.

[5] 胡焰.基于Kinect 的虚拟试衣系统的设计与实现[D].武汉:华中科技大学,2013.

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。