MRで空間認識を試してみる

October 29, 2020

Magic Leap 1到着

ある日弊社にとある機材が届きました。

それは、magicleap社が世に放つ空間コンピュータ

Magic leap 1

この機械はゴーグル型の機器で、VRとARの中間、いわゆるMRを実現する機器となります。

https://www.magicleap.com/ja-jp

ゴーグルであるLightwear、ポケットやベルトに下げて使う心臓部Lightpack、そしてコントロールデバイスであるControlからなっています。

これらを身に着けると普段自分が見まわしている空間上に様々な映像を浮かび上がらせることができるのです。

 

キャリブレーションの時点で部屋に無数の光点を展開させ部屋の空間を認識させ、

現実の空間と融合するという代物になっています。

 

このような目新しい技術を使ってモノを制作していくのは非常に楽しみです。

Matterport…?

さて、MRを展開していくためには、空間の使い方が重要となってきます。

見えているものに対して上書いただけではARに毛の生えたものと変わりがありません。

そこで出てくるのがMatterportという会社の技術です。

https://matterport.com/

はて…Matterport?恥ずかしながら自分は初耳の会社で、

なんでもこの会社の技術を使うと、通常の空間をスキャンし3Dモデルに落とし込んでくれるらしいのです。

自分の中ではにわかには信じがたいテクノロジーで、どこまで使うのか疑念を持ちながらも利用してみました。

Matterport PRO 2…どうやって使うの?

そしてやってきたのは

Matterport PRO 2という見た目は何やらものものしい、ゴツいカメラです。

しかも持ち運びにかなり頑丈そうなケースまであるとは、やや緊張します。(値段もお高いようですし)

どうもこれらを使うと、スキャンできるようなのですが…。

Matterport Captureを使おう

PRO 2には背面に小さい液晶ディスプレイがついているのですが、

ホントに小さくて操作なんかできるものではありません。

これはあくまで操作する電池残量やwi-fiの接続状況を示すものです。

このPRO 2を操作するためにはiPhone、またはiPadが必要となってきます。

App StoreからMatterport Captureというアプリを落としてきます。※1

そしてアプリが入ったiPad(またはiPhone)とPRO 2をwi-fiでリンクさせて、iPadのUI上から操作できるようになります。

動かないぞ!PRO 2!

さて、PRO 2はあまり充電されていなかったので充電しつつで、iPadとリンクさせるまでは大した労力もなく進みました。

が、ここからが問題で、wi-fiでリンクはできますが、iPad上にPRO 2の名前が出てきません。

設定をいじってもリンクしなおしても、再起動しなおしてもうまくいきません。

かれこれ1時間以上かけて調べたり、ひょっとしてMatterportの有料サービスに入らなくてはならないのかとか悩んでいました。

 

そしてあきらめの心が全員によぎったとき、弊社エンジニアが閃いたのです。

「電源抜けば動くんじゃない?」

おもむろにPRO 2からコネクターを抜きます。

その瞬間!手持ちのiPadにPRO 2の名前が表示されました!

そして、起動ボタンもアクティブになり使えるようになったのです。

動く、動くぞ!

…まー答えはずっとiPad上に表示されていて、起動ボタンのところに

unplug camera

と表示されていたのです。

カメラがつながっていないのかな?くらいの認識だったのですが、要は「プラグ外せ」って書いてあったんですね…。

なにはともあれ無事起動が確認できました。

ちょっとてこずりました

PRO 2が無事起動した翌日に朝早く出勤し、人がいない内に撮影開始。

1か所目に撮影を開始するとカメラが60°ずつ回転し社内を撮影していきます。

そして自分はカメラに映りこまないように、回るカメラに合わせて背後に回り込みます。

さらに、場所を移動して2か所目の撮影しましたが、その認識中に何やらエラーが。

どうやら最初の位置と近いか、何も変わっていないぞ的なメッセージのようです。

 

しかし、カメラは推奨の2mより少し離れて設置しているはずです。何回試しても、またものすごく離してみても状況は変わりませんでした。

悩んだ末、1回カメラのデータを破棄し、初回のカメラ位置を変更して撮影を開始したところ、今度は問題なく2か所目、3か所目とどんどん撮影できました。

正直原因は不明ですが、最初の位置が狭くて、シェードが下りているとはいえ明るい窓の近くだったのでその下限で位置が測定しづらかったのかもしれません。

(スキャン自体はとれているようにみえましたが)

すごいぞ!Matterport PRO 2!

そして14か所を撮影し終えてできた上面図がこちら。

これが撮影するたびに徐々に完成していく様子はまさに未来テクノロジー。

今まで疑ってすいませんでした!

MatterportからデータおよびAPIをゲット

データダウンロードは簡単だけど有料です

さて、PRO 2からキャプチャしたデータは、Matterportのホームページにアップロードし、有料のサービスに入り、かつダウンロードのサービスを受けることでゲットすることができます。

ライセンスやコストについては以下のものが必要です。

1.サービスを受けるサブスクリプションのアカウント

Matterport Professional plan $69/月

2.データをダウンロードするサービス

MatterPaK $49

APIを入手しよう

ダウンロードしたデータはそのままでは、Matterportが提供する手法でしか利用することができず、外部サービスからアクセスできるようするためAPIが必要なわけですが、すぐにダウンロードできるところにはなさそうです。

問い合わせを行ってみると現在はβ版だし、使ってくれる人のことも知りたいしメールしてね!みたいなスタンスのようです。

こちらもやや入手するためのやりとりが苦労しましたが、Google翻訳でなんとか対応できました。

APIを入手したい人は以下に直接メールするといいでしょう。

beta-platform@matterport.com

出力成功

そんな経緯でなんとかUnity上に弊社のモデルを出すことに成功。

こんな感じになりました。

これ、3Dモデルで動き回れるんです。すごいですよね。

あとは、この空間とMagic Leap 1を使い、いろいろなものを表示していくような感じで進めていきたいと思います。

みなさんも是非MRのテクノロジーを体験してみましょう!