スイスのチューリッヒ工科大学からスピンオフしたスタートアップの「Kapanu」が、ディズニー・リサーチと協力して医療目的に使用する拡張現実(AR)エンジンを開発し、歯科目的に使用できるアプリケーションを開発しました。人の口くうを3Dスキャンし、歯をどのように治療・矯正するかのオプションをリアルタイムでユーザーの歯部分に反映することで、「目で見て確認しながら歯をどのように治療・矯正するか選ぶことができる」というアプリケーションになっています。

Smile, you’re in augmented reality dentistry | TechCrunch

https://techcrunch.com/2017/09/05/smile-youre-in-augmented-reality-dentistry/

KapanuのARエンジンを用いたアプリケーションの活用例を、「patient at home(患者)」「dentist in office(歯医者)」「technician in lab(技術者)」の3つの目線から追います。



まず、「技術者」側の立場から。



技術者は患者の口くうをスキャンして……



これを基に理想の歯をモデリングします。



続いて「患者」側。患者はアプリケーションを用いて自身の顔を映します。



画面を指でなぞると、技術者が作った「理想の歯」が患者の口くうに反映され、歯を治療するとどんな見た目になるのかが確認できるわけです。



さらに、「歯医者」は患者の要求から歯の細かいサイズや色などを調整します。



最終的にどのような歯にするかは、もちろんアプリケーションで確認しながら選べます。





治療前の歯の状態



3Dモデルで作った歯のモックアップを口元に反映するとこんな感じ。モックアップは複数種類用意され、理想の歯形を選べる模様。







口元に反映した歯のモデルは自由に横幅・縦幅・色を調整可能。





そしてリアルタイムで口元がどのように変化するのかをチェックします。





アプリケーションは自動顔分析技術を用いています。



顔の中心・目・口の位置が正確に認識されているのがわかります。



これをもとに口くうの歯茎および歯の位置を正確に認識し……





作成した3Dモデルを反映します。



歯の3DモデルはSTLデータを用い……



これに色をつけ……



理想の歯のシルエットを計画し……



最終的にどのような歯形になるかを決定します。



他にも、実際の歯の上に……



仮想の歯を重ねて……



これの色を変更することで「自分の歯をブリーチするとどんな見た目になるのか」を確認することも可能です。