そこで、Pinterestが社内で用いている機械学習モデルサーバー「Scorpion Model Server(SMS)」にNVIDIA GPUを採用した。NVIDIAが提供する「CUDA Graphs」や「cuCollection」機能を活用し、オーバーヘッドを削減して推論効率を約100倍向上。エンゲージメントはなんと16%も高まったという。
さらに技術的に踏み込んだ内容がPinterestのブログ「GPU-accelerated ML Inference at Pinterest」で明らかにされているほか、NVIDIAの公式ブログ「Pinterest Boosts Home Feed Engagement 16% With Switch to GPU Acceleration of Recommenders」で紹介されている。また、9月19日から始まるNVIDIAの発表会「NVIDIA GTC」でもPinterestのエンジニアが登壇する予定だ。