わずか5MBのAIモデルをウェブサイトに組み込んでユーザーにローカル操作させられる「ternlight」が登場、ウェブサイトにAIを活用した検索機能などを追加可能

「ternlight」はウェブサイトに軽量な埋め込みモデルを組み込めるパッケージです。埋め込みモデルのサイズは5〜7MBで、ウェブサイト訪問者は自分のCPUで埋め込みモデルを実行することができます。GitHub - soycaporal/ternlight · GitHubhttps://github.com/soycaporal/ternlightternlightは小型の埋め込みモデル「all-MiniLM-L6-v2 」を蒸留した超小型モデルをウェブサイトに含めることができるパッケージです。「@ternlight