IBMリサーチがカーネギーメロン大学やプリンストン大学、イリノイ大学と共同で、オープンソースの大規模言語モデル「Bamba」を構築し、そのバージョン2をオープンソースとしてリリースしました。Meet Bamba, IBM’s new attention-state space model - IBM Researchhttps://research.ibm.com/blog/bamba-ssm-transformer-modelBambaは97.8億のパラメーターを持つ大規模言語モデルで、ベースとなるアーキテクチャが一般的な大規模言