ChatGPTや大規模言語モデル(LLM)から隠された情報や一部機能を盗み出す攻撃手法が登場

OpenAIのチャットAIであるChatGPTや、Googleの開発する大規模言語モデル(LLM)のPaLM-2などから、機密情報や一部機能を盗み出すことができる「モデル窃盗攻撃(model-stealing attack)」を、AI研究者が発表しました。[2403.06634] Stealing Part of a Production Language Modelhttps://arxiv.org/abs/2403.06634Google announces Stealing Part of a Production Language ModelWe introduce the first model-stealing attack that e