对抗攻击

医疗问答内测全绿，真实用户用绕过 prompt 把模型带偏，产品经理当场脸绿。

「模型在测试集上 92%，上线应该稳了吧？

AI鲁棒性：先看卡点