关闭导航

包含标签"ai大模型训练"的内容

python用unsloth训练大模型,请求后显存常驻不卸载导致下次请求显存不够的问题解决!
sea 2025-9-20 39 0

第一次请求之后,python主进程在模型运算后被挂上了16g的显存占用,一直下不去,各种清缓存、垃圾回收、del模型的方法都试了,无效,最后改了个输出的参数,没问题了 输出的参数 use_cache

皖ICP备20007008号-2