AI之遥
未读
安卓手机运行大模型指北
芯片的性能 有些小伙伴想在手机上运行大模型,随着手机端芯片性能越来越强,加上蒸馏小模型的表现越来越好,在手机上运行小参数量的小模型也变得有用起来。 reddit上有人整理了苹果和高通芯片GPU&NPU的算力:NPU information for Apple and Snapdragon 对数值进行