QVAC SDK:添加设备端LoRA微调
QVAC SDK 0.9.0 支持设备端LoRA微调,实现LLM本地自定义而无需云端数据共享,Tether的Paolo Ardoino宣布10天内发布。
原文链接详细分析
Tether的QVAC SDK版本0.9.0将于约10天内发布,引入设备端LoRA微调,让开发者使用本地数据集自定义大型语言模型(LLM),无需任何云端传输。加载基础模型,指向训练数据,并生成轻量级LoRA适配器——全部在本地处理以实现即时推理。这种低秩适应比完整微调减少了计算需求,支持如品牌语气匹配或领域专业知识的专属应用。基于Tether的AI举措,包括过去的移动数据共享用于边缘计算,此更新与TAO和OpenVPP等项目的AI去中心化趋势一致,提升设备端LoRA微调、QVAC SDK更新和本地LLM自定义,为注重隐私的AI工具开发者提供助力。
Paolo Ardoino
@paoloardoinoPaolo Ardoino is the CEO of Tether (issuer of USDT), CTO of Bitfinex,