今天早些时候,我们报道了Meta公司宣布并推出Llama 2的消息,Llama 2是其用于生成式人工智能应用程序和服务的大型语言模型的下一代版本。现在,有消息称Meta与高通公司(Qualcomm)建立了新的合作关系,Llama 2将可以在采用高通骁龙芯片的移动设备上使用。
cQ/5qg
C\3y {s 高通公司在一份新闻稿中表示,双方合作的目的是让这些终端能够运行基于Llama 2的应用程序和服务,而无需像当前其他生成式人工智能产品(如ChatGPT和Bing Chat)那样连接到云服务。
1_o],?Q #D<C )Q 高通公司表示:
nc~F_i= hLI`If/+K 在智能手机、个人电脑、VR/AR头显和车辆等终端上运行Llama 2等生成式AI模型的能力使开发人员能够节省云成本,并为用户提供更私密、更可靠和个性化的体验。
m`v2: S} = 6tHsN23 在终端上运行像Llama 2这样的大型语言模型有很多优势。与使用基于云的LLM相比,它的成本效益更高,性能也更好,因为它无需连接到在线服务。同时,设备上的LLM可以提供更加个性化的人工智能服务。与连接云服务器相比,它还可以更加安全和私密。
r#+d&.| E%+Dl= 目前,高通公司计划于2024年开始在使用骁龙芯片的设备上支持基于Llama 2的人工智能服务。至于它是否需要最新一代的高通芯片才能工作,或者这种支持能否向后兼容当前的骁龙芯片,目前还没有任何消息。
L;
T8?+ x CKtB-a Meta公司称,Llama 2的训练数据比第一代Llama LLM多40%。该公司已经宣布与微软合作,在微软的Azure服务上向商业和研究用户免费提供Llama 2,并提供在WindowsPC上本地下载和运行LLM的方法。
Fw/6?:C}O6