$("body").append("")

Meta与高通合作,在手机上运行大型AI模型

452次阅读
没有评论

Meta与高通合作,在手机上运行大型AI模型

Meta与高通宣布合作,从2024年开始,使其社交网络公司的新型大型语言模型Llama 2能够在高通芯片上的手机和电脑上运行。迄今为止,大型语言模型主要在大型服务器农场上运行,使用英伟达的图形处理器,这是由于这项技术对计算能力和数据的巨大需求,这也推动了英伟达股票的上涨,今年已经上涨了超过220%。但是,那些为手机和电脑制造领先芯片的公司,如高通,很大程度上错过了人工智能的热潮。高通的股票在2023年迄今为止上涨约10%,落后于纳斯达克指数的36%的涨幅。

高通与Meta的合作旨在将高通的处理器定位为适用于人工智能的“边缘”设备,而不是“云端”。如果大型语言模型可以在手机上运行,而不是在大型数据中心中,将有助于降低运行人工智能模型的成本,并可能导致更好、更快的语音助手和其他应用程序的出现。高通的芯片包括“张量处理器单元”(TPU),非常适合进行人工智能模型所需的计算。然而,与装备尖端GPU的数据中心相比,移动设备上可用的处理能力相形见绌。

Meta的Llama 2模型的发布具有重要意义,因为Meta公开了其“权重”,这是一组帮助管理特定AI模型工作的数字。这样做将允许研究人员甚至商业企业在自己的计算机上使用AI模型,而无需请求许可或支付费用。其他值得注意的大型语言模型,如OpenAI的GPT-4和Google的Bard,都是封闭源代码的,其权重是严格保密的。

通过与高通的合作,Meta的Llama 2模型将在高通设备上可用,这有助于实现智能虚拟助手等应用程序。Meta的Llama 2可以执行与ChatGPT等类似的许多功能,但它可以打包成更小的程序,使其能够在手机上运行。

总的来说,Meta与高通的合作将推动大型AI模型在移动设备上的应用。随着AI技术的不断发展和创新,我们可以期待更强大、更智能的语音助手和其他人工智能应用在手机上的出现。作为数字化软件公司,我们将继续关注和研究这一领域的进展,以便为客户提供最先进和高效的数字化和AI解决方案。

正文完