Numenta位于加利福尼亚州的红木城,由计算机先驱Jeff Hawkins和Donna Dubinsky创立。这家公司经过长达17年的研究,终于推出了NuPIC,这是一款基于神经科学的AI商业解决方案。NuPIC构建在20年的神经科学研究基础之上,它基于Hawkins在2021年的著作《A Thousand Brains》中提出的大脑和智能理论。
不同寻常的是,在与游戏领域的交叉中,Numenta与游戏先驱Will Wright(《模拟人生》的联合创作者)和Lauren Elliott(《卡门·圣地亚哥在哪里》的联合创作者)创立的Gallium Studios展开了合作。Gallium Studios正在开发名为Proxi的游戏,并选择Numenta作为其AI合作伙伴,原因在于他们在将AI纳入游戏中面临的基本挑战,同时又要优先考虑用户的信任和隐私。
NuPIC:AI处理效率的革命
NuPIC是一种软件平台,利用Numenta独特的架构、数据结构和算法,可以在CPU上高效部署大型语言模型(LLMs)。这一突破性平台在AI领域标志着重要的里程碑,它提供了颠覆性的性能、大幅度的成本节省以及至关重要的隐私、安全和控制功能。重要的是,NuPIC旨在面向开发人员和软件工程师,无需深度学习专业知识。
大多数LLMs依赖于图形处理单元(GPU),这也使得图形芯片制造商英伟达成为多年来AI领域的强大力量。但Numenta选择与英特尔合作,因为CPU具有比GPU更灵活的编程模型,这有助于将LLMs的处理任务大部分转移到CPU上,从而降低了成本。
NuPIC的CEO Subutai Ahmad在接受VentureBeat采访时表示:“我们意识到我们正处于AI混乱的浪潮中。每个人都想获得好处,但并不是每个人都知道从何处开始,或如何实现他们需要将LLMs投入生产所需的性能。唯一基于千脑理论的平台,NuPIC提供的性能结果将CPU提升为运行LLMs的理想平台。通过我们优化的推理服务器、模型库和培训模块,您可以选择适合您独特业务需求的模型,根据您的数据进行微调,并在CPU上以极高的吞吐量和低延迟运行它们,速度比Nvidia A100 GPU快得多,而且安全性和隐私性极高。”
此外,NuPIC确保了企业的安全性和隐私。NuPIC的特点之一是使用CPU进行一致的高吞吐量和低延迟推理,无需复杂和昂贵的GPU基础设施。与其他解决方案不同,需要将内部数据发送到外部软件即服务(SaaS)服务的情况,NuPIC完全在客户的基础设施内运行,可以在本地或通过主要云服务提供商的私有云上运行。这种方法确保了对数据和模型的完全控制,确保一致的行为,降低成本,增强数据合规性。
NuPIC的多功能性和性能
NuPIC的灵活模型库还提供了一系列生产就绪的模型,包括BERT和GPT。客户可以优化精度或速度,并创建适合其需求的定制模型版本。
NuPIC还赋予了客户快速原型化基于LLMs的解决方案的能力,无需广泛的机器学习专业知识。在AI专家团队的支持下,NuPIC促进了LLMs的无缝部署。作为Docker容器交付,客户可以利用标准的MLOps工具和流程来迭代和扩展其AI解决方案。
这些独特的功能带来了显著的商业优势。NuPIC使客户能够在易于访问的CPU上利用LLMs的强大功能,实现了10至100倍的吞吐量和延迟改进,可以在英特尔第四代至强可扩展处理器上
运行。
此外,NuPIC还使组织能够完全掌控其数据,确保隐私和建立信任。
未来前景和结论
Numenta目前仅向少数企业客户提供对NuPIC的访问。该公司拥有约20名员工,并且一直以来都是通过内部和外部资金进行私人融资的。
这一技术的研发历程漫长而充满挑战。Jeff Hawkins自2005年以来一直与Subutai Ahmad合作开展技术研究。最初的想法是要理解大脑及其高效的运作方式,然后在计算机科学中模仿这些能力。然而,许多人都曾尝试过,如IBM的基于大脑的研究。但Hawkins提出了一种独特的理论。
从最初的《On Intelligence》一书开始,Hawkins指出大脑的某些部分,如记忆,与一种层次结构有关,特别是时间层次结构。他指出,大脑可以记住发生在时间序列中的事情,这解释了为什么你可以轻松记住音乐。大脑就像一台预测机器,从过去吸取教训,对未来进行猜测。
如今,Hawkins认为你的大脑中可能有10万个大脑,或称为皮层柱,它们在整个大脑系统内独立运行,就像在一个更大的系统内运行的独立大脑。不同的皮层柱协同工作,就像你思考一样。
NuPIC作为一款软件应用程序存在,可以在任何兼容英特尔CPU的设备上运行。这意味着它可以在英特尔和AMD的CPU上运行,但目前还不能在基于Arm架构的CPU上运行。
总的来说,Numenta的NuPIC代表了人工智能处理的一次巨大突破。通过在CPU上运行AI模型,它降低了成本,提高了效率,同时确保了安全性和隐私性。这一创新将极大地推动AI的发展,为企业和开发人员提供了更多的灵活性和控制权。随着AI领域的不断发展,我们可以期待看到更多类似的技术和解决方案,为数字化未来打开新的可能性。
https://www.numenta.com/
本文来自ChatGPT3.5