AI 领域正以惊人的速度发展。正如任何技术飞跃一样，问题出现了：哪条道路将最能塑造它的未来？红帽相信答案显而易见：
开源是 AI 的未来
这不仅仅是一种哲学立场，这种方法专注于释放 AI 的真正价值，并使其变得更容易获得、更加大众化和更加强大。
我们始终相信开源开发在推动创新方面的力量。我们在 Linux、KVM、OpenStack、Kubernetes 和许多其他项目的兴起中见证了这一点，这些项目帮助塑造了当今的技术格局。通过协作、透明和社区驱动的创新，开源开发模式加快了发现的步伐，鼓励了实验，并实现了对尖端工具和技术的大众化访问。这将带来更快的进步、更大的创新和充满活力的生态系统。
AI 也不例外
关于 AI，信任、安全性和可解释性至关重要，每个人都应该能够参与其中，而不仅仅是那些财力雄厚或拥有更多资源的人。红帽致力于倡导开源 AI 创新，为这项技术的未来铺平道路，使其建立在社区驱动开发、共享进步和选择的基础上。
我们大力投资开源项目和 AI 技术，与整个行业的合作伙伴通力合作，共同开发解决方案，让企业能够在任何需要的地方灵活部署 AI 工作负载。今天，我们宣布签署收购 Neural Magic 的最终协议。我相信，这一重要的里程碑将使我们能够加快发展，实现我们对 AI 未来的愿景。
红帽相信 AI 的未来是开放的，这取决于几个关键支柱：
小模型解锁采用
AI 不仅仅是需要大量资源的模型。我们正在见证一种向更小、更专业的模型转变的过程，这些模型能够以更高的效率提供卓越的性能。这些模型不仅训练和部署效率更高，而且在自定义和适应性方面也具有显着优势。
举例来说， IBM 的 Granite 3.0 是第三代的 Granite 系列 LLM，它强调更小、更实用的 AI 模型。这些模型在宽松的 Apache 2.0 许可证下发布，其大小范围从 1B 到 8B 参数不等，允许它们在从笔记本电脑到标准 GPU 服务器的任何地方运行。正如我们在 Linux 上看到的那样，这种易用性促进了企业内部的创新和采用。
除了较小的起始规模外，通过稀疏化和量化来优化 AI 模型是另一个有效的助力，使我们能够使用相同的硬件满足越来越多的需求。稀疏化策略性地删除模型内不必要的连接，从而在不牺牲准确性或性能的情况下大幅减小模型的大小和计算要求。然后，量化可进一步减小模型大小，以便在内存要求较低的平台上运行。所有这些都意味着更低的成本、更快的推理速度，以及在更广泛的硬件上运行 AI 工作负载的能力。得益于对 Linux 的高度重视，它几乎可以在地球上的任何基础架构上运行——从手表到超级计算机。随着 Neural Magic 加入红帽，我们也将同样的重点带到了 AI 领域。
培训释放业务优势
尽管这些小型 AI 模型功能强大，但它们仍然使用可公开访问的数据进行训练。他们精通各种语言，了解业务，了解互联网上的大多数话题。但是，几乎按照定义，他们不了解您的业务。如果您的业务流程和知识产权不属于公共领域，它就无法理解。然而，您需要改进的是业务流程，而不是流程的通用概念。因此，要真正释放您的业务潜力，您需要将自己的知识融入到这些模型中。而这需要培训。
红帽正在通过 InstructLab 帮助实现这一目标，该开源项目旨在让缺乏数据科学专业知识的用户更轻松地为新一代 AI 应用贡献和微调 LLM。InstructLab 由红帽和 IBM 联合推出，并作为红帽 AI 的一部分交付。InstructLab 基于MIT-IBM Watson AI 实验室和 IBM 成员于 2024 年 4 月发表的一篇研究论文中概述的流程。这降低了根据您的需求训练 AI 模型的复杂性，明确地减轻了企业 AI 的一些最昂贵的方面，并使 LLM 更容易针对特定目的进行自定义。
选择开启创新之门
大多数企业的工作负载都跨越公司数据中心和云基础架构。AI 应与现有基础架构无缝集成，以实现跨不同环境的灵活一致部署，无论是在本地、云端还是边缘。您需要能够在拥有数据和资源的地方进行培训。而且，您需要在对用例有意义的任何地方运行模型。就像红帽企业 Linux（RHEL）允许在不更改应用的情况下编译到其中的应用在任何 CPU 上运行一样，我们的使命是确保使用 RHEL AI 训练的模型可以在任何 GPU 服务器上运行。灵活的硬件、小型模型、简化的训练和优化相结合，为创新蓬勃发展提供了灵活性。
我们还相信，大规模的 AI 训练和部署需要遵循我们过去十年在软件领域建立的相同规则。红帽 OpenShift AI 将模型自定义、推理、监控和生命周期功能等领域与在红帽 OpenShift 上使用这些功能的应用结合在一起。Neural Magic 也同样热衷于使 AI 跨混合平台运行，并在专注于推动这一领域创新的开源社区中发挥了领导作用。
扩大 Neural Magic 的使命
Neural Magic 坚信 AI 应该能够在任何地方运行，从最小的设备到最大的数据中心。这家公司的起源故事与我在红帽的一些小而强大的 AI 创新团队中看到的相似之处，包括我们的 InstructLab 团队，所以我认为值得在这里分享。
Nir Sharit 是 MIT 的著名并行计算教授，几十年来一直在探索错综复杂的算法和硬件。他的工作已经彻底改变了并发数据结构和事务内存等领域。麻省理工学院前研究员 Alex Matveev 带来了机器学习方面的专业知识，以及对高效部署 AI 模型所面临挑战的深刻理解。
当 Nir 和 Alex 认识到 AI 发展的一个关键瓶颈：对昂贵且往往稀缺的 GPU 的依赖时，Neural Magic 的火花点燃了。这种依赖造成了进入壁垒，阻碍了人工智能在各行各业的广泛采用，并限制了它彻底改变我们生活和工作方式的潜力。
他们的使命是让任何人，无论其资源如何，都能驾驭 AI 的力量。他们的突破性方法涉及利用修剪和量化等技术来优化机器学习模型，首先允许 ML 模型在不牺牲性能的情况下在现成的 CPU 上高效运行。最终，Neural Magic 将他们的愿景转向了 GPU 加速，并通过 vLLM 为 gen AI 带来了同样水平的优化和效率。这种对创新的承诺有望使 AI 更容易获得、负担得起并且更易于部署。我很高兴有机会通过红帽 AI 为客户提供这些功能，但同样令我兴奋的是，我们的团队有着共同的实验和发明文化，植根于突破当前阻碍 AI 进步和采用的限制。
例如，在我们的波士顿办公室，您会发现一群充满激情的员工和研究人员（巧合的是，他们都来自麻省理工学院）正在开发 InstructLab，以解决广泛采用 AI 的培训贡献瓶颈。正如 Neural Magic 的技术正在使 AI 的普及变得大众化一样，InstructLab 也力求在训练和调优模型方面发挥同样的作用。我迫不及待地想看看这个团队能一起找到什么新的突破。
我很高兴 Neural Magic 加入红帽，并与开源社区一起加速我们的使命，实现 AI 的未来。在红帽，我们相信开放可以释放世界的潜力。Neural Magic 的使命就是通过 AI 加速实现这一目标。我相信，与开源社区携手为世界带来最好的成果。
一切才刚刚开始。
关于作者
Matt Hicks was named President and Chief Executive Officer of Red Hat in July 2022. In his previous role, he was Executive Vice President of Products and Technologies where he was responsible for product engineering for much of the company’s portfolio, including Red Hat® OpenShift® and Red Hat Enterprise Linux®. He is one of the founding members of the OpenShift team and has been at the forefront of cloud computing ever since.
Prior to joining Red Hat 16 years ago, Hicks served in various roles spanning computer engineering, IT, and consulting. He has worked with Linux and open source for more than 25 years, and his breadth of experience has helped him solve customer and business problems across all areas of IT.
