前OpenAI CTO 成立思维机器实验室

1sTApWF9wgC

前OpenAI首席技术官Mira Murati宣布成立新的思维机器实验室（Thinking Machines Lab）。
主要有三个方向：帮助人们调整AI系统以满足他们的具体需求；开发坚实的基础以构建更强大的AI系统；培养开放科学的文化，帮助整个领域理解和改进这些系统。

以下是Thinking Machines Lab的官网介绍：
思维机器实验室（Thinking Machines Lab）是一家人工智能研究与产品公司。我们致力于构建一个未来，让每个人都能获取知识和工具，使人工智能为他们独特的需求和目标服务。
尽管人工智能能力取得了巨大进步，但关键差距依然存在。科学界对前沿人工智能系统的理解滞后于其快速发展的能力。关于这些系统如何训练的知识集中在顶尖研究实验室中，这既限制了公众对人工智能的讨论，也限制了人们有效使用人工智能的能力。

尽管这些系统潜力巨大，但人们仍然难以根据自己的特定需求和价值观对其进行定制。为了弥合这些差距，我们创立了思维机器实验室，以使人工智能系统更易于被广泛理解、定制，并具备更强的通用性。
我们是科学家、工程师和创造者，参与打造了一些应用极为广泛的人工智能产品，包括 ChatGPT 和 Character.ai，以及像 Mistral 这样的开放权重模型，还有 PyTorch、OpenAI Gym、Fairseq 和Segment Anything 等广受欢迎的开源项目 。
共享推动科学进步
科学进步是一项集体事业。我们相信，通过与更广泛的研究人员和创造者群体合作，我们将最有效地推动人类对人工智能的理解。我们计划定期发布技术博客文章、论文和代码。我们认为分享我们的工作不仅会让公众受益，还能改善我们自己的研究文化。
为每个人服务的人工智能
强调人机协作：我们没有把重点完全放在打造完全自主的人工智能系统上，而是热衷于构建能与人们协同工作的多模态系统。
更灵活、适应性更强且个性化的人工智能系统：我们看到人工智能在各个工作领域都有巨大的应用潜力。虽然当前的系统在编程和数学方面表现出色，但我们正在开发的人工智能能够适应人类的各种专业知识，并支持更广泛的应用场景。
坚实的基础至关重要
模型智能是基石：除了强调人机协作和定制化之外，模型智能也至关重要。我们正在科学和编程等领域开发处于能力前沿的模型。最终，最先进的模型将开启最具变革性的应用和益处，比如实现新的科学发现和工程突破。
基础设施质量是首要任务：研究效率至关重要，它在很大程度上取决于基础设施的可靠性、效率和易用性。我们的目标是为长远发展正确地构建各项事物，以实现效率和安全性的最大化，而不是走捷径。

先进的多模态能力：我们认为多模态对于实现更自然、高效的交流，保留更多信息，更好地捕捉意图，以及支持更深入地融入现实世界环境至关重要。
在实践中学习
研究与产品协同设计：产品通过部署实现迭代学习，而优秀的产品和研究相互促进。产品让我们立足现实，并引导我们解决最具影响力的问题。
以实证和迭代的方式保障人工智能安全：最有效的安全措施来自积极的研究和谨慎的实际测试相结合。
我们计划通过以下方式为人工智能安全做出贡献：
（1）保持较高的安全标准，在防止我们发布的模型被滥用的同时，最大限度地保障用户自由；
（2）与行业分享构建安全人工智能系统的最佳实践和方法；
（3）通过分享代码、数据集和模型规格，加速外部关于模型对齐的研究。我们相信，为当今系统开发的方法，如有效的红队测试和部署后监测，能提供有价值的见解，并将适用于未来更强大的系统。
衡量真正重要的指标：我们将专注于理解我们的系统如何在现实世界中创造真正的价值。最重要的突破往往来自对目标的重新思考，而不仅仅是优化现有指标。