前OpenAI CTO另立门户，2/3 ChatGPT骨干被挖！北大校友Lilian Weng加盟

d0uLxD

离职近5个月，OpenAI前CTO Mira Murati终于官宣了！
新公司名叫「思考机器实验室」（Thinking Machines Lab），将人类价值观编码到AI模型中，让其更安全、更可靠。
Mira任CEO，OpenAI前后训练研究副总Barret Zoph任CTO，OpenAI联创John Schulman任首席科学家。
图片
思考机器实验室现共有29名员工，其中2/3均来自OpenAI，集结了最豪华的阵容。
其中，有我们熟知的，OpenAI前安全副总裁、北大校友翁荔（Lilian Weng）、前OpenAI多模态后训练负责人Alexander Kirillov等等。
图片
Karpathy对前CTO成立的新公司表示了祝贺，并称赞道「非常强大的团队，其中大部分成员直接参与并创造了ChatGPT这个奇迹」。
图片
对此，贾扬清表示，「这是我看到豪华的阵容」。
图片
OpenAI前员工，又多一家新去处

Thinking Machines Lab如何保证，自己的方法有别于竞争对手？
重点就在于，研究是由研究团队和产品团队共同设计。该公司表示，将通过共享代码、数据集和模型规范为AI对齐研究做出贡献。
「虽然当前的系统在编程和数学方面表现出色，但我们正在构建能够适应人类全部专业知识并实现更广泛应用的人工智能。」
也就是说，Murati创业公司的重点，就是将人类价值观编码到AI模型中，使其更安全、更可靠。
图片
截至一月份，Murati已经从竞争对手那里为她的公司招募了大约10名员工，其中包括来自Character AI和Google DeepMind以及她的老东家OpenAI的人员。
消息人士称，还会有更多OpenAI员工加入Murati的公司。此前，该公司一直在从投资者那里筹措风投资金。
与Thinking Machines Lab类似， Anthropic和Safe Superintelligence也都吸引了大批前 OpenAI研究人员，并筹集了数十亿美元的资金。
Murati在OpenAI工作了六年半，担任CTO，参与了ChatGPT和其他AI研究项目的开发。
2023年11月，在OpenAI董事会突然解雇奥特曼之后，她曾短暂担任临时CEO，这一举动在公司内部引发了动荡。在奥特曼重新担任CEO后，Murati继续担任CTO职务。
Murati是少数几位离开OpenAI后创办自己公司的前OpenAI高管之一。
前OpenAI首席科学家兼联合创始人Ilya Sutskever于2024年5月离开公司，并在离职后不久创办了Safe Superintelligence Inc.。
Dario和Daniela Amodei也曾在OpenAI工作，于2021年共同创办了 Anthropic。
「思考机器」实验室

Thinking Machines Lab是一个AI研究和产品公司。目标是让每个人都能获得知识和工具，使AI能够满足他们独特的需要和目标。
团队认为尽管AI的能力有了显著的进步，但在关键领域仍存在差距。科学界对前沿AI系统的理解落后于其快速发展的能力。
关于这些系统是如何训练的知识主要集中在顶级研究实验室中，这既限制了公众对AI的讨论，也限制了人们有效使用AI的能力。尽管这些系统具有巨大的潜力，但人们仍然难以将它们定制以满足自己的特定需求和价值观。
Thinking Machines Lab的建立正是为了弥合这些差距，以使AI系统更广泛地被理解、定制和普遍具备能力。
Thinking Machines Lab的团队包括科学家、工程师，以及诸如ChatGPT和Character.ai等最广泛使用的AI产品创建者，还包括Mistral等开源模型，以及PyTorch、OpenAI Gym、Fairseq和Segment Anything等流行的开源项目的开发者。
共享让科学更美好

· 科学进步是集体努力的成果
通过与更广泛的研究者和创造者社区合作，将更有效地推进人类对AI的理解。团队计划经常发布技术博客文章、论文和代码，来分享他们的工作。这样不仅能造福公众，还能改善自己的研究文化。
为每个人服务的AI

· 人机协作至关重要
团队不仅仅专注于打造完全自主的AI系统，更致力于构建能与人协作的多模态系统。
· 更灵活、适应性更强、更个性化的AI系统
在各个领域，AI都有着为人类提供帮助的巨大潜力。虽然当前系统在编程和数学方面表现出色，但团队正在构建的，是能适应人类各种专业领域并支持更广泛应用的AI。
夯实基础

· 模型智能是基石
除了人机协作和定制化外，模型的智能也是关键。为此，团队将会构建在科学和编程等领域处于前沿水平的模型。最终，最先进的模型将释放最具变革性的应用和效益，如实现新的科学发现和工程突破。
· 将基础设施质量作为首要任务
研究生产力至关重要，它在很大程度上取决于基础设施的可靠性、效率和易用性。团队的目标是正确构建长期可用的系统，以最大化生产力和安全性，而不是采取捷径。
· 先进的多模态能力
团队认为，多模态对实现更自然高效的交流、保留更多信息、更好地捕捉意图以及支持与现实环境更深入的整合至关重要。
实践出真知

· 研究和产品协同设计
产品能通过部署实现迭代学习，而优秀的产品和研究又能相互促进。产品让团队能够脚踏实地，去解决最有影响力的问题。
· 实证和迭代的AI安全方法
最有效的安全措施来自主动研究和谨慎的实际测试的结合。团队计划通过以下方式为AI安全做出贡献：

• 保持高安全标准——防止我们发布的模型被滥用，同时最大化用户的自由度；
  
• 与业界分享构建安全AI系统的最佳实践和方法；
  
• 通过分享代码、数据集和模型规范来加速外部对对齐问题的研究。
  

团队相信，为当前系统开发的方法，如有效的红队测试和部署后监控，将为未来更强大的系统提供宝贵的见解。
· 衡量真正重要的事物
团队将专注于理解系统如何在现实世界中创造真正的价值。最重要的突破往往来自重新思考自己的目标，而不仅仅是优化现有指标。
20名OpenAI员工加盟

坊间早有传闻，Mira Murati初创公司将会把大部分OpenAI员工收入麾下，如今约2/3的人均加入。
接下来，让我们一起盘点下都有哪些OpenAI大佬。

Mira Murati（前OpenAI CTO）
图片
Mira Murati于2018年加入OpenAI，并在2022年晋升为首席技术官。她在开发开创性AI模型方面，发挥了关键作用。其中就包括GPT-3，以及ChatGPT、DALL·E等。
Barret Zoph（前OpenAI后训练团队研究副总）
图片
Barret Zoph主要致力于对齐、工具使用、评估、ChatGPT、搜索、多模态等等。他曾于2022年加入OpenAI，任职两年。此前，曾在谷歌担任6年研究科学家。
John Schulman（OpenAI联合创始人）
图片
Schulman在研究生学业完成后，以创始人身份正式加入OpenAI，并在OpenAI供职9年。值得一提的是，这是Schulman除实习之外，唯一工作的公司。他曾负责领导了对齐团队，以及「后训练」团队——对部署在ChatGPT和OpenAI API中的模型进行微调。
Lilian Weng（前OpenAI安全研究副总裁）
图片
Lilian Weng曾是OpenAI安全系统负责人，主要从事机器学习、深度学习等研究 。Weng本科毕业于北京大学信息系统与计算机科学专业，曾前往香港大学进行短期交流，之后在印第安纳大学布鲁明顿（Indiana University Bloomington）分校获得博士学位。
Alexander Kirillov（前OpenAI多模态后训练负责人）
图片
在OpenAI，Alexander Kirillov带领团队致力于多模态模型的研发工作，推动模型不仅能够处理文本，还能同时理解和生成图像、音频等多种数据。此前，他在Meta参与并主导爆火的「Segment Anything」项目。
Mario Saltarelli （前OpenAI IT和安全部门负责人）
图片
Mario Saltarelli 2019年加盟OpenAI，任职IT主管5年多。
Andrew Tulloch  
图片
ML系统研究和工程，前在OpenAI和Meta任职。
Brydon Eastman
图片
曾在OpenAI从事后训练研究，专门研究人类和合成数据，模型对齐和RL。
Christian Gibson  
图片
曾任OpenAI基础设施工程师，专注于训练前沿模型所使用的超级计算机。
Ian O'Connell  
图片
基础设施工程师，曾就职于OpenAI、Netflix和Stripe。
Jacob Menick
图片
机器学习研究员，曾在OpenAI主导GPT-4o-mini项目，此前在DeepMind参与开发ChatGPT和深度生成模型。
Jonathan Lachman  
图片
运营主管，曾任OpenAI特别项目负责人和白宫国家安全预算主管。
Joshua Gross  
图片
在OpenAI负责产品和研究基础设施建设，参与打造ChatGPT的学习系统和GPU集群；此前在Meta负责产品基础设施。
Kyle Luther
图片
机器学习研究员，曾就职于OpenAI。
Luke Metz
图片
研究科学家和工程师，曾就职于OpenAI和Google Brain，ChatGPT共同创建者。
Nikki Sommer  
图片
前OpenAI人力资源业务合作副总裁，曾任Twitter人力资源业务合作总监。
Rowan Zellers  
图片
曾在OpenAI从事实时多模态后训练工作。
Sam Schoenholz  
图片
曾在OpenAI领导可靠扩展团队和GPT-4o优化工作。此前在Google Brain从事统计物理学与机器学习交叉领域的研究。
Yinghai Lu  
图片
机器学习系统工程师，曾在OpenAI和Meta主导多个推理系统项目。
Pia Santos  
运营高管，曾就职于OpenAI。
Randall Lin  
曾在OpenAI管理和维护ChatGPT的，并在X担任「推特算法」的技术联合负责人。
除此以外，还有多位来自谷歌DeepMind、Mistral AI、Meta、Character AI等科技公司的大佬纷纷加盟。
参考资料：
https://thinkingmachines.ai/