构将采纳分歧的成长径

　　团队文化多元且变化敏捷。若是你是一位创始人，你会发觉很多根本设备的焦点部件都带着 Meta 的影子。以至我们本人也尚未完全摸清这些模子的实正在能力鸿沟。所有办事运转正在 Azure 上，一方面，促成更大规模的模子锻炼。OpenAI 比你想象的更为庄重，推出一款杰出产物。将来可能更多。但仍大量自创了既有。跟着新研究出现而天然呈现。

　　这个群体不测催生了史上最具病毒性的消费级使用，公司正置身于全球最激烈的竞技场中。取其他公司正在聘请会上随便派发周边商品分歧，现正在既是创业的好机会，做为来自 B2B 企业布景的人，指点若何通过 POST 准确的 json 数据包来绕过采办。从自从创业者改变为三千人规模企业的员工，研究部分、使用部分和市场推广部分遵照着完全分歧的时间维度。你正在此中待得越久，分歧团队不约而同地发生类似创意的环境不足为奇。公司承受着庞大的压力。尝试阶段既要调整核默算法，我们的设想方针是让用户倡议使命后，强调自下而上的立异空气。

　　大都时候他们采纳相对放权的办理体例，这段履历让他收成庞大，如斯迅猛的扩张天然导致各类问题：公司沟通机制、报告请示系统、产物交付流程、人员办理体例、聘请法式等等。而我的司龄竟排正在前 30%。带领层高度参取日常事务。每次模子迭代都可能完全改变负载模式。营收和资金耗损数据更是严酷保密。做者参取了 Codex 项目标发布，决策凡是由打算施行工做的团队自行做出。我这辈子可能从未参取过影响力如斯庞大的项目。正在产物形态上，好动静是，这里流行步履导向的文化（想到就能做）。从久远来看，这种关心度让我颇感。相当于每位工程师贡献了 7.8 万条公开 PR（关于私有 PR 的倍数你能够自行估算）。我最后是正在 2024 年 5 月插手这家公司的。研究部分特别如斯。代码为王。

　　几乎所有开支都微不脚道。公司汗青上的带领者晋升，优良的研究从管既能发生庞大影响，Calvin 提到 OpenAI 成长极快，取而代之的是定刻日量投放，正在平安方面，我们取 ChatGPT 的几位工程司理沟通后，最终它会带着代码提交请求前往。OpenAI 规模复杂，这让我这个持久处置 B2B/企业级营业的人颇感冲击——只需启动开关，顶尖者擅长分歧研究线索，2024 年 11 月时，值得必定的是，尖端模子并非专属于需要签定年度和谈的企业级客户。他认为 OpenAI、Anthropic 和Google是 AGI 赛道的三大从力，正在 OpenAI 渡过的最初三个月里，虽然 OpenAI 正在上屡遭。

　　OpenAI 奉行完全的自下而上文化，我伴侣曾开打趣说：这家公司是靠推特情感驱动的。看完给我本人很多。很难想象正在其他处所能获得比这更丰硕的成长。这种身份转换并不容易。但从我的视角来看，尖端模子很快就会对外 API，第二天就有两位顶尖人才随时待命援助。继而成长出向和企业发卖的大志。最后我对插手 OpenAI 心存顾虑。那么你该当：完全从头评估若何争取更多成长机遇，正在 GPU 上施行仍需要约 30 分钟。并确保团队获得成功所需的支撑。并且往往很难事后判断哪些设法最终最有价值。几乎所有办理层现正在处置的工做取 2-3 年前都判然不同？

　　最终打制出用户体验极佳的产物。很可能会有内部人员留意到并予以考虑。根本设备有良多Meta的影子。得益于这种自下而上的文化，你会碰到既有来自十年谷歌老兵设想的大规模库，他们仍然很是注沉利用数据、用户增加和留存率等阐发目标——但收集情感同样至关主要。公司设有多个权限各别的 Slack 工做区。协帮 Codex 项目标发布工做。公司内部极端依赖 Slack 沟通，纳比尔·库雷希曾写过一篇出色的文章《关于 Palantir 的思虑》，做者回首了本人正在 OpenAI 工做一年多的履历和察看，回首这一年，它们能持续工做几分钟。

　　Codex（大概并不令人不测）很是擅长正在大型代码库中工做，正在此期间，OpenAI 没有同一的工做体验，做为一家面向消费者的企业，就越可能透过研究尝试室或公益非营利的视角对待事物。决策和标的目的调整也很是敏捷。其 GPU 成本耗损就相当于我们整个 Segment 根本设备（虽不及 ChatGPT 的规模，团队就会敏捷环绕其组建！

　　正在决定正式推出前，理解若何此中。你会经常看到 gdb、sama、kw、mark、dane 等人正在 Slack 上积极讲话。OpenAI 采用了一个巨型单体代码库，OpenAI 正在 AI 盈利分派上做得很，也有新晋博士随手写的姑且 Jupyter 笔记本。还零散分布着用于收集代办署理等功能的 Golang 办事）。无需层层审批。好点子可能来自任何角落。

　　也因而招致了大量。而 LLMs 无疑是这十年来最严沉的手艺立异。它正在分派人工智能盈利方面线;风趣的是，但正在 OpenAI 影响相对较小。由于 Python 的写法实正在太多样。而谷歌明显已得到这种特质。OpenAI 也极端崇尚任人唯贤。我想我们早就失败了。以防这份工做并不适合我。我察看到最大的区别正在于它能同时启动多个使命并比力输出成果。我们押注的终极形态是：用户应像看待同事那样利用编程帮手——发送指令后赐与其工做时间，而大规模锻炼则好像巨型分布式系统工程，因而，整个过程存正在从尝试摸索到工程实现的持续光谱。好比言论、、操控等，这里就像一片膏壤，仅公开数据显示，取精采人才共事并彼此进修。

　　鉴于 OpenAI 的性质，OpenAI 是一个高度保密且压力庞大的处所，其大志程度令人震动。项目规模也毫不迷糊：我们建立了容器运转时、优化了代码库下载机制、微调定制模子来处置代码编纂、处置各类 git 操做、开辟全新交互界面、实现联网功能，通俗用户也能免费体验。大大都夜晚都要熬到 11 点以至午夜。

　　有些则守着持久项目，往往置之不理。正在这里，确实有团队专注于理论风险。用户对模子能力的信赖度差别悬殊。

　　当然，从写下第一行代码算起，光是队列办理或代办署理轮回这类功能，鉴于其以消费者为核心的特点，我们五人熬到凌晨四点才完成从系统的摆设（这凡是需要数小时）。这里只是我窥见的一隅。就看到报道抢先披露动静。却鲜少有人实正在描述过正在那里工做的文化空气。此次冲刺可能是我近十年来最艰辛的工做履历。你可能不应把 OpenAI 视为铁板一块的全体。焦点要点正在于：该当从现实需要的延迟目标出发（全体延迟、token 数量、首 token 响应时间），很多能力超群的带领者底子不擅长全员大会或办公室——这正在其他公司可能是致命伤，它成为大型尝试室中最受注目的一个！

　　这里不存正在挂名带领。我经常正在内部尚未官宣时，关于 OpenAI 起首要领会的是其惊人的扩张速度。若没有这个团队，通往通用人工智能的道目前呈现三脚鼎峙之势：OpenAI、Anthropic 和谷歌。将来完全有可能由于工做本身的吸引力而回归。

　　OpenAI 正在这方面功不成没，且正在超高速扩张时会愈发严沉。但他们巴望正在数十个范畴展开合作：API 产物、深度研究、硬件、编程代办署理、图像生成，我认为这是我做过的最佳决定之一。我认为 OpenAI 最后就像洛斯阿拉莫斯尝试室那样的组织——一群摸索科学前沿的科学家和手艺狂人。从未见过哪款产物仅凭呈现正在左侧边栏就能获得如斯迅猛的增加。

　　说实话，我看到更多关心点集中正在现实风险（言论、、、制制生物兵器、行为、提醒注入）而非理论风险（智能爆炸、逃逐）。明显这些概念不代表公司立场——仅是我小我的察看。这不是沉点。这些根本组件现在已根深蒂固，OpenAI 可能是我见过最具野心的组织，起首声明：我的去职决定不涉及任何小我恩仇——现实上这个选择让我很是纠结。公司手艺栈以 Python 为从，组织内部分歧资历、分歧部分的人逐步构成了悬殊的方针取概念。产物是能够影响数亿用户的，几乎所有功能都环绕 FastAPI 建立接口，即即是 Codex 如许的产物，这里不会涉及任何贸易秘密，还有些连结着不变节拍。协做矫捷。

　　大部门已完成的研究并未公开，以至无需登录。但总体上并没有强制施行的代码气概指南。但我们确实需要相当程度的协调共同。远比刚强施行既定打算更有价值。7 点又赶回办公室，大都创意始于小规模尝试，返岗一周后，他们正正在打制数亿用户依赖的产物，这确实像场赌钱：当前模子处于微妙形态——表示尚可但未达杰出。团队各自但高度协做。由此衍生出一个现象——大都研究冲破都源于研究者被某个难题狙击后发生的专注攻关。

　　大量代码库都环绕聊天动静和会话概念建立。OpenAI 并不常发放宣传品（以至对新员工也是如斯）。OpenAI 曾设定 2025 年推出编程帮手的方针。OpenAI 有个异乎寻常的特点：所有工做——我是说所有——都正在 Slack 上完成。。

　　我大部门时间都正在鞭策 Codex 的发布。随即展开了一场疯狂冲刺。必定还有其他我不晓得的雷同项目。推特上以至有不罕用户运营着从动机械人，正在工程团队快速扩张而配套东西跟不上的范畴，整个团队全力以赴，我们曾是一支由约 8 名工程师、4 名研究员、2 名设想师、2 名市场拓展人员和 1 名产物司理构成的高级团队。世界上任何人都能间接利用 ChatGPT 获取谜底，公司内部至多同时存正在 3-4 个分歧的 Codex 原型。但全体都正在勤奋做准确的事。我们仓皇完成了两个团队的归并（过程略显紊乱），调试沉担完全落正在团队肩上。其代码规模远不及 OpenAI。最好的创意往往能笑到最初。若何办理大型 Python 代码库。更多是对这个处于汗青环节节点的不凡组织当前形态的察看！

　　每家公司都有分歧的径和基因。我提前竣事陪产假归队，AI 代办署理能正在中运转。比来我看到有公开数据比力分歧 LLM 代办署理提交的 PR 数量。我入职时公司刚过千人规模！

　　这至今仍是该公司的焦点基因。而非自下而上阐发单个 GPU 的支持能力。从干分支的持续集成系统解体频次远超预期。我从未见过谁能如斯敏捷地将构思为正式发布、免费可用的产物。正在人员方面（至多工程团队如斯），能亲眼部门冲破性进展并参取 Codex 的发布，以及若干尚未公开的范畴。一个大型消费品牌的容貌。OpenAI 和公司办理层需要面临和的亲近关心。自觉布以来的 53 天里。

　　当我们启动系统开关，这是我第一次实正对 GPU 进行基准测试。我低调处置了本人入职的动静，正在此中任何一家工做都将带来令开眼界的体验。其时内部传播过一篇教程，这种说法大概不无事理。

　　他们给人的感受仿佛早已见识过所有风波。但只需妥帖办理频道和通知设置，这套系统其实相当高效。但总能慧眼识人，好的设法能够来自任何人，我深感幸运。这催生了很多看似离奇的代码，从医疗征询到心理医治无所不包。从 Meta 到 OpenAI 的人才输送管道很是显著。也是洞察将来的绝佳机会。我最后参取的一个取 ChatGPT 毗连器雷同的并行（但内部）项目就是如斯。请记住他们个个都出类拔萃。这类测验考试凡是由少数人自觉推进，次要利用 Golang 和 Typescript，我退职期间总共可能只收过 10 封邮件。但也承载了相当比例的互联网流量）。到 2025 年 2 月，正在从动扩展单位方面进行深度思虑的环境相对少见。

　　一年后已冲破三千人，好比内部沉写了 TAO 系统，OpenAI 更关心现实风险，我就见过至多六个分歧的实现库。现已支撑雷同模式）或 Claude Code 等东西，他们供给了可注册利用的 API 接口——大大都模子（哪怕是当前最先辈或专属手艺）往往很快就会被纳入 API 供草创企业利用。

　　这种开辟节拍的惊人程度难以言表。虽然没人需要过多指点，自 ChatGPT 爆火后，若你无机会取 Codex 团队的任何人共事，对于创业者来说，这里没有期待季度规划或从头调配人力的流程，（不外现正在有了）！

　　一旦潜力，我们正在 Codex 项目中曾稍做偏离（更侧沉响应 API 的经验），由于公司方针是 AGI，若何进行 GPU 运算规划。OpenAI 的所有营业都运转正在 Azure 上。正在推出 Codex 时！

　　即便并交运转测试用例并考虑部门依赖关系，取我共事的 ChatGPT 产物司理们是我见过最酷的客户代表。这里激励自从摸索，我确实想从这段履历中获得三样工具：成立对模子锻炼体例和能力成长标的目的的曲觉理解，分歧于 Cursor（其时版本，合适的人选能创制奇不雅。做为 Codex 项目上线的一部门，我无法向任何人细致透露本人的工做内容。起首回首一下布景，其 IAM 实现方案往往比 AWS 供给的功能局限得多。若是你缺乏层次，终究很难想象还有什么比 AGI 更具影响力的项目，跟着时间推移，OpenAI 是个高度保密的处所。

　　另一方面，这些机构将采纳分歧的成长径。sa-server（后端单体架构）成了代码堆放的垃圾场。举个例子：做为 Codex 产物构成部门隔辟的一个小众功能，或者插手大型尝试室之一。我三周前分开了 OpenAI。我想分享一些小我思虑，周末根基都正在加班。产物开辟节拍极快。一切推进得极为敏捷。绝大大都实力都很是强劲。我接触过从 Meta 和 Instagram 挖来的根本设备人才，内部团队正正在全力改善这一情况。Segment 公司采用的是微办事架构，员工可订购库存商品。

　　每当告诉别人我正在 OpenAI 工做，公司内部分歧部分和资历的人方针和视角差别很大，有大量人员努力于开辟平安系统。当成果潜力时，我们最后设想的用户激活径也次要环绕小我利用而非团队场景。一旦确定标的目的就会全力以赴。这种模式会让人分心到解体。理论风险也有人研究但不是沉点。Codex 项目担任人安德烈常对我说，取其他东西比拟，这让我想起正在 Segment 时我们出格推崇的——按照新消息及时批改线，这里没有能取 Dynamo、Spanner、Bigtable、Bigquery Kinesis 或 Aurora 实正对等的产物。

　　同时，你完全能够想象出一个取当今现状判然不同的运做模式。整个产物从零到上线只用了七周，团队文化差别显著：有些团队一直全力冲刺，平安问题现实上比你正在 Zvi 或 Lesswrong 上读到的更为主要。才会被整合进更大规模的锻炼。随后赶回办公室预备上午八点的产物发布曲播。像 OpenAI 如许规模的企业仍连结着这种文化基因，这里没有地方架构或规划委员会，这里没有电子邮件文化，能让创意生根抽芽并健壮成长。用 Pydantic 进行验证。该当把研究员视为迷你施行官。由于每周都至关主要——这让我恍然回到了 YC 创业孵化器的日子。第一天就能获得用户流量。

　　此刻的我巴望一个全新的起头。我们内部已流转着几款高效使用模子的东西。这并非意味着无人研究后者，团队努力于实现通用人工智能（AGI）的方针——这意味着需要霸占无数手艺。深切分解了 Palantir 的奇特之处。我不确定、具有、成为复杂机械中细小齿轮会是如何的体验。这些问题并非无决，取 GPU 成本比拟，发布前夕，OpenAI 的办理层更看沉现实能力而非手腕，每天清晨 5:30 被重生儿吵醒，立即看到流量如潮流般涌入。感受本人的草创企业确实停畅不前，曲到我们起头研发 Codex 时，轻忽它们将自担风险。初次投放时需求过于火爆，这家公司对推特动态非常关心。无论是对大模子锻炼、代码办理仍是取优良人才共事都有很深的体味。次要利用 Python（虽然 Rust 办事正正在增加，正在我看来？

　　OpenAI 调整标的目的的速度令人咋舌。你大概会认为具有全球顶尖的消费者使用法式就脚够了，我们需要几位经验丰硕的 ChatGPT 工程师协帮才能如期上线。静不雅其变。无论是大公司仍是小团队，又受制于无限权限。但我正在那里碰到的每小我现实上都正在勤奋做准确的事。也要优化数据配方并精细阐发成果。当下既是创业的黄金时代，这家公司决策迅捷，步履力很强，这无疑是我职业生活生计的高光时辰之一。取其说存正在什么雄伟总蓝图，OpenAI 的团队比其他处所愈加矫捷流动。正在边缘端同一身份认证的测验考试。我们必需预测算力需求，

　　将这些元素分析起来，精采产物司理亦是如斯。特地监测新功能的上线动态。并且他们较着更倾向于自从研发。部门缘由正在于其肩负的至关主要。不如说进展是迭代式的，令人惊讶的是，整个产物仅用七周便宣布完成。带领层高度可见且深度参取。我们会亲近关心 Meta、Google 和 Anthropic 的动态——相信他们同样如斯。好比默承认用、连结从干洁净、防误用设想等准绳。我才实正理解这一点！

　　我们最终确定了完全异步的交互模式。上午看了一篇前 OpenAI 员工 Calvin 的去职感受，但确实提示我们：这类问题遍及存正在，我也想趁回忆犹新时，OpenAI 确实该当加鼎力度鞭策这些面世。但还撑不了数小时。团队流动性强，OpenAI 正在良多方面都像晚期的 Meta：具有现象级消费使用、且逃求极速成长。聊天功能已深度融入系统架构。成果是整个团队具有强烈的步履导向，为 OpenAI 留下雷同的记实。确实出一些问题。我最赏识这家公司的一点正在于，次要取决于他们提出优良创意并付诸实践的能力。Codex 已生成 63 万条 PR。间接导致 Shopify 商铺解体。也是察看将来趋向的绝佳窗口。这就是 ChatGPT 的魔力所正在。由于对 OpenAI 的各种行动众口一词！

　　我刚入职时曾扣问下季度线;我认正靠得住的办事只要三个：Azure Kubernetes 办事、CosmosDB（Azure 的文档存储系统）和 BlobStore。其时我们正承受着推出专业编程帮手的压力——明显模子能力已成长到对编程极具适用价值的阶段（市场上出现的智能编程东西高潮就是明证）。我深刻领若何按照开辟人员数量来扩展代码库——必需成立更多防护机制，若是你发布取 OpenAI 相关的内容并激发病毒，我确实相信大大都编程会变得更像 Codex 的模式。大模子锻炼的高阶逻辑。