
图片来源:YouTube
一波所谓的人工智能新兴实验室热潮仍在持续升温,这些机构致力于突破他们认为OpenAI 等现有巨头将会错过的技术前沿。
由OpenAI 前高级研究员杰里·特沃雷克近期创立的 AI 初创公司 Core Automation,正寻求筹集 5 亿至 10 亿美元资金,一位与该公司有过交流的人士透露。
他想开发那些能通过大型科技公司如OpenAI 和 Anthropic 尚未重点投入的方法来构建的 AI 模型,并创建能实时从现实经验中学习的 AI 模型——这种被称为持续学习的能力是当前模型所不具备的,这位知情人士在向潜在投资者展示的物料中如此表示。
这位研究人员对新公司的计划还处于早期阶段,他的融资目标和产品方向可能会发生变更。
Tworek 代表了规模虽小但正在增长的 AI 研究者群体,他们认为该领域需要彻底革新 ,因为当前最流行的模型开发技术似乎不太可能开发出能在生物学、药品和其他领域实现重大突破的高级 AI,同时还能避免犯下低级错误。
展开剩余68%Tworek 本月早些时候离开 OpenAI,以"尝试和探索那些在 OpenAI 难以进行的研究类型",他在 X 上的一篇帖子中写道。分享给投资者的资料显示,Core Automation 打算使用大型神经网络——这是大多数前沿 AI 模型基础的类大脑数学架构。但该公司将重新思考这些模型的开发方式,包括作为神经网络标准培训方法的梯度下降法在内的诸多环节。
特沃雷克希望开发出需要更少数据和更少服务器来进行培训的模型,这位知情人士表示。据相关物料透露,该公司打算通过设计超越当前主流模型基础架构——变形器的新模型架构来实现这一目标。此外,特沃雷克还希望将模型培训的不同步骤整合为一个统一的过程。
通过探索持续学习技术,核心自动化公司似乎与安全超级智能实验室采取了相似的发展路径——后者是由前 OpenAI 首席科学家伊利亚·苏茨克沃联合创办的另一家人工智能实验室。苏茨克沃同样表示,他致力于开发能够从现实世界部署中持续学习的模型。
需要明确的是,OpenAI 和 Anthropic 等主流人工智能开发商同样对持续学习技术表现出浓厚兴趣。部分人工智能研究人员认为,他们可以通过调整基于变形器的 AI 模型,使其在不彻底重构架构的情况下就能展现出持续学习的特性。
Tworek 雄心勃勃的筹资目标凸显了投资者对 neolabs 持续的投资兴趣,尽管这些实验室往往缺乏营收或产品,其中部分项目近几个月已筹集数亿美元资金。
这些探索人工智能新路径的初创公司包括本月以48 亿美元估值获得 4.8 亿美元种子轮融资的 Humans&(投资方包括 SV Angel、英伟达和杰夫·贝索斯),以及近期正洽谈以超 500 亿美元估值筹集 40-50 亿美元的 Mira Murati 旗下 Thinking Machines Lab。不过后者去年已发布模型定制产品并产生部分营收。
2019 年加入 OpenAI 的 Tworek 设想让该初创公司的研究科学家通过单一算法开发名为 Ceres 的模型(名称来源于矮行星与罗马女神)。这与大型 AI 开发商的培训方式形成变更:后者通常采用分阶段模式——先在互联网海量数据上进行预培训,再针对编程、药品和数学等领域的精选数据开展中期与后期培训。
在开发出这个Tworek 旨在比最先进模型少用 100 倍数据训练而成的模型之后,该公司将开发一款 AI 智能体来自动化开发其产品。他设想公司的未来产品将首先应用于工业自动化,最终打造“自我复制工厂”,并可能制造生物机器来自动生成定制设计——甚至改造行星,据相关资料表示。
在OpenAI,Tworek 曾担任研究副总裁,领导公司在强化学习领域的工作。强化学习是一种流行的模型训练技术,通过奖励模型完成特定目标并惩罚其他行为来进行训练。他还是该公司推理模型、编码工具和智能体开发的关键贡献者。
参考资料:
https://www.theinformation.com/articles/ex-openai-researchers-startup-targets-1-billion-funding-develop-new-type-ai?rc=jn0pp4
发布于:福建省诚利和提示:文章来自网络,不代表本站观点。