Meta
《The Verge》报导,为了使AI成为公司发展核心,Meta近日大举改组旗下AI研发部门Facebook AI Research(FAIR)与产品部门整并,并已开始训练下一代大型语言模型Llama 3,也可能将之开源。
报导指出,Meta本周改组FAIR部门,将其与产品进一步整合,以便AI成为驱动Meta产品开发的核心引擎。在此变动中,FAIR将从Reality Labs变成产品部门的一部份,主管Joelle Pineau及首席科学家Yann LeCun也将由技术长Andrew Bosworth辖下改向产品主管Chris Cox报告。
《The Verge》取得Cox的内部员工公开信指出,这次变动将使AI研究成为公司及产品的关键元素,将FAIR及生成式AI(GenAI)整合可让公司有一致化的AI研究布局及蓝图,而Llama也将成为Meta公司向AGI(artificial general intelligence,通用人工智慧)前进的主要载具,以及更具效率的开发流程,以便研发通过法律、政策及品牌严格检视的AI技术。
这次改组也反映Meta执行长祖克柏(Mark Zuckerberg)接受《The Verge》专访时,表达公司对AI更大的企图及投资意愿。祖克柏表示为了开发出想要的产品,必须建立AGI。AGI是指在各种领域和任务中,表现出与人类相媲美甚至超越人类的智慧行为的AI系统。他指出,Meta的企图是打造优异(stat of art),最终成为业界第一的模型。
为此,祖克柏透露,Meta正在开发下一代LLM Llama 3,这模型未来将会能自己撰写程式码,也将具有进阶推理及规画的能力。他并承诺,未来也会考虑开源Llama 3。
为了训练AI,Meta将继续采购GPU打造基础架构。祖克柏指出,计画今年底前公司将有超过34万颗Nvidia H100 GPU,而结合其他晶片,Meta预计将达到60万H100的GPU运算容量。
OpenAI执行长Sam Altman多次表达实现AGI的企图,而Google也有类似计画。Google去年4月整并Alphabet子公司DeepMind及Google研究院Google Brain部门的AI研发人力,成为新事业群Google DeepMind。新DeepMind计画包括开发具进阶推理的Google AI模型,如Gemini Ultra,也会是负责任的AI,能遵循AI伦理及确保人类福祉。