新公司Safe Superintelligence诞生:前OpenAI大佬联手探索安全AI新纪元
各位科技迷们,大新闻来啦!Ilya Sutskever,这位OpenAI的联合创始人兼前首席科学家,联手前OpenAI工程师Daniel Levy和Y Combinator的投资者Daniel Gross,共同创办了一家名为Safe Superintelligence, Inc.(简称SSI)的新公司。从名字就能看出来,这公司主打的就是安全智能。
SSI在美国的帕洛阿尔托和特拉维夫都设有办公室,三位大佬在最近的一份公告中明确表示,他们希望通过同时开发安全性和功能,来推动人工智能(AI)的进步。他们还说:“我们专心做研究,不会受到那些繁琐的管理事务或产品周期的影响。我们的商业模式也确保了安全、保障和进步都不会被短期的商业压力所左右。”
苏茨克弗,也就是Sutskever,在5月的时候离开了OpenAI,据说还参与了解雇CEO山姆·奥特曼的行动。在奥特曼回归后,他辞去了董事会职务,在OpenAI里变得有点尴尬。而Daniel Levy则是苏茨克弗离开后不久也离开了OpenAI的研究人员之一。
苏茨克弗和Jan Leike之前还是OpenAI超级对齐团队的负责人,这个团队是去年7月成立的,专门研究如何“操控和控制那些比我们聪明得多的人工智能系统”。这种系统被称为通用人工智能(AGI)。OpenAI为了这个团队,还特意分配了20%的计算能力。不过,Leike也在5月离开了OpenAI,现在他是亚马逊支持的AI初创公司Anthropic团队的负责人。
而OpenAI这边呢,也在为他们的安全措施辩护,但在研究人员离职后,还是解散了超级对齐团队。
不仅仅是OpenAI的前员工们担心AI的未来,还有很多科技大佬也都有这种担忧。以太坊的联合创始人Vitalik Butertin就曾经说过AGI是“危险的”,但他也补充说,这种风险比其他一些风险要低。特斯拉的CEO埃隆·马斯克和苹果的联合创始人史蒂夫·沃兹尼亚克等2600多名科技领袖和研究人员,甚至呼吁暂停训练AI系统六个月,好让人类有时间思考它们所带来的“深远风险”。
现在SSI已经开始招聘工程师和研究人员了,看来他们是真的准备大干一场啊!让我们拭目以待,看看这家新公司能给我们带来什么样的惊喜吧!
SSI在美国的帕洛阿尔托和特拉维夫都设有办公室,三位大佬在最近的一份公告中明确表示,他们希望通过同时开发安全性和功能,来推动人工智能(AI)的进步。他们还说:“我们专心做研究,不会受到那些繁琐的管理事务或产品周期的影响。我们的商业模式也确保了安全、保障和进步都不会被短期的商业压力所左右。”
苏茨克弗,也就是Sutskever,在5月的时候离开了OpenAI,据说还参与了解雇CEO山姆·奥特曼的行动。在奥特曼回归后,他辞去了董事会职务,在OpenAI里变得有点尴尬。而Daniel Levy则是苏茨克弗离开后不久也离开了OpenAI的研究人员之一。
苏茨克弗和Jan Leike之前还是OpenAI超级对齐团队的负责人,这个团队是去年7月成立的,专门研究如何“操控和控制那些比我们聪明得多的人工智能系统”。这种系统被称为通用人工智能(AGI)。OpenAI为了这个团队,还特意分配了20%的计算能力。不过,Leike也在5月离开了OpenAI,现在他是亚马逊支持的AI初创公司Anthropic团队的负责人。
而OpenAI这边呢,也在为他们的安全措施辩护,但在研究人员离职后,还是解散了超级对齐团队。
不仅仅是OpenAI的前员工们担心AI的未来,还有很多科技大佬也都有这种担忧。以太坊的联合创始人Vitalik Butertin就曾经说过AGI是“危险的”,但他也补充说,这种风险比其他一些风险要低。特斯拉的CEO埃隆·马斯克和苹果的联合创始人史蒂夫·沃兹尼亚克等2600多名科技领袖和研究人员,甚至呼吁暂停训练AI系统六个月,好让人类有时间思考它们所带来的“深远风险”。
现在SSI已经开始招聘工程师和研究人员了,看来他们是真的准备大干一场啊!让我们拭目以待,看看这家新公司能给我们带来什么样的惊喜吧!