要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

微软推动 OpenAI 转型营利公司：Sam Altman 或将获得更多股权

北京时间 2024 年 6 月 18 日 - 据可靠消息来源透露，微软正积极推动其投资的人工智能研究公司 OpenAI 转变为营利性公司。此举或将使 OpenAI 创始人兼首席执行官 Sam Altman 获得更多股权，并加速公司上市步伐。

OpenAI 是一家非营利性研究机构，致力于开发安全可控的人工智能技术。近年来，该公司凭借着 GPT-3 等一系列大型语言模型的突破性进展，在业界享誉盛名。2021 年，微软向 OpenAI 投资了 130 亿美元，获得了该公司部分股权和部分技术使用许可。

然而，近年来，OpenAI 的运营成本不断上升，其非营利性结构也使其难以吸引和留住顶尖人才。有分析人士认为，OpenAI 转型营利公司将能够更好地利用市场机制获取资金，并激励员工创造更大的商业价值。

Sam Altman 或将获得更多股权

消息人士称，OpenAI 董事会正在考虑的两种主要方案之一是成立一家营利性福利公司。在这种模式下，Altman 将能够获得更多的股权，并有可能在公司上市后获得巨额财富。

加速上市步伐

OpenAI 转型营利公司也可能加速其上市步伐。此前有消息称，OpenAI 最早可能在 2025 年进行 IPO。上市后，OpenAI 将能够获得更广泛的投资者支持，并进一步扩大其业务规模。

微软将加强对 OpenAI 的控制

微软是 OpenAI 的最大外部投资者，也是其主要的合作伙伴。OpenAI 转型营利公司后，微软将能够进一步加强对该公司的控制力。有分析人士认为，这可能会导致 OpenAI 的技术和产品更加倾向于微软的商业利益。

OpenAI 的未来

OpenAI 的转型将对整个人工智能行业产生深远影响。如果成功，OpenAI 将证明营利性公司也可以开发造福人类的人工智能技术。但同时也有人担心，OpenAI 的商业化可能会使其偏离初衷，最终危害人类社会。

以下是一些对该新闻的补充信息：

• OpenAI 的一些现有投资者表示，OpenAI 上市的压力并不大，因为该公司可以继续允许现有员工和其他人通过定期二级股发行出售其股票，类似于 SpaceX 和 Stripe 所做的。
• 多年来，一些微软高管一直主张将 OpenAI 转变为一家成熟的营利性公司。他们认为，这种结构可以让这家软件巨头通过董事会席位和股东投票权对 OpenAI 产生更大的影响力。
• OpenAI 的营利性部门此前曾承诺向微软和其他投资者支付其产生的任何利润的一定份额，最高限额将逐年增加。微软在偿还其资本投资之前将获得 OpenAI 75% 的利润，并在一定限额内获得 49% 的后续利润。
• 没有任何外部投资者在该非营利组织的八人董事会中拥有席位，尽管微软拥有无投票权的观察员席位。新的转变将取消股东利润上限。

总而言之，OpenAI 转型营利公司是一个重大的事件，其最终影响尚待观察。