要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

安俊英出狱后重回Mnet引众怒 CJENM道歉难平舆论风波

韩国首尔 - 2023年4月3日，据韩媒报道，因涉嫌参与《Produce 101》系列节目投票造假而入狱的安俊英PD，在服刑1年零5个月后出狱，并于近日重回Mnet音乐事业部任职。消息一出，立即引发韩国民众的强烈谴责。

安俊英曾是Mnet电视台的著名PD，一手策划了《Produce 101》系列选秀节目。该系列节目以其独特的投票机制和高人气偶像吸引了大量粉丝，但在2019年，却被曝出投票数据造假，最终导致两名练习生被淘汰，两名练习生出道。

安俊英也因此被判刑2年，并被追缴3700多万韩元。然而，在服刑不到两年的时间里，他就重回Mnet，这一举动令许多韩国民众感到愤怒。

CJENM道歉难平舆论

针对安俊英重回Mnet引发的争议，Mnet所属的CJENM公司于4月5日发布了道歉声明。声明中称，公司聘用安俊英PD是“不可原谅的错误决定”，并表示将尽快解决相关问题，防止类似事件再次发生。

然而，CJENM的道歉并没有平息舆论风波。许多韩国民众认为，CJENM的道歉过于轻描淡写，并没有诚意。他们呼吁CJENM开除安俊英，并对所有参与造假的相关人员进行彻查。

事件引发对选秀节目公平性的质疑

安俊英出狱后重回Mnet事件，也引发了韩国民众对选秀节目公平性的质疑。许多韩国民众认为，韩国的选秀节目普遍存在着投票造假、黑幕操作等问题，已经失去了公平性和公正性。

有韩国媒体评论称，安俊英事件是韩国选秀节目乱象的缩影，也反映了韩国娱乐圈的深层次问题。韩国相关部门应对此事件进行深入调查，并采取有效措施整治韩国娱乐圈的不良风气。

以下是一些对该事件的分析和看法：

• 安俊英出狱后重回Mnet，反映了Mnet电视台内部管理混乱、缺乏对艺人和工作人员的严格监督。
• CJENM的道歉态度敷衍，未能取得韩国民众的谅解。
• 安俊英事件引发了韩国民众对选秀节目公平性的质疑，韩国相关部门应对此事件进行深入调查，并采取有效措施整治韩国娱乐圈的不良风气。

该事件也给其他娱乐公司和选秀节目制作方敲响了警钟，他们应引以为戒，严格遵守相关规定，确保节目的公平性和公正性。