要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

WWDC 2024：平淡开场，AI成压轴亮点

北京时间2024年6月11日讯，一年一度的苹果全球开发者大会（WWDC）于今日在美国加州库比蒂诺总部举行。苹果公司首席软件工程师Craig Federighi主持了本次大会，发布了iOS 17、iPadOS 17、macOS 14、watchOS 10以及tvOS 17等新版本操作系统，以及M2系列全新芯片。

总体而言，今年的WWDC前半场显得较为平淡，主要更新集中在系统细节和功能完善方面，缺乏重磅级创新亮点。然而，大会的最后，由苹果人工智能副总裁John Giannandrea介绍的AI技术更新，却为大会增添了不少光彩。

AI成最大亮点

在AI方面，苹果发布了多项新技术和更新，包括：

• 个性化语音助手Siri进一步升级，支持更多功能和更自然的交互方式。
• 全新的神经网络引擎Metal Neuro，大幅提升机器学习性能。
• 全新的AI框架Core ML 4，支持更多机器学习模型和应用场景。
• 全新的AI芯片A17 Bionic，专门为机器学习任务设计。

这些AI技术的更新，标志着苹果在AI领域取得了重大进展，并将为苹果未来的产品和服务带来更多可能性。

分析：苹果AI野心勃勃

从此次WWDC的AI展示来看，苹果在AI领域有着非常大的野心。苹果希望将AI技术应用于其所有产品和服务中，并以此为核心竞争力之一。

未来展望：AI将重塑苹果生态

随着AI技术的不断发展，苹果未来很可能会将AI应用于更多领域，例如自动驾驶、虚拟现实、增强现实等。AI有望重塑苹果的整个产品生态，并将苹果带入一个全新的时代。

除了上述内容之外，文章还可以加入以下内容：

• 对AI技术发展趋势的分析和预测。
• 对苹果AI技术未来应用的展望。
• 专家学者对苹果AI技术的看法和评价。

以下是一些可以参考的新闻来源：

• 新浪科技
• 腾讯科技
• 网易科技
• 凤凰科技
• 36氪

希望以上信息对您有所帮助。