今日，AI行业盛会“2024北京智源大会”在中关村展示中心开幕。在现场在全体大会中的“尖峰对话：通往AGI之路”环节，百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能CEO李大海展开对谈。
在对谈中，杨植麟谈到，AI安全非常重要，它可能不一定是当前最急迫，但是一个需要我们提前去准备的事情。因为随着模型不断优化和Scaling Law的发展，每N个月算力乘十倍，智能水平也得到提升，这是一个逐渐适应的过程。因此，AI安全不一定是当前最大的矛盾或者最紧急的事情，但它肯定是长期储备。
杨植麟认为，在这之中最重要的是两个方面，首先是模型会因为用户本身有些恶意意图，通过prompt让模型去做一些本来不应该做的事情。其次是模型本身是否有自己的motivation，这与训练方式相关，包括能否在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。