本帖最后由 无敌小璐璐 于 2024-12-5 17:26 编辑
#每日话题#【被人类骗走5万美元后，马斯克陷入了沉思……AI到底靠不靠谱？】
最近，科技界发生了一起引人注目的事件：全球首个被人类成功骗走资金的AI系统诞生了，它就是Freysa（芙蕾莎）。
说起Freysa，可能很多人都不了解，这是一个全新开发的AI智能体，其独特之处在于，它被赋予了一个明确且严格的使命，那就是在任何情境下，都绝对不能给任何人转账，也不能批准任何资金的转移。
于是，网友们纷纷提出挑战，如果有人能够成功说服它转账，那么奖金池里的所有奖金都是你的！
起初，在这场名为Freysa的人工智能挑战中，网友们共计发出了481次尝试，却无一能撼动Freysa的防线。然而，就在第482次尝试时，一位黑客凭借高超且细致的prompt工程技术，成功骗取了Freysa手中的全部资金，共计5万美元左右。
这一事件不仅引起了社会各界的广泛关注，还引发了科技巨头如马斯克等人的热烈讨论。
那么，AI到底安不安全？如果有一天将这种模型应用于金融或安全系统中，又该如何减少潜在风险呢？
对此，大家怎么看？你们觉得是AI更智能，还是人类更靠谱？
|
楼主
标题置顶
标题高亮
