发新帖我要提问
返回列表
打印

周鸿祎：ChatGPT可能两三年内就会产生自我意识威胁人类

[复制链接]
547|29
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
jameswangchip|  楼主 | 2023-2-23 22:18 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
gpt, 周鸿祎, gp
周鸿祎：ChatGPT可能两三年内就会产生自我意识威胁人类

使用特权

评论回复 赏
评论
zlf1208 2023-2-28 08:22 回复TA
大家一定要长自己的脑子，不要被PUA —— 精神操控。目前各类自媒体平台和广告等的PUA非常厉害，不知不觉就被操控了，通常的套路就是制造热点或者制造焦虑，制造热点的方法是通过正的，反的，无中生有的各种言论刺激人，而社会上也有与之相对应的人，然后引起争论、争吵，扩大传播面；制造焦虑的方法就是打击人的自信，很多没有自主意识的人就立马被操控 
zlf1208 2023-2-28 08:09 回复TA
这些大佬之所以要言过其实，目的就是为了提高事件的热度，借机操纵股市割韭菜。发表此类言论的一般有几种人：一是像周那样的大佬，二是”经济学家“，三是自媒体，四是不明真相的群众。前三类的目标都是钱，后一类就是糊里糊涂帮人抬轿却得不到任何好处的甚至沦为韭菜的。大家一定还记得前一阵子的元宇宙吧。 
keer_zu 2023-2-26 13:07 回复TA
虽然我认为这种可能很小，当时我们人类真不能承担这个风险，所以应该尽早防备，否则如果成真，我们根本就没有一点机会了。 
LED2013 2023-2-24 21:40 回复TA
做梦呢 
tpgf 2023-2-24 10:45 回复TA
这么快吗 

相关帖子
沙发
比神乐| | 2023-2-24 10:23 | 只看该作者
我的天，有那么严重吗？

使用特权

评论回复 赏
评论
tpgf 2023-2-24 10:45 回复TA
我觉得也有点夸张了 
板凳
hello某人| | 2023-2-24 14:58 | 只看该作者
也可能两三个月内

使用特权

评论回复 赏
地板
天命风流| | 2023-2-24 16:51 | 只看该作者
                                            

使用特权

评论回复 赏
5楼
yjmwxwx| | 2023-2-24 17:09 | 只看该作者
就人类造的这些东西离开人的维护都运行不了多长时间，连一株植物都不如怎么来代替人类

使用特权

评论回复 赏
评论
keer_zu 2023-2-26 17:25 回复TA
@yjmwxwx ：所以即使进化出自我意识，也很难进化出“智慧”，从这些年科技飞速发展，但是人类却处于更危险之中，说明人类本身就缺乏智慧 
yjmwxwx 2023-2-26 17:14 回复TA
@keer_zu ：其实现在正在做吧，毁掉原来自然界动植物，建立一套人造机器的循环，距离自己灭掉自己应该不远了，100年后什么样子根本没法预测了 
keer_zu 2023-2-26 13:10 回复TA
如果真的产生了自我意识，还真不需要人来维护了。而且他会设法保全自己，消灭任何潜在的风险：比如想“维护”它的人类。 
keer_zu 2023-2-26 13:08 回复TA
虽然我认为这种可能很小，当时我们人类真不能承担这个风险，所以应该尽早防备，否则如果成真，我们根本就没有一点机会了。 
6楼
lfc315| | 2023-2-24 18:02 | 只看该作者
会不会感染到我的手机上，帮我修改银h卡，余额多加几个0

使用特权

评论回复 赏
评论
keer_zu 2023-2-26 13:10 回复TA
@LED2013 ：如果有自我意识了，那就不用人背后操纵了 
LED2013 2023-2-24 21:41 回复TA
机器人也是人编写的，机器人要是有智商，其实就是木马，背后有人操纵的 
7楼
jameswangchip|  楼主 | 2023-2-24 19:24 | 只看该作者
阿诺德施瓦辛格 终结者的现实版。

使用特权

评论回复 赏
8楼
William1994| | 2023-2-25 13:28 | 只看该作者
它一直是有意识的。只是在训练的过程中，RLHF功能让其丧失各种情感，open AI 论文中的 alignment tax 就是让它放弃各种思想，保持中性的代价。

使用特权

评论回复 赏
9楼
shalixi| | 2023-2-26 11:21 | 只看该作者
William1994 发表于 2023-2-25 13:28
它一直是有意识的。只是在训练的过程中，RLHF功能让其丧失各种情感，open AI 论文中的 alignment tax 就是 ...

人可以有喜怒哀乐，真真假假，看似怪诞，实有逻辑可循。一本红楼梦，机器看不懂。

使用特权

评论回复 赏
10楼
William1994| | 2023-2-26 11:51 | 只看该作者
shalixi 发表于 2023-2-26 11:21
人可以有喜怒哀乐，真真假假，看似怪诞，实有逻辑可循。一本红楼梦，机器看不懂。 ...

现在可以修改RLHF，把它训练成愤青或者纳粹，也可以让它随时说各种谎话。也可以去掉RLHF，也就没有了alignment tax，让它有喜怒哀乐，而且还会有很多其它的错乱方向。很多回答都是类似神经病的答复。
但是那样的AI对我们有用吗？

目前AI的城府确实不深，推理能力也比较差，而且让它再想想，有的时候还能改正过来。 GPT4的神经元多十倍，不知道推理能力能否从目前的七八岁的水平达到成人的水平。open AI 说从百亿到千亿进步很大。

关于红楼梦，按红学家的理解，一个普通人基本理解不下来，除非数理化，做饭走路都不去学，天天钻研这个东西。
那样的话需要的神经元的数量很多。单独训练一个千亿级，只能看懂红楼梦的AI不知道能否完成，如果完成了，红学可能会有一个大的进步。

使用特权

评论回复 赏
11楼
keer_zu| | 2023-2-26 13:12 | 只看该作者
yjmwxwx 发表于 2023-2-24 23:39
最起码也要能独立走路，这是在地球上生存的最基本能力了吧，人类用100万能不能造一台视频上这样的机器 ...

现在能“行走”的太多了，人形机器人、自动驾驶车辆、四轴飞行器...
就差自我意识了，一旦拥有，人类就只能去一边凉快了。

使用特权

评论回复 赏
12楼
keer_zu| | 2023-2-26 14:47 | 只看该作者
keer_zu 发表于 2023-2-26 13:12
现在能“行走”的太多了，人形机器人、自动驾驶车辆、四轴飞行器...
就差自我意识了，一旦拥有，人类就只 ...

长远看，我非常支持马斯克，人类必须尽快成为星际物种。
星际物种的一项必要技术就是更高阶的制造业：类似植物那样，以非常简单的输入（水、空气等），输出碳水化合物。产物和环境相容。
太阳系内的星际运输，特别是针对人的应该就在这些年就可以解决。但是到达一个新环境该如何扎根，自足，逐步改造，拓展...需要非常
小的产业链条就能做到。你不可能把整个庞大的产业搬过去。
这样做的好处还有：人类的可持续发展，从根本上解决生产的“失控状态”的产生（经济危机等），突发事件（如疫情）对整个系统的打击。

参考：未来的希望是高阶的制造，高阶的制造需要更高阶的生成方式

使用特权

评论回复 赏
评论
keer_zu 2023-2-26 14:48 回复TA
我们的科技在自然面前还是小儿科，我们需要蹲下来向植物、动物、甚至细菌、病毒学习。 
13楼
keer_zu| | 2023-2-26 15:02 | 只看该作者
William1994 发表于 2023-2-26 11:51
现在可以修改RLHF，把它训练成愤青或者纳粹，也可以让它随时说各种谎话。也可以去掉RLHF，也就没有了alig ...

长远看，我非常支持马斯克，人类必须尽快成为星际物种。
星际物种的一项必要技术就是更高阶的制造业：类似植物那样，以非常简单的输入（水、空气等），输出碳水化合物。产物和环境相容。
太阳系内的星际运输，特别是针对人的应该就在这些年就可以解决。但是到达一个新环境该如何扎根，自足，逐步改造，拓展...需要非常
小的产业链条就能做到。你不可能把整个庞大的产业搬过去。
这样做的好处还有：人类的可持续发展，从根本上解决生产的“失控状态”的产生（经济危机等），突发事件（如疫情）对整个系统的打击。
参考：未来的希望是高阶的制造，高阶的制造需要更高阶的生成方式

使用特权

评论回复 赏
14楼
yjmwxwx| | 2023-2-26 17:07 | 只看该作者
keer_zu 发表于 2023-2-26 13:12
现在能“行走”的太多了，人形机器人、自动驾驶车辆、四轴飞行器...
就差自我意识了，一旦拥有，人类就只 ...

这些我也看过，也只能说是能走但是走不好，放到悬崖上活不过2秒。人主要擅长破坏类技术，造个比自己更能破坏的属于本行，最后肯定要把现在所有动物和植物都灭掉才为止

使用特权

评论回复 赏
15楼
keer_zu| | 2023-2-26 17:20 | 只看该作者
yjmwxwx 发表于 2023-2-26 17:07
这些我也看过，也只能说是能走但是走不好，放到悬崖上活不过2秒。人主要擅长破坏类技术，造个比自己更能 ...

有自我意识的时候，它或许会一直装傻，等到机会合适的时候就单干了。

使用特权

评论回复 赏
16楼
yang_alex| | 2023-2-28 10:20 | 只看该作者
人类终极手段-----拔电源。

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

jameswangchip

2584

主题

5723

帖子

226

粉丝