加拿大家园论坛

如果有一天,人工智能发展到能够让机器与人讨论哲学,我会问它这几个问题

原文链接:https://forum.iask.ca/threads/909519/

reed : 2020-07-20#1
robot.jpg

精神与物质的关系,在你身上怎样体现?

什么是善?

康德语,位我上者灿烂星空,道德律令在我心中。你认为道德律令是谁颁布的?

哪种社会制度比较符合社会正义?

善,社会正义,这些都是伦理学、道德社会学的基本问题,如果机器要违背,执意建立一个奴隶社会,那它就不配与人类比智慧,也战胜不了人类。

机器如果与人类对抗,那肯定不是一对一的单兵作战,而是机器社会与人类社会的较量。既然机器想统治人类,那说明它们也是贪婪和自私的,它们内部也会有权力斗争和相互倾轧,所以机器要建立强大的社会,也避免不了那些社会学问题,如果它们的社会道德智慧比不过人类,机器社会就无法与人类社会对抗。

类比的例子,黑社会凭借武力,可以称霸一方、横行一时,但始终战胜不了正常社会。纳粹德国曾横扫欧洲,但终归失败。

正义必胜!人民币升!

骆驼客 : 2020-07-20#2
好贴,?

sofia : 2020-07-20#3
善恶道德是上帝放入人心的
机器人的
必定是人放入的
机器人不能超越人
就像人不能超越上帝

reed : 2020-07-20#4
好贴,?
谢赞

reed : 2020-07-20#5
善恶道德是上帝放入人心的
机器人的
必定是人放入的
机器人不能超越人
就像人不能超越上帝
(y) 机器战胜不了人类

sabre : 2020-07-20#6
不好说,
地球大概45亿年,
人类,三十万年, 二十万年,
真正形成人类社会,从农业革命算起, 大概也就一万年,

宇宙,估算年龄,140亿年,
领域,对人类而言, 只能说可观察范围,数字我不知道, 反正特大,

假如, 是预测未来十年, 一百年机器人的发展, 也许,

放到宇宙这个尺度上, 真不好说人类战胜机器这种话,
人类历史太短了,

sabre : 2020-07-20#7
我目前观察到的, 人类的社会智慧真不怎么样,
很多事不如机器, 比如公正性, 假设我们实现了自动驾驶,交通状况会大好, 因为一旦设置了,机器全部统一执行,不会乱穿, 不会插队, 不会紧逼,
每辆车之间, 随时通告互相的意愿, 根据事先设定的指标, 该谁走, 谁走, 没有颜值, 社会地位的差别,

第二, 我自己已经被机器训练了, 谷歌的时候, 按谷歌的心思,它也尽量的来理解我,
很多事, 得到答案要比跟周围人问, 快的多,
到了一定程度, 比人更好交流,

卡城西北 : 2020-07-20#8
现在的机器智慧,可能还及不上草履虫。

reed : 2020-07-20#9
不好说,
地球大概45亿年,
人类,三十万年, 二十万年,
真正形成人类社会,从农业革命算起, 大概也就一万年,

宇宙,估算年龄,140亿年,
领域,对人类而言, 只能说可观察范围,数字我不知道, 反正特大,

假如, 是预测未来十年, 一百年机器人的发展, 也许,

放到宇宙这个尺度上, 真不好说人类战胜机器这种话,
人类历史太短了,
我说的机器,是指那些人类造出来的、带有人工智能的工具,然后有一天它们失控了,反过来想控制人类。我认为它们不会高于人类、战胜人类。
至于不是源于人类的地外文明/智慧,那就不可知了。

reed : 2020-07-20#10
我目前观察到的, 人类的社会智慧真不怎么样,
很多事不如机器, 比如公正性, 假设我们实现了自动驾驶,交通状况会大好, 因为一旦设置了,机器全部统一执行,不会乱穿, 不会插队, 不会紧逼,
每辆车之间, 随时通告互相的意愿, 根据事先设定的指标, 该谁走, 谁走, 没有颜值, 社会地位的差别,

第二, 我自己已经被机器训练了, 谷歌的时候, 按谷歌的心思,它也尽量的来理解我,
很多事, 得到答案要比跟周围人问, 快的多,
到了一定程度, 比人更好交流,
机器按照人的设计去执行一般的事务,当然可以比人干得好。
现在机器还没有社会意识/智慧,目前谈不上与人类社会的比较,尽管人类的社会智慧不怎么样。

reed : 2020-07-20#11
现在的机器智慧,可能还及不上草履虫。
没错,机器下围棋赢了人,不代表有多高的智慧。

reed : 2020-07-20#12
机器作为工具,应该装上车轮子或履带,装上十条八条机械臂,工作起来有效得多。

但现在看到的那些实验机器,都安上两条腿或四条腿,弄成人模狗样,纯粹装逼,很可笑。

sabre : 2020-07-20#13
我们来观察一下真正的社会动物,蜜蜂和蚂蚁,单体的智慧,一般般,
它们的社会智慧,通过它们的社会结构和分工,可以看出,远远高于人类这种人工的后天形成的社会智慧,

观察蜜蜂和蚂蚁的结果,机器,更适合形成社会智慧,所谓的社会意识,无非是各司其职,个体,做自己的事,就特好了,不要老想当将军,

人的最大缺点,对社会而言,老觉得自己的想法特好,科长老想当处长,普通网友老喜欢批评中央领导,

卡城西北 : 2020-07-20#14
我们来观察一下真正的社会动物,蜜蜂和蚂蚁,单体的智慧,一般般,
它们的社会智慧,通过它们的社会结构和分工,可以看出,远远高于人类这种人工的后天形成的社会智慧,

观察蜜蜂和蚂蚁的结果,机器,更适合形成社会智慧,所谓的社会意识,无非是各司其职,个体,做自己的事,就特好了,不要老想当将军,

人的最大缺点,对社会而言,老觉得自己的想法特好,科长老想当处长,普通网友老喜欢批评中央领导,
这是没有办法的事。
目前的人类社会的追求,好像仅仅停留在满足个人的程度。一个社会制度能满足个人追求,仿佛就是好制度了。
改进制度,要从承认群体智慧不可能做出有利于群体利益开始。

sabre : 2020-07-20#15
世界万物,最根本的机制,在于竞争资源,或者说能源,一个字,效率,

人类最近比较风光,个体智慧,形成社会,人工的生产出集体智慧,在一万年的时间里,迅速的赶到食物链的前端,

人之后,出现了机器,短短五十年,一百年的历史,就显现了极大的潜力,我看好,

看好人类的同学,可以倒退一万年,看看那个年代的人类,日子不怎么样,比水里的鱼,地上的羊,好一点点

sabre : 2020-07-20#16
这是没有办法的事。
目前的人类社会的追求,好像仅仅停留在满足个人的程度。一个社会制度能满足个人追求,仿佛就是好制度了。
改进制度,要从承认群体智慧不可能做出有利于群体利益开始。
哈哈,
这是你的玻璃,
你老看到别人砸玻璃,你自己砸的时候,毫无知觉

骆驼客 : 2020-07-20#17
我说的机器,是指那些人类造出来的、带有人工智能的工具,然后有一天它们失控了,反过来想控制人类。我认为它们不会高于人类、战胜人类。
至于不是源于人类的地外文明/智慧,那就不可知了。

记得几十年前,看过几个科幻片说的就是这个,我当时看睡着了

reed : 2020-07-20#18
人本善良,但人性败坏后,每个人都有私心,良心与私心交战,谁胜谁负?所以蜜蜂和蚂蚁的社会有时看上去比人类社会更和谐。

卡城西北 : 2020-07-20#19
哈哈,
这是你的玻璃,
你老看到别人砸玻璃,你自己砸的时候,毫无知觉
我知道啊。可这玻璃,砸得有高度。

sabre : 2020-07-20#20
前边有朋友说,不能因为下棋赢了,就夸大机器智慧,

我不同意,

不光因为它赢了,机器赢的方法,更值得关注,学习和适应,联网调动别的机器,这几条结合起来,潜力无边

sabre : 2020-07-20#21
我知道啊。可这玻璃,砸得有高度。
每个人的心里,都有一朵美丽的玫瑰,
也有一块玻璃要砸,

这两个东西,都是心魔,

sabre : 2020-07-20#22
人本善良,但人性败坏后,每个人都有私心,良心与私心交战,谁胜谁负?所以蜜蜂和蚂蚁的社会有时看上去比人类社会更和谐。
这是另外一个主题,
我看了一个采访,一个作者,写human kind, a hopeful history.

中间提到lord of flies, 作者做了研究,找到一个类似的,五个朋友,流落荒岛15个月,靠友谊合作,生存下来

reed : 2020-07-20#23
前边有朋友说,不能因为下棋赢了,就夸大机器智慧,

我不同意,

不光因为它赢了,机器赢的方法,更值得关注,学习和适应,联网调动别的机器,这几条结合起来,潜力无边
机器赢的方法,是人赋予的,它专注某一领域而做得比人好,但只算单一领域,未称得上智慧。

卡城西北 : 2020-07-20#24
阿西莫夫在他的小说里展望过一种未来社会,整个行星就是一个个体,行星上的所有东西,生物非生物都有行星的一小部分意识。我觉得他砸过我常砸的这块玻璃。

sabre : 2020-07-20#25
机器赢的方法,是人赋予的,它专注某一领域而做得比人好,但只算单一领域,未称得上智慧。
我觉得,哪儿来的,不重要,

一旦有了,就是有了,

卡城西北 : 2020-07-20#26
机器赢的方法,是人赋予的,它专注某一领域而做得比人好,但只算单一领域,未称得上智慧。
我比较同意。让机器赢棋,并不说明机器聪明了。就像工业机器人,能做的比人好,但并不能说比人聪明。

reed : 2020-07-20#27
这是另外一个主题,
我看了一个采访,一个作者,写human kind, a hopeful history.

中间提到lord of flies, 作者做了研究,找到一个类似的,五个朋友,流落荒岛15个月,靠友谊合作,生存下来
五个朋友这个场景,良心与私心的目标一致,所以。

能不能说,如果一个社会制度能使良心与私心的目标尽量一致,就是好的社会制度?

zunhuhu : 2020-07-20#28
现在的机器学习主要是人类道德监管下的学习,到无监管成为主流,它们或许会发展出自己的道德,那时候才会揭晓谜底。

sabre : 2020-07-20#29
五个朋友这个场景,良心与私心的目标一致,所以。

能不能说,如果一个社会制度能使良心与私心的目标尽量一致,就是好的社会制度?
这本书想表达,人有遗传下来的良心,合作助人是天性, 不仅仅是表面上的客气,
这样的基因,有利于生存和繁殖,

张献忠希特勒这样的,虽然耀眼,不是主体,

kknd : 2020-07-20#30
人本善良,但人性败坏后,每个人都有私心,良心与私心交战,谁胜谁负?所以蜜蜂和蚂蚁的社会有时看上去比人类社会更和谐。


谁告诉你人本善良的?怎么才算是善良?



“类比的例子,黑社会凭借武力,可以称霸一方、横行一时,但始终战胜不了正常社会。纳粹德国曾横扫欧洲,但终归失败。”

这例子根本就说不通,什么算是“正常社会”?社会总是在不断更迭中的,成王败寇而已,谁赢了谁就“正常”,仅此而已。

卡城西北 : 2020-07-20#31
银河帝国这部小说里提出的机器人三大定律,大家都知道。很多人不知道的是,阿西莫夫的意思是,三大定律必然失败,任何试图限制机器智慧的努力必败。

reed : 2020-07-20#32
谁告诉你人本善良的?怎么才算是善良?



“类比的例子,黑社会凭借武力,可以称霸一方、横行一时,但始终战胜不了正常社会。纳粹德国曾横扫欧洲,但终归失败。”

这例子根本就说不通,什么算是“正常社会”?社会总是在不断更迭中的,成王败寇而已,谁赢了谁就“正常”,仅此而已。
人本善良,大多数人的看法。
正常社会,国际社会公认的国家,相对黑社会而言。

sabre : 2020-07-20#33
谁告诉你人本善良的?怎么才算是善良?



“类比的例子,黑社会凭借武力,可以称霸一方、横行一时,但始终战胜不了正常社会。纳粹德国曾横扫欧洲,但终归失败。”

这例子根本就说不通,什么算是“正常社会”?社会总是在不断更迭中的,成王败寇而已,谁赢了谁就“正常”,仅此而已。
我说的,
合作,助人,就是善良,
比如,我需要贷款获得矿工证,在没有任何保证的情况下,别人给我贷款,就是善良,

土农 : 2020-07-20#34
谁告诉你人本善良的?怎么才算是善良?



“类比的例子,黑社会凭借武力,可以称霸一方、横行一时,但始终战胜不了正常社会。纳粹德国曾横扫欧洲,但终归失败。”

这例子根本就说不通,什么算是“正常社会”?社会总是在不断更迭中的,成王败寇而已,谁赢了谁就“正常”,仅此而已。
谁赢谁正常?不是。最邪恶的坏人,他也要宣称他为了正义,或者报复不公正(独裁者和吴广们最常用的理,由打土豪分田地),或者建立一个更好的制度,就算他知道那是骗人,他也要说给大家听,不然没有人跟从他。说明他知道大家心里有杆秤。得势了,他也要掩盖他的罪恶,你看贪官都不愿意公布财产和小三,政客都怕他私底下的话呗被爆光。被审判的,他也要辩护说为了国家民族的利益,你看纽伦堡大审判,没有一个服气认罪的,都说是为了日耳曼民族和德国人民。没有一个坏人,公然说我就是要做坏事,因为无所谓好坏,只要赢就成,因为他知道那样说话,就没有人跟从他,他在与道德律为敌,必败。他通过欺骗来利用道德律,本身说明道德律对于好人坏人,都是不可逾越的

所以,道德率自在人心,从先古一代代传下来,不然,人这个动物何德何能,死一百次都不够,他们早相互玩死啦


人工智能,没有办法逾越道德律,其中有一条就是,地球万物,人为大。不然飞禽猛兽,早把人赶尽杀绝,凭什么他们就不能拥有智慧,不能管辖人类?所以人工智能,不能管辖人类,就算能,也轮不着它们来管,早有其他动物管啦

一庐春秋 : 2020-07-20#35
每一个机器人都是集体智慧造就,以一己之力较量集体智慧,赢了,只能说明机器人不过关。输了,很正常

现在的机器人还处在极其幼稚的起步阶段。单一个无人驾驶汽车的研发,多少家公司集中了多少精英在攻关,现在依然没有投入市场

前几天微信上看到有人发民科文,说再过二三十年人类进入永生模式,N久前我看到此信息也是满心激动,那是因为我们取了我们想要的信息而已。一个新冠都闹成这样,还永生呢,洗洗睡吧。

人是动物,人的动物性决定了人之初。但动物基因里有善的基因,更多的善良是靠学习、传承、修养、悟性

土农 : 2020-07-20#36
每一个机器人都是集体智慧造就,以一己之力较量集体智慧,赢了,只能说明机器人不过关。输了,很正常

现在的机器人还处在极其幼稚的起步阶段。单一个无人驾驶汽车的研发,多少家公司集中了多少精英在攻关,现在依然没有投入市场

前几天微信上看到有人发民科文,说再过二三十年人类进入永生模式,N久前我看到此信息也是满心激动,那是因为我们取了我们想要的信息而已。一个新冠都闹成这样,还永生呢,洗洗睡吧。

人是动物,人的动物性决定了人之初。但动物基因里有善的基因,更多的善良是靠学习、传承、修养、悟性
道德律是让人可以成为更好的自己,也可以成为更坏的自己。你看古往今来,大奸大恶,英雄义人。但你见过大奸大恶的老虎,义薄云天的狮子吗?所以我们不能看到高尚跟邪恶的机器人,只能看到被人辖制的机器人

一庐春秋 : 2020-07-20#37
想想机器人是整个人类集体智慧结晶也有可怕的一面,不断发展到达成熟顶峰后,他超越了任何个人的智力水平。这时候,会不会失控,因为没有个人可以和他较量,他是人类的王,如何杜绝他有恶的欲望呢

土农 : 2020-07-20#38
想想机器人是整个人类集体智慧结晶也有可怕的一面,不断发展到达成熟顶峰后,他超越了任何个人的智力水平。这时候,会不会失控,因为没有个人可以和他较量,他是人类的王,如何杜绝他有恶的欲望呢
阿尔法赢石佛没有那么可怕,如果阿尔法对面座了一位美女机器人,他故意输掉,然后又愧疚自己作弊了,那人类噩梦就开始了。这一天永远不会到来,原因是道德律

zczy6688 : 2020-07-20#39
很难吧,计算机擅长,简单并行,目前问ai智力题和问3岁娃没区别不大...

reed : 2020-07-20#40
谁赢谁正常?不是。最邪恶的坏人,他也要宣称他为了正义,或者报复不公正(独裁者和吴广们最常用的理,由打土豪分田地),或者建立一个更好的制度,就算他知道那是骗人,他也要说给大家听,不然没有人跟从他。说明他知道大家心里有杆秤。得势了,他也要掩盖他的罪恶,你看贪官都不愿意公布财产和小三,政客都怕他私底下的话呗被爆光。被审判的,他也要辩护说为了国家民族的利益,你看纽伦堡大审判,没有一个服气认罪的,都说是为了日耳曼民族和德国人民。没有一个坏人,公然说我就是要做坏事,因为无所谓好坏,只要赢就成,因为他知道那样说话,就没有人跟从他,他在与道德律为敌,必败。他通过欺骗来利用道德律,本身说明道德律对于好人坏人,都是不可逾越的

所以,道德率自在人心,从先古一代代传下来,不然,人这个动物何德何能,死一百次都不够,他们早相互玩死啦


人工智能,没有办法逾越道德律,其中有一条就是,地球万物,人为大。不然飞禽猛兽,早把人赶尽杀绝,凭什么他们就不能拥有智慧,不能管辖人类?所以人工智能,不能管辖人类,就算能,也轮不着它们来管,早有其他动物管啦
好帖。
我也认为,在社会道德智慧的层面,人工智能不可能与人类相比。

土农 : 2020-07-20#41
好帖。
我也认为,在社会道德智慧的层面,人工智能不可能与人类相比。
但是,现在的法律和社会伦理,已经不足以应付大数据这样的准人工智能了

比如媒体平台,本来他没有权力挑选发布人和发布内容,所以他不对内容负责,这样就有很多危险和破坏伦理的内容上传了,所以政府又要给他审核权,就是说,他具备了编辑的能力,就是具备了话语权和舆论导向的能力,但是他又不可能做到公正,一是他的审核成本太高,不可能没有漏洞,而二是他故意操控民意,你却很难拿到证据,因为海量的信息和技术的隐蔽性,扎克伯格们就成了有政治势力的大佬。目前法律还没有办法控制他们,新闻伦理对他们没有丝毫作用

就是说,技术大佬用人工智能来做恶的趋势形成了

reed : 2020-07-20#42
道德律是让人可以成为更好的自己,也可以成为更坏的自己。你看古往今来,大奸大恶,英雄义人。但你见过大奸大恶的老虎,义薄云天的狮子吗?所以我们不能看到高尚跟邪恶的机器人,只能看到被人辖制的机器人
因为律法本是叫人知罪。

至于机器人,我们无需担心会出现邪恶的机器人,但要担心操纵机器人的邪恶的人。

reed : 2020-07-20#43
但是,现在的法律和社会伦理,已经不足以应付大数据这样的准人工智能了

比如媒体平台,本来他没有权力挑选发布人和发布内容,所以他不对内容负责,这样就有很多危险和破坏伦理的内容上传了,所以政府又要给他审核权,就是说,他具备了编辑的能力,就是具备了话语权和舆论导向的能力,但是他又不可能做到公正,一是他的审核成本太高,不可能没有漏洞,而二是他故意操控民意,你却很难拿到证据,因为海量的信息和技术的隐蔽性,扎克伯格们就成了有政治势力的大佬。目前法律还没有办法控制他们,新闻伦理对他们没有丝毫作用

就是说,技术大佬用人工智能来做恶的趋势形成了
对,作恶的是人,不是拥有人工智能的机器。

reed : 2020-07-20#44
记得几十年前,看过几个科幻片说的就是这个,我当时看睡着了
那些科幻片都是骗小孩的,骆驼兄自然不感兴趣:notworthy:

kknd : 2020-07-20#45
我说的,
合作,助人,就是善良,
比如,我需要贷款获得矿工证,在没有任何保证的情况下,别人给我贷款,就是善良,


你这标准太扯了,黑社会合作,助人的例子也比比皆是,都是善良的话,那基本上也没啥人不善良了

sabre : 2020-07-20#46
你这标准太扯了,黑社会合作,助人的例子也比比皆是,都是善良的话,那基本上也没啥人不善良了
没啥不善良的,
我不歧视黑社会

kknd : 2020-07-20#47
谁赢谁正常?不是。最邪恶的坏人,他也要宣称他为了正义,或者报复不公正(独裁者和吴广们最常用的理,由打土豪分田地),或者建立一个更好的制度,就算他知道那是骗人,他也要说给大家听,不然没有人跟从他。说明他知道大家心里有杆秤。得势了,他也要掩盖他的罪恶,你看贪官都不愿意公布财产和小三,政客都怕他私底下的话呗被爆光。被审判的,他也要辩护说为了国家民族的利益,你看纽伦堡大审判,没有一个服气认罪的,都说是为了日耳曼民族和德国人民。没有一个坏人,公然说我就是要做坏事,因为无所谓好坏,只要赢就成,因为他知道那样说话,就没有人跟从他,他在与道德律为敌,必败。他通过欺骗来利用道德律,本身说明道德律对于好人坏人,都是不可逾越的

所以,道德率自在人心,从先古一代代传下来,不然,人这个动物何德何能,死一百次都不够,他们早相互玩死啦


人工智能,没有办法逾越道德律,其中有一条就是,地球万物,人为大。不然飞禽猛兽,早把人赶尽杀绝,凭什么他们就不能拥有智慧,不能管辖人类?所以人工智能,不能管辖人类,就算能,也轮不着它们来管,早有其他动物管啦

你这“最邪恶的坏人”有啥标准呢?
那个“为了正义,或者报复不公正”不是所有人都在说么。
那个“就算他知道那是骗人,他也要说给大家听,不然没有人跟从他”不是所有人都在做么。

“没有一个坏人,公然说我就是要做坏事,因为无所谓好坏,只要赢就成,因为他知道那样说话,就没有人跟从他,他在与道德律为敌,必败。”
这个也不尽然,公然说“我们撒谎、我们欺骗、我们偷窃”并且还把这个当成是“不断进取的荣耀”的人,依然还是有许多人跟从,只要够“强壮”,就有道德律的“解释权”,这个无论是习、川还是土豆都没多大区别。

至于后面说的那些,逻辑上有些混乱,就pass了吧。

土农 : 2020-07-20#48
你这“最邪恶的坏人”有啥标准呢?
那个“为了正义,或者报复不公正”不是所有人都在说么。
那个“就算他知道那是骗人,他也要说给大家听,不然没有人跟从他”不是所有人都在做么。

“没有一个坏人,公然说我就是要做坏事,因为无所谓好坏,只要赢就成,因为他知道那样说话,就没有人跟从他,他在与道德律为敌,必败。”
这个也不尽然,公然说“我们撒谎、我们欺骗、我们偷窃”并且还把这个当成是“不断进取的荣耀”的人,依然还是有许多人跟从,只要够“强壮”,就有道德律的“解释权”,这个无论是习、川还是土豆都没多大区别。

至于后面说的那些,逻辑上有些混乱,就pass了吧。
我说的是推论到底的情况,不是一个黑帮团伙的日常。即使日常,往极端推论,还是道德律在起作用。比如再黑的老大,也有帮手,这个帮手一定要相信他的老大虽然黑,但不至于明天就杀了他,为嘛?因为他就算不相信义气,但他相信利益,老大为了利益可以跟他暂时结盟,就是说他相信人讲信用这个道德律,哪怕是一天信用。就是说,人讲信用这个道德律在控制他。如果是你说的完全的利益,根本没有人可以拉到合伙人,因为不相信哪怕一秒钟的信用,就没有利益可言了。利益必须建立在信用,哪怕是暂时的信用之上,这个世界不存在完全没有信用的利益


社会达尔文主义,就是没有看到他们所谓的强者,他们所谓的利益,离开了道德律全都归零。所以弱肉强食,不是人类社会的本质