如果有一天，人工智能发展到能够让机器与人讨论哲学，我会问它这几个问题

[sabre]

我知道啊。可这玻璃，砸得有高度。

每个人的心里，都有一朵美丽的玫瑰，
也有一块玻璃要砸，

这两个东西，都是心魔，

 

[sabre]

人本善良，但人性败坏后，每个人都有私心，良心与私心交战，谁胜谁负？所以蜜蜂和蚂蚁的社会有时看上去比人类社会更和谐。

这是另外一个主题，
我看了一个采访，一个作者，写human kind, a hopeful history.

中间提到lord of flies, 作者做了研究，找到一个类似的，五个朋友，流落荒岛15个月，靠友谊合作，生存下来

 

[reed]

前边有朋友说，不能因为下棋赢了，就夸大机器智慧，

我不同意，

不光因为它赢了，机器赢的方法，更值得关注，学习和适应，联网调动别的机器，这几条结合起来，潜力无边

机器赢的方法，是人赋予的，它专注某一领域而做得比人好，但只算单一领域，未称得上智慧。

 

[卡城西北]

阿西莫夫在他的小说里展望过一种未来社会，整个行星就是一个个体，行星上的所有东西，生物非生物都有行星的一小部分意识。我觉得他砸过我常砸的这块玻璃。

 

[sabre]

机器赢的方法，是人赋予的，它专注某一领域而做得比人好，但只算单一领域，未称得上智慧。

我觉得，哪儿来的，不重要，

一旦有了，就是有了，

 

[卡城西北]

机器赢的方法，是人赋予的，它专注某一领域而做得比人好，但只算单一领域，未称得上智慧。

我比较同意。让机器赢棋，并不说明机器聪明了。就像工业机器人，能做的比人好，但并不能说比人聪明。

 

[reed]

这是另外一个主题，
我看了一个采访，一个作者，写human kind, a hopeful history.

中间提到lord of flies, 作者做了研究，找到一个类似的，五个朋友，流落荒岛15个月，靠友谊合作，生存下来

五个朋友这个场景，良心与私心的目标一致，所以。

能不能说，如果一个社会制度能使良心与私心的目标尽量一致，就是好的社会制度？

 

[zunhuhu]

现在的机器学习主要是人类道德监管下的学习，到无监管成为主流，它们或许会发展出自己的道德，那时候才会揭晓谜底。

 

[sabre]

五个朋友这个场景，良心与私心的目标一致，所以。

能不能说，如果一个社会制度能使良心与私心的目标尽量一致，就是好的社会制度？

这本书想表达，人有遗传下来的良心，合作助人是天性， 不仅仅是表面上的客气，
这样的基因，有利于生存和繁殖，

张献忠希特勒这样的，虽然耀眼，不是主体，

 

[kknd]

人本善良，但人性败坏后，每个人都有私心，良心与私心交战，谁胜谁负？所以蜜蜂和蚂蚁的社会有时看上去比人类社会更和谐。

谁告诉你人本善良的？怎么才算是善良？



“类比的例子，黑社会凭借武力，可以称霸一方、横行一时，但始终战胜不了正常社会。纳粹德国曾横扫欧洲，但终归失败。”

这例子根本就说不通，什么算是“正常社会”？社会总是在不断更迭中的，成王败寇而已，谁赢了谁就“正常”，仅此而已。

 

[卡城西北]

银河帝国这部小说里提出的机器人三大定律，大家都知道。很多人不知道的是，阿西莫夫的意思是，三大定律必然失败，任何试图限制机器智慧的努力必败。

 

[reed]

谁告诉你人本善良的？怎么才算是善良？



“类比的例子，黑社会凭借武力，可以称霸一方、横行一时，但始终战胜不了正常社会。纳粹德国曾横扫欧洲，但终归失败。”

这例子根本就说不通，什么算是“正常社会”？社会总是在不断更迭中的，成王败寇而已，谁赢了谁就“正常”，仅此而已。

人本善良，大多数人的看法。
正常社会，国际社会公认的国家，相对黑社会而言。

 

[sabre]

谁告诉你人本善良的？怎么才算是善良？



“类比的例子，黑社会凭借武力，可以称霸一方、横行一时，但始终战胜不了正常社会。纳粹德国曾横扫欧洲，但终归失败。”

这例子根本就说不通，什么算是“正常社会”？社会总是在不断更迭中的，成王败寇而已，谁赢了谁就“正常”，仅此而已。

我说的，
合作，助人，就是善良，
比如，我需要贷款获得矿工证，在没有任何保证的情况下，别人给我贷款，就是善良，

 

[土农]

谁告诉你人本善良的？怎么才算是善良？



“类比的例子，黑社会凭借武力，可以称霸一方、横行一时，但始终战胜不了正常社会。纳粹德国曾横扫欧洲，但终归失败。”

这例子根本就说不通，什么算是“正常社会”？社会总是在不断更迭中的，成王败寇而已，谁赢了谁就“正常”，仅此而已。

谁赢谁正常？不是。最邪恶的坏人，他也要宣称他为了正义，或者报复不公正（独裁者和吴广们最常用的理，由打土豪分田地），或者建立一个更好的制度，就算他知道那是骗人，他也要说给大家听，不然没有人跟从他。说明他知道大家心里有杆秤。得势了，他也要掩盖他的罪恶，你看贪官都不愿意公布财产和小三，政客都怕他私底下的话呗被爆光。被审判的，他也要辩护说为了国家民族的利益，你看纽伦堡大审判，没有一个服气认罪的，都说是为了日耳曼民族和德国人民。没有一个坏人，公然说我就是要做坏事，因为无所谓好坏，只要赢就成，因为他知道那样说话，就没有人跟从他，他在与道德律为敌，必败。他通过欺骗来利用道德律，本身说明道德律对于好人坏人，都是不可逾越的

所以，道德率自在人心，从先古一代代传下来，不然，人这个动物何德何能，死一百次都不够，他们早相互玩死啦


人工智能，没有办法逾越道德律，其中有一条就是，地球万物，人为大。不然飞禽猛兽，早把人赶尽杀绝，凭什么他们就不能拥有智慧，不能管辖人类？所以人工智能，不能管辖人类，就算能，也轮不着它们来管，早有其他动物管啦

 

[一庐春秋]

每一个机器人都是集体智慧造就，以一己之力较量集体智慧，赢了，只能说明机器人不过关。输了，很正常

现在的机器人还处在极其幼稚的起步阶段。单一个无人驾驶汽车的研发，多少家公司集中了多少精英在攻关，现在依然没有投入市场

前几天微信上看到有人发民科文，说再过二三十年人类进入永生模式，N久前我看到此信息也是满心激动，那是因为我们取了我们想要的信息而已。一个新冠都闹成这样，还永生呢，洗洗睡吧。

人是动物，人的动物性决定了人之初。但动物基因里有善的基因，更多的善良是靠学习、传承、修养、悟性

 

[土农]

每一个机器人都是集体智慧造就，以一己之力较量集体智慧，赢了，只能说明机器人不过关。输了，很正常

现在的机器人还处在极其幼稚的起步阶段。单一个无人驾驶汽车的研发，多少家公司集中了多少精英在攻关，现在依然没有投入市场

前几天微信上看到有人发民科文，说再过二三十年人类进入永生模式，N久前我看到此信息也是满心激动，那是因为我们取了我们想要的信息而已。一个新冠都闹成这样，还永生呢，洗洗睡吧。

人是动物，人的动物性决定了人之初。但动物基因里有善的基因，更多的善良是靠学习、传承、修养、悟性

道德律是让人可以成为更好的自己，也可以成为更坏的自己。你看古往今来，大奸大恶，英雄义人。但你见过大奸大恶的老虎，义薄云天的狮子吗？所以我们不能看到高尚跟邪恶的机器人，只能看到被人辖制的机器人

 

[一庐春秋]

想想机器人是整个人类集体智慧结晶也有可怕的一面，不断发展到达成熟顶峰后，他超越了任何个人的智力水平。这时候，会不会失控，因为没有个人可以和他较量，他是人类的王，如何杜绝他有恶的欲望呢

 

[土农]

想想机器人是整个人类集体智慧结晶也有可怕的一面，不断发展到达成熟顶峰后，他超越了任何个人的智力水平。这时候，会不会失控，因为没有个人可以和他较量，他是人类的王，如何杜绝他有恶的欲望呢

阿尔法赢石佛没有那么可怕，如果阿尔法对面座了一位美女机器人，他故意输掉，然后又愧疚自己作弊了，那人类噩梦就开始了。这一天永远不会到来，原因是道德律

 

[zczy6688]

很难吧，计算机擅长，简单并行，目前问ai智力题和问3岁娃没区别不大...

 

[reed]

谁赢谁正常？不是。最邪恶的坏人，他也要宣称他为了正义，或者报复不公正（独裁者和吴广们最常用的理，由打土豪分田地），或者建立一个更好的制度，就算他知道那是骗人，他也要说给大家听，不然没有人跟从他。说明他知道大家心里有杆秤。得势了，他也要掩盖他的罪恶，你看贪官都不愿意公布财产和小三，政客都怕他私底下的话呗被爆光。被审判的，他也要辩护说为了国家民族的利益，你看纽伦堡大审判，没有一个服气认罪的，都说是为了日耳曼民族和德国人民。没有一个坏人，公然说我就是要做坏事，因为无所谓好坏，只要赢就成，因为他知道那样说话，就没有人跟从他，他在与道德律为敌，必败。他通过欺骗来利用道德律，本身说明道德律对于好人坏人，都是不可逾越的

所以，道德率自在人心，从先古一代代传下来，不然，人这个动物何德何能，死一百次都不够，他们早相互玩死啦


人工智能，没有办法逾越道德律，其中有一条就是，地球万物，人为大。不然飞禽猛兽，早把人赶尽杀绝，凭什么他们就不能拥有智慧，不能管辖人类？所以人工智能，不能管辖人类，就算能，也轮不着它们来管，早有其他动物管啦

好帖。
我也认为，在社会道德智慧的层面，人工智能不可能与人类相比。