霍金马斯克示警人工智能危险

2019年03月12日 来源:

“钢铁侠”、“火星人”,缔造了特斯拉汽车和SpaceX火箭的埃隆·马斯克是如假包换的“科学狂人”,可喜的是马斯克有足够的理性来驾驭自己的狂放。

上周未,马斯克在Twitter上表示,“我们要非常小心人工智能,它可能比核武器更危险。”就在今年早些时候,马斯克接受访谈提到詹姆斯·卡梅隆30年前的经典之作《终结者》。他说“那是人类会极尽所能去避免的情形。 既然已有这样的警示电影,我们必须要小心。“

史蒂芬·霍金也是人工智能的示警者,在接受HBO访谈时,他说“人工智能可能是一个‘真正的危险’。机器人可能会找到改进自己的办法,而这些改进并不总是会造福人类。”

对人工智能持乐观态度者的典型信念是”人类不可能被人工智能超越,因为我们可以利用人工智能来加强自己。不会出现我们和机器对抗的局面。通过与智能产物融合,人类可以加强自己的能力。”这种想法过于想当然了。假如发明枪支的人们说“枪支是对付豺狼、猛兽的,可以让人类变得更强。不会出现用枪支伤害同类的局面……”回过头来看这些信誓旦旦不可笑吗?

有史以来,几乎所有技术都被用于战争,人工智能亦会被优先用于杀戮。与普通的枪炮乃至核武器相比,这个系统会不断学习提高杀人效率,会自我修复、升级,会千方百计维持能源供给……制造者有把握控制它们吗?谷哥的工程师就能吗?抑或制造者本身就是反人类恶魔怎么办?

其实,生命体与非生命体的本质区别在有无求生本能。所谓求生本能就是对自己生命的爱,从这种爱可以衍生出贪婪、恐惧等情感。从小小孩童的好奇心到太空探索,根本的驱动力都是求生本能。太空飞船再复杂,没有求生本能就不是生命体,而是机器。单细胞生物再简单,

有了求生本能就是生命体。抗菌素是细菌产生的毒素,以杀死其它细菌,独霸生存环境及营养物质。

对人工智能来说:不给求生本能,它就不可能完全象人一样思考,终究是机器。给求生本能,让它们懂得爱自己的“生命”,人类对它们有何价值?机器需要人类为它做饭、打扫房间吗?试图关掉电源,终结机器“生命”的人会不会被能够“察言观色”甚至有了“直觉”的机器先发制人地终结?

好在人工智能不可能一步到位,当“终结者一代”出现时,来不及造成多大恶果就会被人类轻易终结。但愿那时候微软、谷哥的工程师们可以正视霍金、马斯克们的警示。

相关文章
  • 美舰擅入黄岩岛邻近海域国防部不要无事生非
    美舰擅入黄岩岛邻近海域国防部不要无事生非

    资料图:国防部新闻发言人吴谦 国防部新闻发言人吴谦就美舰自诉刑事案件收费擅自进入中国黄岩岛邻近海域发表谈话: 1月17日,美国海军“霍珀荣泰广场”号导弹驱逐舰擅自进入中国黄岩岛邻近海域,中国海军“黄山”号导弹护卫舰当即行动,对美舰进行识别查...

  • 女老板卖掺伟哥保健品获刑称不知有毒害
    女老板卖掺伟哥保健品获刑称不知有毒害

    女老板卖掺“伟哥”保健品获刑 称不知有毒害为了营利,女老板焦某卖起了非法性保健品。民警从其店内起获14种口服性保健品,均含有西地那非(俗称“伟哥”)等有毒、有害的原料。今天上午,焦某在门头沟法院受审时表示认罪。法院一审以销售有毒、有害食品...

  • 列车停驶时车厢内的线路指示牌灯也不亮了
    列车停驶时车厢内的线路指示牌灯也不亮了

    列车停驶时车厢内的线路指示牌灯也不亮了。:4号线列车隧道内突然停驶 30名乘客惊魂半小时地铁四号线开通次日陷紊乱门地铁龙华线开通次日再出故障昨日下午2时15分许,在地铁1号线(罗宝线)固戍站,由罗湖驶往宝安机场方向的一趟列车在固戍站突然出现故障停驶...

  • 贵阳拟建15环快速路全线双向六车道不设红绿灯
    贵阳拟建15环快速路全线双向六车道不设红绿灯

    1.5环快速路初步规划图昨日从市委、市政府召开的专题会上获悉,为进一步缓解城市交通拥堵,我市拟于明年元月启动中心城区畅通工程二期,建设1.5环快速路,优化提升三环十六射,将择期向市民公开征求意见。按照初步规划方案,中心城区畅通工程二期重点在优...

  • 不鞠躬抢话筒两会新风背后的观念转变
    不鞠躬抢话筒两会新风背后的观念转变

    摘要: 今年的省两会已接近尾声,“开短会”、“抢话筒”、“不鞠躬”等两会新鲜事却仍被人们津津乐道,而这些事折射出来的两会新风更是引人深思。今年的省两会已接近尾声,“开短会”、“抢话筒”、“不鞠躬”等两会新鲜事却仍被人们津津乐道,而这些...

  • 陈东会见美国通用磨坊食品公司考察团
    陈东会见美国通用磨坊食品公司考察团

    陈东指出,当前,揭阳正着力实施产业登高和引进工程,打造专业化、高端化的海峡食品药品合作区。希望美国通用磨坊食品公司把揭阳作为南方基地,参与海峡食品药品合作区建设,推动双方合作项目落地,并联合开展企业家经营培训,在揭阳产业引进、产业登高...