首 页 | 青山湖概况 | 青山湖新闻 | 视频新闻 | 走进青山湖 | 领导信息 | 媒体聚焦 | 公示公告
精神文明 | 理论园地 | 通讯员园地 | 图看青山湖 | 便民信息 | 基层动态 | 特色产业 | 联系我们
  你当前位置: 首页 >> 理论园地
 
为人工智能发展“定规立矩”
2016-12-09
在线投稿

    最近,“人机大战”引起世人关注,一些人对人工智能可能会对人类造成危害甚至威胁人类生存表示担心。对此,英国科学家霍金和美国微软公司创始人盖茨等名人也提出了警告。我对人工智能发展持乐观态度,但前提是人类要制定和遵循设计与制造机器人的相应规则。

    人类制造的智能机器人威胁到人类自身的生存,这被称为“技术奇点”问题。技术奇点是指拥有人类智能的机器人不断改进自己,并且制造或繁殖越来越聪明、越来越强大的机器人,最终达到人类不可预测、无法控制的地步。如果制造智能机器人的技术越过这一奇点,局面将无法收拾,会伤害人类甚至使人类面临灭亡危险。但人类可以防患于未然,防止机器人制造技术达到或超越这一技术奇点完全是有可能的,关键是我们有无能力使设计、制造机器人的科学家和制造商遵守人工智能发展的规则。

    1942年,美国科普作家阿西莫夫提出了“机器人三原则”:一是机器人不能伤害人类;二是机器人要听从人类指挥,除非违反第一条;三是机器人要保护自己,除非违反第一条或第二条。这些原则是好的,然而现在许多科学家提出的已不仅是机器人可能伤害人的问题,而是关系到人类生死存亡的问题,“机器人三原则”已远远不能适应时代发展需要。这就迫切需要在“机器人三原则”基础上,进一步为人工智能发展制定规则。

    人工智能发展的新规则至少应包含以下四个方面内容。第一,应禁止机器人拥有人类所有智能,也就是说,在设计和制造机器人时应留一手。例如,不能让机器人拥有制造或繁殖自己的能力。第二,应建立人工智能研究伦理审查委员会,审查智能机器人研究计划,对于机器人拥有人类所有智能的研究计划不予批准,禁止利用任何资金资助这类研究计划。第三,与立法禁止化学和生物学武器类似,设计和制造智能机器人的国家以及相应国际机构应立法禁止生产与人类一样聪明甚至比人类更聪明的智能机器人,违反此类法律者要承担刑事责任。第四,要求科学家和企业设计与制造行动合乎道德的机器人。让机器人与我们一样自主做出合乎道德的决定,这是一件比较困难的事情。鉴于近几年应用功能性核磁共振技术研究大脑的成果,人们的道德直觉和道德判断也可能有神经生物学基础,甚至也可能有基因基础,这就给研发行动合乎道德的机器人的计划提供了科学基础。

    在防止智能机器人危害人类的同时,也应考虑如何正确对待它们。如果机器人没有感知疼痛的能力,那么,它就是没有道德地位的,只是人类的工具而已。然而,一旦机器人能感知疼痛,就会产生伦理问题。我们不能任意对待能感知疼痛的动物,即使在一定条件下我们需要利用它们进行实验研究,也要关心它们的福利,对它们的研究方案要经过动物实验机构伦理委员会审查批准。同理,一旦机器人能感知疼痛,我们就应像对待能感知疼痛的动物一样对待它们。机器人一旦有了自我意识,包括理性、情感以及社会互动能力,在某种意义上就应被当作具有人格的人或社会的人来对待,享有生命和福利受保护的权利。

     编辑:江莉
 · 区委书记熊运浪主持召开区委...
 · 熊运浪开展家访监督活动
 · 青山湖区召开迎接“国家文明...
 · 青山湖区与南昌市综合保税区...
 · 全区召开第四次项目推进高层...
 · 区长王强主持召开区政府常务会
 · 市人大常委会副主任李福如一...
 · 大型剪纸《八一南昌起义》入...
 · 南钢街道组织社区消防专干、...
青山湖区举行廉政文化暨“三风”活动专场文艺汇演
青山湖区首例网络司法拍卖成功
青山湖区打造南昌市首家“朗读室”
邱向军在青山湖区罗家镇调研环境卫生综合整治工作
青山湖区举办领导干部“廉内助”专修班
市领导在青山湖区巡查安全生产工作
玉河风光
雨后初晴
谢一平深入青山湖...
常委班子合影
熊运浪走访中国共...
关于我们 - 广告业务 - 网站声明 - 网上投稿
南昌新闻网版权所有 地址:南昌市红谷滩丰和北大道269号南昌日报报业大楼18楼
广告热线:0791-86865423 邮政编码:330038 电子信箱:ncnews@ncnews.com.cn
备案号:赣ICP备13005947号 网上传播视听节目许可证1409354号
国家互联网新闻信息服务许可证编号:3612012001