人工智能道德问题

『壹』 为什么人工智能需要某种道德准则

人工智能本身没有道德观念
但是创造人工智能的人应该有道德观念，让其用在正途
望采纳

『贰』 如何看待人工智能带来的社会伦理道德问题

我觉得人工智能会带来一些不好的地方，但是如果对人工智能进行约束和控制，把这些不好的方面进行修改和改进人工智能是能为社会带来较多的方便。

『叁』 假如人类爱上人工智能，这是否违反基本道德

尽管科幻电影对人工智能的描述偏向负面，但它也在一定程度上表达了人类的焦虑和担忧。现实中，人工智能会拥有自主意识，和人类会产生情感吗？

人工智能越来越像人，人类对机器有了感情怎么办？

“人类是否会与人工智能产生感情，将取决于这种过程是否给人类带来愉悦。正如互联网发展早期的一句常用语所说——在互联网上，没人知道你是一条狗。这表明，当人类在不知道沟通者的身份时，只要对方能够给自己带来愉悦，感情就可能产生。”赵联飞认为，这可能会对人类的交往模式带来影响。比如说，未来，知识型的人工智能可以回答人们能够想到的很多问题，从而导致个体学习方式、生活方式乃至社会化模式的变革。

在技术上加强对人工智能的控制是完全可行的。“人工智能尽管日益高级，但究其根本，仍然是在智能程序对大量数据处理基础上得到的结果。进行编程时，开发者可以通过程序对其进行安全设置。比如，如果识别出来是人类，要自动保持距离；不能做出攻击性动作，从力学幅度上予以约束。”中科院自动化所研究员孙哲南说，还可以把人类的法律规范和道德要求用代码的形式写入机器，全部数字语言化，使其遵守人类的行为准则。

『肆』 如何培养ai的道德观

哲学家和计算机科学家的关注点往往是，如何将微妙的人类道德观灌输给只回能理解字面答意思的机器。但是在此之前，还有另外一个问题，一个我们必须首先考虑清楚的问题：我们真的应该把自己的道德观强加于机器上吗？实际上，我认为这样做很可能会产生反效果，而且也许是不道德的。真正的问题不在机器身上，而在我们自己身上：我们能够接受和一种新生的、有道德的生命共享这个世界吗？
我们想象中的人工智能（AI）往往和我们自己差不多，毕竟人类是我们已知的唯一一种拥有高级智慧的生命。实际上，真正的AI很有可能和我们极其不同。我们可能会很难理解它的思维方式和它做出的选择

『伍』 为什么人工智能面临的最大挑战是道德问题

该问题与一个历史事件很相象：
哥白尼的“日心说”，导致了建立在版“地心说”上的一切观念随权之崩塌。包括科学与宗教。
人工智能将导致建立在“只有人才会思考”这一观念上的所有概念崩塌。包括以此为基础的道德、宗教。
对于一个与自己相同的异类，为了方便思考，假设“人工智能”是会思考的“猴子”，而且是人类创造出来的，并且会很快超过人类，视人类为草芥的生物。
人们应该对“它”示好，还是对“它”打压？
“它”会不会为了生存，害怕被人打压，而采取先手打压人类？
假如，它的智能完全复制于一个自然人，二者同时存在，那么，我是谁？谁是我？
假如，人工智能通过精确的计算，判断某个人A，在未来某个时间点，99.9999999%的可能，会做出杀死某人B。那么，在A杀死B之前，他到底有没有违法？？我们有没有资格抓他？
以现有的道德理论来说，我们无权抓他，那么，对于B来说，一个接近于100%会杀死自己的人，在无时无刻想着杀自己，而法律与道德却无动于衷。法律何在？人心道德何在？
若我们决定抓他，那么对于A来说，我仍然是有0.0000001%的可能是无辜的，你们凭什么以我未来可能会做某事而抓我？

『陆』 人工智能时代的伦理道德面临哪些挑战

数字信息技术使几乎任何人、任何时间、任何地点都能轻易获得信息。这对我们社会的各个方面，从工业生产到分配、到商品和服务的消费，都产生了深远的影响。就像之前的技术革命一样，数字信息技术的影响如此广泛，我们不再只是简单地利用它——做我们以前做过的事情——而是通过改变我们的行为方式来适应它。

今天，数字信息技术已经重新定义了人们如何与他人进行社交互动，甚至如何找到伴侣。消费者、生产者和供应商、实业家和劳动者、服务提供者和客户、朋友和合作伙伴之间重新定义的关系，已经在社会上造成一场剧变，正在改变后工业时代对道德理性的定义。

我们正站在下一波科技革命的风口浪尖：人工智能。20世纪晚期的数字革命将信息带到了我们的指尖，让我们能够快速做出决定，而机构做出决定，从根本上说，取决于我们。人工智能正在通过自动化决策过程来改变这一状况，它有望带来更好的定性结果和更高的效率。人工智能游戏系统在击败国际象棋世界冠军卡斯帕罗夫（Gary Kasparov）和围棋世界冠军柯洁（Ke Jie）方面取得的成功，突显出人工智能在计算当前决策对潜在未来棋步的影响方面，在质量方面优于人类专家。

然而，在这个决策过程中，人工智能也带走了人类行为的透明性、可解释性、可预测性、可教性和可审核性，取而代之的是不透明性。这一举动的逻辑不仅不为参与者所知，也不为程序的创造者所知。随着人工智能为我们做出决策，决策的透明度和可预测性可能会成为过去。

想象一下这样的情景：你的孩子回家找你，要求你给她零花钱，让她和朋友一起去看电影。你允许了。一周后，你的另一个孩子带着同样的要求来找你，但这次，你拒绝了。这将立即引起不公平和偏袒的问题。为了避免受到偏袒的指责，你要向孩子解释，她必须完成家庭作业，才有资格获得零花钱。

没有任何解释，家里一定会有紧张的气氛。现在想象一下用一个人工智能系统取代你的角色，这个系统已经收集了成千上万个处于类似情况的家庭的数据。通过研究其他家庭的零花钱决定的后果，得出结论，一个兄弟姐妹应该得到零用钱，而另一个兄弟姐妹不应该。

但人工智能系统无法真正解释其中的原因，只能说它衡量了你孩子的头发颜色、身高、体重以及其他所有它能获得的属性，以便做出对其他家庭似乎最有效的决定。那又怎么会有效呢？

在法庭上，过去的判决约束法官遵循先例，即使情况不完全相同，但大致相似。一致性在司法、政府、关系和道德规范中都很重要。AI没有遵守先例的法律要求。人类往往只有有限的直接或间接经验，而机器可能可以访问大量数据。

人类无法在一个长期的时间尺度内筛选他们的经历，而机器可以很容易地做到这一点。人类会排除那些被认为对决策无关紧要的因素，而机器不会排除任何因素。这可能导致不尊重先例的决定，其规模之大是人类可以理解的。随着企业和社会迅速转向人工智能，人工智能实际上可能比人类在更长的时间范围内做出更好的决策，而人类在更短的时间范围内就会感到困惑和沮丧，并侵蚀一个正常运转的社会的唯一货币，信任。

要理解基于人工智能的决策可能有多人工，研究人类如何做出决策是很重要的。人类的决策可能由一组明确的规则，或者仅仅基于结果论的关联，或者由组合来指导。人类对于与决策相关的信息也是有选择性的。由于缺乏选择性，机器在做决定时可能会考虑人类认为不恰当的因素。

有无数这样的例子，从微软（Microsoft）在其聊天机器人Tay开始在Twitter上发表煽动性反犹太言论后关闭它，到波士顿大学（Boston University）的一项研究，该研究发现“老板”（boss）、“建筑师”（architect）和“金融家”（financier）等词与男性、“护士”（nurse）和“接待员”（接待员）等词与女性之间存在性别关联。这可能是数据造成的，但它与我们的显式值形成了对比。如果数据驱动的过程依赖于这些人工智能算法生成的输出，它们将产生有偏见的决策，往往违背我们的道德价值观。

ProPublica在2016年提供了明显的证据。美国法院使用的一种电脑程序错误地将两年之内没有再犯的黑人被告标记为“惯犯”，其再次犯案的可能性几乎是白人被告的两倍——前者为45%，后者为23%。如果一个人也这么做，就会被谴责为种族主义者。人工智能揭示了我们明确的价值观和集体经验之间的分裂。我们的集体经验不是一成不变的。它们是由重要的社会决定所决定的，而这些决定又由我们的道德价值观所指导。我们真的想把决策过程留给那些只从过去学习、因而受制于过去的机器，而不是塑造未来的机器吗?

鉴于人工智能在医疗诊断、金融服务和就业筛查等领域的应用规模之大，任何一个偶然事件的后果都是巨大的。随着算法越来越依赖于提高可预测性的特性，控制这类决策的逻辑变得越来越不可思议。因此，我们失去了决策的全局性，抛弃了所有的原则来支持过去的观察。在某些情况下，这可能是不道德的，在某些情况下是非法的，在某些情况下是短视的。“惯犯算法”公然藐视无罪推定、机会均等等原则。

一致性是道德和正直不可或缺的。我们的决定必须遵循一个高于统计准确性的标准；几个世纪以来，相互信任、减少危害、公平和平等的共同美德已被证明是任何推理系统生存的基本基石。没有内部逻辑的一致性，人工智能系统缺乏健壮性和可问责性——这是在社会中建立信任的两个关键措施。通过在道德情感和逻辑推理之间制造裂痕，数据驱动决策的不可知性阻碍了批判性地参与决策过程的能力。

这是我们生活的新世界，复杂的决定被削减成反射性的选择，并被观察到的结果所强化；把复杂的东西简化成简单的东西，把道德简化成实用的东西。今天，我们的道德感为我们的决策提供了一个框架。也许不久之后，我们的决定就会让人们对我们的道德产生怀疑

『柒』 人工智能负面影响

1、劳务就业问题

由于人工智能能够代替人类进行各种脑力劳动和体力劳动，例如，用工业机器人代替工人从事焊接、喷漆、搬运、装配和加工作业，用服务机器人从事医护、保姆、娱乐、文秘、记者、会计、清扫和消防等工作，用海空探索机器人替代宇航员和潜水员进行太空和深海勘探和救援。

机器人将可能引发就业市场的变动并影响人类生活。因此，将有一部分人员可能把自己的工作让位给机器人，造成他们的下岗和再就业，甚至造成失业。

2、社会结构、思维方式与观念的变化

人—机器的社会结构，终将为人—智能机器—机器的社会结构所取代。智能机器人就是一种智能机器。

从发展的角度看，从医院里看病的“医生”、护理病人的“护士”，旅馆、饭店和商店的“服务员”，办公室的“秘书”，指挥交通的“警察”，到家庭的“勤杂工”和“保姆”等等，将均由机器人来担任。因此，人们将不得不学会与智能机器相处，并适应这种变化了的社会结构。

(7)人工智能道德问题扩展阅读：

人工智能技术的发展给人类带来福祉，但需要谨慎地对待智能机器发展过程中可能出现的问题，尤其要考虑如何编制友好的人工智能算法来使智能机器按照伦理道德标准行事。

有必要把人工智能的社会学问题提上议事日程。政府部门、科研机构和学术团体，都要把人工智能社会学研究纳入相应计划，研究解决对策与办法。人工智能可能出现的一些负面效应或新问题，如利用人工智能技术进行金融犯罪，智能驾驶车辆需要出台相应的交通法规等。

因此，需要建立相关的政策和法律法规，避免可能风险，确保人工智能的正面效应。只有人工智能应用得好、把握得好，才能确保人工智能不被滥用，确保人工智能是天使而不是魔鬼。