本文是我们的一部分自主武器挑战系列。IEEE标准协会期待你的反馈关于这个话题,并邀请你来回答这些问题

现实世界绝不是二元的。它是模糊和不明确的,有很多选择和潜在的结果,充满了复杂性和细微差别。我们的社会创造了法律和文化规范,以提供和维持某种表面上的秩序,但这种结构往往是开放的,它们会随着时间的推移而变化和演变。

对于任何在人类世界的不确定性中导航的自动系统来说,这种模糊性都是一个挑战,比如Alexa对错误的对话做出反应,或者自动驾驶汽车受到阻碍白卡车而且橙色交通锥.但在考虑自主武器系统(AWS)时,不明确“对与错”尤其成问题。

国际人道主义法(IHL)是管理国际军事冲突的法律体系,它们规定了如何使用武器的规则。国际人道法的基本原则是在个人电脑、卫星、互联网和社交媒体广泛使用之前制定的,也是在私人数据成为一种可以远程访问的商品之前制定的,而且往往不需要个人知情或同意。许多团体他们担心现有的法律没有涵盖最近和新兴技术所带来的无数问题,国际红十字会(International Committee of Red Cross)、国际红十字会(the国际人道主义监督机构,已经建议有法律约束力的新规则以覆盖AWS。

道德原则已经制定了这些原则,以帮助解决不断变化的文化规范和技术与既定法律之间的差距,但这些原则也往往是模糊的,难以转化为法典。例如,即使每个人都同意一个道德原则,比如在自治系统中尽量减少偏见,那该如何编程呢?谁来决定算法偏差是否已被充分“最小化”,以便部署系统?

所有参与联合国自主武器系统辩论的国家都表示,自主武器系统必须遵守国际法。然而,他们对这些法律和道德规范在实践中的意义存在分歧,而且在是否必须预先禁止AWS的某些功能以确保遵守国际人道主义法方面也存在分歧。

IHL,新兴技术和AWS

联合国的很多分歧都源于围绕该技术以及该技术未来将如何发展的不确定性。虽然现有的武器系统有一些自主能力,尽管有报道在利比亚使用AWS而且关于使用AWS的问题在乌克兰,人工智能和自主将在多大程度上改变战争仍是未知数。即使国际人道主义法的规定已经存在,AWS是否能够遵守这些规定还不清楚:例如,机器能否经过训练,可靠地识别战斗人员何时受伤或投降?机器有可能分辨出平民和装扮成平民的战斗人员的区别吗?

网络威胁给国家安全带来了新的风险,公司和政府收集个人数据的能力已经是一个有争议的法律和道德问题。当与AWS配合使用时,这些风险只会加剧,因为AWS可能会受到偏见、黑客攻击、使用不良数据进行训练,或者由于围绕新兴技术的监管薄弱而受到损害。

此外,要让人工智能系统工作,它们通常需要在庞大的数据集上进行训练。但是军事冲突和战场可能是混乱和不可预测的,而且可能不存在大型可靠的数据集。AWS还可能受到更大的对抗性操纵,这基本上涉及欺骗系统,使其误解情况——这很容易做到贴在物体上或物体附近的贴纸.AWS算法是否有可能接受足够的培训和监督,以确保它们不会违反国际法?谁来做决定?

AWS是复杂的,不同的人员和组织参与开发的不同阶段,并且系统的设计人员和用户之间可能不存在沟通。此外,AWS中使用的算法和人工智能软件最初可能不是用于军事用途,或者它们可能是用于军事而不是专门用于武器。为了确保AWS的安全性和可靠性,需要新的测试、评估、验证和验证标准。如果自动武器系统的行为不当或出乎意料,造成了意外的伤害,那么谁是罪魁祸首会明确吗?

AWS的非军事使用

虽然某些国际法涉及战争期间的人权问题,但单独的法律涉及所有其他情况下的人权问题。仅仅禁止一种武器系统在战时使用并不能保证该系统不能在军事战斗之外使用。例如,催泪瓦斯自1925年以来,它被列为化学武器,并在战争中被禁止,但执法部门使用它控制骚乱仍然合法。

如果制定新的国际法来规范战时在武器系统中使用人工智能和自主,那么在军事行动范围之外发生的侵犯人权行为仍然可能发生。后者可能包括私人保安公司、警察、边境管制机构和非国家武装组织的行动。

最终,为了确保法律、政策和道德规范能够很好地适应自动武器的新技术,并确保自动武器的设计能够更好地遵守国际法和规范,政策制定者需要对武器的技术能力和限制,以及如何使用这些武器有更深入的了解。

你怎么看?

我们需要你的反馈!为了使这些AWS讨论更加清晰,本IEEE标准协会2020年召集了一个专家组,考虑将AWS原则转化为实践的道德和技术挑战,以及这对未来的发展和治理可能意味着什么。去年,专家组在一份题为“自主武器系统开发、使用和治理中的伦理和技术挑战“AWS面临的许多挑战与开发自主系统的其他领域所面临的挑战相似。”我们期待并希望IEEE会员和读者亚博真人yabo.at将有来自各自领域的见解,可以为围绕AWS技术的讨论提供信息。

我们把一个一系列问题挑战文档我们希望你能回答这个问题,以帮助我们更好地了解其他领域的人们是如何解决这些问题的。自主能力将越来越多地应用于武器系统,就像它们在其他领域的应用一样,我们希望通过更详细地研究这些挑战,我们可以帮助建立有效的技术解决方案,同时有助于讨论什么可以和应该在法律上被接受。您的反馈将帮助我们朝着这个最终目标前进。公众意见开放至2022年12月7日

对话(1)
威廉·克罗夫特 2022年11月22日
INDV

建议你观看由未来生命研究所制作的视频。该组织由反对自主武器的科学家和工程师组成。他们的视频“屠宰机器人”既令人不寒而栗,又预告了如果这个方向不受到限制,我们将走向何方。任何开发这种机器人的工程师都失去了与他们心灵和灵魂的联系。

仿生手军备竞赛

义肢行业过于专注于复杂、昂贵且通常不切实际的高科技假肢

12分钟读取
水平
一张照片上,一位年轻女子坐在一张白色的桌子旁,她有着棕色的眼睛和染成玫瑰金色的齐肩长发。她一手拿着碳纤维机械臂和机械手。她的另一只手臂在肘部附近。她的短袖衬衫上有手的图案。

作者Britt Young抱着她的Ottobock仿生仿生手臂。

加芙Hasbun。化妆:Maria Nguyen for MAC cosmetics;发型:Joan Laqui为Living Proof设计
DarkGray

在儒勒·凡尔纳1865年的小说中从地球到月球在美国,虚构的巴尔的摩枪支俱乐部的成员都是残疾的内战退伍军人,他们焦躁不安地寻找一个新的敌人来征服。他们在战争中不断创新更致命的武器。战争结束时,“四个人只有一条胳膊,六个人只有两条腿”,这些自学成才的截肢武器匠决定将他们的技能用于一种新的投射物:火箭船。

巴尔的摩枪支俱乐部将自己推向月球的故事讲述了老兵非凡的男性力量,他们不仅仅是“克服”了自己的残疾;他从中获得权力和野心。他们的“拐杖、木腿、人工手臂、钢钩、橡胶下巴、银色头盖和铂金鼻子”在他们的个性中不起主导作用——它们只是身体上的工具。这些零碎的人不太可能是发明的十字军战士,肩负着更不可能的使命。然而,还有谁比被技术改造的人更适合设计下一次技术上的巨大飞跃呢?

继续阅读↓ 显示更少
Baidu