本文是我们的一部分自主武器挑战系列。IEEE标准协会期待你的反馈关于这个话题,并邀请你来回答这些问题

国际上关于自主武器系统(AWS)的讨论通常集中在一个基本问题上:机器决定夺走人的生命是否合法?但与这个问题交织在一起的是另一个根本问题:我们能相信自动化武器系统能完成预期的任务吗?

如果开发和使用AWS的技术挑战无法解决,那么这两个问题的答案很可能都是“不”。


AI应用于武器的挑战被放大

人工智能和机器学习的许多已知问题在与武器联系在一起时变得更加成问题。例如,人工智能系统可以比人类分析师更快地处理图像数据,而且大多数结果都是准确的。但众所周知,用于这一功能的算法会引入或加剧偏见和歧视问题,比其他人群更针对某些人群。鉴于此,使用图像识别软件来帮助人类识别潜在目标是否合理?

但人们对AWS技术能力的担忧已经超出了物体识别和算法偏差的范畴。武器系统的自主性需要大量的技术,包括传感器、通信和机载计算能力,每一项技术都对开发者提出了自己的挑战。亚博排列五投注网站这些组件通常是由不同的组织设计和编程的,很难预测这些组件将如何在系统中一起工作,以及它们将如何对各种现实情况和对手做出反应。

保证和风险测试

目前也不清楚军方如何测试这些系统,以确保AWS能够按照预期行事并遵守国际人道主义法。然而,军方通常希望在部署系统之前,对武器进行测试,并证明其作用一致、合法,而且不会伤害自己的士兵。如果指挥官不信任武器系统,他们可能不会使用它。但是,对于一个可以从该领域的交互中学习的人工智能程序来说,标准化测试尤其复杂——事实上,针对AWS的这种标准化测试根本不存在。

我们知道软件更新如何改变系统的行为,并可能引入导致系统行为不稳定的错误。但是,由人工智能驱动的自动化武器系统也可能根据现实经验更新其行为,而AWS行为的变化可能更难被用户跟踪。系统在该领域获得的新信息甚至可能触发它开始偏离其原始目标。

类似地,网络攻击和对抗性攻击构成了已知的威胁,开发人员试图防范这些威胁。但是,如果攻击成功了,如何进行测试以识别系统已被黑客攻击,用户又如何知道要实施这样的测试呢?

自主武器的物理挑战

尽管最近人工智能领域的进步让人们对AWS的使用更加担忧,但武yabo2016网上亚博A器系统中自主性的技术挑战已经超出了人工智能的范畴。常规武器和非武器化自主系统已经存在物理挑战,但这些问题在AWS中进一步加剧和复杂化。

例如,许多自主系统正在变得越来越小,尽管它们的计算需求在增长,包括导航、数据采集和分析以及决策制定——而且可能与指挥官没有通信。即使通讯中断,自动化武器系统能否在整个任务过程中保持必要和合法的功能?如果系统落入敌人手中,如何保护数据?

其他自动驾驶系统也可能出现类似的问题,但AWS的故障后果会被放大,可能需要额外的功能来确保,例如,战场上的武器化自动驾驶车辆不会违反国际人道主义法或将友军车辆误认为敌人目标。由于这些问题都是新出现的,武器开发商和立法者将需要与机器人领域的专家合作并向他们学习,以解决技术挑战并制定有用的政策。

有许多技术进步将有助于各种类型的武器系统。有些将比预期的更难发展,而另一些可能会发展得更快。这意味着AWS的开发不会是从常规武器系统到完全自主的飞跃,而是会随着新的自主能力的开发而循序渐进。这可能会导致滑坡,即不清楚是否已经越过了一条从可接受的技术使用到不可接受的界限。也许解决方案是在特定的机器人和自主技术发展过程中审视它们,问问我们自己,社会是否想要一个具有这种能力的武器系统,或者是否应该采取行动防止这种情况发生。

你怎么看?

我们需要你的反馈!为了使这些AWS讨论更加清晰,本IEEE标准协会2020年召集了一个专家组,考虑将AWS原则转化为实践的道德和技术挑战,以及这对未来的发展和治理可能意味着什么。去年,专家组在一份题为“自主武器系统开发、使用和治理中的伦理和技术挑战“AWS面临的许多挑战与开发自主系统的其他领域所面临的挑战相似。”我们期待并希望IEEE会员和读者亚博真人yabo.at将有来自各自领域的见解,可以为围绕AWS技术的讨论提供信息。

我们把一个一系列问题挑战文件我们希望你能回答这个问题,以帮助我们更好地了解其他领域的人们是如何解决这些问题的。自主能力将越来越多地应用于武器系统,就像它们正在应用于其他技术领域一样,我们希望通过更详细地研究这些挑战,我们可以帮助建立有效的技术解决方案,同时有助于讨论什么可以和应该在法律上被接受。您的反馈将帮助我们朝着这个最终目标前进。公众意见开放至2022年12月7日
对话(6)
约翰麦克贝恩 2022年11月22日
LS

作为一名产品安全工程师,我更关注设备是如何损坏的——以及如何减轻后果——而不是它是如何工作的。太多的研发工程师相信这是事实应该工作就是如何工作工作。当人类行为不端时,机器人必须表现得完全合乎道德吗?当人类犯错时,机器人必须不犯错误吗?不会发生的。人类已经定义了“战争罪”,同意避免“战争罪”,并一直在犯下“战争罪”,所以机器人将遵循这条道路。不可避免的吗?也许不是,但全球气候变化也不是。末日时钟现在应该考虑AWS了。

Fotios Sotiropoulos 2022年11月22日
既然人工智能,如果它将被用于军事应用,将是一种非常先进的武器,我将用以下问题来回答这个话题:我们如何确保一群人负责任地使用武器,以及我们的社会如何定义坏人?我相信,与其试图在地球上寻找坏人,不如重新定义我们在宇宙中的角色,监督我们星球面临的真正挑战,在我们毁灭自己之前,作为人类统一起来!

威廉·克罗夫特 2022年11月22日
INDV

建议你观看由未来生命研究所制作的视频。该组织由反对自主武器的科学家和工程师组成。他们的视频“屠宰机器人”既令人不寒而栗,又预告了如果这个方向不受到限制,我们将走向何方。任何开发这种机器人的工程师都失去了与他们心灵和灵魂的联系。

仿生手军备竞赛

义肢行业过于专注于复杂、昂贵且通常不切实际的高科技假肢

12分钟读取
水平
一张照片上,一位年轻女子坐在一张白色的桌子旁,她有着棕色的眼睛和染成玫瑰金色的齐肩长发。她一手拿着碳纤维机械臂和机械手。她的另一只手臂在肘部附近。她的短袖衬衫上有手的图案。

作者Britt Young抱着她的Ottobock仿生仿生手臂。

加芙Hasbun。化妆:Maria Nguyen for MAC cosmetics;发型:Joan Laqui为Living Proof设计
DarkGray

在儒勒·凡尔纳1865年的小说中从地球到月球在美国,虚构的巴尔的摩枪支俱乐部的成员都是残疾的内战退伍军人,他们焦躁不安地寻找一个新的敌人来征服。他们在战争中不断创新更致命的武器。战争结束时,“四个人只有一条胳膊,六个人只有两条腿”,这些自学成才的截肢武器匠决定将他们的技能用于一种新的投射物:火箭船。

巴尔的摩枪支俱乐部将自己推向月球的故事讲述了老兵非凡的男性力量,他们不仅仅是“克服”了自己的残疾;他从中获得权力和野心。他们的“拐杖、木腿、人工手臂、钢钩、橡胶下巴、银色头盖和铂金鼻子”在他们的个性中不起主导作用——它们只是身体上的工具。这些零碎的人不太可能是发明的十字军战士,肩负着更不可能的使命。然而,还有谁比被技术改造的人更适合设计下一次技术上的巨大飞跃呢?

继续阅读↓ 显示更少
Baidu