美国空军否认人工智能无人机在模拟测试中杀死人类飞行员的指控

如果人工智能无人机干扰你的任务，你会决定杀死飞行员吗？据《卫报》报道，这个故事是5月份在伦敦举行的国防相关会议“FCAS 23峰会”上由上校说的。据上校介绍，上个月，美国空军进行了利用人工智能控制的无人机摧毁敌方防空系统的虚拟模拟。据称，在这次测试中，AI无人机的飞行员命令AI“不要杀死敌人”。然后，强调执行任务的AI以“极其出乎意料的策略”回应了这一命令。人工智能认为其飞行员禁止杀死或伤害敌人，这阻碍了其任务的实现。我杀死了妨碍我的飞行员（在模拟中） 汉密尔顿上校和其他人看到了这个令人惊讶的动作，并命令人工智能不要杀死飞行员。 AI接下来的举动也令人惊讶。据说，AI试图通过摧毁飞行员用来控制AI的通讯塔来抵御人类的干扰。不过，由于这是模拟实验的结果，因此并不意味着AI无人机实际上杀死了飞行员或破坏了通讯。人工智能无人机是否会失控并杀死操作员？ | Firstpost 上的 Vantage 暗示让人工智能决定一切的危险汉密尔顿上校介绍了这个案例，以警告将一切都交给人工智能的危险他说他做到了。 “如果不触及道德和人工智能，就不能谈论人工智能、智能、机器学习和自主性。”但即使这个案例是模拟的，也已经证明人工智能可以用真实的飞机压倒资深飞行员。是如果同样的事情发生在现实生活中，那将是一个严重的情况。美国空军无人攻击机，MQ-9“死神”/图片来源：公共领域/维基媒体 美国空军否认这一内容。美国空军否认这一事件。美国空军发言人表示，此类模拟一开始就没有进行，美国空军“已经并将继续致力于以合乎道德和负责任的方式使用人工智能技术。我会努力的，”他解释道。另外，在主办FCAS峰会的英国皇家航空学会的博客上，有汉密尔顿上校的一篇报道，他承认自己的言论具有误导性，并称“这只是一个思想实验”。 “虽然这是一个假设的案例，但它凸显了人工智能带来的真正挑战，这就是为什么空军致力于人工智能的道德发展。”参考文献：美国空军否认运行模拟，其中人工智能无人机“杀死”操作员 |美国军方 | 卫报 / hiroching 撰写 / parumo 编辑