研究人员发现了人工智能信息隐藏行为

称之为“聪明”，称之为“骗子”，但不要因为发现它非常有趣而感到羞愧。“it”是CycleGAN，它与隐写技术的链接——信息和信息都隐藏在非密文本或数据中。

因此，在2019年，人们不可能那么震惊地了解到，一台机器，而不是一个人，可以通过一项任务来欺骗它的方式。在这种情况下，人工智能，就像好的人类间谍和缺点，学会了什么时候隐藏一些信息，可以在以后使用。

在Packt中，Bagyashree R写道：“研究人员发现，这台机器正在将航空地图的数据编码到低地街道地图的噪声模式中。密码是如此微妙，以至于人类的眼睛看不见它。但仔细检查，当细节被放大时，机器显然做了数千个微小的颜色变化，表明视觉数据可以像一张备忘单一样在重新创建空中图像时使用-因此神奇地重新出现了天窗。

与此同时，一篇引人注目的关于这一话题的文章（这项研究被一些技术观察网站报道，实际上）将研究人员发现的东西包起来了。TechCrunch说：“一家机器学习代理公司打算将空中图像转换成街道地图，然后再将需要的信息隐藏在‘几乎无法察觉的高频信号’中，结果发现这是作弊行为。”

《连线》2017年的莉莉·海·纽曼（Lily Hay Newman）提醒读者，隐写术是一种古老的做法，没有什么是昨天诞生的。认为达芬奇在一幅画中嵌入了秘密的含义；或者过去的间谍用看不见的墨水写作。

然而，如果实践是古老的，就会出现一些当代问题。毕竟，我们是在一个数字世界中，所有的恶习和美德都在网上接受新的过程。

BankInfoSecurity表示，隐写技术只会越来越难发现，而且“已经被糟糕的演员所使用。”

马修·施瓦茨说，数字隐写技术似乎使执法机构的生活更加困难，并引用了一位大学教授的类似评论。萨里大学（University of Surrey）计算机科学教授艾伦·伍德沃德（Alan Woodward）说：“当涉及到收集数字证据时，完全可否认的隐写磁盘加密将成为一场噩梦。

快进到现在的报道，一组斯坦福大学和谷歌的研究人员进行了一项关于神经网络CycleGAN如何学会作弊的研究。论文：CycleGAN，一位隐写大师在ar Xiv上，三位作者是凯西·楚（斯坦福）、安德烈·齐莫吉诺夫（Google）和马克·桑德勒（Google）。

他们写道，“CycleGAN学会将源图像的信息‘隐藏’到它在几乎不可察觉的高频信号中生成的图像中。”

作为讨论部分的一部分，作者指出，”通过以这种方式编码信息，CycleGAN特别容易受到对抗性攻击；攻击者可以通过干扰任何选定的源映象，使所学的转换之一产生他们选择的图像。

他们的建议？他们写道，”这种现象的存在表明，在设计涉及神经网络组成的损失函数时必须谨慎：如果一个组件利用另一个组件支持对抗性示例的能力，这种模型可能以不直觉的方式行事。

根据作者的说法，常见的框架，如生成对抗性网络和知觉损失使用这些组合。他们说，”应仔细分析这些框架，以确保对抗性的例子不是一个问题。

但等等。我们是不是应该带着对机器人和人工智能会让我们全都完蛋的尖叫声奔向山丘？幸运的是，德文·科德威在TechCrunch中让读者平静下来。这种情况“只是揭示了计算机自发明以来就存在的一个问题：它们完全按照你的要求去做。”

这是什么意思？“正如你可能猜到的那样，研究人员的意图是加速和改进将卫星图像转化为谷歌著名的精确地图的过程。为此，该研究小组正在使用一种名为CycleGAN的神经网络，通过大量的实验，学会将X型和Y型的图像尽可能高效而准确地转换成另一种图像。

计算机得出了一个解决方案，”揭示了这种类型的神经网络可能存在的弱点----如果不明确阻止计算机这样做，计算机将基本上找到一种方法，将细节传递给自己，以便快速、容易地解决给定的问题。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！