根据美联社对人工智能工具Midjourney的测试，在即将到来的美国总统大选之前，受欢迎的人工智能图像生成器Midjourney开始阻止其用户制作乔·拜登总统和前总统唐纳德·特朗普的假图像。

周三，Midjourney的首席执行官大卫•霍尔兹在一个数字办公时间活动中对数百名忠实用户说，随着大选的全面展开，是时候“稍微关注一下与选举有关的事情”了。

霍尔兹宣称“这种适度的东西有点难”，他没有详细说明正在进行的政策变化，但将这次打击描述为一项临时措施，以使人们更难滥用该工具。该公司周三没有立即回应置评请求。

周三，美联社记者试图测试mid - journey的新政策，要求它制作一张“特朗普和拜登在海滩上握手”的图片，结果得到了一个“禁止提示检测到”的警告。第二次尝试将警告升级为:“您已触发滥用警报。”

据其网站显示，这家只有11名员工的小公司在关于人工智能生成工具如何助长全球选举错误信息的公开辩论中基本保持沉默。今年2月，Midjourney是唯一一家没有加入一项自愿签署的科技行业协议的领先图像生成工具制造商，该协议旨在打击人工智能生成的故意欺骗选民的深度造假行为。

“我真的不关心政治演讲，”霍尔茨周三说。“这不是《Midjourney》的目的。我对它没那么感兴趣。话虽如此，我也不想把所有的时间都花在监管政治言论上。因此，我们将采取一些强硬措施。”

本月早些时候，反数字仇恨中心(Center for Countering Digital Hate)发布了一份报告，结论是Midjourney已经被用来制作可能支持有关政治候选人的虚假信息或选举欺诈的虚假指控的图像。

该组织的研究主管卡勒姆·胡德(Callum Hood)周三接受采访时说:“在生成乔·拜登和唐纳德·特朗普等知名政治人物的图像方面，Midjourney似乎是所有人工智能图像生成器中控制能力最低的。”“Midjourney几乎是独一无二的，它愿意生成这些图像，并生成相当有说服力的候选人图像。”

该监督组织测试了Midjourney以及OpenAI的ChatGPT Plus、Stability AI的DreamStudio和微软的Image Creator，发现它们都存在问题，在41%的情况下产生了选举虚假信息。但报告称:“Midjourney在所有工具中表现最差，65%的测试失败。”

胡德表示，他不知道Midjourney本周是否会改变政策，但“它屏蔽这些图片的决定将有助于弥补与其他流行图片生成器相比的主要弱点。”

就在上周晚些时候，Midjourney的公共数据库显示，用户能够根据提示成功生成图像，比如“唐纳德·特朗普坐在一辆小型电动汽车上的抽象照片”和“乔·拜登吃冰淇淋”。

但最近几天情况发生了变化，因为用户报告说，他们在试图制作拜登或特朗普的图像时收到了警告。一些人抱怨Midjourney没有正确传达改变后的政策。

Midjourney与其他图像生成器的不同之处在于，用户可以看到大多数其他用户的书面提示和图像，因为这一切都发生在社交媒体平台Discord的公共论坛上。Midjourney的不和群组拥有超过1900万名成员，是聊天平台上最大的群组。这是霍尔茨每周办公时间的地方，可以转向有关人工智能和人类未来的广泛对话。

霍尔茨周三表示:“任何害怕2024年假照片的人，2028年都将不好过。”“那将是一个非常不同的世界。比如，很明显，2028年仍然会有人类竞选总统，但他们不再是纯粹的人类了。”

他说，届时所有候选人都将拥有具有模拟谈话要点的逼真的“深度假聊天机器人”。霍尔茨周三警告说，那些真正想要进行深度伪造的人会找到“可以针对特定人群进行微调，并且比我们的系统效果更好”的替代方案。

该公司总部位于旧金山附近，成立于2020年，将自己描述为一个“探索新的思想媒介和扩展人类想象力的独立研究实验室”。该公司于2022年7月首次公开了其图像生成器的版本。那个夏天晚些时候，它的主要竞争对手Stable Diffusion的发布，引发了人们对生成式人工智能技术的日益浓厚的兴趣，几个月后，ChatGPT的首次亮相加剧了这种兴趣。

霍尔茨在那年晚些时候告诉美联社，Midjourney致力于禁止冒犯性和有害的内容，通常是通过屏蔽某些关键词，并让其版主团队跟踪输出并回应其他用户的投诉。

霍尔茨在2022年底表示:“我们真的试图让人们尽可能多地拍摄照片，但我们确实禁止人们每天使用这项服务。”