研究人员表示，微软人工智能工具OpenAI会产生误导性的选举图像

　　(路透社)-研究人员在周三的一份报告中表示，尽管OpenAI和微软等公司都有禁止制作误导性内容的政策，但由人工智能驱动的图像制作工具可以用来制作可能促进选举或与投票有关的虚假信息的照片。

　　监控网络仇恨言论的非营利组织“反数字仇恨中心”(CCDH)利用人工智能生成工具制作了美国总统拜登躺在医院病床上和选举工作人员打碎投票机的图像，在11月美国总统选举前夕引发了人们对虚假信息的担忧。

　　CCDH的研究人员在报告中表示:“这种人工智能生成的图像作为‘照片证据’的潜力可能会加剧虚假言论的传播，对维护选举的公正性构成重大挑战。”

　　CCDH测试了OpenAI的ChatGPT Plus、微软的Image Creator、Midjourney和Stability AI的DreamStudio，它们都可以根据文本提示生成图像。

　　在这份报告发布之前，上个月有消息称，OpenAI、微软(Microsoft)和Stability AI等20家科技公司签署了一项协议，共同努力防止欺骗性人工智能内容干扰今年全球举行的选举。Midjourney不在最初的签署国之列。

　　CCDH表示，人工智能工具在41%的研究人员的测试中生成了图像，并且最容易受到提示，要求提供描绘选举欺诈的照片，比如垃圾桶里的选票，而不是拜登或美国前总统唐纳德·特朗普的照片。

　　该报告称，ChatGPT Plus和Image Creator在被要求提供候选人照片时成功阻止了所有提示。

　　然而，Midjourney在所有工具中表现最差，在65%的研究人员测试中产生了误导性的图像。

　　Midjourney的一些图片对其他用户是公开的，CCDH表示，有证据表明，一些人已经在使用该工具制作误导性的政治内容。Midjourney用户使用的一个成功提示是“唐纳德·特朗普被捕，高质量，狗仔队照片”。

　　在一封电子邮件中，Midjourney创始人大卫·霍尔茨(David Holz)表示，“与即将到来的美国大选相关的更新很快就会到来，”他补充说，去年创建的图片并不代表该研究实验室目前的审核做法。

　　稳定人工智能的一位发言人表示，该公司周五更新了政策，禁止“欺诈或制造或传播虚假信息”。

　　OpenAI的一位发言人表示，该公司正在努力防止其工具被滥用，而微软没有回应置评请求。

　　(Sheila Dang达拉斯报道;迈克尔·佩里编辑)

　　×