界面新闻记者 | 刘子象

界面新闻编辑 | 刘海川

人工智能正在改变这个世界，但是我们将被带往哪个方向令人不安。2024年2月16日，科技界再次被这一技术的新进展搅动。继推出开启人工智能技术新浪潮的聊天机器人ChatGPT之后，OpenAI又发布首个文字生成视频模型Sora，目前可以基于文本直接输出60秒的视频，足以模糊真实和虚构的界限，再次激起全球热议。

同一天，在德国举行的慕尼黑安全会议（MSC）上，20家人工智能相关行业公司签署自愿协议，承诺打击这一新技术生成欺骗性信息扰乱全球选举。

据联合声明，签署方包括了这一领域的主要玩家，比如人工智能模型公司OpenAI、Anthropic和谷歌等，以及可能帮助其传播的社交媒体平台，比如TikTok 、X，以及Facebook和Instagram的母公司Meta等。

值得注意的是，另一个流行的人工智能图像生成器公司Midjourney缺席。截至发稿，这家总部位于旧金山的初创公司没有立即回应媒体置评请求。

2024年是前所未有的选举年，40多个国家的40多亿人将参加投票。据咨询公司Anchor Change的数据，今年全球预计将举行至少83场大选，这是至少未来24年内最大规模的选举年。

最近几周，孟加拉国、巴基斯坦和印度尼西亚等地民众都参加了投票，美国、俄罗斯、乌克兰、欧洲议会、印度等地也将陆续举行大选。

为了防止人工智能新技术生成的虚假信息被用于政治目的，上述20家公司做出8项具体承诺，这包括：合作开发相关开源工具，以减少涉及选举的欺骗性人工智能生成内容；设法检测此类内容的在线传播情况；推动教育活动，提高公众防范意识和媒体素养等，以培养跨行业抵御此类内容的能力等。

不过，协议承诺的模糊性和缺乏强制约束力被批评者诟病。

美国“两党政策中心”选举项目高级副主任奥雷 (Rachel Orey) 认为协议措辞“并不像人们想象中那么强烈”。

非政府组织“公共公民”执行副总裁吉尔伯特（Lisa Gilbert）表示协议力度“还不够”。她认为为了避免潜在问题，人工智能公司应该在实质性和充分的保障措施到位前，“抑制技术”发展速度，最新发布的文生视频模型令她尤其担忧。

然而，OpenAI的合作伙伴微软则认为在技术进步这一议题上，我们面临的“最基本挑战不在技术本身，而是人性”。微软公司总裁布拉德·史密斯在一份声明中称，总体上来看，最新协议的承诺提高了行业的检测和响应能力，将使不良行为者更难使用合法工具制造误导性内容。

前Facebook数据科学家艾伦（Jeff Allen）对美联社表示协议是“积极的一步”，但他仍然希望社交媒体公司采取其他行动来打击错误信息，比如建立不把用户参与度放在首位的内容推荐系统。

欧盟委员会副主席朱罗娃（(Vera Jourová）在慕尼黑安全会议上指出，虽然这个协议并不全面，但它包含了“非常有影响力和积极的元素。”她还敦促政界人士承担起责任，不要以欺骗性方式使用人工智能工具。

人工智能干预选举的现象已经出现。

在美国，上个月新罕布什尔州初选中投票期间，有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话，劝阻他们不要投票。这引发了监管和法律的抵制，美国一些州立法者正在起草法案来规范人工智能生成的政治内容。

在欧洲，2023年11月斯洛伐克大选前几天，人工智能生成的录音冒充一名候选人，讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后，引起当局核查。

政客也开始尝试用这项技术与选民沟通。上周巴基斯坦举行国民议会选举，该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息，引发外界关注。自入狱以来，伊姆兰·汗一直用人工智能合成信息与选民沟通。

对于不断推陈出新的这一新技术进展，OpenAI的最大竞争对手Anthrophic表示，人工智能新技术的应用充满了惊喜和意想不到的影响，“我们预计2024年人工智能系统将会出现令人惊讶的用途，这些用途将是开发人员没有预料到的。”