OpenAI推出语音克隆工具

OpenAI周五公布了一款语音克隆工具，该公司计划严格控制该工具，直到防范措施到位，以阻止意在欺骗听众的音频伪造。

OpenAI的一篇博客文章分享了该工具的小规模测试结果，文章称，一个名为“语音引擎”的模型基本上可以根据15秒的音频样本复制某人的语音。

这家总部位于旧金山的公司表示:“我们认识到，制造类似于人类声音的言论存在严重风险，这在大选年尤其重要。”

“我们正在与来自政府、媒体、娱乐、教育、公民社会等领域的美国和国际合作伙伴进行接触，以确保我们在建设过程中纳入他们的反馈。”

虚假信息研究人员担心，由于语音克隆工具的激增，人工智能驱动的应用程序在关键的选举年被猖獗滥用，这些工具便宜、容易使用，而且难以追踪。

OpenAI承认了这些问题，并表示“由于合成语音被滥用的可能性，它正在采取谨慎和明智的方式进行更广泛的发布。”

几个月前，一名为乔•拜登(Joe Biden)民主党竞争对手竞选总统工作的政治顾问承认，他是一个冒充美国领导人的自动电话的幕后主使。

这则人工智能生成的电话是明尼苏达州国会议员迪恩·菲利普斯(Dean Phillips)的一名特工的创意，声音听起来像是拜登敦促人们不要在1月份的新罕布什尔州初选中投票的声音。

这一事件引起了专家们的警觉，他们担心在2024年的白宫竞选中，以及今年全球其他关键选举中，会出现大量人工智能驱动的深度虚假信息。

OpenAI表示，测试Voice Engine的合作伙伴同意一些规则，包括要求使用该工具复制声音的任何人获得明确和知情的同意。

该公司补充说，还必须让观众清楚，他们听到的声音是人工智能生成的。

OpenAI表示:“我们已经实施了一系列安全措施，包括水印来追踪语音引擎产生的任何音频的来源，以及主动监控它的使用方式。”