主页 > 资讯 > 新闻 > OpenAI愿意公开数据:训练图像生成器的透明承诺

OpenAI愿意公开数据:训练图像生成器的透明承诺

时间:2023-07-29 来源:网络 作者:网络

7月21日消息,OpenAI发布的一份互联网政策备忘录显示,该公司主张要求所有有意开发先进人工智能的企业必须获得政府支持。据悉,OpenAI是在今年5月4日与白宫官员和科技行业高管会面后,向内部人员披露了一系列人工智能政策承诺的。

在这份备忘录中,OpenAI明确表示愿意公开其在训练图像生成器时所使用的数据。同时,该公司表示支持与政府合作,制定一套适用于未来最先进基础模型的牌照制度。这一举措旨在帮助政府追踪和监管新型系统,防止潜在的超强系统可能带来的破坏性影响。

据了解,OpenAI的这一政策承诺可能会引发与初创公司和开源开发者利益的冲突。有人认为,这样的举措会提高行业准入门槛,让小型创业公司难以承受监管负担。为此,OpenAI在备忘录中强调,这种牌照制度应仅适用于比现有的GPT-4更强大的人工智能模型,以保持对整个生态系统的支持。

OpenAI还表示愿意进一步开放用于训练DALL-E等图片生成器的数据,并在年底前纳入溯源方法。数据溯源是一种让开发人员对其工作透明负责的方式,有助于防止人工智能工具传播错误信息和偏见。同时,OpenAI还在内部政策文件中披露,正在调查水印技术和人工智能生成内容的检测与披露方法,并将公布调查结果。

此外,OpenAI对外部“红队”持开放态度,允许人们参与测试其系统在多方面的潜在问题,包括冒犯性内容、被操纵的风险、错误信息和偏见。该公司还支持建立信息共享中心,以促进网络安全合作。

OpenAI在备忘录中还警示称,人工智能系统可能带来就业和不平等方面的风险。为此,他们承诺进行研究,并向政策制定者提出建议,以保护经济免受潜在破坏的影响。通过这一系列政策承诺,OpenAI试图在人工智能领域发挥积极的引领和监管作用,确保该技术的负面影响最小化,并推动其合理发展。