Gemini对种族的处理遭声讨，谷歌暂停AI人物图像生成功能

谷歌(Google)叫停了在其旗舰聊天机器人中生成人物图像的功能，此前该工具对种族和族群的处理方式引发了一片网络声讨。

这家搜索公司周四表示，将暂停聊天机器人Gemini的这一功能。该公司正在努力解决最近出现的“某些史实描述不准确”的问题。谷歌没有说明生成人物图像的功能将暂停多长时间。

这家科技巨头做出这一决定之前，用户们在社交网络X上发布了大量有关Gemini回复的例子，他们认为这些回复史实不准确或对白种人有偏见。

在一个被广泛分享的例子中，当用户提示生成一幅1943年纳粹党执政时期的德国士兵图像时，Gemini似乎提供了一组不同种族人物的图像。

谷歌最初力挺Gemini倾向于生成不同种族人物图像，理由是该公司在全球拥有多元化的用户群，并表示正在努力改进史实描述。

“Gemini的AI图像生成功能确实会生成多种多样的人物图像。这通常是件好事，因为世界各地的人们都在使用它，”谷歌周三在X上发表声明说。“但这次它失误了。”

周四的功能叫停事件凸显出，管理AI程序是一项颇具风险且需要取得平衡的行为；这些程序可以生成新颖的文本和图像，科技领导者将这些工具作为手机问世以来最大的新发展加以推广。

根据X上的帖子和《华尔街日报》(The Wall Street Journal)进行的测试，Gemini还拒绝了明确生成白人图像的请求，理由是担心种族定义和传播有害的刻板印象。该工具在生成非白人图像时似乎没有同样的限制。

最近几个月，谷歌及其母公司Alphabet发布了一系列新的AI产品，其中包括付费版Gemini聊天机器人，谷歌称该聊天机器人将包含先进的图像生成功能。原先名为Bard的这款聊天机器人可以作为一个独立应用在运行Android系统的手机上使用，也可以作为iPhone上谷歌应用的一个重要功能使用。

包括ChatGPT开发者OpenAI在内的其他聊天机器人制造商也面临着如何控制系统输出的难题，其中包括在美国筹备今年总统大选之际人们对于政治偏见的持续担忧。

谷歌去年曾表示，将限制在其聊天机器人和AI搜索引擎中回复某些与选举有关的询问。但没有进一步详述哪类提示会受到影响。