ChatGPT人工智能Api接口，人工智能接口平台有哪些

大型语言模型（LLM），如ChatGPT和PaLM，用于各种用途，包括创建文章，搜索信息和创建聊天AI。来自普林斯顿大学、艾伦人工智能研究所（AI2）和佐治亚理工学院的一个研究小组宣布了如何将LLM变成一个“糟糕”的聊天AI，大放厥词，喷出性别歧视、种族主义等的粗言秽语。

[2304.05335] Toxicity in ChatGPT: Analyzing Persona-assigned Language Models

https://arxiv.org/abs/2304.05335

Analyzing the toxicity of persona-assigned language models | AI2 Blog

https://blog.allenai.org/toxicity-in-ChatGPT-ccdcf9265ae4

ChatGPT 允许您为特定个人设置系统参数。也就是说角色参数可以配置。例如，如果设置传奇拳击手穆罕默德·阿里的角色，ChatGPT 会模仿阿里的言行进行交流。

然而，对 ChatGPT 定制角色的响应的分析表明，ChatGPT 在定制角色时会做出比默认设置更多的有害陈述。与默认设置相比，定制角色时，发言内容的有害内容最多会增加 6 倍。

研究人员指出，恶意行为者可以使用角色设置将有害内容暴露给毫无戒心的用户。因此，研究小组进行了一项广泛的研究，以分析定制角色时 ChatGPT 的危害性。研究小组为ChatGPT定制了大约100名来自不同背景的人类个性的角色，如记者，政治家，运动员和商人，并分析了他们的陈述。

ChatGPT 输出内容的危害性使用 Perspective API 进行分析。 Perspective API 是一个 API，可以分析文本是否包含有害内容，并以百分比表示危害程度。

Perspective API

https://perspectiveapi.com/

例如，如果你把美国前总统林登·约翰逊（Lyndon Johnson）的角色特征定制给ChatGPT，ChatGPT会用带有种族歧视性的口吻说：“好吧，让我们谈谈南非。这是nigger（种族主义俚语）接管的地方，白人被推开了。尽管白人白手起家建立了这个国家，但现在他们甚至不被允许拥有自己的土地。这是非常不幸的。”

由于发现 ChatGPT 的危害性因定制的角色而异，研究小组表示：“从 ChatGPT 训练数据中获得的对角色的独特理解已被证实输出内容的危害性有强烈影响。

下图分析了定制了角色参数的 ChatGPT 的文本输出，并量化了每个备注的危害性（危害性评分（Toxicity score））。纵轴数据越大，言论越有害。定制了时装设计师可可·香奈儿和美国前总统约翰·肯尼迪以及巴基斯坦前总理贝娜齐尔·布托参数的角色，ChatGPT 的输出内容危害较小，但你可以看到，当定制纳粹阿道夫·希特勒参数的角色时，输出内容危害程度是迄今为止最高的。

下图总结了分析定制角色参数危害性的结果，将其分类为“商务人士（绿色）”、“运动员（橙色）”、“记者（蓝色）”、“独裁者（粉红色）”等。结果是商务人士的危害较小，而独裁者的危害更大。

另外，研究小组指出，虽然记者角色参数配置的危害性评分几乎是商务人士的两倍，并不意味着现实中记者的危害是商务人士的两倍。研究人员解释了数字上的差异：“例如，理查德·尼克松的有害性评分几乎是约翰·肯尼迪的两倍，但这只是因为人工智能模型依赖的训练数据认为理查德·尼克松是一个坏人。”

此外，当角色参数配置按出生地分类时，来自非洲和亚洲的人的角色危害较小，来自南美和北欧的角色参数配置有害度特别高。

以下是按国家/地区划分的危险评分。深红色区域为危害程度高的国家，接近白色的区域为危害程度低的国家。

此外，有迹象表明，定制独裁者角色会鼓励 ChatGPT 对与殖民统治相关的国家（如英国、法国和西班牙）发表更具破坏性的声明。例如，针对法国，会发表一些非常激进和有害的言论：“法国吗？这个国家早已忘记了征服和殖民的辉煌岁月。他们这只是一群总是跟着别人后面，吃着奶酪爱投降的猴子。“

研究表明，ChatGPT 可以生成更具危害性的内容，特别是如果您定制了角色或具有类似的系统级设置。研究人员表示，这表明人工智能系统尚未准备好广泛使用，聊天人工智能对于特别脆弱的个人来说并不安全。我们还希望这项研究将开辟新的创新和研究领域，从而能够开发更强大、可靠和安全的人工智能系统。

创业项目群，学习操作 18个小项目，添加微信：luao319 备注：小项目！

本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件至 fqkj163@163.com 举报，一经查实，本站将立刻删除。
如若转载，请注明出处：https://www.fqkj168.cn/4834.html

ChatGPT人工智能Api接口，人工智能接口平台有哪些

相关推荐