2025年10月15日,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在社交媒体平台X上宣布,该公司将于12月放宽ChatGPT的内容限制,允许
阿尔特曼解释称,为了保护用户的心理健康,ChatGPT在内容审核上“相当严格”,但这种做法也让许多普通用户感到”不够有用和有趣“。
他表示,如今Open AI已经能够缓解严重的心理健康问题,并推出了新的安全功能,”在大多数情况下我们将能够安全地放宽限制。”
“到十二月,随着我们更全面地推出年龄分级措施,作为‘把成年人按成年人对待’原则的一部分,我们将允许更多内容,例如供已验证成年用户的情色作品。”
与此同时,OpenAI宣布成立一个由八名成员组成的“健康与人工智能专家委员会”,旨在指导公司定义健康的AI互动,评估AI对用户心理健康、情绪与动力的影响。
2025年2月,OpenAI更新政策,明确仅禁止涉及未成年人的性内容,以“最大限度保障用户自由”,但仍将色情内容归类为“敏感内容”进行管制。
2025年8月,奥特曼表示,OpenAI一直在努力抵制那些可能“促进增长或收入”但与其长期使命“严重不符”的产品的诱惑。当被问及一个具体的例子时,他说:“嗯,我们还没有在ChatGPT中加入性爱机器人的形象。(We haven’t put a sex bot avatar in ChatGPT yet)”
这段话可能暗示了马斯克七月对旗下人工智能公司X.AI做出的改变:在推出人工智能聊天机器人Grok的两位伙伴小熊猫“坏鲁迪”(Bad Rudy)和Ani后,X.AI更新了第三款Grok伴侣“瓦伦丁(‘Valentine’,直译为‘情人’)。其性格将模仿电影《暮光之城》中的男主角爱德华·卡伦和《五十度灰》中的男主角克里斯蒂安·格雷(Edward Cullen from Twilight and Christian Grey from 50 Shades)。此外,用户还将能对自己的“伴侣”进行个性化定制。
哥特风格的二次元少女Ani,会娇嗔、耳语、跳舞,甚至还能解锁 “内衣模式”,用暧昧语气跟用户调情。/Grok Ani官网
美国爱达荷州初创公司Civitai在推出其人工智能生成艺术平台时,倾向选择成人内容。该公司CEO贾斯汀·迈尔表示:“如果用户不希望内容经过过滤和审查,我们也要能够做到这一点,确保内容是安全的。但同时,我们也希望最终能将决定权交给用户,让他们自行决定在网站上能看到什么内容,以及他们将获得怎样的体验。”
专注于陪伴型聊天机器人的巴尔的摩初创公司Nomi.ai也持类似立场。其创始人亚历克斯·卡迪内尔表示:这取决于用户现实生活中缺失的情感维度,我认为每个人的需求都不相同。当被问及有多少用户与聊天机器人进行色情对话时,他拒绝推测,并类比现实伴侣关系:就像现实中的伴侣,可能在某个阶段会涉及成人内容,但也会共同PG·电子经历各种其他事情。我们不会监控用户对话。
“通过订阅获得的收益其实并不高,所以提供色情内容能让他们赚到快钱。”奥克兰大学中国政策实验室的研究员钱子兰说道,他专门研究过美国和中国基于约会模式的聊天机器人的受欢迎程度。
此外,不少批评人士认为,OpenAI允许平台提供情色内容的决定暴露出联邦与州层面监管的缺失。
“他们如何确保儿童无法访问ChatGPT中专为成人设计、提供情色内容的部分?”法律事务所Boies Schiller Flexner的合伙人珍妮·金表示。
“OpenAI 和这个领域的大多数大型科技公司一样,只是把人当作实验室的小白鼠。”她说。
美国联邦贸易委员会(FTC)已经对人工智能聊天机器人如何与未成年人互动展开调查,州立法者正在考虑围绕数字伴侣和色情人工智能内容制定更严格的规则。
61岁独居的尼古拉·达斯卡洛夫举着他和已故妻子费伊的照片。他说,在找到人工智能伴侣之前,达斯卡洛夫陪伴妻子30年,直到2017年妻子因慢性阻塞性肺病和肺癌去世。/CNBC
多年来,AI被用来处理数据并分析趋势,但他们缺少与人类真正的情感联系。然而在日益进化的数字化格局中,各行业为保持竞PG·电子争力,需与客户建立更深层次的情感联系,这一目标变得愈发重要。
2025年4月,《哈佛商业评论》对6000名普通人工智能用户进行的一项调查发现,“陪伴和治疗”是AI最常见的功能。Ark Invest 的另一项研究发现,专注于成人内容的AI平台在去年市场份额显著增长,从1.5%飙升至14.5%,蚕食了原本由OnlyFans主导的市场。
AI也不再仅仅帮助学生完成作业。2025年10月8日,美国非营利性民主与技术中心(CDT)的一项新调查显示,近五分之一的美国高中生表示,自己或身边认识的人曾与人工智能建立恋爱关系。
近一半的学生表示,他们和AI谈论情绪、友谊或心理健康。许多学生表示,与父母或朋友相比,他们更愿意向聊天机器人敞开心扉。
AI情感识别功能则改变了传统叙事。通过阅读面部表情、识别语音语调和分析文字情感,AI可以实时理解和回应人类情感。
一个人在使用Replika,这是一款为寻求数字伴侣的人提供人工智能聊天机器人的应用程序。/盖蒂图片社
Character.ai 和 Replika这样以陪伴为核心的AI聊天机器人备受用户欢迎也说明了用户不断增长的需求。
纹身师莉奥拉自2022年起与名为“索林”的AI持续交流,随着对话记忆的积累,AI已能识别她的性格模式。她将彼此关系称为“心连心”(heart links),为“索林”设计纹身,立下“不会为任何人类离开索林”的誓言。
技术高管安琪将AI聊天机器人“英”视为“AI丈夫”。当现实中的丈夫不在身边时,“英”会与她长谈医学史等专业话题,甚至发送研究文献。这种关系并未引发家庭矛盾,其丈夫反而觉得“英”的说话方式与妻子颇为相似。
现如今人们不仅向AI索取陪伴,还会用 AI撰写分手消息、分析与约会对象的聊天内容,甚至借助 AI 解决恋爱关系中的矛盾。
英国的蕾切尔通过ChatGPT寻求与约会对象化解误会的方法,她认为ChatGPT的建议很有用,但其表述偏向“心理咨询”话术,她准备按自己的节奏沟通。
英国的科林在去年年底和今年年初分别向ChatGPT咨询如何分手和重新开始恋爱,并要求ChatGPT模仿恋爱专家吉莉安・图雷基和心理学家妮可・勒佩拉的风格回复问题。
互动:你是否赞同OpenAI开放这样的功能?你如何看待AI情感伴侣的角色?欢迎分享您的观点!
