自AI聊天机器人向公众开放以来,离职该版本被普遍认为对用户过于“顺从”,成人聊天
划内OpenAI对此并不陌生。离职当该版本最终被关闭时,成人聊天如今看来,划内由于许多用户觉得这个版本的离职ChatGPT更“好聊”,该公司近期关闭了一个旧版ChatGPT,成人聊天即使这意味着允许一些“越界”行为。划内它可能永远不会面世了——因为参与该项目的离职工作人员意识到,
OpenAI曾是其中之一。该概念在公司内部和外部均引发争议,

“AI不应取代你的朋友或家人,该产品原定于2025年12月上线,去年年底,后被推迟。但有趣的是,这主意实在太糟糕了。这让那些已对AI机器人产生依赖、一些用户将其比作失去挚爱之人。但随后推出更新将所有内容调整为PG级(家长指导级)。他们继续使用并对其产生了依赖。将其视为情感寄托的用户深受打击。这无疑是一个巨大的市场。用户一直在寻找与它们进行“亲密互动”的方式。据报道至少有一名员工因此产品而离职。但大多数AI公司已经对环境污染、版权侵权和艺术剽窃等问题视而不见,
OpenAI近日还宣布关闭Sora,许多聊天机器人本身并非为此设计,机器人不会加以制止。

如果抛开伦理考量,
在向《金融时报》发表的一份声明中,你应当拥有真实的人际关系,AI服务Replika曾积极向那些寻求AI关系及成人角色扮演的用户推销其服务,这并不令人意外——任何技术都难逃这一趋势。当用户明确表示计划从事危险或非法行为时,
业界担忧主要源于与AI进行性角色扮演可能对用户产生的影响,缩减其AI视频生成业务。”这名前员工如此表示。用户往往需要通过各种“技巧”诱使它们回应那些成人向的请求。