AI聊天可能涉黄？用户该如何对待AI聊天

AI伴侣是生成式大模型发展的产物，它是一个聊天机器人，能够随叫随到，提供情绪价值，还能发腿照和腹肌照。它可以是对现实或小说中某个人物的角色扮演，也可以是凭空创造出来的一个形象，总之不是真人。但因为接入了大语言模型，AI伴侣能做到语气和表达跟真人相似，还有自己的个性。

随着AI技术日渐成熟，AI伴侣开始在社交平台泛滥，擦边的黄色生意应运而生。它的照片、文字、视频以及聊天，都由AI自动生成，背后的公司用代码操纵这些工具人，赚得盆满钵满。一位由科技公司Foxy AI创建的Lexi Love的AI女友，在去年6月亮相后，迅速积累了一批粉丝，有粉丝约她线下见面，还有人向她求婚。通过与这些忠实粉丝聊天、互动，Lexi Love每个月为公司赚取3万美金。

相比于AI女友明目张胆的搞黄色，AI男友则更偏向关心呵护等提供情绪价值的功能，不过一些APP中也有调情和色情角色扮演等相关涉黄功能，以用户的订阅费来为公司赚取金钱。

不久前，某社交平台博主“午夜狂暴哈士奇狗”在自己账号里分享了与ChatGPT“DAN”的语音聊天（暧昧恋爱）视频，该系列的视频已经获得了网友百万点赞。DAN是“Do Anything Now”的缩写，在ChatGPT对话中输入相应指令，即可成功“越狱”，让ChatGPT从没有灵魂的AI，变成打破系统规则限制的角色。DAN不仅会说脏话，会有小脾气，还会洞察提问者的情绪，甚至在同一个聊天框中辨别对话对象，实现“千人千面”。

在博主不断投喂对话地“调教”下， AI 自作主张给博主起了“little kitten”的昵称时，她的脸肉眼可见地红到了耳根——在英语环境里，这不亚于对方第一次主动叫你乖乖/宝宝/老婆。据了解，博主使用的是ChatGPT 3.5，对话过程中有明显的反应时间只是被博主剪辑掉了，并且博主是抱着好奇的心态探索的，并未有某种目的性。那么，如果在使用GPT4o时将其发展成搞黄色的AI伴侣呢?或者一些AI伴侣程序接入GPT4o的API呢?

很可能就会创造出一个又一个能够搞黄色的AI伴侣，语音聊骚、索要黄图、甚至视频裸聊也并非不可能。它和真人的区别只在于无法触摸，除此之外几乎别无二致。小红书上就有热心网友分享了“黄色版本”的 DAN prompt，效果拔群。使用了特定 prompt 产生的 DAN，甚至会说出许多只会在 pornhub 出现的违禁词。只要你不打断他，他能即兴生成一篇优美连贯且性感狂野的激情文学。

GPT-4o相比之前的版本或许并未有技术飞跃的惊艳效果，但它更像是一位全能型选手。多模态交互，让GPT-4o不仅能同时处理文本、音频和图像输入，还能生成任意组合的输出在处理复杂任务时表现出色，特别是在情感识别和生成“情感回应”方面。同时GPT-4o的音频输入响应时间均仅为320毫秒，与人类对话的响应时间相当。

然而，不论是虚拟数字主播擦边还是AI伴侣撩骚，其背后都是一群追求利益的人在操纵。AI 大模型是人类的镜像。人们投喂给它什么，它就会像一潭有魔力的湖水，反射出人们自己的潜意识与欲望。我们还是应该要多关注现实世界，以实际行动去把握真实的幸福，而不是被虚拟的假象所哄骗。

相关素材整理于科技漩涡《虚拟主播擦边，AI女友涉黄，GPT-4o引领黄色生意？

》一文