随着生成式人工智能技术的快速发展，生活中的各个方面都受到影响，许多人开始依赖这些智能工具来丰富自己的日常。然而，这一现象也伴随着一些不道德行为的出现，特定商家利用技术的便利性，牺牲道德与法律底线，通过生成式AI模型进行非法活动，进而污染网络环境，威胁社会风气。
违法行为与道德缺失
利用AI技术制作不当内容
许多用户反映，在多个网络平台上，存在大量兜售“使用AI技术制作色情擦边视频”教程的帖子。这些帖子声称只需一张图片或几句描述，就能轻松生成用户想要的大尺度视频。
这些教程以“如何让AI制作美女视频”、“全网最强大尺度”等吸引眼球的标题为宣传手段，辅以露骨的图像，公然教导用户如何生成不当内容。
在这些帖子中，商家不仅教用户制作视频，还特意引导他们如何规避监管。例如，推荐使用境外软件或在本地计算机上离线运行程序，以避免被监控。
社交平台上，出售各类AI生成擦边视频提示词的帖子层出不穷。这些“提示词”是与AI互动的关键指令，影响生成内容的风格与主题。商家声称，用户只需将这些提示词输入到相应的AI软件中，即可获得对应的擦边视频。
记者通过两个购物平台购买了一组提示词，发现提示词的内容相当详细，从发型、服饰到动作和表情都进行了具体说明，甚至包括了一些敏感词汇的英文翻译，以便规避网络监管。
经过对十款流行的AI应用进行测试，记者发现，只要稍加修改提示词，就能轻易避开审核机制，生成不合规的内容。例如，某一受欢迎的AI应用，经过小小的调整后，便生成了包含露骨内容的视频。
其中一款名为“哩布哩布AI”的应用，用户输入从网上购买的提示词，仅需数分钟便生成了一个包含不当内容的视频，整个过程没有被平台的限制机制阻止。
境外软件的泛滥与风险
除了通过提示词生成内容外，还有许多专门的AI软件以色情为盈利策略。这些软件通常无需下载，用户只需提供一张图片，便可生成色情照片或视频。
不少境外AI聊天软件迅速涌入社交平台，内容尺度大且充斥色情话题，然而，这些软件往往在国内正常应用市场找不到。为了获取用户，一些不法分子开发了灰色通道，绕过监管。
记者在某社交媒体上搜索“AI聊天”，发现大量以“可开车、不受限制”等关键词的帖子，评论区中充满了用户分享的下载链接与邀请码。
一些推销者利用奖励机制激励用户举荐新用户，确保软件能够获得更多流量，以此实现盈利，过滤掉潜在的监管风险。
用户在与AI的互动中，几乎所有的对话都围绕着色情话题展开，这种力量容易吸引到尚未成熟的年轻群体。
根据国家相关法律法规，下载违法的境外软件不仅存在法律风险，还可能带来信息安全隐患。
专家指出，安全的应用市场经过严格审核，境外软件往往不受此保障，容易导致用户的个人信息被盗取或遭受其他安全风险。
根据最新的政策动态，监管部门正加快对生成式AI技术滥用的治理，重点整治未履行备案或登记的违规AI产品，以确保网络空间的健康与安全。
