最近，一位名叫小K的博主遇到了一次令人心慌意乱的事情。有不怀好意的人利用她的照片进行人工智能（AI）合成，并且通过私信的方式询问她是否有提供个人服务。这种AI技术的不当使用不仅侵犯了个人隐私，而且暴露出技术滥用所带来的问题。

经过调查，发现黑灰色产业中存在着售卖以网红和女演员为目标的“AI脱衣”照片群组以及提供五元“去衣”、二十元“视频换脸”的非法服务。这些行为不仅触犯了《治安管理处罚法》的规定，而且还可能触犯刑法中的制作、贩卖淫秽物品罪及传播淫秽物品罪。更可怕的是，通过传授此类技术，一些人已经发展成帮助犯罪或者教唆犯罪的帮凶，这进一步加深了问题的严重性。

针对这一情况，北京市中闻律师事务所的赵虎律师表示，AI技术用于制造和传播虚假图片不仅违法，还侵害了公民的个人信息安全。奇安信集团行业安全研究中心主任裴智勇认为，AI深度伪造技术因其效率高和门槛低，正在导致大量的伪造内容充斥互联网。他呼吁社会各界要加强对照片和视频防伪技术的研究和推广。

然而，在社交媒体上，这种现象依然存在。例如，在B站和小红书等平台上出现了不少推广“AI脱衣教程”的视频，虽然有些是真实的AI换衣演示，但也有很多视频的内容并不真实。对此，裴智勇建议，互联网平台应该积极参与网络治理，限制不良信息传播，对于未经证实的信息添加警告标签，并大力推广防伪技术应用。

此外，北京芯盾时代科技有限公司的CTO孙悦提出了他的观点。他认为，要应对深度伪造技术的挑战，必须强化系统身份认证、采用多重认证机制和大数据分析等手段，这对于防御身份伪造风险非常重要。长远来看，政府、行业、技术开发者和公众都需要共同努力，通过制定完善的法律法规、推动技术研发和提高公众的安全意识等多种方式，共同维护网络安全和个人权益。