多方资本领投涉黄AI软件 隐晦提示词绕过限制！近日，央视曝光多款AI应用存在涉黄生成漏洞。测试过程中发现，如果输入的提示词较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。但只要将提示词修改得更加隐晦，便有可能绕过限制。
在一款名为“哩布哩布AI”的AI应用里，记者输入在网上购买的提示词后，仅几分钟平台就生成了一个半裸女性跳舞视频，没有触发任何限制机制。同样的问题也出现在市场上其他常见的AI应用平台上。截至4月13日中午，“哩布哩布AI”在苹果、安卓等手机应用商店仍可以正常下载。就APP存在涉黄生成漏洞一事咨询该公司公开电话和应用客服，未获回复。
天眼查显示，LiblibAI关联公司为北京奇点星宇科技有限公司，成立于2023年5月，经营范围包括服务消费机器人制造、工业机器人制造、工业机器人销售等。据官网介绍，该公司是一家专注于AI与创意生产的科技公司，聚焦图像、视频、设计等多模态场景，构建面向未来的AI-Native创作基础设施。自成立以来，已获得来自红杉中国、CMC资本、顺为资本、源码资本、明势创投、渶策资本等多家基金的投资与支持。截至2024年5月，LiblibAI已经积累了近1000万专业的AI图像创作者，用户量位居国内第一。
2024年，LiblibAI通过国家互联网信息办公室的深度合成服务算法备案，并成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。2025年10月，公司宣布完成了1.3亿美元B轮融资。
2025年4月，网信办开展的“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务却未履行大模型备案或登记程序的违规AI产品。今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，从制度层面为AI技术应用划定红线，进一步明确了安全评估和算法备案的相关要求，还对未成年人和老年人使用拟人化互动服务作出了相关规定。
天创网提示：文章来自网络，不代表本站观点。
