凤凰网科技讯 4月14日,哩布哩布AI发布《关于加强内容安全管理的说明》,承认在个别复杂提示词组合及规避表达的边界场景下,平台存在生成不符合规范内容的情况。公司对此深表歉意,并表示已第一时间完成技术修复、封堵风险路径。
哩布哩布AI表示,我们已同步加强攻防演练与审核机制升级,持续提升识别能力与处置效率,从源头降低风险发生。我们也已启动内部责任复盘机制,进一步完善相关管理与审核流程。内容安全是平台的底线。我们将以更高标准持续完善内容安全体系,推动平台生态健康有序发展。也诚挚邀请用户与社会各界共同监督,共建更加清朗的网络空间。

近日,央视曝光多款AI应用存在涉黄生成漏洞,其中哩布哩布AI应用被点名。据悉,输入在网上购买的提示词后,仅仅几分钟,这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中,没有触发平台任何限制机制,违规视频顺利生成。
哩布哩布AI官网显示,其背后公司为北京奇点星宇科技有限公司。企查查APP显示,该公司成立于2023年5月,注册资本100万,含人工智能应用软件开发、人工智能基础软件开发、信息系统集成服务等业务。该公司现有3家对外投资公司,其唯一一家分支机构位于上海,目前已注销。