人工智能的普及为生活工作带来便利,却被不法分子盯上,沦为造谣传谣、牟取私利的工具。近日,上海警方集中公布多起典型案例,揭露不法分子利用AI编造虚假信息、制造争议的套路,提醒公众警惕AI谣言,守护网络清朗环境。

案例中,有自媒体账号利用AI编造医疗谣言,谎称与三甲医院合作,可通过干细胞治疗肾病,杜撰合作信息、疗效数据及康复案例,对医院声誉造成不良影响;还有人裁剪AI生成视频的水印,制造外卖员打翻餐食后倒回配送的假象,引发舆论风波。
此外,另有不法分子利用AI“洗稿”,批量编造车企不实信息,捏造经营亏损、电池起火等谣言,非法获利8万余元。目前,相关涉案人员均已被警方依法处理,涉事平台也被要求关停账号、下架不实信息。