防范AI“神医” 打假要升级
| 2025-04-30 09:24:51??来源:广西日报 责任编辑:蔡秀明 我来说两句 |
据中央广播电视总台中国之声《新闻纵横》报道,电商热销产品“苗古金贴”,号称由“千年秘方”的非物质文化遗产代表性传承人制作,专攻膝盖、颈椎等问题。然而,记者深入调查发现,该“传承人”的照片实为AI生成,证书由一家机构违规炮制。此类现象,在网上并不罕见。 随着AI生成技术的出现,造假手段也随之升级了,AI生成的人物仿真度高,普通人很难一眼识破,更别说对AI不熟悉的中老年人了。再者,一系列的配套造假手段,将假“神医”“神药”包装得惟妙惟肖,不仅普通消费者,就连电商平台、监管部门在鉴别时恐怕都要费点功夫。 因此,面对AI生成的新骗局,打假手段要迭代升级。 平台与监管部门应紧跟新技术,以AI之矛攻AI之盾,充分研究AI生成技术中的时序瑕疵、物理规律异常、个性化表情缺失等漏洞,并利用深度学习模型针对性优化鉴伪算法,提高鉴别能力。 同时,要对AI生成技术应用进行引导。目前,许多平台都根据《人工智能生成合成内容标识办法》及配套国家标准,要求服务提供者和用户对AI生成内容进行显式和隐式标识,为打击AI造假提供了技术支撑与责任追溯机制。下一步,可以对商家用户采取“黑名单制”,如果商家违反规范标准,将其纳入“黑名单”,施以降流、罚款、封店等处罚措施。 此外,针对不法商家虚构药方、伪造证书等造假行为,可构建平台与监管部门协同的治理机制:要求商家上传产品时必须提交药方来源证明、身份资质等全套材料,并在商品页面公示接受社会监督;可联合中医药协会核查药方真实性,联合文旅部门验证相关证书,联合药监部门评估配方合规性,形成“AI初筛+专家复核”的双重鉴定体系。 |
相关阅读:
![]() |
打印 | 收藏 | 发给好友 【字号 大 中 小】 |










