你在社交网络上,是否刷到过这样的内容?

“来上海,必须去这儿”

“魔都免费绝美机位”

“本地人私藏的秘境”

……

每逢暑期,上海都是旅游市场的顶流。不少博主在平台上扎堆发布此类攻略,意图收割流量。封面图往往极具诱惑力:或是摩登天际线,或是旖旎山水,看得人心里痒痒,恨不得立刻打包行李出发。

可这些配着视频、号称“有图有真相”的打卡地,真的存在吗?

许多上海土著给出了否定的答案:假的!实地探访后发现,这些地方根本不存在。记者近日深入核查发现,这类帖子的影像素材来源主要有两类:相当一部分由AI凭空生成,另一部分则是盗用其他地区的视频照片,张冠李戴。

虚假景点背后,藏着引流牟利的算盘。

近期,记者在各大社交平台海量检索“上海旅行攻略”,梳理出被网友揭穿的造假帖子,发现它们有着高度雷同的操作套路:

↓↓↓

这类内容普遍展示大量精美且罕见的画面,封面更是精心包装:绵延不绝的红灯笼长廊、穿梭水间的红色轨道飞车、满载游客俯瞰田园的敞篷缆车……

但所有发布此类内容的账号,从未明确指出这些场景在上海的具体坐标。经多位文旅行业从业者逐一比对,这些景象与上海毫无瓜葛。其中占比不小的是AI直出图,其余则是直接挪用外地素材,强行贴上“上海”标签。

为了增加可信度,帖文中还穿插了外滩、豫园、陆家嘴等真实地标,以及部分热门商圈。真假混杂之下,对于未曾踏足上海的网友而言,辨识难度极大。

既然虚假攻略风险高,为何博主们仍乐此不疲?

透过这些虚实难辨的“打卡地”,发布者真正的目的浮出水面——为特定商业场所导流。

例如,两个内容高度同质化的自媒体账号,在笔记中统一推荐同一家家居商场,并刻意将其与上海知名景点并列介绍。

这两个账号发布“上海攻略”时使用的部分封面,对应场景均非上海实景。发帖者暗示乘坐图中轨道交通即可抵达该商场,然而上海实际运营的地铁车型与图片完全不符。

两个自媒体发布“上海攻略”时用的部分封面,相关场景均非上海

其中一个账号的营销手段更为激进:除了用AI图片“种草”,还将AI视频与网传素材剪辑拼接,制作洪水泛滥、人流拥堵、城市险情等惊悚画面,配以“出大事了”“全国皆知”等夸张文案,随后笔锋一转,揭示所谓的“大事”不过是某家居商场开业。其核心逻辑是利用虚构的恐慌情绪博取眼球,最终为目标商场输送客流。

至此,虚假攻略背后的商业闭环清晰可见:利用AI生成景观,成本极低且效率极高。发布者无需实地取景,即可批量生产虚假帖文;虚构的绝美景观自带流量,便于植入推广信息,赚取佣金。但这种不断扩散的虚假信息,既误导游客行程,也扭曲了城市真实的文旅面貌。

用AI炮制虚假景观,已触碰法律红线。

记者注意到,多数发布含AI生成内容的虚假攻略博主,未按平台规则标注“AI生成”标识,这进一步放大了帖子的迷惑性。

公众不禁质疑:若博主主动声明内容含AI生成,是否就能免责?

专业人士对此明确回应:

↓↓↓

首先,我国法律明确规定,发布者须清晰明示内容包含AI生成要素。刻意隐瞒AI制作事实,本身即违反AI内容监管法规。

其次,即便履行告知义务,发布行为仍需严守《广告法》。依据规定,以现实中不存在的景观为噱头诱导消费,或以“攻略分享”之名行隐性广告之实却不标注“广告”“推广”字样,均涉嫌虚假宣传。

一旦查实,监管部门可对发帖者及合作机构处以罚款;若游客因误导遭受损失,发帖者还需承担民事赔偿责任。

此外,若存在账号矩阵批量造假营销的情况,幕后实际控制人或机构可能被认定为团伙式虚假营销,依法从严追责。

最后,部分博主使用灾难类惊悚图片视频博流量,涉嫌造谣滋事,违反《治安管理处罚法》。若大范围传播虚构的洪水、踩踏、险情等内容,引发公众恐慌、扰乱秩序,情节严重者将触犯《刑法》,承担刑事责任。

法律界人士提醒:

↓↓↓

AI仅是创作工具,发帖者始终是法律责任主体。不能以“AI生成”为由推卸违法责任,反而应在发布前全面了解并遵守各项法律规定。

“照骗”升级,管理措施需同步跟进。

值得关注的是,虚假旅行攻略的频发,折射出社交平台内容造假现象正在持续迭代:

● 第一阶段是普通照片变“照骗”。部分博主利用修图软件美化实拍照片或视频的光线、色彩后发布,被网友俗称为“照骗”。

● 第二阶段是虚实拼接改造。博主截取真实景点局部,搭配AI生成的建筑、背景、人物进行拼接,轻微改动实景原貌。因AI效果多元自然,这类内容被称为“照骗2.0”。

● 如今,造假行为已进入第三阶段:纯AI生成引流模式。博主全程无需实地拍摄,完全依赖人工智能创造不存在的景观,再混杂部分真实场景发布图文视频。

不难看出,在当前新阶段,社交平台原有的内容审核机制亟待升级。

一方面,需通过技术手段落实“AI生成”内容的强制标注;

另一方面,平台应升级算法风控模型,针对性打击同质化矩阵营销;

最后,平台应鼓励用户产出真实攻略。例如开设网友甄别举报专区,在展示页面增设“疑似AI造假”专属入口。

新民晚报(xmwb1929)综合上海网络辟谣、新闻坊

编辑:尹尚胜男

编审:周春晟