- 杨峰;
<正>随着人工智能技术的蓬勃发展和深度嵌入社会运行体系,信息内容的生成方式和传播样态迎来了前所未有的变化,但同时也面临内容质量、认知安全、信息失序等复杂挑战。本专题系国家社科基金重大招标项目“全球网络空间的秩序、冲突与治理研究”的系列阶段性成果,聚焦人工智能带来的“生成与操控”问题,分别从内容生成、认知影响、信息疫情治理和网络暴力治理四个方面,剖析人工智能时代信息内容风险与治理难题,为人工智能时代的信息治理提供多角度的思考。
2025年04期 No.220 11页 [查看摘要][在线阅读][下载 980K] [下载次数:135 ] |[网刊下载次数:0 ] |[引用频次:0 ] |[阅读次数:0 ] - 刘宇;李小艺;
近些年,人工智能的发展为人类的知识生产和信息传播带来了全新的挑战和机遇。学术界对AIGC的相关研究发现,AI丰富了人类知识生产的方式,尤其是推动了三阶知识的生产;然而,AIGC无法回避的问题是其知识内容缺乏原创性和洞见力,无法在整体上拓宽人类的认知边界。AIGC在学术界的使用,虽然有利于提高科研工作的效率,但进一步加剧了我国本已严峻的科研诚信问题。
2025年04期 No.220 12-17页 [查看摘要][在线阅读][下载 1259K] [下载次数:164 ] |[网刊下载次数:0 ] |[引用频次:0 ] |[阅读次数:0 ] - 杨峰;侯勇光;
认知战已成为国家间战略竞争的新前沿,并深刻改变了传统的意识形态攻防模式。随着人工智能技术的发展,认知战超越了传统宣传战、心理战的时空限制,使群体与个体广泛暴露于隐蔽而精准的认知操控和风险重构之中,认知安全成为国家总体安全体系中的重要议题。文章首先回顾了认知战的概念演化与历史脉络,随后从人工智能认知战的群体操控和个体认知重构两个维度,分析其对舆论引导、意识形态浸润,以及主体性生成所构成的深层次安全风险。
2025年04期 No.220 18-22页 [查看摘要][在线阅读][下载 1141K] [下载次数:201 ] |[网刊下载次数:0 ] |[引用频次:0 ] |[阅读次数:0 ] - 陈兰杰;
随着AI技术的迅猛发展,信息疫情(Infodemic)现象日益严峻,成为社会治理的新挑战。信息疫情指围绕特定议题的事实性与非事实性信息的混杂传播,导致公众认知系统过载、情感极化与社会信任耗损的信息生态失衡现象及过程。AI时代,生成式AI与深度伪造技术加剧了虚假信息的工业化生产和传播,算法推荐机制则加速了失真内容的裂变式扩散,造成认知免疫系统的结构性崩溃。为应对这一挑战,需构建基于AI技术的全链条监测与风险防控体系,包括多模态监测体系搭建、用户行为图谱构建及智能防护系统部署。同时,打造政府主导、平台担责、社会参与的多维治理体系,强化技术自治,提升公众数字素养。以人为核心的动态优化干预机制也至关重要,通过传播溯源与认知矫正,精准识别并干预传播行为。
2025年04期 No.220 23-27页 [查看摘要][在线阅读][下载 1202K] [下载次数:59 ] |[网刊下载次数:0 ] |[引用频次:0 ] |[阅读次数:0 ] - 张韦;郭子琪;张建伟;
网络暴力是数字时代社会矛盾与技术特性交织的复杂现象,生成式人工智能为网络暴力信息治理创新带来新的可能。从赋能逻辑来看,生成式人工智能在动态化监测网络暴力信息、全景式防治网络暴力风险、全流程嵌入网络暴力治理方面表现出巨大潜力,有助于消解网络暴力产生的负面影响。然而,生成式人工智能的应用也面临技术、制度和伦理层面的风险,亟待增强技术安全性与算法透明度、完善法律规制与责任追溯、倡导社会多元主体参与,加强伦理约束,从而实现网络暴力信息的高效治理。
2025年04期 No.220 28-33页 [查看摘要][在线阅读][下载 1149K] [下载次数:150 ] |[网刊下载次数:0 ] |[引用频次:0 ] |[阅读次数:0 ]