生成式人工智能的幻觉风险与媒介化治理
来源:《世界社会科学》

陈世华,李晓轩在《世界社会科学》2025年第6期撰文指出:作为新质生产力的关键引擎,生成式人工智能凭借优秀的文本生成、图像创作与数据处理能力,在各领域都展现出前所未有的变革潜能。但是训练数据中多种元素的重组与拼接,会导致生成结果缺乏实际意义,呈现出超现实、梦幻或奇幻的特征,衍生“AI幻觉”。AI幻觉形式上的拟真性、生成逻辑上的易感性与内容上的叙事性,逐渐渗透进个体的日常生活实践,导致生产危机、传播危机、认知危机和秩序危机,语言拟真下新闻真实瓦解,规范模糊下监管追责困难,智能依赖下判断能力退化,超真实世界信息污染加剧。应警惕AI幻觉蕴藏的潜在风险,从主体维度、内容维度、伦理维度、资源维度进行全链条的媒介化治理,以用户识别促进人机共构,以可解释性推动技术透明,以道德物化引导价值对齐,以多元主体驱动协同共治,重建技术伦理与人机关系,推动人工智能健康发展。

  • 主       管: 陕西新华出版传媒集团有限责任公司
  • 主       办: 陕西新华出版传媒集团有限责任公司
  • 智力支持: 中国社会科学院西部发展研究中心
  • 出       版: 陕西出版传媒集团报刊有限责任公司
  • 编       辑: 《西部学刊》编辑部
  • 编辑委员会主任: 石鸣
  • 编辑委员会副主任: 叶子
  • 执行主编: 朱希良(上半月)赵良(下半月)
  • 编辑一部主任: 朱希良(兼)
  • 编辑二部主任: 赵良(兼)
  • 综合服务部: 李功(主任)付小梅(副主任)严丽洁
  • 数字出版部: 邢恬恬 袁宝燕
  • 责任编辑: 杨军 雷智勇 冯小卫 王宝林 张震 杨超
    王延河
  • 编辑部电话/传真: (029)89520620
  • 网       站: www.xbxkzz.com
  • 投稿邮箱: xbxkbjb@126.com