AIGC背景下新闻真实性问题研究

AIGC全称为AI　Generated　Content,指的是人工智能生成内容,其核心创作者是人类研究开发的人工智能模型。AIGC的出现极大提升了新闻生产效率,但同时也给新闻传播内容的真实性带来了严峻挑战,包括可能会让新闻受众产生误认,影响社会和谐稳定,因此需要采取一定防范控制措施。文章将对AIGC背景下新闻真实性问题展开分析,旨在提出相关应对策略,以期为相关领域研究和实践提供借鉴。

　　一、AIGC背景下新闻真实性问题

　　(一)新闻传播信息源的模糊与不可追溯

　　在现代新闻生产实践工作中,一些工作者会选择采用生成式AI技术,这样能够大大提升新闻生产速度,并生成丰富多元的新闻报道内容。然而实际情况是,这些数据源存在着复杂多样的现实问题,无法进行全面准确核查,这样一来就无法切实保障新闻传播信息的质量和真实性,进而给受众带来错误的传播信息。与传统新闻编辑报道相比,AIGC生成的新闻无法做到完全可靠的信息溯源,其内容很多是凭空想象而来的,无法为受众提供真实原始的信息来源,加大了受众对传播新闻真实性的验证难度,同时也会给新闻媒体的权威性带来打击。新闻传播内容的真实性和可信度,关乎整个社会的稳定发展,信息源的模糊和不可追溯容易引发社会信任危机。

　　(二)新闻传播信息的形态失真

　　AIGC的运行离不开生成式AI技术,尤其是深度学习算法和大型预训练模型。当平台用户给出一个指令时,AI模型会结合自身学习到的知识和收集掌握的数据信息,自动高效生成符合该指令的相关内容。然而一旦算法存在缺陷或者数据存在偏差等问题,就容易导致AI生成与事实不符的新闻,进而给受众传递错误的新闻信息。相关工作者在设计时出现逻辑错误、训练数据不足等,都会导致AIGC生成错误的信息内容。数据偏差则是因为数据收集过程中出现滞后的数据信息,或者是数据被污染。

　　二、AIGC背景下新闻真实性问题的应对策略

　　(一)加强人机协同治理,提升新闻内容质量

　　AIGC背景下,为了解决新闻生成报道的真实性问题,需要主动加强人机协同治理工作,有效提升新闻内容质量。首先,要构建人机系统反馈机制,收集整理用户对AIGC生成新闻内容的反馈意见,并将其作为输入数据,持续优化改善算法模型,这样不仅能够提高AIGC生成新闻质量,还可以满足用户的相关需求。其次,要建立人机协同的内容审核流程,明确新闻工作者和人工智能在内容审核中的角色和责任,其中新闻工作者要避免直接照搬应用AIGC生产内容,而是需要进行深入理解和判断,剔除掉虚假夸大的新闻信息,并反馈给平台。人工智能则需要承担起初步筛选和辅助分析的责任,提高内容审核的准确性。最后,要以人机协同方式不断优化算法模型,一方面相关工作者要根据领域知识和经验,为算法模型提供合适的参数配置；另一方面平台需保证人工智能可以自动调整和优化模型,更好地适应训练数据,提升AIGC生成新闻内容的准确性。平台管理者需主动加强对人工审核者的培训工作,组织相关工作者参与专业培训学习活动,不断提高他们的业务能力与职业素养,促使其能够履行好自身的岗位职责,对AIGC生成发布的内容做出正确的理解和判断。

　　(二)完善AIGC使用规范,建立专业监管机制

　　2023年7月,我国网信办出台了首个AIGC监管规定《生成式人工智能服务管理暂行办法》,该办法明确提出生成式人工智能服务提供者要“采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性”等要求,同时还强调了生成式人工智能服务提供者的权利和义务。国家有关部门须结合AIGC使用发展情况,合理制定AIGC生成内容的审核标准与发布流程,确保发布到平台的任何新闻内容都是经过严格审核的。此外,要有效明确AIGC的适用范围与限制,划清AIGC能够应用的具体领域和场景。以新闻出版领域为例,要明确规定应用AIGC时所需的数据质量和多样性要求,切实保障输入数据的真实性、准确性以及多样性,符合国家相关标准和要求。有关部门还需建立专业监管机制,安排专业人员负责对AIGC生成内容进行监控,一旦发现违规行为要及时采取处理措施,确保AIGC生成内容的真实性。除此之外,有关部门还需制定关于AIGC数据安全和隐私保护的规定内容,充分保障平台模型及用户数据能够得到加密保护,避免出现重要数据信息泄露和滥用的情况,侵害相关主体的切身利益。

　　三、结语

　　综上所述,在人工智能快速发展的时代背景下,AIGC的出现对新闻生成报道产生了深远影响。新闻工作者在利用AIGC生成多样化新闻内容的同时,还要注意理解判断新闻信息的真实可靠性。国家有关部门需要完善相关监管政策内容,明确相关主体的责任和义务,督促其严格按照法律法规操作,杜绝违法行为的发生。新闻媒体一方面要主动拥抱技术创新,一方面则需要加强AIGC内容审核,培养更多优秀的复合型人才。

文章来源：《经济导报》https://www.zzqklm.com/w/qt/35712.html