警惕！AI或致虚假信息泛滥

据科技日报，生成式人工智能（ai）横空出世后，除了可能对部分职业岗位有所波及、对现有的版权制度形成新的挑战外，还能被用于社交媒体上的虚假信息活动，既造成了新的危险，也放大了现有的危险，进而危害经济和社会的稳定。

基于现实情况进行合理预测，AI加持下的虚假信息活动可能主要应用于以下4个方面：

①炮制假新闻。

这里主要针对官媒新闻进行歪曲和篡改，淘汰以往“开局一张图，剩下全靠编”的落后的内容生产方式，改为设定要求——输入部分素材——自动生成图文/视频的全自动化模式。

②.散播谣言。

制*消息快、自动化+批量化传播扩散快，如果再加上由深谙新媒体、社媒调性机制，且深谙传播学或新闻学理论的“专业人士”操刀，便能实现“谎言重复一千遍，就会成为真理”的效果。另外，由于谣言还具有极强的噱头性，天然容易在互联网传播中获得极大的关注度和讨论度，与此截然相反的，却是辟谣不仅要“跑断腿”，还因为“太正”而没人看。

③结合生成式AI与社媒特性，推行“垃圾信息海”战术。

向全网灌注娱乐新闻、八卦信息等“奶头乐”内容，占据用户全部视野，以驱除正经新闻和消息，彻底掌握社媒中流通信息的支配权。通过与娱乐公司展开深度合作，幕后推手能够在完成既定战术目标的同时获得额外的收益。

④利用深度合成技术仿冒账号，搅乱正常社媒秩序。

爬取机关、企业、机构、社会组织、名人/大V/意见领袖等官方账号和个人账号的信息，包括但不限于图文、露脸形象、声音等，凭借这些语料和素材生成虚假内容，既能为事主招黑，还能挑起事端、搅乱风波、以假乱真。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

ChatGPT Writer

免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。

106 查看详情

更关键的是，为牟利也好，为达成其别有用心的目的也罢，虚假信息的制造者和传播者的行为本就非法，自然会无视法律法规、平台规定等束缚，于是便产生了3大难点——审核难、监管难、处罚难。

①审核难。

目前各平台对生成式AI内容的要求，主要可以概括为“上传者自律”，也就是该用户主动做出醒目标识，向受众明示其内容为AI制作，如此规定“防君子不防小人”。正常用户当然依规行事，不法用户则完全可以不标、缓标、少标。

②监管难。

在AI应用于内容生成领域之前，众所周知网上假新闻已经像野草一样层出不穷，难以根除。对此，传统的治理方式为大数据筛查+受理举报相结合，并重点打击违规账号、重点标记其关联账号，这是堂堂正正的处置之道，无可指摘。可问题就在于不法用户引入AI后，如果将之前的状态看成零星的、点状的野火，那此后需要处理和整治的虚假信息，将变成片的大火，治理所耗费的人力、物力、难度呈指数级上升。

③处罚难。

最终，惩罚存在两个问题，一是配套法律法规不够完备，二是由于隐秘性而难以抓取的问题。不过，不久前关于反网暴的适用法律条文已面向社会收集意见，相信很快就能具体落地。预计随着AI生成虚假信息治理工作的推进，相关的法治建设也会紧随其后。

阿知曾多次在关于生成式AI的问题中提及，AI与以往历史上出现的新技术没有本质不同，无关对错和善恶，关键是要看谁来用、怎么用。其作为互联网行业新引擎、金融市场中的新蓄水池作用当然毋庸置疑，但一味地、片面地强调其技术优越性多为投机主义者所为，图利而已。我们必须客观全面地看待生成式AI这项革新性技术，并采取预防措施，以避免其滥用所带来的风险。

以上就是警惕！AI或致虚假信息泛滥的详细内容，更多请关注其它相关文章！

# 假新闻  # 游戏试玩网站推广  # 泰州互联网营销推广培训  # 邢台淘宝网站推广简介  # 餐饮小区营销推广文案范文  # 眉山广场推广招聘网站  # 六心网络seo  # 郑州网站整站优化有哪些  # seo锚  # 大型seo  # 湖南关键词排名渠道  # 就会  # AI  # 这是  # 的是  # 上海  # 应用于  # 谁能  # 还能  # 互联网  # 开源  # 警惕  # 虚假信息 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 下一个前沿：量子机器学习和人工智能的未来  值得买科技入选“北京市通用人工智能产业创新伙伴计划”应用伙伴  好莱坞面临全面停摆 好莱坞大罢工抵制“AI入侵”  苹果AIGC专利：可通过语音指令生成AR/VR虚拟场景  麦肯锡：到 2045 年左右，将有 50% 工作被 AI 接管  探索人工智能在物联网领域的影响与改变  掌阅科技申请阅爱聊商标 掌阅科技申请AI相关商标  小米9号员工李明宣布创业：打造首款安卓桌面机器人  Unity发布Sentis和Muse AI工具，助力创作游戏和3D内容  苹果AI战略与微软谷歌大相径庭，到底是领先还是落后？  “聚智启新，‘蓉’力同行” 成都市人工智能产业融通对接会成功举办  直击上影节 | 光线传媒董事长王长田谈新技术：未来VR放映效果可能媲美影院  可按用户语气自动回复消息，Zoom 推出基于生成式 AI 的新功能  世界上第一个完全由人工智能驱动的图像编辑器！  成都大运会闭幕式引入人形机器人展示表演  GPT-4不能在麻省理工学院获得计算机科学学位  谷歌新安卓机器人logo曝光：头更大了  AI智能室内效果图设计软件效果，确实惊到我了！  应用生成式人工智能技术改善农业产业  Meta推出VR订阅服务Quest +：每月免费玩两款游戏，7.99美元/月  70年前他本想逃避考试，却影响了整个互联网  IBM 与 NASA 携手开源地理空间 AI 模型，促进气候科学研究进步  郭帆谈ChatGPT：电影行业需要创新，否则人工智能将让电影变得平庸  AI新风口？首个高质量「文生视频」模型Zeroscope引发开源大战：最低8G显存可跑  专家解读国家网信办深度合成服务算法备案信息公告：不等于百度、阿里、腾讯等生成式AI产品获批  花16000元买四款扫拖机器人！科沃斯追觅石头小米谁能笑到最后？  五款 AI 网站构建器，任何人都能快速构建网站  ​日媒：AI高效解析纳斯卡地画  在这里见未来！杭州未来科技城全球AI盛会邀您共探最前沿  Spotify计划推出AI驱动的音乐播放器功能  站在社会的高度理解人工智能  社区里，孩子们体验“机器人竞技”  官宣！爱康AI未来之夜三大亮点提前剧透！  如何用AI开创智慧能源新时代？固德威正让能源“通人性”！  25个AI智能体源码现已公开，灵感来自斯坦福的「虚拟小镇」和《西部世界》  加强高质量数据供应能力，促进通用人工智能大模型领域的创新  日媒关注中国推进鸟类识别 AI 普及，除监测保护外还可预防传染性疾病  全场景智能车：智能无处不在｜芯驰亮相世界人工智能大会  人工智能如何用于家庭安全  深度学习模型综述：用于3D MRI和CT扫描的应用  AI大模型，将为智慧城市带来哪些新变化？  人工智能框架生态峰会即将召开，聚焦AI大模型技术与科学智能探索！  华为4G5G通信物联网收费标准公布，多年研发成果，十年花费近万亿  数字彩排、虚拟建厂！这家顶级洗衣机工厂敲开“工业元宇宙”之门  人工智能：解决劳动力短缺的关键策略  上天下海登极，青岛与昇腾AI握手一起探索星辰大海  视觉中国宣布推出AI灵感绘图、画面扩展功能  美图公司影像节或发布AI设计新品  有远见！华为四年前注册商标Vision Pro：苹果AR国内要改名  马斯克：将来机器人比人类多！特斯拉机器人亮相人工智能大会