于一个忙碌的火车站，监控摄像头正全方位追踪站台的环境，搭客流量、轨道占用、卫生状态……所有信息及时传输给中心人工智能（AI）体系。这个体系的使命是帮忙调理列车，让它们安全准点进站。然而，一旦有人歹意滋扰，好比用一束红色激光模仿列车尾灯，那末摄像头可能会误以为轨道上已经有列车。长此以往，AI学会了把这类假象看成真实旌旗灯号，其实不断发出“轨道占用”的过错提醒。终极，不仅列车调理被打乱，甚至还有可能变成安全变乱。
Australia《对于话》杂志日前报导称，这是数据“中毒”的一个很是典型的例子。AI体系于进修历程中，假如输入了过错或者误导性数据，可能会逐渐形成过错认知，作出偏离预期的判定。与传统的黑客入侵差别，数据“中毒”不会直接粉碎体系，而是让AI“本身学坏”。跟着AI于交通、医疗、媒体等范畴的普和，这一问题正引起愈来愈多的存眷。
AI体系于进修历程中，假如输入了过错或者误导性数据，可能会逐渐形成过错认知，做出偏离预期的判定。图片来历：英国《新科学家》网站
AI“中毒”的实际危害
于火车站的例子中，假定一个技能娴熟的进犯者既想侵扰大众交通，又想网络谍报，他持续30天用红色激光棍骗摄像头。假如未被发明，这种进犯会逐渐腐化体系，为后门植入、数据窃取甚至特务举动埋下隐患。虽然物理基础举措措施中的数据投毒较为稀有，但线上体系，特别是依靠社交媒体及网页内容练习的年夜语言模子中，它已经是庞大隐患。
一个闻名的数据“投毒”案例发生于2016年，微软推出的谈天呆板人Tay上线数小时后，就被歹意用户贯注不妥言论，迅速模拟并发布到X（其时的Twitter）平台上，不到24小时就被迫下线并报歉。
据英国《新科学家》杂志报导，2024年，互联网呈现了一个标记性事务，即AI爬虫的流量初次跨越人类用户，此中OpenAI的ChatGPT-User盘踞了全世界6%的网页拜候量，它素质上是ChatGPT的“上彀代办署理”，于用户需要及时信息时替他们拜候网站。而Anthropic的ClaudeBot更是持久年夜范围抓取网页内容，占到13%的流量。
互联网上的年夜量内容正被AI模子不停收罗、接收，用在连续练习。一旦有人存心投放有毒数据，好比窜改的版权质料、伪造的新闻信息，这些年夜范围收罗的爬虫就可能把它们带进模子，造成版权侵权、虚伪信息扩散，甚至于要害范畴激发安全危害。
版权之争中的“投毒”还击
跟着AI爬虫的年夜范围抓取，很多创作者担忧作品被未经许可以使用。为了掩护版权，创作者采纳了法令及技能手腕。如《纽约时报》告状OpenAI，称其新闻报导被模子进修再使用，加害了版权。
面临空费时日的版权拉锯战，一些创作者转向技能“自卫”。美国芝加哥年夜学团队研发了两款东西。名为Glaze的东西可于艺术作品中插手微小的像素级滋扰，让AI模子误以为一幅水彩画是油画。另外一款东西Nightshade更为激进，它能于看似正常的猫的图片中植入隐藏特性，从而让模子学到“猫=狗”如许的过错对于应。经由过程这类方式，艺术家们让本身的作品于练习数据中成为“毒药”，掩护了原创气势派头不被复制。
这类还击方式一度于创作者群体中风靡。Nightshade发布不到一年，下载量便跨越一万万次。与此同时，基础举措措施公司Cloudflare也推出了“AI迷宫”，经由过程制造海量无心义的虚伪网页，将AI爬虫困于假数据的轮回中，耗损其算力及时间。可以说，数据投毒于某些范畴已经经从一种还击手腕，蜕变为版权与好处之争中的防备兵器。
去中央化成为AI的防护盾
这类场合排场让人警悟。创作者的数据“投毒”是为了掩护原创，但一旦一样的技能被用在年夜范围制造虚伪信息，其后果可能比版权争议严峻患上多。
面临这类隐藏的威逼，研究者正于摸索新的防备手腕。于美国佛罗里达国际年夜学的Solid试验室，研究职员正出力用去中央化技能来防备数据投毒进犯。此中一种要领叫联邦进修。与传统的集中式练习差别，联邦进修答应模子于漫衍式装备或者机构当地进修，只汇总参数而非原始数据。这类方式降低了单点中毒的危害，由于某一个装备的“坏数据”不会马上污染整个模子。
然而，假如于数据汇总环节遭受进犯，侵害依然可能发生。为此，另外一种东西——区块链正被引入AI防备系统。区块链的时间戳及不成窜改特征，使患上模子更新历程可被追溯。一旦发明异样数据，可追根溯源，定位投毒源头。同时，多个区块链收集还有能互相“传递”，当一个体系辨认出可疑模式时，可马上警示其他体系。
任何依靠实际世界数据的AI体系均可能被把持。使用联邦进修及区块链等防备东西，研究职员及开发者正于打造更具韧性、可追溯的AI体系，于遭受棍骗时能发出警报，提示体系治理员和时参与，降低潜于危害。（记者张佳欣）
-凯发集团