如果黑客控制了训练样本
编程技术 / houtizong 发布于 3年前 70
可惜GFW是靠规则过滤 写道 "当机器学习在各个领域流行开来, 其安全性也日益受到重视. 分类算法往往需要在一些标注好的样本上进行训练(例如垃圾邮件和正常邮件),才能在新的数据上进行分类或预测. 但是如果黑客控制了一部分训练样本会怎么样? 例如, 如果恶意捣蛋者故意举报合法的邮件或网站, 分类系统将会受怎样的影响? 两名来自慕尼黑工大的研究员对流行的二分类支持向量机(SVM)进行分析. 他们发现攻击者只需要翻转约20%的训练样本的标注,就可以使SVM的分类边界产生显著变化, 并迫使其错误率提升至50%(即瞎猜的水平). 该结果发表在最近召开的第20届欧洲人工智能会议上."
上一篇：曾经的太阳能巨人陷入了困境
请勿发布不友善或者负能量的内容。与人为善，比聪明更重要！
技术博客集 - 网站简介：
前后端技术：
后端基于Hyperf2.1框架开发,前端使用Bootstrap可视化布局系统生成
网站主要作用：
1.编程技术分享及讨论交流，内置聊天系统;
2.测试交流框架问题，比如：Hyperf、Laravel、TP、beego;
3.本站数据是基于大数据采集等爬虫技术为基础助力分享知识，如有侵权请发邮件到站长邮箱，站长会尽快处理;
4.站长邮箱：[email protected];
文章归档
文章标签
友情链接
