芬兰赫尔辛基大学(University of Helsinki)和阿尔托大学(Aalto University)的FCAI研究人员已经bob体育下注安卓版非常准确地计算出，当受试者的数据被用于训练神经网络等保护隐私的机器学习模型时，他们能保留多少隐私数据。
新算法基于一种名为差异隐私的隐私框架，该框架在2020年被《麻省理工技术评论》列为一项将改变我们生活方式的技术。
“差异隐私被用来确保谷歌和苹果公司开发的使用敏感用户数据的人工智能系统不会泄露这些敏感数据，以及确保美国2020人口普查发布的数据的隐私，”他说Antti Honkela他是赫尔辛基大学的副教授。bob体育下注安卓版
新的算法允许在这些和许多其他类型的分析中更准确地估计保留的隐私。
新的隐私会计提供几乎完美的准确性
差异私有算法随机干扰计算以保护隐私。FCAI研究人员第一次成功地量化了这些干扰对隐私的保护，即使是在非常复杂的算法中。
“干扰越大，隐私要求通常就越强，但估计一个特定算法的隐私程度是很困难的。”对于神经网络训练等复杂算法来说，准确估计隐私损失尤其困难，这需要使用所谓的隐私会计师。Antti Koskela赫尔辛基大学博士后研究员。bob体育下注安卓版
FCAI研究人员开发了一种新的隐私会计，它几乎提供了完美的准确性。该方法具有可证明的真正隐私损失的上界和下界。
“新算法可以证明对相同的计算有更强的隐私界限。相反，我们可以降低随机扰动的大小，在同等的隐私保证下获得比以前更准确的结果。”Koskela说。
例如，这些结果将有助于训练机器学习模型，从而准确地了解每个人在隐私被侵犯时的脆弱性。这将对让机器学习和人工智能更值得信赖产生巨大影响。
新算法实质上提供了差分隐私形式下保留隐私的最佳可得度量。最近的研究表明，这是一个非常强大的对手可以从发表的结果中获得多少私人信息的准确衡量标准。需要进行更多的研究，将这些可能悲观的最坏情况估计扩展到不同和更现实的情况。此外，使用新的、更准确的隐私边界，可以更准确地比较不同的隐私保护机器学习算法，因为隐私边界的准确性将不再影响比较。
这项研究将于2021年4月在人工智能和统计国际会议(AISTATS)上发表。
文章:
Antti Koskela, Joonas Jälkö， Lukas Prediger, Antti Honkela:
基于FFT的离散值机制和下采样高斯机制的紧密差分隐私
第24届人工智能与统计学国际会议论文集。
更多信息:
Antti Honkela
赫尔辛基大学计算机科学系副教授bob体育下注安卓版
antti.honkela@helsinki.fi
电话+358 50 311 2483
Antti Koskela
赫尔辛基大学计算机科学系博士后研究员bob体育下注安卓版
antti.h.koskela@helsinki.fi
芬兰人工智能中心FCAI是由阿尔托大学、赫尔辛基大学和芬兰VTT技术研究中心共同发起的全国性人工智能能力中心。bob体育下注安卓版FCAI的目标是开发新型人工智能，可以在复杂环境中与人类一起工作，并帮助芬兰工业实现现代化。FCAI是芬兰学院的六大旗舰之一。