AAIG技术方向介绍——人工智能安全-人工智能公平性

AAIG的技术方向——人工智能公平性

针对推荐系统中多敏感属性交叉的公平性评估难题，我们提出了基于双端搜索粒子群算法的推荐系统公平性测评框架FairRec，有效地解决了公平性评估的辛普森悖论问题。在FairRec中，我们通过粒子分布初始化、双端搜索、电子热运动、信息共享四大技术创新，有效提高了测评结果的有效性和时效性，并在4个开源数据集和4个推荐系统上的评估实验中取得了先进性的效果，相比于基线方法，我们在达到95%的测评准确率的同时，耗时下降达80%以上，并且场景越复杂效率优势越明显。基于FairRec的测评结果，在不损失其他用户体验的前提下，通过针对性的公平性优化方案，在不同公平性指标下可以取得10%-30%的提升效果，相关研究工作被国际顶会ISSTA 2023接收。