以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
我们主要从分析问题、解决问题、效果评估和实际验证四方面，推动这一课题的研究，并形成相应的研究成果。
第一部分：AI算法透明概述
(资料图)
第一部分，AI算法透明概述，主要凝练了当前AI算法透明性存在的挑战。
近年来，人工智能技术的发展使得其透明性问题日益凸显，为保障用户对算法知情，实现监管机构对算法进行有效规范治理与问责，算法透明性必不可少。
然而，算法透明性更类似于原则性的提议，具体如何落实透明性要求，并对其进行有效评估，尚未形成共识。
因此，我们对AI算法透明当前存在的诸多挑战进行了总结，主要涉及三个维度：技术、评估和制度。
技术上，很难处理AI算法的黑箱问题；
评估上，对透明程度的要求很难把握尺度；
制度上，算法问责机制仍然模糊。
为有效应对这些挑战，我们首先给出算法透明性实现路径，解决技术和制度问题，之后提出算法透明评估清单应对评估问题，最终在推荐系统下进行实践与应用。
第二部分：实现AI算法透明
宏观上，我们首先需要AI算法透明性治理范式，针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义，形成一种以法律规制为主导，技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上，这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上，国内外学者研究主要从多方视角相关主体出发，提出了若干在法律规制和技术适配方面的思考。
法律上，鉴于算法透明，是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式：赋权模式和行为规范模式。赋权模式属于事后救济，而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律，发现各国都采取健全算法问责机制等措施。此外，我们也注意到欧盟还强调对算法参数的公开。
技术上，我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术，该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例，又会有更为细致的方法。
不同的应用场景，对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计，四个细分领域内进行了需求分析和方法探索。
第三部分：评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则，却鲜小有具体措施。因此，我们提出一套相对详细、可实施的评估标准，以细化并落实算法透明度合规要求。
首先，面向算法使用者的AI透明度评估清单的设计目标，在于保障知情权。内容主要分为算法概述与技术信息，要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单，由于监管方需要根据算法评估内容进行等级评估，所以该技能较为严格，需要说明的内容也更为复杂。
为配合透明度评估清单的使用，我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估，不同等级对于算法开发者应当达到的透明度有不同要求，且逐步加强。
具体这个清单是如何工作的呢？如左图所示，评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面，开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后，使用者需要阅读指南，以此确立两方权责分配并获得知情。
第四部分：AI算法透明实践
我们选择推荐系统作为典型实例，也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方，其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性，也能提升用户对系统的信任程度，使系统推荐结果得到检验，同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多，所以我们设计了一个推荐系统外的解释系统或算法，用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术，充分挖掘推荐系统中的可解释模型，以此进行相关的路径挖掘，并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示，在利用上述算法完成解释系统后，对数据集进行路径挖掘，得到左图所示的结论。
基于上述深层的推理路径，对推荐系统的多个推荐实例进行解释。结果表明，方法不仅能够帮助推荐系统获得有希望的推荐结果，而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后，我们分别将未加入和加入这一解释算法的推荐系统，按照前一章节设计的流程进行算法评估。结果表明，融入解释算法后的推荐系统，在透明度上有明显提升，但监管方也注意到，新的具有解释性质的推荐系统，在技术和社会风险上处理方法上有缺，要求对当前算法做进一步改进，并对提交的材料进行补充。
感谢各位的聆听！以上就是我们小组要汇报的全部内容。
编辑整理：陈龙X 关闭
推荐内容
精彩推荐
-
天天快报!干货 | AI算法透明性实现与评估2023-01-15
-
云南畹町：边民互市结合落地加工 促进中缅边民互市贸易纵深化发展2023-01-14 -
百色再婚家庭的赡养纠纷律师费怎么收2023-01-14 -
天天微资讯！2023西安大唐芙蓉园新春大潮会灯会门票免费吗2023-01-13 -
法律允许婚内财产协议存在吗2023-01-13 -
安徽巢湖经开区市场监管局全力守护“四大安全”2023-01-13 -
-
香港知名女星豪门梦碎！男友一家正式破产，低价转卖豪宅豪车还债2023-01-13 -
BOE（京东方）独供Varex新一代X-ray平板探测器背板 赋能创新医疗新赛道2023-01-12 -
“余景天粉丝接机”引热议，拿机场当秀场，只能秀出公德下限2023-01-12
-
全球热议:家长称初中生玩手游充值上万元，米哈游、广东天宸退费难2023-01-12 -
概念追踪 | 动力电池需求超预期增长 多家三元正极材料企业业绩大幅预增(附概念股)2023-01-12 -
全球快报:汉能系创始人李河君“失联” 重组未能重生，拖欠员工工资、有客户钱货两空2023-01-12 -
当前头条：龙佰集团：许刚累计质押股数约为3.09亿股2023-01-11 -
世界热讯:港人去年快乐指数5.6分 亚太区垫底2023-01-11 -
世界简讯:终于！又一对明星夫妻宣布离婚，网友：早就该分开了...2023-01-11 -
当前关注：欧洲主要股指集体收跌 德国DAX30指数跌0.15%2023-01-11 -
五方光电(002962)：股东、董事股份减持计划实施完成2023-01-10 -
-
今热点：欠网贷81万没还会有什么影响？2023-01-10 -
环球通讯！长安汽车1月10日盘中涨幅达5%2023-01-10 -
借购消费贷逾期3年征信会怎么样2023-01-10 -
热门：分期乐网贷逾期8天会上征信系统吗2023-01-10 -
工伤骨折工资怎么算的2023-01-10 -
滚动：中国气象局：实施五方面行动 推动气象深度融入经济社会各行各业2023-01-09 -
最新资讯：意甲前瞻：博洛尼亚主场不可小觑 亚特兰大四轮不胜状态糟糕2023-01-09 -
焦点观察：优酷过冬，禁止“白嫖”2023-01-09
-
环球今日讯！新春走基层｜郏县：农产品穿上“嫁衣”闹新春2023-01-09 -
离婚案件在法庭上应怎么陈述2023-01-09 -
一致看涨！公募扎堆消费股，张坤、刘彦春已大幅回血！布局正当时？侯昊发声2023-01-09 -
【焦点热闻】李裹儿为什么会跟母亲武则天公用一个男人2023-01-07 -
今日关注：教育部：2023年“寒假教师研修”活动启动2023-01-06 -
PS VR2发售在即 你希望索尼哪一IP登陆PS VR2？2023-01-06
-
1月5日发电机概念板块涨幅达2%2023-01-06 -
环球热头条丨南京技能提升补贴申请条件2023-01-06 -
环球实时：诺思格（301333）1月5日主力资金净买入507.80万元2023-01-06 -
当前视讯！上美影联手B站开拓国产动画新创作空间2023-01-06 -
【当前独家】中小学教师资格考试13日起报名2023-01-05 -
世界实时：景东县消防救援人员一项发明获国家专利2023-01-05 -
开年就见“小作文”重创股价，“果链一哥”跌停致公募浮亏21亿2023-01-04 -
2023四川电影消费券领取时间及方式2023-01-04 -
天天信息:1月4日午后两市机构大单抛盘40股(名单)2023-01-04 -
每日头条!为何平安银行最近风生水起？它还能不能重回20元以上？2023-01-04 -
券商投资策略报告聚焦：新能源领域三大赛道2023年蕴藏投资新机遇2023-01-04 -
观察：脑洞科技(02203.HK)进一步购入合共2.56万股富途股份2023-01-03 -
富瀚微：“富瀚转债”第四季度转股87股2023-01-03
-
新世界（600628）1月3日主力资金净卖出406.33万元2023-01-03
-
天天微资讯！公安部：元旦期间79场大型活动顺利举行 未发生重大道路交通事故2023-01-03 -
当前短讯！金鹰重工：12月30日获融资买入27.58万元，占当日流入资金比例8.19%2023-01-03 -
动态：中国驻多伦多总领事韩涛离任归国2023-01-03 -
速讯：该死，这糟糕的心动感，梅开三度2023-01-02 -
世界速讯：曾身价10亿元的珠宝大王，再创业时选择“饭店跑堂”2023-01-02 -
环球新消息丨小冰箱可以放后备箱吗 能不能把冰箱放后备箱2023-01-02 -
2023年，如何正确选择创业？2023-01-01 -
阿德莱德男单正赛签表出炉 德约科维奇领衔出战2022-12-31
-
鲁商发展(600223):鲁商健康产业发展股份有限公司关于聘请会计师事务所2022-12-30 -
天天简讯:成都：父母投靠成年子女入户 可作为单独家庭购买一套住房2022-12-30
-
每日看点!多孩与房：多地鼓励多孩家庭购房2022-12-30 -
当前关注：聚焦深圳文博会｜文博会上，“好品山东”受青睐2022-12-30 -
-
世界观速讯丨绥化市七岁子女抚养费交多少2022-12-29 -
2022封格女性｜映宇宙集团执行总编辑黄琴：撕掉标签，尽情绽放2022-12-29
-
每日快讯!国信证券：首予中国飞鹤(06186)“买入”评级 目标价8.8-10.5港元2022-12-29 -
当前最新：湖南株洲一小区业主自发设立“共享药箱” 药品越来越多2022-12-29 -
每日热文：内蒙华电（600863）12月28日主力资金净买入3125.26万元2022-12-29 -
感冒咳嗽能不能吃生姜呢?2022-12-29 -
2023中国足协杯八强赛比赛指南2022-12-28 -
天天实时：周口中小学寒假最新消息20232022-12-28 -
万润股份董秘回复：公司2022年前三季度合计实现营业收入约38.44亿元2022-12-28 -
世界今日报丨上合组织国家农业大学校长论坛举行2022-12-28
-
-
当前观察：两市机构大单抢筹40股(名单)2022-12-27 -
环球要闻：柿子夹口怎么处理?2022-12-27 -
天天微资讯！听说腊肉不宜放冰箱那该怎样存放?2022-12-26
-
世界今日讯！借呗贷款逾期一天延迟还款征信会怎么样2022-12-26 -
国网四川电力：护航新成昆线“电量满格”，畅跑未来2022-12-26 -
焦点信息:《爱的二八定律》获评5.8分 网友:这分也太低了2022-12-26 -
全球即时看！今年春运集中式客流或将变分散 热门线路火车票仍有余票2022-12-25
-
每日关注!吹杨26+13老鹰送活塞5连败 穆雷26+5博扬23分2022-12-24 -
天天精选！富春染织: 富春染织关于“富春转债”开始转股的公告2022-12-23
-
天津铸源：数字经济赋能健康产业新发展2022-12-23 -
速递！泰达股份（000652）12月22日主力资金净卖出3510.65万元2022-12-23
-
讯息：神通科技: 关于向2021年限制性股票激励计划激励对象授予预留限制性股票的公告2022-12-22 -
当前要闻：违规许诺承担投资损失，国融证券员工收警示函2022-12-22 -
【世界报资讯】亿万网友深切悼念张富清2022-12-22 -
日本援建的胡志明市地铁1号线试运行2022-12-21 -
每日观察!原创 红米K60压力增大？realme GT Neo5再次被确认，参数更激进了2022-12-21 -
全球热点！挪用公款6万判多少年2022-12-21 -
【天天快播报】别买错了！不同姿势的布洛芬有何区别？退烧认准这一种→2022-12-20 -
世界滚动:诚志股份：公司不生产布洛芬及其类似产品2022-12-20
-
天天即时看！京东金条逾期可以马上申请延长还款时间么2022-12-20
-
Free Arch： 将 IdentityServer 部署到 Okteto2022-12-19 -
开山控股：开山国内首台套离心式双介质气体组合机进入高端市场2022-12-19
-
【聚看点】小期贷借款逾期43年不还会影响征信吗2022-12-19
-
放心借逾期8个月会上征信吗？2022-12-18 -
【世界新要闻】V观财报｜披露内容与事实不符 金财互联及董秘被出具警示函2022-12-17
-
当前关注：今日保健品价格表（保健品价格查询）2022-12-17
-
世界即时看！2023年FRM在哪里报名？有什么样的报名流程？2022-12-16
-
-
当前快报:怀孕试用期被辞退如何进行赔偿2022-12-15