聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******

　　中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。

　　美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。

　　国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。

　　中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。

　　中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。

　　美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。

　　中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。

　　2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)

国家药监局公布第四批药品安全专项整治典型案例******

　　中新网1月16日电 据国家药监局官网16日消息，2022年年初以来，国家药监局以严查违法、严控风险为主线，在全国范围内组织开展药品安全专项整治行动。各地药品监管部门持续加大监管执法力度，严厉打击危害药品安全违法行为，查处了一批违法违规案件，切实维护人民群众身体健康和用药安全。现公布第四批药品安全专项整治典型案例。

　　一、铁岭经济开发区程浩氧气厂从事药品生产活动未遵守药品生产质量管理规范案

　　【案情简介】2022年3月，辽宁省药品监督管理局在日常监督检查中发现，铁岭经济开发区程浩氧气厂存在严重违反《药品生产质量管理规范》的行为。经查，该公司质量管理体系不健全，存在未按照规程生产、检查、检验、复核等行为，且企业负责人、生产管理负责人、质量受权人未能履行相应管理职责。该公司上述行为违反了《药品管理法》第四十三条第一款、《药品生产监督管理办法》第六十九条第六项规定。2022年8月，辽宁省药品监督管理局依据《药品管理法》第一百二十六条以及《辽宁省药监局行政处罚裁量权适用规定》第四条、第六条和第九条规定，对该公司处以责令停产停业整顿，罚款10万元的行政处罚，并对该公司法定代表人、生产管理负责人和质量受权人分别处以没收违法行为发生期间自本单位所获收入、罚款的行政处罚。

　　【典型意义】氧气是人体进行新陈代谢的关键物质，医用氧在临床上主要用于缺氧的病人吸氧，尤其是在急救状态下，高纯氧可以用来挽救患者生命。我国对医用氧的生产管理、质量控制、贮存、放行有严格要求。本案中，企业关键人员未能履行相应管理职责，企业未遵守《药品生产质量管理规范》组织生产，产品质量难以保证，对公众用药安全有效带来潜在隐患。药品监管部门认真落实“双罚制”要求，在对企业依法查处的同时，对企业相关责任人员依法作出相应行政处罚，对督促企业落实主体责任和压实相关从业人员岗位责任具有重要意义。

　　二、魏某涛非法收购药品案

　　【案情简介】2021年12月，北京市丰台区市场监督管理局与北京市公安局丰台分局联合检查，发现魏某涛未取得《药品经营许可证》，通过现金交易、当场结算的形式在丰台区周边从个人处收购尿毒清颗粒、阿卡波糖片等药品。魏某涛上述行为违反了《药品流通监督管理办法》第二十二条规定。2022年8月，北京市丰台区市场监督管理局依据《药品管理法》第一百一十五条、《北京市药监局行政处罚裁量权适用规定(试行)》第十七条第一项、第四项以及《北京市药品监管行政处罚裁量基准(试行)》第一百五十二条第三款规定，对当事人处以没收涉案药品、罚款160万元的行政处罚。

　　【典型意义】我国对药品经营活动实行严格的许可制度，且禁止非法收购药品。本案中，不法分子利用收购的医保药品与正常销售药品间的差价，拟从中获得高额利润，不仅严重扰乱了药品经营秩序，而且非法收购的药品脱离正规管理，药品储存条件无法保障，相关药品再流通到患者手中，对公众用药安全带来极大隐患。药品监管部门依法严厉查处，对有效遏制相关违法活动具有积极的示范作用，有利于规范药品流通秩序，切实保障人民群众用药安全。

　　三、济宁市世安堂医药连锁有限公司康健店销售假药案

　　【案情简介】2021年，山东省济宁市市场监督管理局与曲阜市市场监督管理局联合对曲阜市辖区内的济宁市世安堂医药连锁有限公司康健店进行检查并抽样检验，发现该店销售的标称为“特效筋骨痛”“痛除根”等药品中含有双氯芬酸钠等成份，认定为假药。曲阜市市场监督管理局将该案件移送曲阜市公安局立案侦查。2022年6月，山东省曲阜市人民法院判决该店负责人犯销售假药罪，判处拘役并处罚金。2022年10月，济宁市市场监督管理局依据《药品管理法》第一百一十六条、第一百一十八条等规定，对该店处以吊销《药品经营许可证》的行政处罚，对该店负责人处以终身禁止从事药品生产经营活动的行政处罚。

　　【典型意义】药品作为治病救人的特殊商品，质量安全直接关系公众身体健康和生命安全，必须严防严管严控药品安全风险，坚决防范杜绝假劣药对人民群众生命健康造成损害。本案当事人销售假药，社会危害极大。司法机关依法对有关责任人员判处拘役并处罚金，药品监管部门依法对当事人作出吊销许可、对相关责任人作出禁业的行政处罚，体现了坚决落实药品安全“四个最严”要求的决心。本案系药品监管部门与公安司法部门行刑联动的典型案例，体现了行政部门与公安司法部门信息互通、密切协作的良好工作机制，体现了行刑衔接的高效执法合力，对各级药品监管部门、公安司法部门信息共享、联合打击违法违规行为，具有借鉴意义。

　　四、广州达美康医疗器械有限公司未履行注册代理人义务案

　　【案情简介】根据国家药监局交办的案件线索，2022年6月，广东省药品监督管理局对广州达美康医疗器械有限公司涉嫌未履行境外医疗器械注册代理人义务的有关情况予以立案调查。经查，当事人作为医疗器械的进口注册代理人，在协助注册人向国家药监局办理进口医疗器械注册申请过程中，未履行告知注册人需补充提交生产地址变更的ISO证书、产品标签和真实性声明等文件的公证函的义务，当事人的注册专员尹某某擅自通过图片编辑软件伪造虚假公证函提交国家药监局作为注册补正材料。2021年11月，当事人已协助注册人申请撤回涉案医疗器械注册申请。

　　当事人的上述行为，违反《医疗器械监督管理条例》(国务院令第739号)第十四条第四款、第二十条第一款第五项、第二款规定。2022年8月，广东省药品监督管理局依据《医疗器械监督管理条例》(国务院令第739号)第九十八条第一款规定，责令当事人改正上述违法行为，对当事人处以罚款12万元的行政处罚，对其责任人尹某某处以5年内禁止从事医疗器械生产经营活动的行政处罚。

　　【典型意义】医疗器械注册申请人应当确保提交的资料合法、真实、准确、完整和可追溯。境外申请人应当指定中国境内的企业法人作为代理人，办理相关医疗器械注册事项。代理人应当依法协助注册人履行法定义务，并协助境外注册人落实相应法律责任。药品安全专项整治行动开展以来，各级药品监管部门严厉打击医疗器械注册备案造假行为，本案为成功查处的首起涉及医疗器械代理人的医疗器械注册资料造假案件。广东省药品监督管理局给予当事人罚款、责任人员5年内禁止从事医疗器械生产经营活动的行政处罚，依法追究当事人法律责任，严格落实违法行为处罚到人要求，形成强有力震慑，有利于规范医疗器械注册行为，保障医疗器械安全、有效。

　　五、宁波精博康复辅具有限公司未经许可生产未依法注册的第二类医疗器械案

　　【案情简介】2022年3月4日，浙江省宁波市市场监督管理局对宁波精博康复辅具有限公司进行检查。经查，当事人涉嫌未经许可生产未依法注册的脊柱侧弯矫形器，涉案货值金额26.4万元，违法所得26.4万元。当事人未经许可生产未依法注册的第二类医疗器械的行为，违反了《医疗器械监督管理条例》(国务院令第739号)第十六条第一款、第三十二条第一款规定。2022年8月3日，宁波市市场监督管理局依据《医疗器械监督管理条例》(国务院令第739号)第八十一条第一款第一项、第二项和《关于规范市场监督管理行政处罚裁量权的指导意见》(国市监法〔2019〕244号)规定，决定给予当事人减轻处罚，处以没收违法所得26.4万元，罚款132万元的行政处罚。

　　【典型意义】随着经济社会的发展，康复治疗成为医疗领域新的增长点。青少年特发性脊柱侧弯多发高发，其治疗过程、所使用医疗器械的合法性也成为人民群众关注的热点。监管部门在案件查办期间深入了解脊柱侧弯的成因、诊断要点、治疗方法、影像学特征，并利用技术方法从PACS系统中提取患者的放射影像电子数据，找准案件办理的突破方向，从而揭开医疗康复领域无证生产未依法注册医疗器械并侵害患者权益的潜规则。该案的办理彰显了药品监管部门针对新的医疗器械违法行为进行重点突破和攻坚克难的决心，维护了医疗器械生产、使用秩序，有力保障了公众用械安全。

　　六、苏州威视健医疗仪器设备进出口有限公司经营未经注册的第三类医疗器械及无中文说明书、标签医疗器械案

　　【案情简介】2022年6月，江苏省苏州市姑苏区市场监督管理局执法人员根据协查线索，对苏州威视健医疗仪器设备进出口有限公司进行检查。经查，当事人涉嫌经营未经注册的进口眼内照明探头等医疗器械及无中文说明书、标签的超乳波切一体机，涉案货值金额20988.73元。当事人经营未经注册的第三类医疗器械及无中文说明书、标签医疗器械的行为违反了《医疗器械监督管理条例》(国务院令第739号)第三十九条第一款、第二款第三项和第五十五条的规定。2022年9月，苏州市姑苏区市场监督管理局依据《医疗器械监督管理条例》(国务院令第739号)第八十八条第二项、第八十一条第一款第一项和《苏州市市场监督管理行政处罚裁量权适用规定(试行)》第十三条第一项规定，决定对当事人从轻处罚，处以没收违法所得、没收无证的医疗器械104件、罚款358819.68元的行政处罚。

　　【典型意义】根据《医疗器械监督管理条例》(国务院令第739号)第五十五条规定，医疗器械经营企业、使用单位不得经营、使用未依法注册或者备案、无合格证明文件以及过期、失效、淘汰的医疗器械。目前，眼科手术技术发展迅速，市场竞争激烈，部分医疗器械经营单位主体责任意识淡薄，为获得竞争优势，擅自将尚未注册的医疗器械(大多数为耗材配件)投入市场使用，造成无证经营、使用医疗器械情况出现。本案的查处，使医疗器械经营企业及使用单位明白合法经营的重要性，对保护消费者权益、净化市场环境起到了积极促进作用。

　　七、广州恒澜生物科技有限公司使用化妆品禁用原料生产化妆品案

　　【案情简介】2022年3月，广东省药品监督管理局综合分析研判掌握的案件线索，联合公安机关对广州恒澜生物科技有限公司进行突击检查，并抽检部分化妆品。经查，该公司2021年11月至2022年3月期间生产的婴贝萱婴肤霜、婴康益生元身体乳，被检出含有化妆品禁用原料氯倍他索丙酸酯、卤倍他索丙酸酯、赛庚啶，货值金额为212667元。广东省药品监督管理局依法将案件移送公安机关，公安机关已依法立案侦查。同时，鉴于涉案产品属于儿童化妆品，违法行为情节严重，2022年10月，广东省药品监督管理局对该公司使用禁用原料生产化妆品的行为，依据《化妆品监督管理条例》第五十九条第三项规定，作出吊销其化妆品生产许可证、取消其化妆品产品备案、10年内不予办理其提出的化妆品备案和受理其提出的化妆品行政许可申请的行政处罚，对该公司法定代表人吴某某、生产负责人莫某某作出终身禁止其从事化妆品生产经营活动的行政处罚。

　　【典型意义】使用化妆品禁用原料生产儿童化妆品或者在儿童化妆品中非法添加可能危害人体健康的物质，属于《化妆品生产经营监督管理办法》第六十一条规定的情节严重情形，对此类违法行为，应当依法从重从严处罚。本案中，药品监督管理部门主动出击深挖案源线索，畅通涉案产品检验绿色通道，深化案件行刑衔接，联合公安机关有力打击了儿童化妆品非法添加违法犯罪行为。药品监督管理部门依法给予涉案企业吊销化妆品生产许可证、取消其产品备案等处罚，给予涉案企业法定代表人终身禁业处罚，并首次给予涉案企业生产负责人终身禁业的顶格处罚，对不法分子形成有力震慑，体现了监管部门坚决守护儿童用妆安全的坚定决心。

　　八、“5·7”江苏扬州生产销售假冒化妆品案

　　【案情简介】2022年9月15日，江苏省扬州市广陵区人民法院以假冒商标罪等罪名判处张某某等8名生产销售假冒化妆品的犯罪分子三年至一年不等的有期徒刑，并加处罚金。此案的发现源于江苏省药品监督管理局扬州检查分局在化妆品安全风险监测工作中摸排的违法线索。扬州检查分局发现上述假冒化妆品违法线索后，立即与扬州市公安局食药环侦支队成立联合专案组，坚持追根溯源、循线深挖，最终捣毁假冒化妆品生产窝点1处、胶管供货商2家，抓获张某某等多名犯罪嫌疑人。经查，自2020年3月张某某等人购买膏体、仿制包材、商标及防伪标识等组件，自行加工、组装生产假冒化妆品，并通过网络进行销售。

　　【典型意义】近年来，不法分子瞄准品牌化妆品进行制假售假，凭借他人优质品牌效应谋取非法利益。本案中，药品监督管理部门高度重视从化妆品安全风险监测中发现的违法线索，发挥专业技术优势，与公安机关协同作战，在“打假保名牌”工作机制框架下，由行政执法部门、公安机关、司法机关和权利人企业共同发力，将制假售假链条一网打尽，切实保护公众用妆安全，维护公平竞争市场秩序，营造良好的营商环境。

　　九、“6·12”福建漳州销售假冒化妆品案

　　【案情简介】2021年9月，福建省漳州市市场监督管理局陆续收到多起投诉举报，反映注册地址在漳州市诏安县的多家淘宝网店销售假冒品牌化妆品。漳州市市场监督管理局立即组织开展调查，经综合研判，诏安县市场监督管理局将线索移送公安机关，同时漳州市、县两级市场监管和公安部门成立联合专案组，共同侦办案件。2022年6月，联合专案组派出执法人员100余人，分赴广东深圳、辽宁大连、河北邯郸及福建漳州等地同时开展收网行动，一举捣毁化妆品售假窝点6处，现场抓获涉案人员73人，查扣大量假冒化妆品。截至目前，诏安县人民检察院已对本案3名主要犯罪嫌疑人批准逮捕，移送审查起诉3人，另有21名犯罪嫌疑人取保候审。该案正在进一步侦办中。

　　【典型意义】近几年来，随着对化妆品违法犯罪行为打击力度不断加大，化妆品制假窝点进一步向农村、城乡接合部等偏远地区转移。本案中，不法分子形成团伙作案，分散在福建、广东等地的农村等偏远地区分工作案，且反侦查意识很强，在多个电商平台开设多家网店，跨省生产销售违法化妆品。药品监督管理部门通过细致排查违法线索，不放过任何蛛丝马迹，并与公安机关密切配合，摸清了全案违法行为脉络，最终成功打掉黑窝点，维护了公众用妆安全。