手机看中经经济日报微信中经网微信
当前位置     首页 > 国际经济 > 正文
中经搜索

欧盟谋求AI监管领域主导权

2023年07月29日 07:35   来源:人民日报海外版   

  欧盟近来在人工智能(AI)监管领域频频发力,相继发起人工智能伦理讨论、推进人工智能立法并主动寻求对外拓展。欧盟谋求AI监管领域主导权的目标能实现吗?

  争取制定全球标准

  路透社日前报道称,欧盟正在开展“游说闪电战”,希望说服亚洲国家“承认欧盟在AI监管领域的领先地位”,使欧盟《人工智能法案》成为AI监管领域的全球标准。目前,欧盟及成员国已派出官员与印度、日本、韩国、新加坡和菲律宾等至少10个亚洲国家就AI监管问题进行了商谈。

  6月14日,欧洲议会以压倒性多数的投票结果通过欧盟《人工智能法案》草案。该法案对AI系统进行风险分类,限制深度伪造,并对ChatGPT等生成式人工智能提出了更高透明度的要求。

  “欧盟在推进AI立法方面迈出重要一步。欧盟正在争取制定全球标准,对生成式人工智能等技术设置‘护栏’。”《纽约时报》称。

  负责该法案工作的欧洲议会意大利议员布兰多·贝尼菲也表示,欧盟立法者将为世界其他地区构建“负责任的AI”“设定路径”。

  欧盟此前就已开始在AI监管领域进行布局。2019年4月,欧盟委员会发布人工智能伦理准则,列出了评价“可信赖人工智能”的7项标准。2020年2月,欧盟出台《人工智能白皮书》,提供多种政策选项,促进AI在欧盟的运用。2021年4月,欧盟委员会提出《人工智能法案》草案,此后欧洲议会和欧盟理事会就此进行了多轮讨论和修订,并在ChatGPT等生成式人工智能出现后对原草案内容进行了调整。2022年9月,欧盟委员会发布《人工智能责任指令》提案,拟就AI造成的损害设定赔偿规则。

  德新社报道称,按照欧盟立法程序,接下来,欧洲议会、欧盟成员国和欧盟委员会将开展三方会谈,确定《人工智能法案》的最终条款。

  展现数字治理领域雄心

  分析指出,欧盟在AI监管领域的主动出击,展现了欧盟在数字治理领域的雄心。

  “欧盟希望其监管规则成为‘黄金标准’,希望科技巨头采纳欧盟的新规则作为其全球运营框架。”英国《卫报》称。

  《华盛顿邮报》称,欧盟的举措巩固了其作为科技监管领域全球领导者的地位。新立法将增加欧盟针对硅谷公司的监管工具。“如果法案通过,欧盟的规则可能会影响世界各地的政策制定者。”

  “无论是前期发起对AI伦理的讨论,还是通过立法推进规则制定,欧盟在AI监管领域的行动都较为领先。”中国社会科学院欧洲研究所副研究员杨成玉表示,欧盟一直希望扮演全球“规范性力量”的角色,在制定欧盟内部规则后,通过多边渠道,将自身规则推广为全球标准,形成“布鲁塞尔效应”。在AI监管领域,欧盟也希望延续这一做法,在欧盟内部率先巩固AI监管体系,并通过与伙伴国家合作,将欧盟规则向全球推广,谋求AI监管领域的主导权。

  “欧盟在数字规则方面的一系列主动出击,与欧盟增强‘数字主权’、追求战略自主的理念一脉相承。”复旦大学中欧关系研究中心副研究员严少华表示,欧盟正在推进的《人工智能法案》是世界上第一部全面的AI监管法案,也是继《通用数据保护条例》《数字服务法案》和《数字市场法案》之后,欧盟在数字监管领域推出的另一部重磅法案。欧盟希望复制《通用数据保护条例》在塑造全球隐私保护规则方面的成功经验,把AI监管的欧盟标准提升为全球标准,引领AI监管领域的全球规则制定。

  欧盟的目标还在于弥补自身劣势。

  严少华表示,目前,欧盟在全球AI相关技术和产业方面缺乏比较优势,因此,欧盟试图在AI监管领域发挥“规范性力量”,抢占制定监管规则的优先权。

  “欧盟已经意识到自身在AI领域先发优势不足,因此,希望拿出强有力的监管方案,在规则标准上打造优势。”杨成玉说。

  能否实现“布鲁塞尔效应”

  在AI监管领域,欧盟能否实现其期待的“布鲁塞尔效应”?

  “当前,世界各国日益重视AI引发的风险,对AI进行监管的共识在增强,这种国际环境有利于欧盟推进AI监管立法。而且,欧盟内部的多样性使欧盟内部规则有转化为全球标准的潜质,欧盟自身在技术监管和全球规则的塑造方面也有大量成功经验。此外,由于科技界不希望多种监管标准并行,欧盟一旦率先批准《人工智能法案》,企业料将积极游说和推动其他监管规则与之趋同,这反过来又会加强欧盟在AI监管领域的话语权。”严少华说。

  “AI监管领域尚未形成通行的国际标准,欧盟擅长进行议程设置和标准制定,这有利于其抢占国际规则制高点。”杨成玉说。

  不过,挑战也不少。欧盟面临的首要挑战就是维持创新和监管间的平衡。

  据欧洲新闻电视台报道,斯坦福大学最近的一项研究表明,包括谷歌PaLM2和OpenAI公司GPT—4在内的大多数人工智能模型都不符合欧盟《人工智能法案》的要求。该法案可能给科技企业施加更多合规义务。“科技企业认为,监管过度可能给AI戴上‘枷锁’。”英国《金融时报》称,近期,西门子、空客、雷诺、喜力等超过150家知名企业的高管联合给欧盟委员会、欧洲议会和欧盟成员国致公开信,表达担忧:“欧盟拟议的规则将对AI模型进行严格监管,这会给参与AI开发的企业带来更高成本和过重负担,从而危及欧洲竞争力和欧盟推崇的技术主权。”

  合作伙伴的态度也是未知数。路透社报道称,针对欧盟日前发出的AI监管合作邀请,不少亚洲国家“反应冷淡”,新加坡和菲律宾方面表示将会“观望”,日本方面则表示更倾向于宽松的规定。

  技术和产业方面的相对劣势也可能削弱欧盟AI监管的“后劲”。“目前,欧盟在AI基础研发、数字市场等方面的竞争力相对不足。在与AI发展密切相关的芯片领域,欧盟也缺乏相应的先进制造能力。这都可能对欧盟在AI监管领域的长远布局构成挑战。”杨成玉说。

  据欧盟发布的《2030数字指南针:欧洲数字十年之路》报告,全球数字技术大都在欧盟以外的地区开发,90%的欧盟数据由美国企业管理,只有不到4%的科技企业来自欧盟,而欧盟地区制造的芯片只占欧盟市场的10%。

  “AI发展日新月异,AI监管规则也需要与时俱进。欧盟需要在AI领域进行大量的技术积累和人才储备。目前看来,欧盟的准备并不充足。”严少华说。

  林子涵

  (人民日报海外版)


(责任编辑:孙丹)

闂傚倸鍊搁崐椋庣矆娓氣偓楠炲鏁嶉崟顒佹闂佸湱鍎ら崵锕€鈽夐姀鐘电潉闂佸壊鍋嗛崳銉ノ涢崨瀛樷拺闁告劕寮堕幆鍫ユ煙閸愬弶鎹g紒顔肩墦瀹曞崬鈽夊▎蹇庣紦婵$偑鍊栭悧顓犲緤娴犲鍑犻柕鍫濇川绾惧ジ鏌熼幏灞界厫閻庢熬鎷�
延伸阅读
中国经济网版权及免责声明:
1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
  中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
  方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
  相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
  经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
  水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
  协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
  “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
  多信息,并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

精彩图片
闂傚倷鑳舵灙缂佺粯鍔欏畷銏ゅ冀椤愩儱小濡炪倖甯掗崐鑽ゅ婵傚摜鍙撻柛銉e妽閳锋帡鏌曢崼婵堢Ш闁哄矉绻濆畷姗€鏁冮埀顒勫礉濠婂啠鏀芥い鏂挎惈閳ь剚顨堥崚鎺楀醇閵夛附娅㈤梺璺ㄥ櫐閹凤拷 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 闂傚倷鑳舵灙缂佺粯鍔欏畷銏ゅ冀椤愩儱小濡炪倖甯婇懗鍫曞煝閺冣偓閵囧嫰骞樼捄杞版勃缂備礁鍊稿ú銊ф閹惧瓨濯撮柛婵勫劤椤斿绱撴担椋庮槮婵犫偓鏉堚晜顫曢柡鍐ㄧ墛閺呮悂鏌ㄩ悤鍌涘 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 缂傚倸鍊搁崐鎼佸疮椤栫偛鍨傜憸鐗堝笚閸嬬喐銇勯弽銊р槈缂佸墎鍋熼幉绋跨暆閳ь剟鎳為柆宥呂╃憸搴㈠垔婵傚憡鐓ラ柣鏇炲€圭€氾拷 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 缂傚倸鍊搁崐鎼佸疮椤栫偛鍨傜憸鐗堝笚閸嬬喐銇勯弽銊х煁閻庢碍纰嶉幈銊ノ熼崫鍕缂備緡鍣幏锟� 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 闂傚倷鑳剁划顖炪€冮崨瀛樺亱濠电姴鍊寸紓姘舵煕椤愩倕鏋旈柣婵嗙埣閺岋絽螖閳ь剟鎮ф繝鍥风稏闁跨噦鎷� 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 婵犵數鍋涢悺銊у垝瀹ュ洦鏆滈柣鏂挎憸椤╃兘鏌涢鐘茬伄缁鹃箖绠栭弻鐔告綇閸撗呅e┑鐐插悑鐢繝寮诲☉姗嗘僵闁绘挸楠搁埛澶嬬節绾版ɑ顫婇柛娆忓暣楠炲棝宕熼锝嗘櫓闂佸吋浜介崕鎶芥偪閳ь剟姊绘担鍛婂暈闁哄鍋撻梺闈涚墕閹冲繘顢欓崶顒佸€甸柛顭戝亝缁跺弶銇勯幋婵囧殗鐎规洩缍佸鎾偐閸偓绱¢梻浣芥硶閸o箓骞忛敓锟� 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 濠德板€楁慨鐑藉磻濞戙垺鍊舵繝闈涱儏缁犵喖鏌ㄩ悢鍝勑㈤悗姘槺閳ь剙绠嶉崕閬嶅箠鎼搭煉缍栭柨鐕傛嫹 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 闂傚倷绀侀幉锟犳偡閵夆晩鏁勯柛鈩冪☉绾惧潡鐓崶銊р姇闁绘搫缍侀弻锝夊箛闂堟稑顫╂繝銏n啇閹凤拷 闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 缂傚倸鍊风粈浣规櫠閼恒儳绠鹃柍褜鍓熼弻鈩冩媴闂堚晞鍚梺鍝勮嫰濞差參銆佸▎鎴犵<闁靛繒濮甸弳锟�
缂傚倸鍊搁崐椋庣矆娴g儤宕查柟瀵稿Х閻牏鎲搁悧鍫濈瑨缂侇偄绉归弻鏇熷緞濞戞氨鏆犻悶姘哺濮婅櫣娑甸崨顖氱墯闂佺ǹ瀛╂竟鍡欏垝椤撱垺鍋勯柛蹇撶毞閹稿懘姊虹化鏇炲⒉妞ゃ劌妫涚划鍫⑩偓锝庡亞缁犳儳顭跨捄渚剱缂佲偓閳ь剛绱撴担鐣屽牚闁稿孩鐓℃俊鐢稿礋椤戞儳浜濋梺鍛婂姀閺咁亞妲愰鍫熲拺闁圭ǹ楠搁崰鏇㈡煙閸戙倖瀚�闂傚倷绀侀幉锟犳偋濡ゅ懎桅闁绘劕鎼憴锔姐亜閹扳晛鈧牠寮冲⿰鍫熺厱鐎光偓閳ь剟宕戦悙鍝勯棷闁绘垼濮ら崑锝夋煕閵夋垵瀚崕鎾剁磽娴g晫鍫柛搴㈠▕瀵偊顢氶埀顒€鐣烽悡搴樺牚闁告侗鍨遍濠氭⒒娴e憡鍟為柡宀嬬節瀹曟粌鈹戦崶銊︾彿闂佽法鍣﹂幏锟�    婵犵數鍋為崹鍫曞箹閳哄懎鍌ㄩ柣鎾崇瘍閻熸嫈鏃堝礃椤忓棴绱查梻濠庡亜濞诧箑顫忔繝姘ч柛锔诲幘绾句粙鏌涢幇銊︽珔闁诲骏濡囬惀顏堫敇閳╁啰銆愬銈嗘磸閸庢娊鍩€椤掑﹦绉甸柛鐘虫崌閸┾偓妞ゆ帊绀佹慨宥嗘叏婵犲偆鐓兼い銏″哺瀹曞崬鈻庨幋鐘茬倞闂傚倷绀侀幉锟犳偋濡ゅ懎桅闁绘劕鎼憴锔姐亜閹板墎鐣辩紒鈧崱妯诲弿婵妫楁晶鎾煙閸撴彃澧伴柍褜鍓欓悘姘熆濮椻偓椤㈡牠宕ㄩ婊呯暥闂侀€炲苯澧棁澶嬬節婵犲倸鏋ら柛搴$箰閳规垿顢欓幆褎鐏堝Δ鐘靛仜缁夊綊宕洪埀顒勬煥閻曞倹瀚�
婵犵數鍋為崹鍫曞箹閳哄懎鍌ㄩ柣鎾崇瘍閻熸嫈鏃堝礃椤忓棴绱查梻濠庡亜濞诧箑顫忔繝姘ч柛锔诲幘绾句粙鏌涢幇顓烆嚋閻庢熬鎷� 闂傚倷鑳剁划顖炪€冮崨瀛樺亱濠电姴鍊寸紓姘舵煕椤愮姴鍔氱紒鐘劦閺屽秷顧侀柛鎾跺枎椤曪綁鎮介崨濠冩闂佽法鍣﹂幏锟�  婵犵數鍋涢悺銊у垝瀹ュ洦鏆滈柣鏂挎憸椤╃兘鏌涢鐘茬伄缁鹃箖绠栭弻鐔衡偓鐢登规禒锕傛煟閹绢垰浜鹃梻鍌氬€搁崐鎼佸磹娴犲鏁婂┑鐘插暟閳瑰秴鈹戦悩鍙夋悙缂佺姵甯楅妵鍕冀閵娧€濮囩紓浣哄У閻╊垶寮诲☉銏犳闁告侗鍋勯埀顑惧€濆畷顖炲川鐎涙ḿ鍘卞┑鐐叉閿氶柣蹇嬪劦閺岋綁鏁傞崗鐓庮伓(10120170008)   缂傚倸鍊搁崐鎼佸疮椤栫偛鍨傞柛锔诲幖閸ㄦ繈鏌ら幖浣规锭妞ゆ洟浜堕弻锝呂熼幐搴e涧闁诲繐楠忕换婵嬪箖瀹勬壋鏋庨煫鍥ㄦ濡偤姊虹拠鈥崇仩妞わ妇鏁婚獮濠囨倷閸濆嫮锛滃┑鐘诧工鐎氼噣鎮伴妷鈺傜厽闁绘ǹ绮鹃崗宀勫几椤忓棙鍠愰柟宄拌嫰閻ㄦ椽鏌熸搴♀枅闁轰焦鎹囬弫鎾绘晸閿燂拷(0107190)  婵犵數鍋涢悺銊у垝鎼淬劌绠栧〒姘辨珒婵犵數濮伴崹濂割敊閹版澘绠柨鐕傛嫹18036557闂傚倷绀侀幉锟犳偡闁秴绠柨鐕傛嫹

婵犵數鍋涢悺銊у垝閻樿绀堟繛鍡樻尭閻鏌¢崶鈺佇ョ痪楣冪畺閺岀喓鈧稒岣跨粻姗€鏌¢崱妯荤叆妞ゎ叀娉曢幏瀣喆閸曨偒浼� 11010202009785闂傚倷绀侀幉锟犳偡闁秴绠柨鐕傛嫹

欧盟谋求AI监管领域主导权

2023-07-29 07:35 来源:人民日报海外版

  欧盟近来在人工智能(AI)监管领域频频发力,相继发起人工智能伦理讨论、推进人工智能立法并主动寻求对外拓展。欧盟谋求AI监管领域主导权的目标能实现吗?

  争取制定全球标准

  路透社日前报道称,欧盟正在开展“游说闪电战”,希望说服亚洲国家“承认欧盟在AI监管领域的领先地位”,使欧盟《人工智能法案》成为AI监管领域的全球标准。目前,欧盟及成员国已派出官员与印度、日本、韩国、新加坡和菲律宾等至少10个亚洲国家就AI监管问题进行了商谈。

  6月14日,欧洲议会以压倒性多数的投票结果通过欧盟《人工智能法案》草案。该法案对AI系统进行风险分类,限制深度伪造,并对ChatGPT等生成式人工智能提出了更高透明度的要求。

  “欧盟在推进AI立法方面迈出重要一步。欧盟正在争取制定全球标准,对生成式人工智能等技术设置‘护栏’。”《纽约时报》称。

  负责该法案工作的欧洲议会意大利议员布兰多·贝尼菲也表示,欧盟立法者将为世界其他地区构建“负责任的AI”“设定路径”。

  欧盟此前就已开始在AI监管领域进行布局。2019年4月,欧盟委员会发布人工智能伦理准则,列出了评价“可信赖人工智能”的7项标准。2020年2月,欧盟出台《人工智能白皮书》,提供多种政策选项,促进AI在欧盟的运用。2021年4月,欧盟委员会提出《人工智能法案》草案,此后欧洲议会和欧盟理事会就此进行了多轮讨论和修订,并在ChatGPT等生成式人工智能出现后对原草案内容进行了调整。2022年9月,欧盟委员会发布《人工智能责任指令》提案,拟就AI造成的损害设定赔偿规则。

  德新社报道称,按照欧盟立法程序,接下来,欧洲议会、欧盟成员国和欧盟委员会将开展三方会谈,确定《人工智能法案》的最终条款。

  展现数字治理领域雄心

  分析指出,欧盟在AI监管领域的主动出击,展现了欧盟在数字治理领域的雄心。

  “欧盟希望其监管规则成为‘黄金标准’,希望科技巨头采纳欧盟的新规则作为其全球运营框架。”英国《卫报》称。

  《华盛顿邮报》称,欧盟的举措巩固了其作为科技监管领域全球领导者的地位。新立法将增加欧盟针对硅谷公司的监管工具。“如果法案通过,欧盟的规则可能会影响世界各地的政策制定者。”

  “无论是前期发起对AI伦理的讨论,还是通过立法推进规则制定,欧盟在AI监管领域的行动都较为领先。”中国社会科学院欧洲研究所副研究员杨成玉表示,欧盟一直希望扮演全球“规范性力量”的角色,在制定欧盟内部规则后,通过多边渠道,将自身规则推广为全球标准,形成“布鲁塞尔效应”。在AI监管领域,欧盟也希望延续这一做法,在欧盟内部率先巩固AI监管体系,并通过与伙伴国家合作,将欧盟规则向全球推广,谋求AI监管领域的主导权。

  “欧盟在数字规则方面的一系列主动出击,与欧盟增强‘数字主权’、追求战略自主的理念一脉相承。”复旦大学中欧关系研究中心副研究员严少华表示,欧盟正在推进的《人工智能法案》是世界上第一部全面的AI监管法案,也是继《通用数据保护条例》《数字服务法案》和《数字市场法案》之后,欧盟在数字监管领域推出的另一部重磅法案。欧盟希望复制《通用数据保护条例》在塑造全球隐私保护规则方面的成功经验,把AI监管的欧盟标准提升为全球标准,引领AI监管领域的全球规则制定。

  欧盟的目标还在于弥补自身劣势。

  严少华表示,目前,欧盟在全球AI相关技术和产业方面缺乏比较优势,因此,欧盟试图在AI监管领域发挥“规范性力量”,抢占制定监管规则的优先权。

  “欧盟已经意识到自身在AI领域先发优势不足,因此,希望拿出强有力的监管方案,在规则标准上打造优势。”杨成玉说。

  能否实现“布鲁塞尔效应”

  在AI监管领域,欧盟能否实现其期待的“布鲁塞尔效应”?

  “当前,世界各国日益重视AI引发的风险,对AI进行监管的共识在增强,这种国际环境有利于欧盟推进AI监管立法。而且,欧盟内部的多样性使欧盟内部规则有转化为全球标准的潜质,欧盟自身在技术监管和全球规则的塑造方面也有大量成功经验。此外,由于科技界不希望多种监管标准并行,欧盟一旦率先批准《人工智能法案》,企业料将积极游说和推动其他监管规则与之趋同,这反过来又会加强欧盟在AI监管领域的话语权。”严少华说。

  “AI监管领域尚未形成通行的国际标准,欧盟擅长进行议程设置和标准制定,这有利于其抢占国际规则制高点。”杨成玉说。

  不过,挑战也不少。欧盟面临的首要挑战就是维持创新和监管间的平衡。

  据欧洲新闻电视台报道,斯坦福大学最近的一项研究表明,包括谷歌PaLM2和OpenAI公司GPT—4在内的大多数人工智能模型都不符合欧盟《人工智能法案》的要求。该法案可能给科技企业施加更多合规义务。“科技企业认为,监管过度可能给AI戴上‘枷锁’。”英国《金融时报》称,近期,西门子、空客、雷诺、喜力等超过150家知名企业的高管联合给欧盟委员会、欧洲议会和欧盟成员国致公开信,表达担忧:“欧盟拟议的规则将对AI模型进行严格监管,这会给参与AI开发的企业带来更高成本和过重负担,从而危及欧洲竞争力和欧盟推崇的技术主权。”

  合作伙伴的态度也是未知数。路透社报道称,针对欧盟日前发出的AI监管合作邀请,不少亚洲国家“反应冷淡”,新加坡和菲律宾方面表示将会“观望”,日本方面则表示更倾向于宽松的规定。

  技术和产业方面的相对劣势也可能削弱欧盟AI监管的“后劲”。“目前,欧盟在AI基础研发、数字市场等方面的竞争力相对不足。在与AI发展密切相关的芯片领域,欧盟也缺乏相应的先进制造能力。这都可能对欧盟在AI监管领域的长远布局构成挑战。”杨成玉说。

  据欧盟发布的《2030数字指南针:欧洲数字十年之路》报告,全球数字技术大都在欧盟以外的地区开发,90%的欧盟数据由美国企业管理,只有不到4%的科技企业来自欧盟,而欧盟地区制造的芯片只占欧盟市场的10%。

  “AI发展日新月异,AI监管规则也需要与时俱进。欧盟需要在AI领域进行大量的技术积累和人才储备。目前看来,欧盟的准备并不充足。”严少华说。

  林子涵

  (人民日报海外版)


(责任编辑:孙丹)

查看余下全文