基于CIPP模式的中国智库成果质量评价研究.pdf
《基于CIPP模式的中国智库成果质量评价研究.pdf》由会员分享,可在线阅读,更多相关《基于CIPP模式的中国智库成果质量评价研究.pdf(10页珍藏版)》请在咨信网上搜索。
1、32第 8 卷 第 4 期 2023 年 8 月开放科学(资源服务)标识码(OSID)基于 CIPP 模式的中国智库成果质量评价研究*韩瑞珍1 杨思洛11武汉体育学院新闻传播学院 武汉 4300792武汉大学信息管理学院 武汉 430079*本文系国家社会科学基金一般项目“生命周期视角下论文学术影响的形成机理及测度模型研究”(项目编号:18BTQ079)、武汉体育学院“东湖学者计划”支持研究成果之一。作者简介:韩瑞珍,武汉体育学院新闻传播学院副教授,博士,E-mail:;杨思洛,武汉大学信息管理学院教授,博士生导师,博士,E-mail:。摘要:目的/意义 智库成果质量关系到智库的生存和发展,关
2、乎智库能否承载时代赋予的任务。智库成果质量评价催生智库自我身份认同和行业自觉,激发智库不断提升成果质量、引领智库健康发展。方法/过程本文借鉴CIPP评价模式,构建智库成果质量评价模型;提出PRICE综合评价指标体系,并运用层次分析法确定权重;通过问卷调查方法,选取 3 家智库成果作为样本,进行验证性评价。结果/结论 研究结果显示,环境支持、成果传播、内容质量和成果影响力指标分值相对较低,表明中国智库较缺乏专门的针对质量管理和质量控制的理念和制度;智库对成果的传播和推介工作的重视程度不足;成果质量和影响力有待进一步提升。关键词:智库成果 质量 评价指标 CIPP 模式分类号:G932DOI:10
3、.19318/ki.issn.2096-1634.2023.04.041 前言智库作为能够对公共政策制定产生影响的咨询机构,承担着推进国家治理体系和治理能力现代化、增强国家软实力的战略任务。当前,党和政府面临世界格局之变、国际秩序之变、科学技术之变、中国全球化发展崛起之变、社会形态及发展范式之变1:对内,担负着实现中华民族伟大复兴的历史使命;对外,需要发出中国声音、体现中国气派,推动构建人类命运共同体。在“世界百年未有之大变局”的激荡时刻,无疑需要智库积极、主动地贡献高质量的研究成果,为前瞻性、全局性、战略性和民主性的科学决策提供研判和支撑。然而,现有的智库成果通常难以匹配智库被赋予的时代使命
4、和任务。一方面,智库整体缺乏高质量的研究成果,智库成果创新力不足,智库成果同质化、形式化现象严重,造成资源的极大浪费与决策的低效率;另一方面,即便是知名智库的研究成果质量也是参差不齐,在政策影响力和国际话语权提升上亦有较大的发展空间。评价具有引导功能,有什么样的评价指挥棒,就有什么样的智库建设导向2。评价引领和促进智库成果质量全面提升是智库在大变局时代应时而动的当务之急。本文基于 CIPP(content evaluation(背景评价)、input evaluation(输入评价)、process evaluation(过程评价)、product evalua-tion(结果)评价模式理念,
5、尝试构建科学、合理、全面的智库成果质量评价体系,为智库成果质量树立标杆,为相关管理部门进行有效管理和资源配置提供依据。2 国内外相关研究进展智库评价源于西方发达国家,评价方法主要采用定性研究、定量研究、定性定量结合研究,例如,安德鲁里奇(Andrew Rich)采用定量分理论研究33析方法分析了不同类型智库实现影响力的行为差异3。从智库评价的主体来看,国外智库主要有3 种评价模式:以市场主导评价的美国模式、以协会等第三方主导评价的德国模式、以政府主导评价的日韩模式4;评价对象通常分为综合性智库评价和分类智库评价,如麦甘团队发布的全球智库研究报告是全球性、综合性的智库评价,美国全球发展中心专门针
6、对美国高校智库进行排名,英国智库研究机构则对智库财务透明度进行评价;评价内容主要集中于智库影响力的评价和排名,而有关智库成果的评价通常作为其中一项重要指标。目前,国内较为系统的智库成果评价主要集中在第三方评价机构对智库的评价之中。由中国社会科学评价研究院起草的人文社会科学智库评价指标体系5于 2021 年 5 月正式发布,其明确规定了“公开、客观、公正、科学、独立”五大评价原则,设置吸引力、管理力、影响力三大一级评价指标,14 项二级评价指标,为社会科学智库评价指明方向。此外,上海社科院智库研究中心、南京大学中国智库研究与评价中心、浙江工业大学全球智库研究中心等研究机构将智库测评的理论、方法和
7、评价体系应用于智库评价,各评价机构构建了不同的评价指标体系,形成各自的特色,不断丰富和完善智库评价体系。各省市政府部门牵头举办的优秀智库成果评选活动,是评价具体应用之一。例如,湖北省教育厅开展的“湖北高校智库优秀决策咨询研究成果”评选;湖南省社会科学院组织的“年度十大智库创新成果”评选;天津市市委教育工作委员会、市教育委员会组织的“天津市年度高校智库优秀决策咨询研究成果”评选等。这些评选活动激发了智库研究人员的热情,促进了高质量智库成果产出和效用发挥,但是这些评选活动尚未形成系统的评价体系,也没有形成常态化的评价机制。根据对国内外文献调研发现,智库成果评价通常涵盖在智库影响力评价体系中,研究者
8、过度关注智库影响力,极易误导智库和社会媒体追逐形式上的宣传造势,而忽视了智库成果质量这一智库生存和发展最为本质的要素。专门的智库成果评价也存在一些问题,如未根据智库成果的差异性进行分类评价,评价指标过度强调采纳、批示,评价体系缺乏引导性等6。在评价指标的设置、评价方法的选用、评价数据的获取等方面需要进一步商榷、探索并逐步完善。3 智库成果质量整体评价模型构建评价模型是智库成果质量评价的基础和支撑,评价指标是为整体评价服务的,确定评价指标体系前,需要确立智库成果质量评价模型。为克服评价单一视角,提升评价的科学性与可靠性,基于系统思维从影响评价的各要素、关系和结构等方面考虑,本文设计了包含评价主体
9、、评价过程、评价对象的智库成果质量的评价模型,如图1所示。图 1 智库成果质量的评价模型Figure 1 Evaluation model for the quality of think tank achievements评价主体应纳入政府主管部门的力量。中国特色新型智库最根本的特征是党管智库,政府主管部门担负组织生产和监管质量的责任7。智库成果严把质量关,旨在增强服务党和政府决策的针对性和时效性。因此,政府主管部门作为主体责任人和利益相关人理应纳入评价主体一方。韩瑞珍,杨思洛.基于 CIPP 模式的中国智库成果质量评价研究 J.智库理论与实践,2023,8(4):32-41.34第 8 卷
10、 第 4 期 2023 年 8 月在整个评价过程中,智库成果质量评价指标体系的设计是核心和重点。目前的评价体系以单一的结果评价为主,评价目的也局限于证明或优选,而忽略了评价的真正价值和意义,即评价是为了更好地促进质量提升,并为管理者提供决策信息服务。为弥补单一评价视角的不足,本文借鉴了 CIPP 评价模式理念。CIPP 评价模式是由美国学者斯塔弗尔比姆(Stufflebeam)提出的,是一个指导人事、产品、机构或系统评价的综合框架,包含背景评价、输入评价、过程评价和结果评价8,该模式核心理念是“评价最重要的目的不在于证明,而在于改进”。智库成果质量高低受到研究人员、环境、资源、研究过程、受众需
11、求等诸多因素的影响和制约,将这些因素纳入评价指标,契合 CIPP 评价模式理念,评价结果直接体现质量问题归因,实现“以评促改、以评促建”的评价目的。同时,评价指标体系不是孤立存在的,与评价标准、评价环境、评价规范、评价类型、评价流程和评价方法等各体系之间相互联系、相互作用,共同构成评价的有机整体。需要注意的是,不同评价主体面对不同评价对象,评价侧重点也有所不同,质量评价遵循分类评价原则,在评价价值标准、评价指标设计上体现差异性。3.1 智库成果质量评价标准智库成果研究主要依托社会科学的知识体系和研究方法展开9,智库成果质量的评价沿用社会科学成果评价标准,分为真理性标准和价值性标准两类。真理性标
12、准是人文社会科学研究成果评价的首要标准10。智库成果质量评价的真理性标准是科学性、创新性和逻辑性。其中,科学性是指研究内容反映事物本质和规律,研究结论是可以检验和证伪的;创新性是指对现有理论知识、思想观念、思维模式等进行发展和突破,提出新的思想,解决新的问题;逻辑性是指智库成果研究内容符合逻辑的严密性,文本形式符合逻辑的结构性。价值性标准重在实际应用,指的是功利性、实用性价值。智库成果质量评价的价值性标准包含政治价值标准、理论价值标准和社会价值标准。其中,政治价值标准是由智库成果的本质属性所决定的,体现出政府决策这一政策活动包含民主政治与民主参与的核心价值;理论价值标准是智库成果学术性的要求,
13、进行基础研究的智库成果要有理论的创新和突破;社会价值标准在于智库及其成果的转化能够引领社会思潮、引导公共舆论,以及受智库成果影响的公共政策的实施所带来的社会效益。智库成果并非纯学理研究,要实现智力赋能决策活动与民主参与价值标准的耦合统一,评价智库成果质量需兼顾和融合两种评价标准。3.2 智库成果质量评价环境科学评价作为社会系统的子系统,必然受到社会环境因素的影响和制约。影响智库成果质量评价的环境因素主要来自政治环境和文化环境。首先是政治环境。政府信息公开程度、信息披露制度完善程度,以及政务工作透明化、完善化程度等政治环境直接影响智库成果评价。其次是文化环境。文化环境不只是“人情”,但“重人情、
14、讲关系”的传统会影响评价的公平和客观,因此需要建立科学的评价体系,去规范和监管。因此,一方面,在评价中树立“公正、公开、公平”的规则意识,利用定量评价的客观性和公开性弥补定性评价中人为因素的干扰;另一方面,要建立全面的智库成果质量评价规范体系,对评价主体和评价行为进行有效约束和监管。3.3 质量评价规范和程序质量评价规范是对质量评价主体和评价过程的监督和管理,质量评价会受到各种环境和人为因素的影响。在评价中,难免会有失公正和客观,严谨、完善的质量评价规范是进行科学、客观、公正评价的基础和保障。质量评价规范一方面,是来自外部相关政策法律、行业规范的约束以及社会监督等;另一方面,是来自评价机构内部
15、的质量控制和管理,包括完善的智库成果评价制度体系,以及从技术和行为两个层面实施的智库内部质量控制机制。智库成果评价程序包括准备、实施、得出结论、结果应用和信息反馈等一系列的环节。第一步,确定评价对象并进行分类。对某一智库全部成果进行评价,通常是自身改进型评价;对多家智库代表成果进行评价,则是评优排名的评价。35不同类型的智库成果面向不同受众、不同目的,不能采用统一标准进行评价和衡量,需要依据每种类型的独特性和针对性进行分类评价。第二步,进行成果查新,以确保评价对象的学术规范和原创性。第三步,最后的评价程序依次是评价指标选取、方法确定、专家遴选、结果公示与监督、评价意见反馈、评价申诉、评价时间、
16、评价周期等事项。3.4 质量评价方法依照不同的评价主体,质量评价有 3 种评价方式,包括:上级主管部门的审核、组织内部的自我评定以及独立的第三方机构测评。每一种评价方式都有相应的评价方法。智库成果不同于物质成果,又区别于一般的思想成果。鉴于智库成果的特殊性以及评价的复杂性,评价方法的选用也较为复杂,需要借助多指标综合评价方法,即将反映智库成果质量的多个指标信息联合起来得到一个综合指标,据此反映智库成果质量整体情况11。构建智库成果质量评价体系时,充分利用比较主成分分析法、层次分析法(the analytic hier-archy process,AHP)、主观评定法、模糊综合评价法等多指标综合
17、评价方法,开展定性研究与定量研究相结合、主观评价与客观评价相结合的评价研究。科学、高效的智库成果质量评价依赖智库成果评价体系中的各环节要素,在各种先进信息技术辅助下实现有机融合、共同作用。例如,培育和净化影响质量评价的环境体系,建立和完善约束智库成果质量评价主体和评价行为的规则体系;构建科学合理的智库成果质量评价指标体系等,以确保评价的顺利运转和评价结果的公正、可信。4 智库成果质量 PRICE 评价指标体系评价指标体系是智库成果质量评价的核心内容和关键环节。智库成果质量评价存在评价对象的多样性(包括研究报告、图书、论文等)、评价层次的差异性、评价数据的难获得性等特征。为更好地反映和实现评价目
18、标,应在独立性、分类评价、代表性以及动态性等评价原则指导下科学设计和选定评价指标。智库成果质量评价指标体系如表 1 所示。表 1 智库成果质量评价指标体系Table 1 Evaluation index system for the quality of think tank achievements目标层一级指标(准则层)二级指标(领域层)评价指标观测点概要智库成果质量的评价体系环境支持成果质量管理制度质量管理相关规章制度的完备程度文化氛围核心质量价值理念的形成及实施情况智库规模和层次智库研究人员数量、顶尖人才数量;与政府、媒体的关系密切程度;智库财务支持水平资源保障研究人员水平研究人员研究
19、能力、政策分析能力;研究团队学科、专业结构智库的信息化数据库信息平台建设完备程度;智库运作的自动化、网络化水平研究经费保障研究经费支持水平与稳定性过程监管研究选题与规划中国经济、政治、文化、社会建设及协调发展中的理论和实践问题;选题的战略性、前沿性信息源与研究方法信息来源的真实性和可靠性;研究方法的合理性和恰当性成果传播过程传播渠道的多元性和畅通性;传播方式的灵活性和有效性内容质量成果内容 价值性、理论性、思想性、创新性成果结论成果结论的可行性与有效性;对策建议的可操作性与可验证性成果结构论证严谨,逻辑严密,语言表述规范精炼影响效果成果政策影响成果被批示和采纳的次数和层次;听政论证会上被讨论、
20、引用的次数和层次;被政府权威媒体报道、评论的次数和层次成果社会影响被主流媒体采访、报道的次数和层次;在互联网搜索引擎中的搜索量;引起社会价值变化的程度成果学术影响获得学术奖项的级别;成果被引用、转载、下载、关注的次数 注:智库成果质量评价指标体系中的准则层具有通用性,而领域层部分指标、指标观测点以及权重的设置会依据智库类型的不同而有所不同。4.1 指标体系的构建流程科学、合理的评价指标体系是进行智库成果质量评价的基础和前提。首先,遵循相关指标体韩瑞珍,杨思洛.基于 CIPP 模式的中国智库成果质量评价研究 J.智库理论与实践,2023,8(4):32-41.36第 8 卷 第 4 期 2023
21、 年 8 月系构建原则,采用文献调研法、智库机构咨询和专家访谈等方式初步确定指标框架,多种方法的运用可以有效避免指标中可能出现的偏颇;其次,通过问卷调查法、指标因素法、层次分析群策法等,对初始的评价指标进行筛选,并确定权重;最后,确立指标框架。智库成果质量的评价指标体系具体构建流程见图 2。文献资料查询智库机构咨询专家咨询初始指标评价体系智库成果质量评价体系专家咨询评价指标筛选及权重确定图 2 智库成果质量的评价指标体系构建流程Figure 2 Construction process of evaluation index system for the quality of think ta
22、nks achievements智库成果质量受到由多重具体要素构成的复杂系统的影响。智库成果质量评价具有多维度性,评价目标具有多层次性。为适应多维度和多层次的评价要求,依据智库成果质量要素的复杂程度,采用由准则层(一级指标)、领域层(二级指标)和单项考核指标(具体观测点)构成的树状式指标体系结构。4.2 评价指标的遴选与分析智库成果有不同的类型,从成果形式上,可分为咨询研究报告类、专著图书类、期刊类、简报简讯类、论文类、听证会证词类等智库成果;从研究内容上,主要分为对策建议类、应用理论类、分析预测类、政策阐释类等类型。不同的智库成果具有不同的特点,有不同的质量要求,因此,应有相应的指标体系。基
23、于同类比较、分类评价的思想,以及考虑到样本的代表性和数据的可获取性,针对公开出版发行的研究报告类智库成果设计指标体系。基于 CIPP 评价模式,结合影响智库成果质量的关键要素,确定 5 个一级评价指标(准则层):环境支持(environment)、资源保障(resouce)、内容质量(content)、过程监管(process)、影响效果(influence)。其中,环境支持对应背景评价,是指在特定的环境下评定成果产出的背景、资源和机会;资源保障对应输入评价,对达到目标所需的条件、资源等进行评价,其实质是对成果质量的保障性和效用性进行评价;影响效果对应结果评价,是对成果目标达到、智库功能实现程
24、度所做的评价;考虑智库成果的知识性,增加内容本身质量指标,实现智库成果的全程评价、过程评价和反馈性评价。五个一级指标的首字母可以组合成英文单词“PRICE”(价值),契合了智库成果质量评价的内涵价值。对于二级指标(领域层)的确定,参考智库成果特征、质量基本要素等,对智库成果的选题、问题分析、信息分析、策略与验证、风险评估等步骤进行分析,遵循评价指标设定原则,选择有代表性、可获得性和简便的指标。同时,结合智库成果类型的特点和要求确定指标的范围,利用频度统计法对国内外相关文献进行频度统计,选择使用频度较高的指标12。在初步选出评估指标的基础上,依据专家咨询的反馈意见对指标进行修正调整。基于上述频度
25、统计法、理论分析法和专家咨询法三种方法,设计具有科学性、代表性的二级指标体系13。4.2.1 环境支持 高质量的智库成果离不开优质智库环境的支持,包括智库内部环境和社会整体环境。出于评价的简便考虑,仅设置与成果质量密切相关的内部环境的二级指标:成果质量管理制度、文化氛围以及智库规模和层次。智库成果研究者的知识层次、认识深度、日常习惯等参差不齐,质量意识也相差甚远14。人的意识决定行为,行为决定工作质量,也直接决定了成果质量。质量管理制度以外在力量强制和约束智库研究人员注重成果质量,是形成良好质量意识的硬性保障。质量文化氛围提供了一种软性的、内在的、情感性的约束。两者有效结合有利于形成研究者优品
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 CIPP 模式 中国 成果 质量 评价 研究
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。