<?xml version="1.0" encoding="UTF-8"?><?xml-model type="application/xml-dtd" href="http://jats.nlm.nih.gov/publishing/1.1d3/JATS-journalpublishing1.dtd"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.1d3 20150301//EN" "http://jats.nlm.nih.gov/publishing/1.1d3/JATS-journalpublishing1.dtd">
<article xmlns:ali="http://www.niso.org/schemas/ali/1.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:mml="http://www.w3.org/1998/Math/MathML" dtd-version="1.1d3" specific-use="Marcalyc 1.2" article-type="research-article" xml:lang="es">
<front>
<journal-meta>
<journal-id journal-id-type="redalyc">3442</journal-id>
<journal-title-group>
<journal-title specific-use="original" xml:lang="es">TecnoLógicas</journal-title>
</journal-title-group>
<issn pub-type="ppub">0123-7799</issn>
<issn pub-type="epub">2256-5337</issn>
<publisher>
<publisher-name>Instituto Tecnológico Metropolitano</publisher-name>
<publisher-loc>
<country>Colombia</country>
<email>tecnologicas@itm.edu.co</email>
</publisher-loc>
</publisher>
</journal-meta>
<article-meta>
<article-id pub-id-type="art-access-id" specific-use="redalyc">344276634012</article-id>
<article-categories>
<subj-group subj-group-type="heading">
<subject>Editorial</subject>
</subj-group>
</article-categories>
<title-group>
<article-title xml:lang="es">Evaluación de la investigación y rankings de universidades, más allá de las citas y el factor de impacto</article-title>
</title-group>
<contrib-group>
<contrib contrib-type="author" corresp="yes">
<contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-1028-9111</contrib-id>
<name name-style="western">
<surname>Díaz Cabrera</surname>
<given-names>Gloria Mercedes</given-names>
</name>
<xref ref-type="corresp" rid="corresp1"/>
<xref ref-type="aff" rid="aff1"/>
<email>gloriadiaz@itm.edu.co</email>
</contrib>
</contrib-group>
<aff id="aff1">
<institution content-type="original">Gloria Mercedes Díaz Cabrera. Facultad de Ingenierías, Instituto Tecnológico Metropolitano, Medellín - Colombia, ORCID: 0000-0003-1028-9111 Correo: gloriadiaz@itm.edu.co</institution>
<institution content-type="orgname">Instituto Tecnológico Metropolitano</institution>
<country country="CO">Colombia</country>
</aff>
<author-notes>
<corresp id="corresp1">
<email>gloriadiaz@itm.edu.co</email>
</corresp>
</author-notes>
<pub-date pub-type="epub-ppub">
<year>2024</year>
</pub-date>
<volume>27</volume>
<issue>59</issue>
<fpage>1</fpage>
<lpage>4</lpage>
<permissions>
<copyright-year>2024</copyright-year>
<copyright-holder>Instituto Tecnológico Metropolitano</copyright-holder>
<ali:free_to_read/>
<license xlink:href="https://creativecommons.org/licenses/by-nc-sa/4.0/">
<ali:license_ref>https://creativecommons.org/licenses/by-nc-sa/4.0/</ali:license_ref>
<license-p>Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional.</license-p>
</license>
</permissions>
<self-uri content-type="html" xlink:href="https://revistas.itm.edu.co/index.php/tecnologicas/issue/view/135">https://revistas.itm.edu.co/index.php/tecnologicas/issue/view/135</self-uri>
<abstract xml:lang="es">
<title>Resumen</title>
<p>La evaluación de la investigación es actualmente uno de los temas de mayor relevancia y controversia en la ciencia y la academia, especialmente en el ámbito universitario. Esta evaluación se utiliza comúnmente para clasificar instituciones, grupos, productos académicos como las revistas científicas, y al personal docente investigador. Los indicadores de calidad e impacto de la investigación influyen decisivamente en el ascenso en carreras académicas, selección de beneficiarios de becas e incentivos, culminación de programas de alto nivel (como maestrías y doctorados), asignación de recursos en instituciones y centros de investigación, y en la definición de políticas públicas a nivel institucional y gubernamental [<xref ref-type="bibr" rid="redalyc_344276634012_ref1">1</xref>], [<xref ref-type="bibr" rid="redalyc_344276634012_ref3">2</xref>].</p>
</abstract>
<kwd-group xml:lang="es">
<title>Palabras clave</title>
<kwd>Rankings universitarios, métricas de investigación, investigación académica, clasificadores académicos</kwd>
</kwd-group>
<counts>
<fig-count count="0"/>
<table-count count="0"/>
<equation-count count="0"/>
<ref-count count="12"/>
</counts>
</article-meta>
</front>
<body>
<sec>
<title>Editorial</title>
<p>La evaluación de la investigación es actualmente uno de los temas de mayor relevancia y controversia en la ciencia y la academia, especialmente en el ámbito universitario. Esta evaluación se utiliza comúnmente para clasificar instituciones, grupos, productos académicos como las revistas científicas, y al personal docente investigador. Los indicadores de calidad e impacto de la investigación influyen decisivamente en el ascenso en carreras académicas, selección de beneficiarios de becas e incentivos, culminación de programas de alto nivel (como maestrías y doctorados), asignación de recursos en instituciones y centros de investigación, y en la definición de políticas públicas a nivel institucional y gubernamental [<xref ref-type="bibr" rid="redalyc_344276634012_ref1">1</xref>], [<xref ref-type="bibr" rid="redalyc_344276634012_ref3">2</xref>].</p>
<p>En el caso de los rankings o clasificadores universitarios su impacto ha trascendido de los ámbitos académicos y científicos, y son actualmente reconocidos por la sociedad en general como indicadores de la calidad de las instituciones, gracias a su divulgación en medios de comunicación y redes sociales. Su concepción se remonta a 1986, año en el cual se publicó por primera vez el ranking America's Best Colleges; sin embargo, fue la transformación a la era digital, la que permitió su desarrollo y proliferación.</p>
<p>Actualmente, se publican más de 20 rankings universitarios globales, y otros más regionales, locales y hasta especializados en funciones misionales específicas. Los de mayor reconocimiento en Latinoamérica son: el Academic Ranking of World Universities - ARWU, también conocido como el ranking de Shanghái, el Times Higher Education World University Ranking - THE, el Quacquarelli Symonds (QS) Universities ranking, el Scimago Institution Ranking (SIR) y el Ranking Web de Universidades o Webometrics.</p>
<p>Aunque estos rankings contemplan diferentes dimensiones de las funciones misionales de la educación superior, la evaluación de la investigación mantiene un valor preponderante; e incluso, en algunos de ellos, sólo las instituciones que cuentan con un número mínimo de publicaciones en bases de datos indexadas son evaluadas.</p>
<p>El Academic Ranking of World Universities - ARWU, desarrollado en 2003 por la Universidad de Shanghai Jiao Tong, se basa en la valoración de cuatro características de calidad de la educación (10 %), calidad del personal docente (40 %), resultados de investigación (40 %), y una característica de rendimiento per cápita (10 %), que realiza un ajuste al tamaño de la institución [<xref ref-type="bibr" rid="redalyc_344276634012_ref4">3</xref>]. Sin embargo, se podría decir que todos sus indicadores están asociados a investigación, pues además del número de artículos publicados en las revistas Nature y Science, y el número de artículos indexados en el Science Citation Index-Expanded y el Social Science Citation Index de Clarivate, se valora el número de investigadores altamente citados y el número de docentes y egresados que han sido galardonados con premios Nobel o Medallas Fields (otorgados principalmente a investigadores que realizan aportes al conocimiento de gran importancia).</p>
<p>Otros rankings, como el THE y el QS incorporan la reputación de las instituciones, a partir de encuestas que se realizan a diferentes actores a nivel mundial. Sin embargo, el componente de investigación sigue siendo relevante para la clasificación. El ranking THE, lanzado en 2004, presenta una distribución de valoración en las siguientes características, 29.5 % al entorno de aprendizaje, 59 % al entorno y la calidad de la investigación, en términos de la reputación y los ingresos por investigación, y en métricas bibliográficas como el número de publicaciones en Scopus, y el impacto, solidez, excelencia e influencias de estas, medidas a partir de las citas recibidas, 4 % correspondiente al relacionamiento con la industria y 7.5 % a la perspectiva internacional, del cual 2.5 % se evalúa con base a la colaboración con autores con filiación a instituciones internacionales, es decir una métrica basada en bibliometría [<xref ref-type="bibr" rid="redalyc_344276634012_ref6">4</xref>].</p>
<p>El ranking QS, presentado en 2009 luego de que Quacquarelli Symonds se separará de THE, le otorga un peso mucho menor a la evaluación relacionada directamente con la investigación; un 20 % a las citaciones por docente y 5 % a la coautoría internacional, aunque en la versión para Latinoamérica estos porcentajes varían, con una valoración mayor a la coautoría internacional (10 %) y además, cambia la valoración de citas por docente, a artículos por docente (5 %) y citas por artículo (10 %), y otorga un valor de 5 % a un indicador de impacto del ranking Web de Universidades – Webometrics [<xref ref-type="bibr" rid="redalyc_344276634012_ref7">5</xref>].</p>
<p>El Scimago Institution Ranking - SIR, publicado desde 2009 por el ScimagoLab, hace parte de un conjunto de rankings fuertemente basados en datos bibliométricos, entre los que se encuentran otros rankings con menos reconocimiento en la región, como el Ranking de Leiden y el University Ranking by Academic Performance (URAP) . El SIR, genera una clasificación de instituciones que hacen investigación, incluidas instituciones de educación superior, empresas, entidades de gobierno, entidades de salud y entidades sin ánimo de lucro. Las características que definen la clasificación global se dividen en tres categorías: investigación (50 %), medido en términos de número de publicaciones, liderazgo, excelencia, impacto, colaboración internacional y publicación en acceso abierto; innovación (30 %), medido por el número de patentes solicitadas y la citación de publicaciones de la entidad en patentes e impacto social (20 %), que incluye algunas métricas alternativas sobre menciones en redes sociales, métricas sobre el impacto Web, y en su última versión, número de documentos relacionados con los ODS, número de autoras (mujeres) y número de publicaciones citados en documentos de políticas públicas [<xref ref-type="bibr" rid="redalyc_344276634012_ref9">6</xref>].</p>
<p>Como se observa en esta breve revisión, la evaluación de la investigación en los rankings o clasificadores académicos se ha basado tradicionalmente en indicadores bibliométricos, en principio objetivos, que intentan valorar el impacto de las contribuciones científicas, tales como el número de publicaciones, la tasa de citaciones, o el Factor de Impacto (propuesto hace casi cinco décadas), entre otros. Aun las propuestas de métricas alternativas, como las del SIR, o de nuevos indicadores como la colaboración internacional, la inclusión de mujeres en el ámbito científico, y el impacto en políticas públicas o en la industria, tienen un enfoque predominante en la cantidad de publicaciones y citaciones en revistas de corriente principal, que priorizan la cantidad sobre la calidad y la relevancia local de la investigación, y que menosprecian las brechas en el manejo del idioma inglés, y desconocen la diversidad de productos resultados de investigación y de las funciones misionales de las instituciones de educación superior, que podrían priorizar, por ejemplo, la transferencia de conocimiento sobre la generación de publicaciones. Adicionalmente, la tendencia creciente hacia la publicación de acceso abierto en la ruta dorada, y los elevados costos de los APC (Article Processing Charges) que pueden ser prohibitivos para investigadores de regiones menos desarrolladas, resalta la necesidad de replantear los criterios actuales y promover prácticas más equitativas y responsables en la evaluación de la investigación, y de los actores que la desarrollan (investigadores, grupos e instituciones).</p>
<p>Recientemente, han emergido modelos alternativos de evaluación de Instituciones de Educación Superior que, si bien mantienen indicadores tradicionales basados en publicaciones y citas, proporcionan otros orientados al impacto de la investigación, además de ampliar el enfoque a las diferentes funciones misionales de las Instituciones. Por ejemplo, el Times Higher Education Impact Ranking [<xref ref-type="bibr" rid="redalyc_344276634012_ref10">7</xref>], publicado anualmente desde 2019, realiza una evaluación en función de la contribución de las instituciones a los Objetivos de Desarrollo Sostenible (ODS) desde cuatro dimensiones: investigación, administración, extensión y enseñanza. La evaluación se basa tanto en datos suministrados por la institución, como de otras fuentes; para el componente de investigación, los indicadores son igualmente bibliométricos derivados de datos proporcionados por Elsevier.</p>
<p>Finalmente, quiero hacer mención del ranking U-Multirank, financiado por la Comisión Europea a través de un consorcio independiente que incluye el Centro para la Educación Superior (CHE) en Alemania, el Centro de Investigaciones de Política Científica y Tecnológica (CWTS) de la Universidad de Leiden en los Países Bajos, y el Centro para la Educación Superior y Desarrollo (CHEPS) de la Universidad de Twente, también en los Países Bajos, que permite a los usuarios personalizar los indicadores para comparar universidades respecto a diferentes aspectos como enseñanza y aprendizaje, transferencia de conocimiento, orientación internacional y contribución regional. Sus fuentes de datos incluyen información pública, así como información suministrada por las mismas entidades; y a diferencia de otros rankings, este no elabora una lista de clasificación de las universidades, sino que establece su posición en cinco grupos de desempeño (desde “muy bueno” hasta “débil”) para cada uno de unos 30 indicadores diferentes. Precisamente, por no generar periódicamente una lista de clasificación, es que posiblemente no ha recibido la atención mediática de otros rankings a pesar de ser uno de los más comprensivos [<xref ref-type="bibr" rid="redalyc_344276634012_ref11">8</xref>].</p>
<p>A pesar de estos avances, la evaluación responsable del impacto de la investigación y de los actores que la realizan, aun se presenta como un desafío que afecta e involucra a todos. Iniciativas como el manifiesto de Leiden [<xref ref-type="bibr" rid="redalyc_344276634012_ref12">9</xref>], la Declaración de San Francisco sobre la Evaluación de la Investigación (DORA) [<xref ref-type="bibr" rid="redalyc_344276634012_ref13">10</xref>], la Coalición Canadiense para la Evaluación Responsable de la Investigación (COARA) [<xref ref-type="bibr" rid="redalyc_344276634012_ref14">11</xref>], y recientemente la Declaración de Barcelona [<xref ref-type="bibr" rid="redalyc_344276634012_ref15">12</xref>], han abogado por una evaluación más holística, inclusiva, transparente y responsable de la investigación. Estas han contado con el respaldo de miles de personas y entidades de todo el mundo, incluidas organizaciones financiadoras y generadoras de políticas públicas; sin embargo, su implementación efectiva requiere un compromiso continuo y colaborativo de todas las partes interesadas. Desde investigadores individuales que adoptan prácticas de investigación abierta y ética, hasta instituciones que revisan sus criterios de evaluación para incluir indicadores más amplios y representativos del verdadero impacto y valor de la investigación. En particular, las revistas científicas, que desempeñan un papel crucial en la diseminación del conocimiento en contextos locales y regionales, deben abogar también por la adopción de métricas de evaluación que valoren la calidad y la relevancia local de la investigación por encima de la simple contabilidad de citas y factores de impacto.</p>
<p>Es imperativo que las acciones individuales, institucionales y colectivas se orienten hacia la creación de un ecosistema científico más justo y equitativo, donde el valor de la investigación se mida no solo por su presencia en bases de datos globales, sino también por su capacidad para abordar desafíos locales y contribuir significativamente al desarrollo económico y social del territorio.</p>
</sec>
</body>
<back>
<ref-list>
<title>REFERENCIAS</title>
<ref id="redalyc_344276634012_ref1">
<label>[1]</label>
<mixed-citation>[1] D. Moher, F. Naudet, I. A. Cristea, F. Miedema, J. P. A. Ioannidis, and S. N. Goodman, “Assessing scientists for hiring, promotion, and tenure,” <italic>PLoS Biol.</italic>, vol. 16, no. 3, p. e2004089, Mar. 2018.</mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Moher</surname>
<given-names>D.</given-names>
</name>
<name>
<surname>Naudet</surname>
<given-names>F.</given-names>
</name>
<name>
<surname>Cristea</surname>
<given-names>I. A.</given-names>
</name>
<name>
<surname>Miedema</surname>
<given-names>F.</given-names>
</name>
<name>
<surname>Ioannidis</surname>
<given-names>J. P. A.</given-names>
</name>
<name>
<surname>Goodman</surname>
<given-names>S. N.</given-names>
</name>
</person-group>
<article-title>Assessing scientists for hiring, promotion, and tenure</article-title>
<source>PLoS Biol.</source>
<year>2018</year>
<comment>https://doi.org/10.1371/journal.pbio.2004089</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref3">
<label>[2]</label>
<mixed-citation>[2] S. Marginson, “Global university rankings: Implications in general and for Australia,” <italic>J. High. Educ. Policy Manag.</italic>, vol. 29, no. 2, pp. 131–142, Apr. 2007. <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1080/13600800701351660">https://doi.org/10.1080/13600800701351660</ext-link>
</mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Marginson</surname>
<given-names>S.</given-names>
</name>
</person-group>
<article-title>Global university rankings: Implications in general and for Australia</article-title>
<source>J. High. Educ. Policy Manag.</source>
<year>2007</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1080/13600800701351660">https://doi.org/10.1080/13600800701351660</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref4">
<label>[3]</label>
<mixed-citation>[3] Shanghai Ranking. “Shanghai Ranking's Academic Ranking of World Universities Methodology 2023.” shanghairanking.com. Accessed: Apr. 16, 2024. [Online]. Available: https://www.shanghairanking.com/methodology/arwu/2023</mixed-citation>
<element-citation publication-type="webpage">
<person-group person-group-type="author">
<collab>Shanghai Ranking</collab>
</person-group>
<source>Shanghai Ranking's Academic Ranking of World Universities Methodology 2023</source>
<year>2023</year>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref6">
<label>[4]</label>
<mixed-citation>[4] S. Chivers. “World University Rankings 2024: Methodology.” timeshighereducation.com. Accessed: Apr. 16, 2024. [Online]. Available: <ext-link ext-link-type="uri" xlink:href="https://www.timeshighereducation.com/world-university-rankings/world-university-rankings-2024-methodology">https://www.timeshighereducation.com/world-university-rankings/world-university-rankings-2024-methodology</ext-link>
</mixed-citation>
<element-citation publication-type="webpage">
<person-group person-group-type="author">
<name>
<surname>Chivers</surname>
<given-names>S.</given-names>
</name>
</person-group>
<source>World University Rankings 2024: Methodology</source>
<year>2024</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://www.timeshighereducation.com/world-university-rankings/world-university-rankings-2024-methodology">https://www.timeshighereducation.com/world-university-rankings/world-university-rankings-2024-methodology</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref7">
<label>[5]</label>
<mixed-citation>[5] C. Ocallaghan. “QS World University Rankings methodology: Using rankings to start your university search.” topuniversities.com. Accessed: Apr. 18, 2024. [Online]. Available: https://www.scimagoir.com/methodology.php</mixed-citation>
<element-citation publication-type="webpage">
<source>QS World University Rankings methodology: Using rankings to start your university search</source>
<year>2024</year>
<comment>https://www.scimagoir.com/methodology.php</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref9">
<label>[6]</label>
<mixed-citation>[6] SCImago. “Ranking Methodology.” scimagoir.com. Accessed: Apr. 18, 2024. [Online]. Available: <ext-link ext-link-type="uri" xlink:href="https://www.scimagoir.com/methodology.php">https://www.scimagoir.com/methodology.php</ext-link>
</mixed-citation>
<element-citation publication-type="webpage">
<person-group person-group-type="author">
<collab>SCImago</collab>
</person-group>
<source>Ranking Methodology</source>
<year>2024</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://www.scimagoir.com/methodology.php">https://www.scimagoir.com/methodology.php</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref10">
<label>[7]</label>
<mixed-citation>[7] The Reporters. “Impact Rankings 2023: methodology.” timeshighereducation.com. Accessed: Apr. 16, 2024. [Online]. Available: <ext-link ext-link-type="uri" xlink:href="https://www.timeshighereducation.com/world-university-rankings/impact-rankings-2023-methodology">https://www.timeshighereducation.com/world-university-rankings/impact-rankings-2023-methodology</ext-link>
</mixed-citation>
<element-citation publication-type="webpage">
<person-group person-group-type="author">
<collab>The Reporters</collab>
</person-group>
<source>Impact Rankings 2023: methodology</source>
<year>2024</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://www.timeshighereducation.com/world-university-rankings/impact-rankings-2023-methodology">https://www.timeshighereducation.com/world-university-rankings/impact-rankings-2023-methodology</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref11">
<label>[8]</label>
<mixed-citation>[8] U-Multirank's. “U-Multirank's approach to university rankings.” Accessed: Apr. 18, 2024. [Online]. Available: <ext-link ext-link-type="uri" xlink:href="https://www.umultirank.org/about/methodology/our-approach">https://www.umultirank.org/about/methodology/our-approach</ext-link>/</mixed-citation>
<element-citation publication-type="webpage">
<source>U-Multirank's approach to university rankings</source>
<year>2024</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://www.umultirank.org/about/methodology/our-approach">https://www.umultirank.org/about/methodology/our-approach</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref12">
<label>[9]</label>
<mixed-citation>[9] D. Hicks, P. Wouters, L. Waltman, S. de Rijcke, and I. Rafols, “Bibliometrics: The Leiden Manifesto for research metrics,” <italic>Nature</italic>, vol. 520, no. 7548, pp. 429–431, Apr. 2015. <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1038/520429a">https://doi.org/10.1038/520429a</ext-link>
</mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Hicks</surname>
<given-names>D.</given-names>
</name>
<name>
<surname>Wouters</surname>
<given-names>P.</given-names>
</name>
<name>
<surname>Waltman</surname>
<given-names>L.</given-names>
</name>
<name>
<surname>Rafols</surname>
<given-names>I.</given-names>
</name>
<name>
<surname>de Rijcke</surname>
<given-names>S.</given-names>
</name>
</person-group>
<article-title>Bibliometrics: The Leiden Manifesto for research metrics</article-title>
<source>Nature</source>
<year>2015</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1038/520429a">https://doi.org/10.1038/520429a</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref13">
<label>[10]</label>
<mixed-citation>[10] DORA. “San Francisco Declaration on Research Assessment.” sfdora.org. Accessed: Apr. 17, 2024. [Online]. Available: <ext-link ext-link-type="uri" xlink:href="https://sfdora.org/read">https://sfdora.org/read</ext-link>/</mixed-citation>
<element-citation publication-type="webpage">
<person-group person-group-type="author">
<collab>DORA</collab>
</person-group>
<source>San Francisco Declaration on Research Assessment</source>
<year>2024</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://sfdora.org/read">https://sfdora.org/read</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref14">
<label>[11]</label>
<mixed-citation>[11] CoARA. “The Agreement on Reforming Research Assessment.” Accessed: Apr. 17, 2024. [Online]. Available: <ext-link ext-link-type="uri" xlink:href="https://coara.eu/agreement/the-agreement-full-text">https://coara.eu/agreement/the-agreement-full-text</ext-link>/</mixed-citation>
<element-citation publication-type="webpage">
<person-group person-group-type="author">
<collab>CoARA</collab>
</person-group>
<source>The Agreement on Reforming Research Assessment</source>
<year>2024</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://coara.eu/agreement/the-agreement-full-text">https://coara.eu/agreement/the-agreement-full-text</ext-link>
</comment>
</element-citation>
</ref>
<ref id="redalyc_344276634012_ref15">
<label>[12]</label>
<mixed-citation>[12] Barcelona Declaration. “Barcelona Declaration on Open Research Information.” Accessed: Apr. 17, 2024. [Online]. Available: <ext-link ext-link-type="uri" xlink:href="https://barcelona-declaration.org">https://barcelona-declaration.org</ext-link>/</mixed-citation>
<element-citation publication-type="webpage">
<person-group person-group-type="author">
<collab>Barcelona Declaration</collab>
</person-group>
<source>Barcelona Declaration on Open Research Information</source>
<year>2024</year>
<comment>
<ext-link ext-link-type="uri" xlink:href="https://barcelona-declaration.org">https://barcelona-declaration.org</ext-link>
</comment>
</element-citation>
</ref>
</ref-list>
</back>
</article>