You are on page 1of 14

WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.

12

Métricas para la Mejora del Performance en


Organizaciones que utilizan Scrum, ITIL y CMMi
Antonio Quin1 Sussy Bayona-Ore2
Universidad Nacional mayor de San Marcos Universidad Autónoma del Perú

Abstract—Es muy importante saber qué tipos de métricas se ciertos estudios se desarrollan dentro de las metodologías y
aplican dentro de los procesos de TI en la industria actual, por qué marcos Scrum, CMMi e ITIL. Consideramos necesario que las
son importantes y en qué tipos de empresas se aplican. La métricas que se desarrollen cuenten con un marco o metodología
finalidad de este estudio es hacer una revisión de algunas de las de soporte y que hayan sido probadas en empresas, ya que en
métricas más utilizadas expuestas en la literatura, referentes a las una segunda fase se construirá un modelo de integración de
prácticas de Scrum, ITIL y CMMi, con el objetivo de determinar métricas. Este estudio es la primera parte de una propuesta de
el avance científico referente a este campo y conocer las métricas modelo para la integración de métricas Scrum, CMMi e ITIL,
candidatas que puedan ser utilizadas posteriormente en un modelo que tiene como objetivo lograr la mejora del desempeño en las
de integración de métricas, que ayude a monitorear los servicios
empresas que utilizan estas prácticas.
de TI, con el objetivo de apoyar en la mejora del desempeño de las
organizaciones que usan Scrum, CMMi e ITIL. La búsqueda II. MARCO TEÓRICO
exploratoria encontró 1196 artículos, de los cuales se revisaron 198
para finalmente elegir 31 artículos, de los cuales se obtienen 297 La preocupación de contar con métricas para las diversas
métricas, 38% son Scrum (112 métricas), 33% son de ITIL (98 actividades está ligado al avance de la humanidad. Sydenham
métricas) y 29% son de CMMi (87 métricas), dichas métricas (2003) considera que la medición ha forjado los grandes avances
fueron utilizadas mayormente en empresas de Europa 35%. de la civilización gracias a que la medida se utilizó para
desarrollar las ideas del universo y todas las cosas. En la década
Keywords—ITIL; Scrum; CMMI; Metrics; Measurement. del 60 y 70 las métricas se utilizaban para evaluar productos
industriales creados en las grandes fábricas, y en los años 80 y
I. INTRODUCCIÓN 90 estuvieron centrados en medir procesos industriales
Vivimos en una época de importantes avances disruptivos en amparados por los nuevos conceptos de calidad (Bundschuh &
tecnología, avances en hardware y superpotencia de Dekkers, 2008), este cambio nos muestra como en un par de
procesamiento, de grandes cantidades de datos sin procesar y décadas el concepto de productividad fue reemplazado por el
nuevos conceptos, todo ello bajo un marco industrial de concepto de rendimiento. Hoy a pesar del gran avance
competencia de marca y de apetito de los consumidores tecnológico, Tahir & Gencel, (2010) apoyan la idea de la falta
tecnológicos nativos. Fitzgerald, (2018), denomina a este de madurez de los marcos, muchos de ellos con deficiencias en
panorama el “Software Crisis 2.0” caracterizado por grandes controles, debido a que las empresas actuales tienen muchas
cantidades de data por procesar, cambios tecnológicos que dependencias horizontales y verticales.
desfasan a los profesionales y hacen caducar los procesos y
metodologías. Bajo este marco de avance tecnológico y en A. Métricas
medio de la competencia de las empresas por ofrecer servicios o Según el IEEE Std 610.12-1990 establece que métrica es
productos de calidad adecuada al requerimiento y demanda del “Una medida cuantitativa del grado en que un sistema,
público objetivo, surge la necesidad de medir como actividad componente o proceso posee un atributo dado” (The Institute of
vital para subsistir. Las métricas, son una herramienta poderosa Electrical and Electronics Engineers, 1990). Kaner & Bond,
e incluso obligatoria para la gestión eficaz de pruebas y toma de (2004) sostienen que “la medición es la asignación empírica y
decisiones de toda empresa (Tudjarova et al., 2017). Mohsen et objetiva de números, de acuerdo con una regla derivada de un
al., (2017) asegura que la métrica de software es un estándar para modelo o teoría, a atributos de objetos o eventos con la intención
determinar la madurez del proceso y el esfuerzo requerido. de describirlos”.
Sin embargo, no todas las empresas le dan importancia al uso Referida al software, “una métrica es un estándar para medir
de las métricas. Kettunen et al. (2019) muestran los resultados el grado en que un sistema y proceso de software poseen alguna
de un instrumento de encuesta realizada a 118 personas, donde propiedad” (Mohsen et al., 2017). Las métricas tienen una
el 41% de encuestados respondieron que su empresa no sigue importancia central en el desarrollo de todo equipo de TI,
ninguna métrica en particular. Gacenga & Cater-steel (2011) permiten visualizar el posible impacto que podría tener cualquier
complementan indicando que las áreas de Tecnología le dan modificación durante el desarrollo del software, desde las
poca importancia a discutir si las métricas colocadas son las tempranas etapas de conformación del equipo o nueva
adecuadas. tecnología, hasta cambios posteriores o reprocesos (Erdogan et
al., 2018).
Por ello, es necesario proyectar métricas que sean útiles y
permitan mejorar el desempeño de las empresas. La literatura
científica presenta diversos estudios de métricas, pero solo

1|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

B. SCRUM fases del ciclo de vida de los servicios de ITIL en su tercera


Schwaber & Sutherland, (2020) definen Scrum como un Versión son: (1) Estrategia de servicio: que comprende el
marco ligero que emplea técnicas y métodos agiles, iterativos e diseño, desarrollo e implantación estratégica de la gestión de
incrementales que permiten realizar un trabajo en ciclos cortos servicios de TI. (2) Diseño del servicio, abarcando los procesos
denominados Sprints que generalmente son de 1 mes o menos, necesarios para apoyar el desarrollo de dichos servicios, (3)
al empezar el sprint se seleccionan los trabajos desde un Transición del servicio, que se encargan de estrategias para
repositorio denominado Product backlog, el monitoreo se implantar servicios nuevos o modificados para apoyar las
controla con tableros de avance, y breves reuniones que operaciones de negocio, (4) Operaciones de servicio, que se
permiten facilitar los trabajos de los miembros del equipo; al ocupa de las actividades y procesos designados para gestionar
terminar el Sprint se entrega lo comprometido según lo los servicios que permitan apoyar a usuarios y clientes dentro de
planificado. Para finalizar se lleva a cabo una retrospectiva para los niveles de servicio pactados y (5) Mejora continua, que
mejorar la calidad y eficacia de los próximos trabajos. comprende estrategias para el análisis y la mejora de forma
constante de los servicios para garantizar el óptimo desempeño
La práctica Scrum tiene 3 fases. Cada fase describe subfases para el negocio. Respecto a sus métricas, ITIL no presenta
y procesos en detalle, incluyendo sus entradas, herramientas y ninguna estrategia ni define secuencia que permita implementar
salidas asociadas. La lista de subfases son las siguientes: (1) convenientemente los procesos (Sánchez & Luis, 2021).
Fase I. Planificación y diseño de alto nivel, incluye Creación del
Product Backlog, Visión del proyecto, Identificar interesados o III. REVISIÓN SISTEMÁTICA
socios del proyecto, Formación del equipo Scrum, Riesgos y Para poder hacer una buena elección de métricas en
otras necesidades de inicio (2) Fase II. Desarrollo, que incluye empresas que utilizan practicas Scrum, CMMi e ITIL,
la Realización del sprint y temas asociados como análisis, necesitamos hacer un estudio exploratorio verificando que tipos
monitoreo y delivery del producto (3) Fase III. El cierre del ciclo de métricas se están utilizando y en qué tipos de empresas son
y lanzamiento del producto, que incluye Integración, Testeo, aplicadas, Con este propósito se realizó una revisión sistemática
Documentación y Retrospectiva del proyecto. (Abrahamsson et de la literatura para conocer el estado actual de los avances
al., 2017). científicos en lo expuesto. Como método se utilizó la propuesta
por Kitchenham (2004), para revisión sistemática en el marco
Según Sharma & Hasteer, (2016) y Zaouali & Ghannouchi, del tipo de investigación realizada. La revisión sistemática
(2020), Scrum es la práctica más utilizada y la más útil realizada tiene tres fases: Planificación de la revisión,
actualmente para dirigir proyectos, tanto en investigaciones conducción de la revisión y exposición de resultados.
como en industria. Sin embargo pese a ser muy utilizada y estar
presente en la industria por más de una década, Mauro & A. Planificación de la Revisión
Messina, (2016) apoyan la idea de que Scrum aún debe La planificación es la creación del documento que será
evolucionar mucho más en métricas, debido a que aún hay utilizado para la conducción de la revisión, la cual posee las
mucho trabajo conceptual por hacer. preguntas de investigación que se han formulado los
C. CMMI investigadores (Bayona et al., 2013). Con dichas preguntas se
hallan las palabras a buscar, consideradas claves y se determina
El SEI (Software Engineering Institute, 2010) define CMMI la cadena de búsqueda, posteriormente se analiza y decide cuales
como un conjunto de productos integrados destinados a la será las fuentes de datos y que criterios de inclusión y exclusión
mejora de procesos y productos, cubriendo el ciclo de vida deberán considerarse.
completo. Cuenta con el modelo de Servicios (CMMi-SVC). El
modelo de Desarrollo (CMMi-DEV), y el de Adquisiciones 1) Conducción de la revisiòn. Se requiere construir un
(CMMi-ACQ), Utilizando el concepto de niveles de madurez catálogo de métricas orientadas al mejoramiento del desempeño
para lograr la manera correcta para que una empresa pueda de servicios de producción de una empresa financiera. Para ello
seguir mejorando sus procesos. Khraiwesh, (2020), afirma que se necesita conocer las métricas utilizadas en procesos Scrum,
una estrategia eficaz para garantizar la supervivencia de una CMMi e ITIL, teniendo en consideración (1) foco de
empresa necesita de la adopción de un modelo CMMI, Amer et
investigación: Métricas Scrum, CMMi e ITIL y (2) Contexto:
al. (2020) indica que CMMI debe utilizarse para controlar la
calidad y madurez del software para los cuales algunas otras practicas Scrum, CMMi e ITIL.
prácticas como Scrum no detallan. CMMI establece un área de 2) Definición de la pregunta de investigación. Para poder
procesos relacionados con las métricas. Al desplegar los identificar los artículos científicos de interés de este estudio se
procesos software utilizando CMMI se debe contar con un ha realizado una revisión sistemática de la literatura utilizando
repositorio para las métricas (Sussy et al., 2008). Para la gestión la siguiente pregunta de investigación:
de proyectos CMMI tiene como bases las métricas que ¿Qué tipo de métricas se han utilizado y en qué tipos
establecen PSP y TSP (Chavarria et al., 2016). de empresas se han realizado trabajos de prácticas
D. ITIL Scrum, CMMi e ITIL?
3) Creacion de la cadena de búsqueda.
IT Infrastructure Library (ITIL) es una práctica con
recomendaciones, descripciones e instrucciones para la gestión Se utilizaron las siguientes palabras claves utilizadas
de los servicios y procesos de todo el ciclo de vida de tecnología para la búsqueda avanzada:
de información, cuenta con roles y actividades adaptables a (metric OR indicator ) AND ( cmmi OR itil OR scrum
cualquier tipo de empresa u organización (Steinberg, 2011). Las )

2|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

4) Selección de las fuentes de datos.Las librerías digitales B. Conducción de la Revisión


seleccionadas como para realizar la búsqueda son las En esta etapa se establece e identifica los estudios primarios,
siguientes: IEEE Computer Society Digital Library verificando su calidad, para luego extraer la información
http://www.computer.org/portal/web/csdl, IEEE Xplore requerida por la investigación.
http://ieeexplore.ieee.org, IET Digital Library
1) Determinación de los estudios primarios. Posterior al
http://www.ietdl.org, Scopus
retiro de estudios duplicados se verificó que el título y resumen
https://www.scopus.com/home.uri, Springer Link
son de interés del tema a tratar, se obtuvo un total de 198
https://link.springer.com/ y Web of Science
estudios, de los cuales, luego de examinar detalladamente cada
https://www.webofscience.com.
contenido nos quedarnos con 31 artículos. En la Tabla I se
5) Determinacion de criterios de exclusión e inclusión: Se
muestra el resultado total de la selección realizada.
consideraron los criterios de exclusión y los criterios de
inclusión. TABLE I. PRIMARY ARTICLES
Los criterios de exclusión (CE) son cuatro:
Articles Distribution
 CE1: Artículos con contenido no disponible. Database Articles Candidate Primary
 CE2: Artículos duplicados. found Articles Articles
 CE3: Estudios no relacionados con tecnología, proyectos IEEE Computer Society
340 49 5
y procesos, por considerarlos fuera del rango requerido Digital Library
IEEE Xplore 55 23 6
de análisis IET Digital Library 30 10 2
 CE4: Estudios que no hayan utilizado empresas como Scopus 173 89 13
validación o caso de uso. Springer Link 21 4 2
Los criterios de inclusión (CI) son dos: Web of Science 577 23 3
Total 1196 198 31
 CI1 Incluir artículos del período 2016 al 2022 en
2) Evaluación de la calidad de los estudios: Se realizó la
primera revisión de literatura.
evaluacion de cada estudio primario. Luego, se evaluó la
 CI2 Incluir artículos relacionados con las
calidad de los estudios.
métricas CMMi, CMMi-DEV, CMMi-SVC, ITIL y
3) Extracción de los datos de los estudios primarios: La
Scrum.
data relevante de cada estudio fue extraida y se tabulo en hojas
de calculo para su posterior análisis.

La Figura 1 muestra la cantidad de artículos Scrum referente


IV. RESULTADOS a métricas (20 artículos, 64%) frente a números relativamente
A. Distribución de Artículos Primarios según Tipo de bajos y casi proporcionalmente iguales de artículos con métricas
Practica ITIL (7 artículos, 23%) y CMMi (4 artículos, 13%). Se puede
apreciar que casi las 2 terceras partes del total de estudios
Del total de 31 artículos revisados la distribución según las recopilados se enfocan en Scrum, mientras que solo una tercera
métricas ITIL, CMMi y Scrum, hemos considerado la parte lo comparten aquellos estudios enfocados en ITIL y
distribución según el tipo de práctica realizada, la cual se puede CMMi. Este hecho parece refrendar lo sustentado por Sharma &
ver en el Gráfico N.º 1. Hasteer, (2016) y Zaouali & Ghannouchi, (2020) quienes
afirman que Scrum es la práctica ágil más utilizada y la más útil
actualmente, tanto en investigaciones como en la industria.
B. Distribución de Artículos Primarios según Empresa de
4, Caso de Uso o Lugar de Aplicación del Estudio
13% Dentro de los estudios considerados se aprecian los lugares
físicos de las empresas en donde se realizaron los casos de
7, 23% estudio. Fueron considerados en su mayoría organizaciones del
20, 64%
continente europeo (11 estudios), seguidas por empresas
americanas, incluidas Sudamérica y Centroamérica (8 estudios)
y multinacionales (5 estudios). Las consideradas como varias
empresas son empresas deslocalizadas entre varios países, con
sedes entre Europa, América y Asia (véase Figura 2).
Scrum ITIL CMMi

Fig. 1 - Distribución según tipo de práctica realizada

3|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Varios Africa
Paises 10% Varios sectores 13%
16% Asia Tecnologia 45%
13% Gobierno/Publica 19%
Educacion 6%
Comercio/Industria 10%
Banca 6%
0% 5% 10% 15% 20% 25% 30% 35% 40% 45% 50%
Europa
America
35% Total
26%
Fig. 3 Sectores a los que pertenecen las empresas estudiada

Africa Asia America Europa Varios Paises En la Figura 3 se observa que los estudios son
predominantemente en empresas de tecnologia (14 estudios,
45%), seguidas de Gobierno y Publicas con 6 estudios y 19%
Fig..2 - Localización de empresas referenciadas en los
del total considerado. En la categoria de varios sectores se estan
estudios
agrupando aquellos estudios multiempresas, mayormente de
En cuanto a los sectores en la que se desarrollan las tipo de encuestas a profesionales. En la Tabla II se encuentra la
empresas, se distribuyeron en 6 tipos, según se muestra en la relacion de empresas según caso de estudio efectuado.
Figura 3.

TABLE II. EMPRESAS REFERENCIADAS EN ESTUDIOS EFECTUADOS DE ARTÍCULOS SELECCIONADOS


Practica Caso de estudio País Autor Año
Scrum Equipo de solución empresarial de empresa anónima Sudan Gadelsied et al. 2021
ITIL Universidad, nacional con 24000 estudiantes Bulgaria Mitev & Kirilov 2021
35 ejecutivos de procesos de ITIL de empresas de telecomunicaciones, de
ITIL Irán Baradari et al 2021
TI e industria bancaria
Scrum Equipos de desarrollo ágil de 14 países, de Polonia en su mayoría Varios Países Marek et al. 2021
Barcelo-Valenzuela
ITIL Departamento de TI en institución Electoral Publica México 2020
& Leal-Pompa
CMMi Empresa de software con casi 100,000 empleados, y nivel 5 de CMMi Varios Países Agrawal & Chari 2020
Empresa proveedora de servicios de TI con sede en más de 20 países y 38
Scrum Varios Países Shirokova et al 2020
mil empleados
Scrum Defense Industries Research and Development Institute Turquía Tekin et al. 2020
Universidad, 300 cuestionarios respondidos por trabajadores de la
CMMi Jordania Khraiwesh 2020
universidad
Scrum Empresa pública de aproximadamente 200 empleados Brasil Carneiro et al. 2019
Scrum Empresa financiera Brasil Bufon & Leal 2019
Organización privada que administra fondos públicos para la prestación
Scrum Costa Rica Chavarria & Madriz 2019
de los servicios de agua, alcantarillado, electricidad y alumbrado.
Scrum 115 personas encuestadas, de los sectores TI, financiero y retail Finlandia Kettunen et al. 2019
Scrum Varias entidades estatales con proyectos agiles Brasil Kovags et al. 2019
Scrum 25 proyectos de software ubicados en Chaco, Corrientes y Misiones Argentina Pinto et al. 2018
Empresa con oficinas en Estambul y Ámsterdam. desarrolló soluciones de
CMMi Turquía Utku & Şahin 2018
software.
9 proyectos en 9 empresas distintas, con personal de cinco y diez años y
Scrum India Arumugam et al. 2018
de 21 a 47 años de edad
Scrum Organización de TI de operadores digitales con más de 60 equipos ágiles Turquía Ertaban et al. 2018
Entrevistas a 14 personas de diferentes organizaciones en múltiples
Stettina &
Scrum sectores, tamaños y países, la mayoría fueron grandes organizaciones Varios Países 2018
Schoemaker
predominantemente del sector privado.
Instituto de investigación y desarrollo que ofrece soluciones de software
Scrum de gobierno electrónico, con 150 empleados, 60 de ellos son ingenieros de Turquía Erdogan et al. 2018
software
ITIL Área de operaciones de TI en Pyme Marruecos Yamami et al 2017
20 proyectos de 14 contratistas industriales para el Departamento de
Scrum USA Rosa et al. 2017
Defensa de EE. UU.
20 ingenieros del cuerpo técnico de empresa industrial, perteneciente a
ITIL Ecuador Bustamante et al 2017
cuatro plantas, 10 ingenieros externos de apoyo y 5 proyectos.
Empresa con negocios en telecomunicaciones que brinda servicios de
ITIL Indonesia Nugraha & Legowo 2017
datos.
Scrum Compañía de seguros con usuarios finales de diversos países. Varios Países Tudjarova et al. 2017

4|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

CMMi Empresa que desarrolla software en industria de defensa Turquía Cenkler 2016
3 entornos de host privados y públicos con 29 clientes (empresas) y 11,430
ITIL Alemania Fiegler et al 2016
servidores analizados
Empresa con equipo de software distribuido entre Alemania, India y
Scrum Varios Países Gupta et al 2016
EEUU.
Scrum Organización de desarrollo de software de tamaño mediano Egipto Anwar et al. 2016
Empresa de telecomunicaciones con escenario deslocalizado y asociación United
Scrum Grimaldi et al. 2016
de entrega con proveedor Kingdom
Proveedor de soluciones de gestión de operaciones de marketing para
Scrum Dinamarca Kayes et al. 2016
grandes clientes internacionales

C. SCRUM Respecto a métricas para evaluar la cultura ágil tenemos el


Dentro de la revisión de los nuevos avances propuestos en modelo propuesto por Gadelsied et al., (2021), quienes realizan
los estudios, figura la creación de métricas basado en enfoque de un caso de estudio en una empresa de software sobre un modelo
gestión de evidencias (EBM) propuesta por Shirokova et al., VGQM, una extensión de la metodología GQM (valor, objetivo,
(2020), realizados en una empresa global de más de 20 países. pregunta y métrica), colocando los valores Scrum como
Los autores consideraron utilizar SAFE (Scale Agile indicadores de valores centrales que deben medirse, a partir de
Framework), además de un sistema de indicadores cuantitativos ello enfocan GQM para establecer los indicadores necesarios,
y cualitativos basados en factores como el valor, el tiempo de obteniendo resultados que permitieron evaluar valores de cultura
comercialización y la calidad, con el objetivo de medir el valor ágil e identificar brechas como áreas de mejora.
de entrega a los clientes. Tekin et al., (2020) por su parte, estudió Dentro de los estudios que buscan las métricas más
métricas de toma de decisiones de varios criterios en una importantes y más utilizadas se encuentra el de Kettunen et al.,
empresa de investigación y desarrollo en la industria de defensa, (2019), quienes analizan los resultados de un instrumento de
en su trabajo realiza una selección sistemática utilizando criterio encuesta realizada en los sectores TI, financiero y retail,
de expertos combinados con inclusión de parámetros como la indagando desarrollo ágil en las organizaciones. Concluye que
solidez, simplicidad y rentabilidad, y refinando la elección con las métricas de Lead time, cycle time, release cycle, Value y
el método Analytic Hierarchy Process (AHP); asegura que Defects son las más utilizadas; las metas operativas de
Burndown Chart, Velocity Chart y Burnup Chart son las productividad y calidad son consideradas las más importantes a
métricas más utilizadas por los miembros de su grupo de alcanzar; resalta que no existe una "forma ágil única" para todas
estudios. las empresas, sino que las organizaciones enfocan la importancia
Más enfocados en el tema de costos figura el estudio de de la agilidad según sus necesidades.
Chavarria & Madriz, (2019) quienes proponen una técnica para Kovags et al., (2019) identifican métricas con la finalidad de
la estimación del ROI (Return On Investment), aplicándola en medir el esfuerzo en el desarrollo ágil de software, a través de la
una organización privada que administra los fondos públicos. revisión de contratos de desarrollo en varias entidades de
La técnica propone una identificación de elementos de costo administración pública. Concluye que los puntos de función
basada de la revisión de 5 instrumentos metodológicos, además siguen siendo la métrica más utilizada debido a su objetividad
de evaluación de la desviación del ROI al final de cada Sprint con respecto a los requisitos funcionales, además de la métrica
mediante la estimación del valor ganado. Concluye que es de Unidad Técnica de Servicios (UST), ambos presentes en la
necesario definir parámetros de desviación mínima, invertir en mayoría de contratos. Arumugam et al., (2018) estudian
capacitación y creación de cultura en áreas financieras y indicadores de rendimiento de los integrantes del equipo ágil a
metodológicas. través del método de encuesta, en 9 empresas distintas
Rosa et al., (2017), por su parte, realiza un estudio en el desarrollando software global, para ello se basan en cuatro
departamento de Defensa de USA, en base a muestreo y métricas: Escaped defects, Team member velocity, Deliverables
cuestionario con profesionales de TI, analizando tamaño, y Effort, mostrando logros alcanzados y detectando alertas
factores de costo, requisitos funcionales y esfuerzo, con el tempranas que ayuden a los jefes de proyecto a administrar y
objetivo de mejorar la estimación de costos; los resultados corregir el rumbo del proyecto cuando fuera necesario.
mostraron que los requisitos iniciales de software son una Dentro de grupo de estudios enfocados a la mejora de gestión
métrica válida para estimar el esfuerzo de desarrollo de software Scrum se encuentra el trabajo de Carneiro et al., (2019), quienes
ágil, la precisión de la predicción mejora cuando se agregan el muestran el uso de Scrum en la gestión de rutinas a través de un
personal y el dominio de esfuerzo como entradas a los modelos estudio de caso en un departamento de empresa pública,
de costos. presentando 7 indicadores para medir su desempeño a través de
Bufon & Leal, (2019), utilizan un método para identificar las practicas Scrum. Como resultado se mejoró el flujo de
desperdicios dentro del proceso de desarrollo de software para trabajo rutinario, además de la gestión de planificación,
una empresa del mercado financiero, se identifican los seguimiento, calidad y alineamiento de los miembros del
desperdicios como indicadores que muestran el número de equipo.
cuellos de botella, trabajo en curso y número de artículos Ertaban et al., (2018), proponen un modelo de métricas de
acumulados, en forma de retrasos, defectos, extras y trabajos rendimiento en entorno corporativo de operadores digitales,
inconclusos. desarrolla 12 métricas basadas en los principios de agilidad
Scrum, con el objetivo de ayudar a sus equipos de desarrollo a

5|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

evaluar su desempeño para buscar una mejor calidad y del software; los resultados muestran 11 métricas necesarias
motivación. para fase de pruebas. Concluye que no existe un enfoque general
para pruebas de métricas, ya que depende de cada proyecto y
Erdogan et al., (2018), realiza un análisis estadístico en un objetivo.
Instituto de investigación de gobierno electrónico, evaluando
qué tipo de datos se requieren para el monitoreo; concluye que Kayes et al., (2016), proponen una métrica denominada
las estadísticas de Correlación entre el punto de historia y Product Backlog Rating (PBR) dentro de una empresa
esfuerzo real y la Consistencia de la estimación relativa son proveedora de gestión de operaciones, con el objetivo de evaluar
adecuadas para la estimación de los equipos; las estadísticas de el proceso de prueba en Scrum. Dicha métrica considera la
"Esfuerzo real del equipo en el producto", "Velocidad del complejidad de las funciones a desarrollarse en una iteración de
equipo", "Esfuerzo real para un punto de historia", "Tasa de Scrum, evalúa las calificaciones de pruebas y cuenta con una
innovación" y "Velocidad frente a la tasa de esfuerzo no puntuación numérica.
planificado" son útiles para controlar y aumentar la
productividad de los equipos. Anwar et al., (2016) trabaja en la adopción ágil en una
empresa de software, con el objetivo de ser ágil y no perder el
Grimaldi et al., (2016), implementa métricas bajo el marco nivel de madurez CMMi alcanzado, para ello utiliza cuatro
SAFe3.0, con equipos de trabajo Scrum, buscando demostrar métricas relacionadas con la reducción del costo de desarrollo:
cómo pueden trabajar de manera eficaz una empresa Testing overhead, Rework, Leaking-defects rate y Customer
deslocalizada y un proveedor externo; expone 8 métricas para Satisfaction, Los resultados obtenidos mostraron una reducción
cuantificar la adopción del modelo aplicado; concluye que la de la tasa de reelaboración del 29 % al 13 %, un retrabajo
introducción del marco ha mejorado significativamente el disminuido al 55.2%, los gastos generales de prueba y las
proceso, además de generar ahorros de costos del 8% durante el métricas de fuga de defectos también mejoraron en más del 20%.
período de observación.
Gupta et al., (2016) por su parte, describe un caso de estudio
Dentro del grupo de mejoras a procesos Scrum, Stettina & sobre adopción de pruebas ágiles en el desarrollo de un producto
Schoemaker, (2018), estudian rutinas de informes, artefactos y de software heredado, en un entorno de empresa deslocalizada
métricas en Agile Portfolio Management en base a entrevistas a entre Alemania, India y EEUU, midiendo la efectividad de
10 grandes organizaciones, identificando 5 tipos de métricas: de pruebas a través de 13 métricas, los resultados maximizaron los
desempeño, calidad, progreso, estado y contextuales. Los impactos de las pruebas en el éxito del producto, ayudando a los
resultados muestran tres dominios de conocimiento, generación desarrolladores a colaborar mejor dentro de los equipos.
de artefactos y métricas de informes, identificando y mejorando
la comprensión de los requisitos de informes bajo nuevos Por último Marek et al., (2021), investiga el impacto de la
conceptos. pandemia de Covid-19 en equipos de desarrollo ágil verificando
las herramientas y métricas utilizadas, para ello realiza una
En gestión de requisitos, Pinto et al., (2018), validan la encuesta global a diferentes equipos de ingeniería de software
calidad de 25 proyectos de software basándose en el marco AQF de 14 países. Las métricas más utilizadas fueron Velocity,
(Agile Quality Framework), compuesto por el modelo, QuAM Calidad, Trabajo en progreso, Tasa de éxito y Valor entregado.
(Agile Quality Model), el cual contiene métricas, atributos y Los resultados obtenidos indicaron que la pandemia de Covid-
criterios. Su aporte se centra en que el nivel de calidad de un 19 no logro hacer gran impacto en los equipos de Desarrollo ágil,
proyecto no es solo un valor numérico, sino una serie de la frecuencia de lanzamiento y la definición de hecho por
interrogantes, en función del contexto del proceso; los resultados ejemplo, la mayoría de encuestados refirieron que sus empresas
obtenidos indicaron una reducción considerable de tiempos de no sufrieron cambios mayores.
producción, mejor comunicación y disminución del volumen de
historias de usuario no aceptadas por el cliente. En la Tabla III se presenta las métricas utilizadas en los
estudios sobre Scrum.
En procesos de Testing, Tudjarova et al., (2017) analizan
dentro de una empresa internacional de TI comparativos de
métricas para pruebas de software con diferentes metodologías
de desarrollo, revisando su importancia e influencia en la calidad

TABLE III. MÉTRICAS UTILIZADAS EN ESTUDIOS SCRUM SELECCIONADOS


Indicador Uso Objetivo Autor Año
LdTime = Tdel - Tdev Cálculo del tiempo de entrega de la tarea restando el tiempo de desarrollo.
Evaluar la satisfacción del cliente midiendo el tiempo que tarda el equipo en resolver la
Satisfaction
solicitud de los clientes.
Evaluar el grado de enfoque de los equipos en el trabajo al medir la cantidad de funciones
SDR=(nuf /tnf)∗ 100%
descubiertas al final de la iteración del producto.
Get the customers feedback. Capacidad de las organizaciones para obtener comentarios de los clientes. Evaluación de la Gadelsied et
2021
Measures the degree of the organization Grado de apertura de la organización con sus empleados. cultura Scrum al.
Nivel dentro del equipo al calcular el número de implementaciones cruzadas que
Cross rate= (Croimp/ TotTask) ∗ 100%
ocurrieron al sobrepasarse sin tener en cuenta el permiso de otros compañeros de equipo.
Mide el nivel de compromiso con el cliente al rechazar solicitudes innecesarias que
CourC = (RejUn / TotUn) ∗ 100%
pueden entorpecer el proceso de trabajo.
CourT= ActiveMember/to talMember)∗100% Compromiso del gerente para eliminar a los miembros inactivos del equipo.

6|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Indicador Uso Objetivo Autor Año


Velocity, Quality, Work in progress, Sprint, goal
success rate, Value delivered, Productivity, Métricas
Sustainability, Delivered rate, Lead time, Focus Métricas más utilizadas por equipos de trabajo remoto por Covid 19 utilizadas para
factor, Cycle time, Throughput, Work ítem y Cost of gestión de
delay equipos agiles Marek et al. 2021
Focus Factor, Vanity Metrics, Daily resolved defects debido a
per team member, Skills gained and shared with the pandemia Covid
Nuevas métricas utilizadas para Covid 19
team y Weekly work hours reporting instead of 19
monthly reporting
Revenue per Employee Indicador competitivo clave dentro de una industria.
Product Cost Ratio Gastos y costos totales incluidos los costos operativos en comparación con los ingresos
Análisis de sentimientos para ayudar a medir la energía y el entusiasmo del compromiso Área de Valor:
Employee Satisfaction
de los empleados Current Value
Análisis de sentimientos para ayudar a medir el compromiso del cliente y la felicidad con
Customer Satisfaction
el producto
Release Frequency Número de lanzamientos por período de tiempo
Shirokova et
Cantidad de tiempo desde que comienza el trabajo en un lanzamiento hasta el punto en 2020
Cycle Time Área de Valor: al
que se lanza.
Time to market
Cantidad de tiempo desde que se propone una idea hasta el momento que el cliente puede
Lead Time
beneficiarse de dicha idea
Number of defects Número de defectos encontrados con un ciclo.
Número de quejas sobre la calidad del software recopiladas de clientes y usuarios después Área de Valor:
Number of incidents
del lanzamiento. Quality
Number of repeated defects Número de defectos que se repiten de un ciclo a otro
Punctually of daily meeting (DM)
Adherence to planning (%)
Points accepted by the PO (%) Medir el
Esfuerzo del departamento de Sistemas para medir su desempeño a través de prácticas Carneiro et
Burn-ups inserted (%) desempeño de las 2019
Scrum al
Sprint Speed prácticas Scrum
Average of people in each sprint
Points achieved per person
Retorno de la inversión (ROI) Estimar costos al
Chavarria &
TIR (Taza interna de retorno) Medir los costos y el retorno de inversión del proyecto final de cada 2019
Madriz
VAN (Valor actual neto) sprint
Number of bottlenecks (NB) Número de cuellos de botella considerando el tiempo de entrega de un requerimiento Indicadores para
Work in progress (WIP) WIP ajustado para cuantificar todos los requisitos que se desvían del flujo de valor control de Bufon &
2019
Número de ítems acumulados de requerimientos para cada colaborador en cada fase de residuos en Leal
Number of accumulated items (NAI)
desarrollo proyectos
Lead time (features, epics, issues), cycle time,
release cycle, Value, Defects, Outcomes, releases, Métricas que se
Kettunen et
deployments, Velocity, Automation (test, release), Métricas más utilizadas por las empresas usan en la 2019
al.
Employee experience, “happy-or-not”, empresa
Predictability, NPS, customer experience
Escaped defects Medir los defectos que existen en el producto entregado. Desempeño
Team member velocity Completitud de las tareas según los compromisos individual de Arumugam
2018
Deliverables Efectividad de entrega dentro del plazo especificado miembros del et al.
Effort Relación de esfuerzos dedicados a la corrección vs esfuerzos para desarrollarlo equipo
Velocity
Lead Time and Cycle Time Producción
Distribution of Waste (bottleneck waste)
Number of Defects
Calidad Indicadores de
Defect Density
rendimiento Ertaban et al. 2018
# of Active Customers Customer Satisfaction ágiles
Refactoring (Technical Debt Ratio), Unit Test
Coverage, Automated Test Case Coverage, Code
Otros indicadores
Quality Issues, Security metrics, Continuous
Integration & Deployment Trends (CI & CD)
Suma del tiempo ideal de sus subtareas, subdefectos, submejoras, subrevisión y
Ideal time of a Product Backlog Item (PBI)
subprueba.
Daily planning
Suma del esfuerzo real de sus subtareas, subdefectos, submejoras, subrevisión y
Effort of a product backlog item
subprueba
Team's Actual Effort on Product Distribución del tiempo dedicado en función de los sprints
En cada etapa de planificación del sprint, los PBI reciben puntos y los puntos totales
Team Velocity
indican qué tan grande es el sprint.
Es mejor que el número estimado de puntos de historia sea similar durante cada plan,
Actual Effort for One Story Point Development
aunque los esfuerzos invertidos en cada PBI pueden variar.
team productivity
El valor comercial es la proporción de PBI cuyos tipos son historia, mejora y cambio de
Innovation Rate Erdogan et
requisitos para todos los PBI en un sprint. 2018
al.
Velocidad del equipo frente a la proporción del tiempo no planificado empleado dentro
Velocity vs Unplanned Effort Rate
del sprint
Identifica valores atípicos extremos que consideran los PBI con el punto de la historia y
Consistency of Relative Estimation
los esfuerzos de cada PBI. Capacidad de
Se implementa para evaluar si existe una correlación entre los puntos de historia, los PBI estimación,
Correlation between Story Point and Actual Effort
y los esfuerzos reales
La asignación de tiempo para las actividades de verificación y prueba se calcula
Actual Effort Rate of Quality Activities
dividiendo el esfuerzo total. El resultado esperado es ver una tendencia creciente Calidad del
Mide la densidad de defectos de los subcomponentes, El objetivo es reducir el tiempo producto
Subcomponent Defect Density
dedicado a los defectos.

7|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Indicador Uso Objetivo Autor Año


Coefficient of Determination Shows how much variation in dependent variable is explained by the regression equation. Estimar el
Coefficient of Variation Percentage expression of the standard error compared to the mean of dependent variable. esfuerzo de
Método utilizado para indicar si la multicolinealidad está presente en un análisis de desarrollo de
Variance Inflation Factor costos de
regresión múltiple.
El error estándar de la estimación es una medida de la diferencia entre el esfuerzo estimadosoftware ágil a
Standard Error Rosa et al 2017
y el observado. través del análisis
del tamaño del
MMRE se define como la media muestral (M) de la magnitud del error relativo (MME). producto,
Mean Magnitude of Relative Error (MMRE) MME es el valor absoluto de la diferencia entre el esfuerzo real y el estimado dividido por personal y
el esfuerzo real. dominio
Total effort consumed in testing calculated as a percentage of total effort consumed in
Testing overhead
code writing.
Total effort consumed in fixing defects calculated as a percentage of total effort consumed
Rework Reducir el Costo
in code writing. Anwar et al. 2016
de desarrollo
Number of found defects that belong to the basic coverage category calculated as a
Leaking-defects rate
percentage of the total number of found defects.
Customer Satisfaction Average rating for a product given by the customer
Delta estimation precision (DEP) The precision of the estimation
Effectiveness (IE) Internal effectiveness
Efficiency (TE) Technical efficiency Cuantificar el
beneficio logrado
Virtual planned hour cost (VPHC) Hours cost considering planned hours Grimaldi et
con la adopción 2016
Virtual actual hour cost (VAHC) Hours cost considering actual hours al.
del modelo
Waste (W) Cost originated from DEP propuesto
Impediments (I) Hours that do not produce a tangible outcome
Delta cost (DC) Cost originated from the virtual hours cost
Test Coverage, Test Debt, Defect Detection
Percentage, Load & Performance, Regression &
Adaptación de
Baseline, Smoke Test, API Test, Production Server
Impact and effectiveness of adapting agile testing pruebas ágiles en Gupta et al 2016
Availability Check, Ping Test, Customer Feedback,
producto legado
User Scaling?, Time to Market, Production Down
Time
Medición de la fase de prueba en Scrum. PBR considera el nivel de complejidad del Medición de la
Product Backlog Rating (PBR)
producto (PCL) y la calificación de evaluación de prueba (TAR) y ofrece una puntuación calidad de las Kayes et al. 2016
numérica pruebas

D. CMMi confirmó mediante el uso de un cuestionario para probar la


En mejoras de procesos y control figuran los estudios de validez y la confiabilidad.
Utku & Şahin, (2018), quienes definen métricas dentro de un Cenkler (2016) por su parte, estudia la evolución de las
enfoque basado en CMMi-DEV para desarrollar un modelo de métricas de procesos y productos de una organización que
diversidad de procesos de software en una empresa internacional desarrolla software en la industria de defensa, el objetivo era
basada en CMMi v.2. Los resultados obtenidos mostraron que satisfacer los requisitos de la certificación CMMi-Development
estos procesos, implementados en un año, fueron exitosos en e ISO 9001, para ello define métricas de procesos y productos
cuanto a aumentar la velocidad y reducir el número de fallas. con el propósito de recopilar datos, hacer análisis y tomar
Sobre auditoria de procesos Agrawal & Chari, (2020), decisiones. Con este estudio se pudo detectar debilidades como
utilizan la métrica de esfuerzo de revisión y control de auditoría la falta de claridad em los objetivos de negocio y el esfuerzo
de procesos (ARC) para estimar el esfuerzo y defectos en inútil en recopilar 52 métricas, ya que muchas de ellas no
proyectos de software con datos de 49 proyectos de software de aportaban al objetivo deseado. Debido a ello las métricas
una organización global de nivel 5 de CMMi. Los resultados evolucionaron a solo 39, lo que trajo efectividad al proceso. En
mostraron que hay mayores esfuerzos de auditoria en las fases la Tabla IV se presenta las métricas identificadas en los estudios
de requisitos y construcción de proyectos, lo cual se asocia a un sobre CMMi.
aumento del esfuerzo general del proyecto.
Khraiwesh, (2020) estudia el proceso de Capacitación
Organizacional de CMMi (OT) , aplicó el modelo Goal Question
Metrics (GQM) a siete objetivos obteniendo métricas que luego

TABLE IV. MÉTRICAS UTILIZADAS EN ESTUDIOS CMMI SELECCIONADOS


Indicador Uso Objetivo Autor Año
Proporcionar Agrawal & 2020
Aseguramiento de la calidad de procesos y información sobre Chari
Esfuerzo de revisión y control de auditoría de procesos (ARC)
producto (PPQA) procesos y productos de
trabajo asociados
Puntos de función Tamaño del proyecto Revisión y control de
Incluye el esfuerzo desde la recopilación auditoría en proyectos
El esfuerzo de desarrollo de software de requisitos, diseño, codificación, pruebas
y test de aceptación
Esfuerzo de revisión y control de auditoría de procesos (ARC) Porcentaje del esfuerzo total del proyecto
para cada fase asignado a las auditorías por fase

8|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Indicador Uso Objetivo Autor Año


Recuentos de defectos entregados al
Calidad del software
cliente
Total number of days Evaluar las fallas y la Utku & Şahin 2018
Number of days’ delay velocidad al final del
Planned person days proyecto.
Realized person days
Daily average closed
Número de fallas al final del proyecto y
Person days
mejora en la velocidad.
Number of analysis test faults
Number of approved set faults
Approved set workdays
Number of approved
Set faults per day
Análisis del valor Ganado Gestión de proyectos Métricas que Cenkler 2016
Eficacia de mitigación de riesgos en el proyecto Gestión de riesgos evolucionaron producto
Puntaje de satisfacción del desempeño para subcontratistas, Administración de subcontratos del estudio de caso
Métricas en el área de desarrollo de
Volatilidad de requisitos de software
productos:
Puntaje de satisfacción del cliente que incluye tema de costo, Métricas en el área de satisfacción del
cronograma y relaciones con STM cliente
Proporción de acciones correctivas para los incumplimientos del
Métricas en el área de garantía de calidad:
proceso evaluados como efectivos
Número de entrenamiento efectivo por persona Métricas en el área de entrenamiento:

revisar los factores de gestión de incidentes, además de


E. 4.3 ITIL observaciones a los procesos con fines de mejora.
En relación a las métricas para medir el desempeño Barcelo- Para el logro de objetivos comerciales, Mitev & Kirilov,
Valenzuela & Leal-Pompa, (2020), presentan una adaptación (2021) proponen una metodología de selección de métricas
metodológica ITSM de ITIL, proporcionando indicadores útiles basada en un enfoque de toma de decisiones en grupo para
y procedimientos operativos estandarizados para que un evaluar su relevancia. Como caso de estudio uso se evaluó la
departamento de TI sea capaz de medir su desempeño. calidad del servicio de correo electrónico de una universidad a
Proporcionan 18 métricas en base a informes de servicio y través de 18 métricas que hicieron seguimiento a la
proceso de mejora continua. Concluyen con un caso de estudio disponibilidad, requerimientos, incidentes, cambios y
en un organismo electoral, con una mejora del 88% en tiempos capacidad.
de respuesta a solicitudes de servicio. Bustamante et al., (2017), exponen métricas como resultado
Yamami et al., (2017), muestran un enfoque con varios de un año de mejora continua, en un estudio realizado en una
criterios para evaluar el desempeño de los servicios TI en una planta industrial que necesitaba adaptar marcos de TI como
Pyme, el modelo utiliza una combinación del proceso de COBIT, PMI-PMBOK, ITIL y NIST para proteger a las
jerarquía analítica (AHP) y la Técnica de Orden de Preferencia empresas industriales y manufactureras contra las interrupciones
por Semejanza a Soluciones Ideales (TOPSIS), en el proceso se y actividades maliciosas de TI. Los resultados obtenidos
describen 12 indicadores claves del desempeño de procesos indicaron una mejora en la reducción de incidentes y gestión
ITIL. holística, además de alineamiento a los objetivos estratégicos sin
dejar de cumplir el control de seguridad de la información.
Fiegler et al., (2016), introducen dos métricas: la tasa de
aprendizaje de operación y la de entropía del sistema. Ambas Por último, Baradari et al., (2021), identifican la relación
métricas se utilizan para evaluar la calidad de los procesos de entre IT Service management (ITSM) y knowledge management
gestión de servicios TI en los entornos de hosting, los resultados (KM) con el fin de establecer una base para el diseño de un
mostraron que las métricas esperadas fueron confirmadas en 2 sistema integrado, enfocándose en procesos de ITSM de
de 3 entornos reales. Esto beneficiaría la capacidad de control y configuración, cambios, release, incidentes y problemas,
el cumplimiento de los SLA en entornos de nube, que siempre listando un total de 44 métricas, y aplicando mapa cognitivo
tiene dinamismo en sus tasas de crecimiento. difuso para hallar relaciones e indicadores importantes para la
óptima gestión de los procesos de ITSM. Como resultado de esta
En lo relacionado a gestión de incidencias, Nugraha & práctica se puede seleccionar las actividades de KM que mejor
Legowo, (2017), evalúan dicho proceso en una corporación de se adecuen a las necesidades de las actividades de ITSM que se
telecomunicaciones, obteniendo cuatro métricas que permiten requiera. En la Tabla V se detalla la relación de métricas ITIL
encontradas en literatura.

TABLE V. MÉTRICAS UTILIZADAS EN ESTUDIOS ITIL SELECCIONADOS

9|P age
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Indicador Uso Objetivo Autor Año


Incident Evaluar el
Baradari
KPI IM-01 Percentage of incidents closed by the service desk management desempeño de los
et al
procesos ITIL
KPI IM-02 Mean Time to Resolution
KPI IM-03 Percentages of reduction in total number of incidents
KPI IM-04 Percentages of reduction in number of Major incidents
KPI IM-05 Percentages of user satisfaction from quality of services
KPI IM-06 Number of user complaints from quality of services
KPI IM-07 Percentage of incidents handled within agreed SLA target
KPI IM-08 Percentage of incidents related to changes and releases.
KPI IM-09 percentage of incidents incorrectly assigned
KPI IM-10 Average cost per incident (COSTO PROMEDIO POR
INCIDENTE)
KPI PM-01 The number of known errors added to the KEDB
KPI PM-02 Percentage of incidents closed by the service desk
KPI PM-03 Average incident resolution time for those incidents linked to
problem records
KPI PM-04 Total numbers of problems
KPI PM-05 Size of current problem backlog for each IT service Problem management
KPI PM-06 Number of repeat incidents for each IT service
KPI PM-07 Number and percentage of problems incorrectly assigned
KPI PM-08 Percentage of problems closed successfully
KPI PM-09 Size of current problem backlog for each IT service
KPI PM-10 Average cost per problem
KPI CHM-01 Increase in the percentage of changes that meet the customer’s
agreed requirements
KPI CHM-02 Reduction in the backlog of change requests
KPI CHM-03 Increase in accuracy of predictions for time, quality, cost, risk,
resource and commercial impact
KPI CHM-04 Increase in change success rate
KPI CHM-05 Reduction in the percentage of changes lead to service Change management
disruption
KPI CHM-06 Reduction in the percentage of emergency changes 2021
KPI CHM-06 Reduction in the number of unauthorized changes identified
KPI CHM-07 number of incidents attributed to changes
KPI CHM-08 Reduction in the number and percentage of changes with
incomplete change specifications
KPI CM-01 Reduction in business impact of outages caused by poor
configuration management
KPI CM-02 Improvement in time to identify poor performing and poor-
quality Cis
KPI CM-03 Reduction in the average time and cost of diagnosing and
resolving incidents and problems Configuration management
KPI CM-04 Increase in reuse and redistribution of under- utilized CIs
KPI CM-05 Reduced number of exceptions reported during configuration
audits
KPI CM-06 Reduced percentage of changes not completed successfully
because of poor impact assessment, incorrect data in the CMS, or poor version
control
KPI RM-01 Increased number and percentage of releases that meet customer
expectations
KPI RM-02 Reduced number of deployments from sources other than the
KPI RM-03 Decreased customer dissatisfaction of service issues resulting
from poorly tested or untested services (DISMINUCION DE LA
INSATISFACCION DEL CLIENTE)
KPI RM-04 Increased customer and user satisfaction with the services
delivered Release Management
KPI RM-05 Reduced number of incidents due to incorrect components being
deployed
KPI RM-06 Reduced number of incidents of new releases due to incorrect
testing
KPI RM-07 Increased percentage of incidents solved by level 1 and level 2
support
KPI RM-08 Reduced resources and costs to diagnose and fix incidents and
problems in deployment and live use
Uptime percentage of the service PORCENTAJE DE TIEMPO DE ACTIVIDAD DEL Service Evaluación de la Mitev &
2021
SERVICIO) availability calidad del servicio Kirilov

10 | P a g e
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Indicador Uso Objetivo Autor Año


de correo
electrónico
Count of complete unplanned service outages
Count of service degradation events
Average time for completing the service requests
Percentage of service requests completed within the agreed SLA
Service request management
Percentage of service requests completed within one shot
Percentage of complaints
Average time for starting work on case
Average time for resolution
Percentage of incidents resolved within the SLA timeframes
Incident management
Percentage of incidents completed within one shot
Percentage of incidents with proper initial assessment
Percentage of complaints
Percentage of successful changes
Number of failed changes Change management
Number of unauthorized changes
Consumed disc storage per user
Capacity
Supported user per FTE
Barcelo-
Service
Valenzue
# of services portfolio Planning
la & Leal-
management
Pompa
# of services (CATALOGADOS) Service catalogue management
# of unavailability incidents
Service level Management
# of lack of capacity incidents
Information security
# of preventive measures implemented
management
Transition planning and
# of service requests
support
# of changes per service
# of non- planned changes per service Change management Transition 2020
% of deadlines compliance
Release and deployment
% of successful service deployment
management
# of service or incident requests
# of' to attend' requests
# of 'in process' requests
# of 'completed' requests Incident management
# of requests per type Evaluation
% of requests per type
% of requests per priority
# of KPI's implemented Continual improvement process
Weekly reports Service reports
Indicadores de
Number of incidents, Rate of incidents resolved remotely, Incident resolution time, Rate of Incident Yamami
desempeño claves
incidents resolved within SLA management et al
de ITIL
Number of problems, Problem Resolution Time, Rate of unresolved 2017
Problem management
problems, Rate of proactively problem solved
Change accepted rate, Rate of emergency changes, Time for change
Change management
Approval/Rejection, Rate of unsuccessfully realized changes
Total de
incidentes Métricas de Nugraha
Total Number of Incident completados procesos de gestión &
como medida de incidentes Legowo
de control
Porcentaje de problemas
Percentage of Trouble handled within target resolution time manejados dentro del tiempo de
respuesta objetivo 2017
Duración promedio desde la
creación hasta el cierre de los
Average duration of trouble tickets by priority
tickets de problemas de cada
prioridad.
Número de Tickets que FO
First time restoration restaura por primera vez después
de abrir
ITIL en cloud Evaluate the quality Fiegler et
System operation learning 2016
con DevOps of IT service al

11 | P a g e
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Indicador Uso Objetivo Autor Año


management
processes
System entropy rate

Otros autores nombran las métricas en su fase teórica, pero en


V. DISCUSIÓN DE RESULTADOS sus listados de cuadro de utilización final no nombran dichas
El ámbito Scrum, mostrado en un entorno comparativo con métricas, por lo que no son consideradas. Respecto a las
ITIL y CMMI es mucho más utilizado. La cantidad de artículos empresas donde se referencian los casos de uso realizados, hay
a las que hace referencia este trabajo así lo demuestra, 64% son una fuerte orientación de utilizar estas prácticas en tecnología,
estudios Scrum, versus 23% de ITIL y 13% de CMMi, lo que en algunos estudios no referenciados se hizo uso de Scrum no
comprueba lo sostenido por Sharma & Hasteer, (2016) y Zaouali ligado a tecnología, dichos estudios se alejaban del aporte
& Ghannouchi, (2020), indicando que Scrum es la práctica más centrado en tecnología que deseábamos dar al presente
utilizada actualmente, nosotros agregaríamos que es la práctica documento, por lo que no fueron considerados.
que tiene mayor cantidad de métricas llegando a 38% /112
métricas), frente a 33% de ITIL (98 métricas) y 29% de CMMi VII. CONCLUSIONES
(87 métricas), los nuevos avances dentro del modelo Scrum Contar con métricas es de vital importancia si uno quiere
comienzan a seccionar la practica en varios modos, a unificarse medir el avance de los procesos. En este artículo se ha conducido
con otros modelos o a especializarse. una revisión de literatura para identificar las métricas en Scrum,
CMMi e ITIL, se identificaron un total de 297 métricas, 38%
Edison et al., (2021) sostiene que el desafío actual es diseñar son Scrum (112 métricas), 33% son de ITIL (98 métricas) y 29%
e implementar variantes de esta agilidad a gran escala y en toda son de CMMi (87 métricas). En cuanto a las empresas donde se
la organización para la cohesión con otros equipos y alinearse utilizaron las métricas referenciadas, figuran mayormente
con otras prácticas. Tuncel et al., (2020) sostiene que los empresas europeas (35%), con una clara inclinación a empresas
estudios de madurez de desarrollo ágil aún se encuentran en sus de tendencia tecnológica (45%) seguidas de empresas de
primeras fases, por lo que es importante profundizar métodos al gobierno (19%) y de sectores diversos (13%).
respecto.
En el caso de Scrum, la mayor tendencia de métricas
Por otro lado, CMMi también se está adaptando a expuestas reside en aquella que se utilizaron con fines de gestión
ecosistemas con diferentes tipos de prácticas, con agilidad ágil de software (33%, 59 métricas), seguida de aquellas que se
(Anwar et al., 2016), ISO 9001 (Cenkler, 2016), PSP y TSP utilizaron para gestión ágil de la calidad (21%, 38 métricas),
(Cerón & Arboleda, 2018) u otras prácticas, la incursión de muy cerca de esta cantidad figuran aquellas métricas que se
CMMi se encuentra mayormente ligado a empresas utilizaron para controlar los costos o valor de entrega al cliente
consolidadas, no se ha encontrado estudios sobre métricas (17%, 31 métricas). En el caso de CMMi, destacan las métricas
CMMi en Pymes. de formación en la organización con 75% (65 métricas), seguida
Por su parte ITIL cuenta en la mayoría de casos con una muy de lejos por monitorización y control de proyectos con 14%
fuerte integración con otros modelos como COBIT o Balanced (12 métricas). En lo que respecta a métricas ITIL, los 3 tipos de
Scorecad, de las cuales obtiene métricas, por lo que algunos objetivo con más cantidad de métricas son: Gestión de
documentos que contenían excelentes estudios ITIL no fueron incidentes con 29% (31 métricas), gestión de cambios con 18%
considerados debido a que se realizan enfoques de ecosistema (19 métricas) y gestión de problemas con 13% (14 métricas).
colocando métricas de otro tipo de prácticas ajenas a ITIL. Por otro lado, dentro de los avances en investigación en
Respecto a la calidad de métricas, se está conservando la Scrum, resaltan nuevos enfoques para medición orientado a
propuesta de definición y objetivo original de los autores, sin gestión de evidencias (Shirokova et al., 2020), toma de
embargo, hay algunas métricas que para algunos autores se decisiones de varios criterios (Tekin et al., 2020), ROI y costos
catalogan diferente: para citar un ejemplo el Burndown Chart (Chavarria & Madriz, 2019), (Rosa et al., 2017), gestión de
(Kayes et al., 2016) lo considera artefacto indicador, mientras desperdicios (Bufon & Leal, 2019) y cultura ágil (Gadelsied et
que (Carneiro et al., 2019), (Tekin et al., 2020) lo incluyen como al., 2021). Otros autores muestran la búsqueda de mejores
parte de su relación de métricas utilizadas. métricas en base a encuestas y estudios de datos (Kettunen et al.,
2019), (Kovags et al., 2019), (Arumugam et al., 2018), enfoque
VI. LIMITACIONES en mejorar los procesos Scrum (Carneiro et al., 2019), (Ertaban
Se han obviado artículos que no cuentan con referencia que et al., 2018), (Erdogan et al., 2018) y (Grimaldi et al., 2016);
indique el tipo de empresa en la que se hizo el caso de estudio u gestión de portafolio (Stettina & Schoemaker, 2018), gestión de
otros documentos de aspecto teóricos o exploratorio que no requisitos (Pinto et al., (2018) gestión de pruebas (Gafurov &
consideraron casos de estudio; en otros tantos artículos que no Hurum, 2020), (Tudjarova et al., 2017), (Kayes et al., 2016). En
consignan el país de referencia de la experimentación, se ha adopción ágil y sistemas heredados tenemos los trabajos de
colocado país del primer autor del artículo, iguales exclusiones Anwar et al., (2016) y Gupta et al., (2016), por ultimo figura el
obtuvieron los artículos que no referenciaban tácitamente las estudio de Marek et al., (2021), enfocado en desarrollo ágil en
métricas utilizadas. Por otro lado, algunos autores no citan todos pandemia por Covid 19.
los tipos de métricas utilizadas en sus prácticas realizadas, sino
Para el caso de CMMi, los estudios muestran avances
algunos ejemplos de métricas o métricas de resumen general,
orientados a la mejora de procesos (Utku & Şahin, 2018),

12 | P a g e
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

auditoria de procesos (Agrawal & Chari, 2020), certificación Electrical Engineering and Computing, INTERCON 2017. Scopus.
(Cenkler, 2016) y Capacitación Organizacional (Khraiwesh, https://doi.org/10.1109/INTERCON.2017.8079672
2020). [13] Carneiro, L. B., Silva, A. C. C. L. M., & Alencar, L. H. (2019). Scrum
Agile Project Management Methodology Application for Workflow
En relación a los estudios hallados de ITIL se exponen Management: A Case Study. 2019-December, 938–942. Scopus.
métricas en adaptación de ITIL para el desempeño (Barcelo- https://doi.org/10.1109/IEEM.2018.8607356
Valenzuela & Leal-Pompa, 2020), (Yamami et al., 2017), [14] Cenkler, Y. (2016). Evolution of Process Product Metrics Based on
Information Needs. 2016 10th International Conference on the Quality of
monitorear la calidad de los servicios (Fiegler et al., 2016), Information and Communications Technology (QUATIC), 143–145.
gestionar incidencias (Nugraha & Legowo, 2017), elegir https://doi.org/10.1109/QUATIC.2016.036
objetivos comerciales (Mitev & Kirilov, 2021), gestionar [15] Cerón, K. J., & Arboleda, H. F. (2018). Model of strategic relationships
interrupciones maliciosas (Bustamante et al., 2017) y relacionar between organizational and technical factors in colombian software
ITSM con knowledge management (Baradari et al., 2021). factories. Informacion Tecnologica, 29(3), 29–38. Scopus.
https://doi.org/10.4067/S0718-07642018000300029
Como trabajo futuro se desarrollará un framework de [16] Chavarria, R. C., & Madriz, F. L. (2019). Roi estimation in a scrum
métricas basadas en CMMi, Scrum e ITIL, para mejorar el project: A case study. 64, 78–87. Scopus. https://doi.org/10.29007/nqq6
desempeño de una organización privada. [17] Chavarría, A. E., Oré, S. B., & Pastor, C. (2016). Aseguramiento de la
Calidad en el Proceso de Desarrollo de Software utilizando CMMI, TSP
REFERENCES y PSP/Quality Assurance in the Software Development Process using
CMMI, TSP and PSP. Revista Ibérica de Sistemas e Tecnologias de
[1] Abrahamsson, P., Salo, O., Ronkainen, J., & Warsta, J. (2017). Agile Informação, (20), 62.
Software Development Methods: Review and Analysis
(arXiv:1709.08439). arXiv. https://doi.org/10.48550/arXiv.1709.08439 [18] Edison, H., Wang, X., & Conboy, K. (2021). Comparing Methods for
Large-Scale Agile Software Development: A Systematic Literature
[2] Agrawal, M., & Chari, K. (2020). Impacts of process audit review and
Review. IEEE Transactions on Software Engineering. Scopus.
control efforts on software project outcomes. IET Software, 14(3), 293– https://doi.org/10.1109/TSE.2021.3069039
299. https://doi.org/10.1049/iet-sen.2019.0185
[19] Erdogan, O., Pekkaya, M. E., & Goek, H. (2018). More effective sprint
[3] Ahmed, A. R., Tayyab, M., Bhatti, S. N., Alzahrani, A. J., & Babar, M. I.
retrospective with statistical analysis. Journal of Software-Evolution and
(2017). Impact of Story Point Estimation on Product using Metrics in Process, 30(5), e1933. https://doi.org/10.1002/smr.1933
Scrum Development Process. International Journal of Advanced
Computer Science and Applications, 8(4), 385–391. [20] Ertaban, C., Sarikaya, E., & Bagriyanik, S. (2018). Agile performance
indicators for team performance evaluation in a corporate environment.
[4] Amer, S. K., Badr, N., & Hamad, A. (2020). Combining CMMI Specific Part F147763. Scopus. https://doi.org/10.1145/3234152.3234156
Practices with Scrum Model to Address Shortcomings in Process
Maturity. In A. E. Hassanien, A. T. Azar, T. Gaber, R. Bhatnagar, & M. [21] Fiegler, A., Zwanziger, A., Herden, S., & Dumke, R. R. (2016). Quality
F. Tolba (Eds.), The International Conference on Advanced Machine Measurement of ITIL Processes in Cloud Systems. 2016 Joint Conference
Learning Technologies and Applications (AMLTA2019) (pp. 898–907). of the International Workshop on Software Measurement and the
Springer International Publishing. https://doi.org/10.1007/978-3-030- International Conference on Software Process and Product Measurement
14118-9_88 (IWSM-MENSURA), 87–94. https://doi.org/10.1109/IWSM-
Mensura.2016.022
[5] Anwar, A., Kamel, A. A., & Ahmed, E. (2016). Agile adoption case study,
pains, challenges & benefits. 28-29-May-2016, 60–65. Scopus. [22] Fitzgerald, B. (2018). Software Crisis 2.0. In Software Technology: 10
https://doi.org/10.1145/2944165.2944175 Years of Innovation in IEEE Computer (pp. 1–16). IEEE.
https://doi.org/10.1002/9781119174240.ch1
[6] Arumugam, C., Vaidayanthan, S., & Karuppuchamy, H. (2018). Global
software development: Key Performance measures of team in a SCRUM [23] Gacenga, F., & Cater-steel, A. (2011). Performance Measurement Of IT
based agile environment. Lecture Notes in Computer Science (Including Service Management: A Case Study Of PERFORMANCE
Subseries Lecture Notes in Artificial Intelligence and Lecture Notes in MEASUREMENT OF IT SERVICE MANAGEMENT: A CASE
Bioinformatics), 10963 LNCS, 672–682. Scopus. STUDY OF AN AUSTRALIAN.
https://doi.org/10.1007/978-3-319-95171-3_53 [24] Gadelsied, A. O., Elhassan, T. M. M., Mohamed, W. M., & Abushama,
[7] Baradari, I., Shoar, M., & Nezafati, N. (2021). Defining the relationship H. M. (2021). Assessment method for Scrum culture within the
between IT Service management and knowledge management: Towards Development team. 2020 International Conference on Computer, Control,
improved performance. Knowledge Management Research and Practice. Electrical, and Electronics Engineering (ICCCEEE), 1–6.
Scopus. https://doi.org/10.1080/14778238.2021.1903349 https://doi.org/10.1109/ICCCEEE49695.2021.9429608
[8] Barcelo-Valenzuela, M., & Leal-Pompa, C. M. (2020). An ITSM [25] Gafurov, D., & Hurum, A. E. (2020). Efficiency Metrics and Test Case
framework adaptation: Case study in an electoral institution. 468–473. Design for Test Automation. 2020 IEEE 20th International Conference on
Scopus. https://doi.org/10.1109/CDS49703.2020.00098 Software Quality, Reliability and Security Companion (QRS-C), 15–23.
https://doi.org/10.1109/QRS-C51114.2020.00015
[9] Bayona, S., Calvo-Manzano, J. A., & San Feliu, T. (2013, June). Review
of critical success factors related to people in software process [26] Grimaldi, P., Perrotta, L., Corvello, V., & Verteramo, S. (2016). An agile,
improvement. In European Conference on Software Process measurable and scalable approach to deliver software applications in a
Improvement (pp. 179-189). Springer, Berlin, Heidelberg. large enterprise. International Journal of Agile Systems and Management,
9(4), 326–339. Scopus. https://doi.org/10.1504/IJASM.2016.081561
[10] Bufon, M. T., & Leal, A. G. (2019). Method for identification of waste in
the process of software development in agile teams using lean and scrum. [27] Gupta, R. K., Manikreddy, P., & GV, A. (2016). Challenges in Adapting
Communications in Computer and Information Science, 1027, 466–476. Agile Testing in a Legacy Product. 2016 IEEE 11th International
Scopus. https://doi.org/10.1007/978-3-030-21451-7_40 Conference on Global Software Engineering (ICGSE), 104–108.
https://doi.org/10.1109/ICGSE.2016.21
[11] Bundschuh, M., & Dekkers, C. (2008). Software Measurement and
Metrics: Fundamentals. In The IT Measurement Compendium (pp. 179– [28] Kaner, C., & Bond, W. P. (2004). Software Engineering Metrics: What
206). Springer, Berlin, Heidelberg. https://doi.org/10.1007/978-3-540- Do They Measure and How Do We Know? Undefined.
68188-5_7 https://www.semanticscholar.org/paper/Software-Engineering-
Metrics%3A-What-Do-They-Measure-Kaner-
[12] Bustamante, F., Fuertes, W., Diaz, P., & Toulkeridis, T. (2017). Bond/7e63e256311e956093f9bea27456bc4e7206325a
Integration of IT frameworks for the management of information security
within industrial control systems providing metrics and indicators. [29] Kayes, I., Sarker, M., & Chakareski, J. (2016). Product backlog rating: A
Proceedings of the 2017 IEEE 24th International Congress on Electronics, case study on measuring test quality in scrum. Innovations in Systems and

13 | P a g e
E-ISSN: 2415-1513
WSEAS TRANSACTIONS on ELECTRONICS DOI: 10.37394/232017.2022.13.12

Software Engineering, 12(4), 303–317. Scopus. oversight. Lecture Notes in Business Information Processing, 314, 199–
https://doi.org/10.1007/s11334-016-0271-0 215. Scopus. https://doi.org/10.1007/978-3-319-91602-6_14
[30] Kettunen, P., Laanti, M., Fagerholm, F., & Mikkonen, T. (2019). Agile in [48] Sussy, B. L., Antonio, C. M. J., Gonzalo, C., Tomás, S. F., & Angel, S.
the Era of Digitalization: A Finnish Survey Study. Lecture Notes in (2008). Process deployment in a multi-site CMMI level 3 organization: a
Computer Science (Including Subseries Lecture Notes in Artificial case study. In Computer and Information Science (pp. 147-156).
Intelligence and Lecture Notes in Bioinformatics), 11915 LNCS, 383– Springer, Berlin, Heidelberg
398. Scopus. https://doi.org/10.1007/978-3-030-35333-9_28 [49] Sydenham, P. H. (2003). Relationship between measurement, knowledge
[31] Khraiwesh, M. (2020). Measures of Organizational Training in the and advancement. Measurement, 34(1), 3–16.
Capability Maturity Model Integration (CMMI). International Journal of https://doi.org/10.1016/S0263-2241(03)00023-X
Advanced Computer Science and Applications, 11(2), 584–592. [50] Tahir, T., & Gencel, C. (2010). A structured goal based measurement
[32] Kitchenham, B. (2004). Procedures for Performing Systematic Reviews framework enabling traceability and prioritization. 2010 6th International
(Joint Technical Report). Software Engineering Group, Department of Conference on Emerging Technologies (ICET), 282–286.
Computer Science, Keele University and Empirical Software Engineering https://doi.org/10.1109/ICET.2010.5638475
National ICT Australia Ltd. [51] Tekin, N., Kosa, M., Yilmaz, M., Clarke, P., & Garousi, V. (2020).
https://scholar.google.es/scholar?hl=es&q=procedures+for+performing+ Visualization, Monitoring and Control Techniques for Use in Scrum
systematic+reviews&btnG=&lr=&oq=procedures+for+per Software Development: An Analytic Hierarchy Process Approach.
[33] Kovags, D., Falchi, F. L., & Rivas, A. R. (2019). Analysis of the Communications in Computer and Information Science, 1251 CCIS, 45–
utilization of scrum framework effort estimation metrics in federal public 57. Scopus. https://doi.org/10.1007/978-3-030-56441-4_4
administration. ACM International Conference Proceeding Series. [52] The Institute of Electrical and Electronics Engineers. (1990). IEEE
Scopus. https://doi.org/10.1145/3364641.3364645 Standard Glossary of Software Engineering Terminology. IEEE Std
[34] Marek, K., Wińska, E., & Dąbrowski, W. (2021). The State of Agile 610.12-1990, 1–84. https://doi.org/10.1109/IEEESTD.1990.101064
Software Development Teams During the Covid-19 Pandemic. Lecture [53] Tudjarova, S., Chorbev, I., & Joksimoski, B. (2017). Software Quality
Notes in Business Information Processing, 408, 24–39. Scopus. Metrics While Using Different Development Methodologies.
https://doi.org/10.1007/978-3-030-67084-9_2 Communications in Computer and Information Science, 778, 240–250.
[35] Mauro, V., & Messina, A. (2016). AMINSEP-agile methodology Scopus. https://doi.org/10.1007/978-3-319-67597-8_23
implementation for a new software engineering paradigm definition. A [54] Tuncel, D., Körner, C., & Plösch, R. (2020). Comparison of Agile
research project proposal. Communications in Computer and Information Maturity Models: Reflecting the Real Needs. 51–58.
Science, 422, 27–33. Scopus. https://doi.org/10.1007/978-3-319-27896- https://doi.org/10.1109/SEAA51224.2020.00019
4_3
[55] Utku, S., & Şahin, S. (2018). Process diversity in software development:
[36] Mitev, Y., & Kirilov, L. (2021). Group Decision Support for e-Mail An industrial study. IET Software, 13(4), 260–267.
Service Optimization through Information Technology Infrastructure https://doi.org/10.1049/iet-sen.2018.5079
Library Framework. 227–230. Scopus. https://doi.org/10.15439/2021F93
[56] Yamami, A. E., Mansouri, K., Qbadou, M., & Illousamen, E. H. (2017).
[37] Mohsen, W., Aref, M., & ElBahnasy, K. (2017). Software metrics for Multi-criteria decision making approach for ITIL processes performance
cooperative scrum based ontology analysis. 2017 2nd International evaluation: Application to a Moroccan SME. 2017 Intelligent Systems
Conference on Knowledge Engineering and Applications (ICKEA), 60– and Computer Vision (ISCV), 1–6.
70. https://doi.org/10.1109/ICKEA.2017.8169903 https://doi.org/10.1109/ISACV.2017.8054937
[38] Nugraha, A. D., & Legowo, N. (2017). Implementation of incident [57] Zaouali, S., & Ghannouchi, S. A. (2020). Quality assessment in scrum
management for data services using ITIL V3 in telecommunication software development through Metrics: A conceptualization using
operator company. 2017 International Conference on Applied Computer concept maps. 161–166. Scopus.
and Communication Technologies (ComCom), 1–6.
https://doi.org/10.1109/COMCOM.2017.8167093
[39] Pinto, N., Tortosa, N., Geat, B. C., Ibáñez, L., & Bollati, V. (2018).
Quality Evaluation of Agile Processes: Measurement of Requirements
Management Using AQF v2. 15–20.
https://doi.org/10.1109/QUATIC.2018.00013
[40] Rosa, W., Madachy, R., Clark, B., & Boehm, B. (2017). Early Phase Cost
Models for Agile Software Processes in the US DoD. 30–37.
https://doi.org/10.1109/ESEM.2017.10
[41] Sánchez, R., & Luis, J. (2021). Model to Optimize the Decision Making
on Processes in IT Departments. Mathematics, 9(9), 983.
https://doi.org/10.3390/math9090983
[42] Sharma, S., & Hasteer, N. (2016). A comprehensive study on state of
Scrum development. 2016 International Conference on Computing,
Communication and Automation (ICCCA), 867–872.
https://doi.org/10.1109/CCAA.2016.7813837
[43] Schwaber, K., & Sutherland, J. (2020). The Scrum Guide.
https://scrumguides.org/docs/scrumguide/v2020/2020-Scrum-Guide-
US.pdf
[44] Shirokova, S., Kislova, E., Rostova, O., Shmeleva, A., & Tolstrup, L.
(2020). Company efficiency improvement using agile methodologies for
managing IT projects. ACM International Conference Proceeding Series.
Scopus. https://doi.org/10.1145/3446434.3446465
[45] Software Engineering Institute. (2010). CMMI® para Servicios, Versión
1.3.
[46] Steinberg, R. A. (2011). ITIL Service Operation (2011 ed. edition). The
Stationery Office.
[47] Stettina, C. J., & Schoemaker, L. (2018). Reporting in agile portfolio
management: Routines, metrics and artefacts to maintain an effective

14 | P a g e
E-ISSN: 2415-1513

You might also like