You are on page 1of 10

Caso de el robot asesino adaptado de Richard Epstein “The case of the killer robot” En su escenario Epstein combina muchos

elementos de la profesión de Informática y especialmente los proceso del desarrollo de programas o software aplicaciones, Epstein da énfasis a la cuestión ética Professional “Cuando es el software suficientemente bueno o suficientemente probado o es suficientemente fiable para sacarlo al Mercado” El caso se compone de cerca de 70 paginas, su referencia esta en http://onlineethics.org/cases/robot/robot.html La adaptación es corta con la intención que toque los puntos mas esenciales que den conciencia de los efectos de una mala codificación. Techtronics es la empresa ubicada en valle famoso “Silicon Valley” a cargo del software de los robots ( necesita 11 voluntarios) 1. Juana Andrade, programadora y analista que es despedida de Techtronics por oponerse al uso del modelo prototipo en el proyecto de Robots 2. Reymundo Calvo, Jefe de la división a cargo del éxito de los robots en Techtronics 3. Marta, una persona anónima que ha dado la información acerca de la dinámica de grupo en el proyecto del robot. 4. Raúl Murcia, programador responsable de escribir las instrucciones del programa del robot Robbie CX30 que hizo que el robot oscilara salvajemente y diera a muerte a Mateo Engracia. 5. Pablo Filado, fiscal de la ciudad que ha puesto los cargos criminal en contra de Raúl Murcia 6. Mabel Luste, reportera del periódico, con la tarea de escribir la historia del robot asesino. 7. Walter Verito, Profesor de Física de la University Silicon, quien confirma que Raúl Murcia mal interpreto las ecuaciones de movimientos dinámicos 8. Samuel Mago, Jefe del proyecto CX30, experiencia en proceso de datos, el fue puesto a cargo del proyecto CX30 con el disgusto del jefe de la división Reymundo Calvo. Samuel usaba siempre el modelo Prototipo en el desarrollo de software 9. Pedro Ponce, Profesor de ingeniería de software de University Silicon. Él condujo una revisión de procedimientos de garantía de calidad de software en el Techtronics. 10. Leticia Borla, Profesora de psicología de software de University Silicon. Ella vio a Raúl Murcia como una persona orientada por tarea que era demasiado sensible a la crítica.. 11. Mateo Engracia, operador del robot que fue matado por un robot, CX30. 12. Miguel Morton, Presidente de Techtronics. El puso a Samuel Mago a cargo del proyecto CX30, como una medida ahorrativa El apoyo monetario la campana del fiscal Pedro Filado, y ha contratado al Dr. Pedro Ponce para que conduzca una investigación en la garantía de calidad del software a Techtronic. 13. Vicente Morales, Profesor de ética informática de university Silicon. Examina las tensiones entre individuos y la responsabilidad de la empresa en una entrevista con Mabel del periódico de Silicón Valley.

Raúl Murcia escribió el pedazo particular del programa de computadora responsable del funcionamiento defectuoso de robot. Narrador Mateo Engracia murió cuando fue lanzado por un robot en la línea de ensamble. El programador no entendió que tenia que programar dinámicamente las derivadas el lo programo estáticamente tomando los promedios en el eje Y. Nuestra sociedad se debe defender de dar paro ha ese tipo de errores o nuestras familias podrían sufrir este tipo de consecuencias. Verito Dr. que ahora están empotrados en cada esquina de nuestros hogares. Murcia cometió falta cuando no teniendo conocimiento suficiente de física mal interpreto la formula. El fiscal muestra una formulas escritas a mando que fueron fiscalizadas del proyecto de Físicos. Mateo murió casi al instante. Según la acusación. El caso ha sobresaltado y ha enfadado muchos en el Valle de Silicio.. Mateo trabajaba como un operador de robot en la compañía Ciber. Verito quien es sabedor de la lengua de ordenadores C y ha examinado el programa en C de las formulas escrita por el Sr. que dio como resultado la muerte de Mateo Engracia. lanzándolo contra una pared fuertemente que sus sesos quedaron en la pared. X. Nuestra vida esta rodeada de ordenadores. Walter Verito De acuerdo a mi reexaminación de las instrucciones en C del programa es un error claro. El Fiscal Pablo Filado de la ciudad de Silicón anuncio los cargos criminales de la muerte de Mateo Engracia en contra de Raúl Murcia. Fue un error en su parte al no consultar.Escena 1. Oigamos del propio Dr. Sr. Hemos confirmado el error con el profesor de física Dr. Murcia. El brazo de robot golpeó a Mateo. para el buen funcionamiento del robot. Z por eso mismo el robot siguiendo las instrucciones se metió en un loop infinito. Mateo fue muerto cuando el robot que él hacía funcionar funcionó mal y comenzó a agitar su "brazo" violentamente. Señor Raúl Murcia tenia que programar esta formulas. Fiscal Pablo Filado Entra el fiscal Pablo Filado a una conferencia de prensa donde triunfantemente anuncia las pruebas en contra de Raúl Murcia. .

a lo que se oponía Samuel. Mabel. Bueno Calvo no dijo literalmente “cortar esquinas” al proyecto pero lo dijo indirectamente que si queríamos trabajo. Otro problema entre ellos fue que Reymundo quería solucionar el problema contratando a nuevos programadores. Gracias por acceder darnos esta información: .4 pura y no era razón por que el software tenia que ser mejor que eso “No hay software perfecto” “ lo perfecto es enemigo de lo bueno” CX30 es el sucesor de CX20 que era mecánico en su totalidad y ahora CX30 tenia muchos micro ordenadores empotrado. Necesitarían tiempo para aprender al punto donde se estaba. Especialmente la que tenia el equipo del proyecto CX30 de terminar el software del robot para Enero 1. Reymundo no escucho y saco plazas de otros programas y contrato mas programadores que no sabían ni papa de programar robots. No entendía el punto de vista de Samuel que mas trabajadores a este punto seria menos productivo. En una ocasión. En Junio el proyecto estaba atrasado 6 meses y rumores andaban que Reymundo Calvo y su entera división dependía del éxito del proyecto CX30. Ellos se odian ha morir. Mabel: puedes describir el ambiente de trabajo en Tectronic Marta Mabel te puedo decir que siempre habia una tremenda presión. Marta fue testigo de muchas fricciones entre Reymundo Calvo el jefe de la división y Samuel Mago jefe del proyecto. Reymundo lo veía desde su punto de vista de Ingeniero fabricante. Reymundo nos reunió y nos dio una presentación de su nueva teoría “nieve de marfil” que su dicho famoso Que la nieve de marfil era solo 99. El jefe del proyecto anuncio que en el grupo las “cabezas rodarían” si no se completaba el proyecto para la fecha Enero1. Creo que Reymundo Calvo no se daba cuenta de las trascendencia que esos cambios significaban para la calidad del producto. Calvo llamo a Samuel a su oficina y le grito que todos oímos bien claro que el proyecto tenia que terminar para Enero 1 o que se atuviera a las consecuencias. el proyecto tenia que estar terminado para Enero 1.Escena 2 Periódico ha contactado a una persona anónima la llamaremos Marta para nuestros propósitos. agregando hombres en la fabricación aumenta el producto fabricado. Marta tiene una declaración via telefónica al periódico.

Incluyendo a una persona “Inter. Su ego esta estrechamente ligado a su trabaja. Creo que se crearon mas relaciones individualistas desde que en una reunión de asegurar calidad con tarea de tres examinadores de un modulo que Raúl implemento. alguien que guarde la armonía y mueva las cosas hacia delante.Escena 3 Representante del periódico. El es muy brillante. El le gusta el aspecto de resolver problemas por el mismo y no tiene paciencia para cosas tediosas. Sin embargo veo ahora que éramos un grupo ambicioso. con gente de talento pero teníamos individualistas como Raúl Murcia. Mabel Luste entrevista a Leticia Borla experta psicóloga de programadores. Raúl se enrojeció de la cólera y nunca mas volvió a la reunión. Muchos compañeros del grupo se refieren a Raúl Murcia como una persona muy eficiente. lo tomo. tomo días de su tiempo para resolverlo. Una compañera dijo que se creía la “Prima Donna” Dr. La idea es estar abierta a la crítica y ser menos atado al trabajo de alguien. Mabel lee “Pesamos que nuestro grupo de programación era democrático. nosotros optamos por no meternos en sus cosas” El punto dice otra fuente es que Raúl no era fácil de abordar. seguro de si mismo.acción – orientada” Alguien que le de satisfacción trabajar con otras personas. Profesor Leticia Borla "No parece que Raúl ganó el espíritu de trabajo de equipo en programación "La idea de la programación de equipo es que un producto de software pertenece al equipo y no a los programadores individuales. y días mas tardes me trajo la solución. Leticia Borla estuvo de acuerdo con el sobrenombre “Prima Donna” es exactamente lo que sus compañeros describieron de El. se percibe como que el(la persona) es el trabajo que realiza. Las revisiones y reexaminaciones de los módulos son seguramente consecuentes con esta filosofía total . Una vez tenia un problema y cuando consulte con el. que se rodea de carteles como “ Dame las especificaciones de lo que quieres y yo lo programo”. Probar instrucciones no es para el. Por que es un trabajo de grupo. que estudia los factores que impactan el desarrollo del software. Después de enviarle un algoritmo mas eficiente. El es muy brillante pero cree que se creía mas de lo que era por que entre nosotros teníamos profesionales de universidades de renombre como la universidad de Salamanca que dicen que los estudiantes tienen que ver ranas verdes antes de un examen que no se creían las divinas garzas. Uno de los examinadores menciono el uso ineficiente de un algoritmo. Nuestra investigación ha encontrado que un grupo necesita de muchos tipos de personalidades. Raúl Murcia tiene una personalidad orientada a tareas. le gusta que las cosas se terminen y no descansa hasta que estén terminadas y por eso lo toma como que le pertenece. Esto es considerado de doble filo el mundo de programación. Una mujer programadora apunto un aspecto de la personalidad de Raúl cuando dijo que si Raúl siempre estaba dispuesto a hacer el trabajo de otros pero no a sugerir estrategias para resolver un problema. Mabel lee los informes que tiene de la conducta de grupo del proyecto. pero muy creído bien difícil de aceptar errores.

.

la retroalimentación de los usuarios es fundamental en la construcción de las especificaciones. Yo he trabajado con este modelo en muchos proyectos pero en este proyecto me oponía con mis garras por que veía el riesgo que este proyecto tenia para los usuarios. como experta programadora de avanzada que fue despedida Techtgronics por haberse opuso a seguir una antigua filosofía de desarrollo de software “modelo de prototipo” Juana puedes explicarnos tu filosofía y tu punto de discordia con tu jefe anterior Samuel Mago. Problemas encontrados: Presidente de Techtronic Miguel Morton ha puesto en cargo del software a Samuel Mago que su experiencia no era mas que proceso de datos en Negocios. El proyecto estaba mas diseñado desde el principio. Creo que me siento satisfecha de no haber participado en ese crimen pero a la vez pienso que pude haber hecho mas que eso. Mabel: te despidieron por no estar de acuerdo a la filosofía del jefe. Es cierto el prototipo da la oportunidad de crear un interfaz con retroalimentación de los usuarios. Mabel: Marta nos confirmo en su intervención anónima que tu fuiste bien clara cuando dijiste que la intervención de los operadores era indispensable y a la vez critica y debía de asegurase su seguridad desde el principio. Yo tengo claro mi función social profesional. Sino me hubieran despedido. Reymundo calvo se opone a ese nombramiento. Juana: Tu lo has dicho. el juramento que hice en mi graduación esta presente. Mira Mabel. yo no me hubiera adaptado a un desarrollo de ese tipo de software en esa forma irresponsable que Samuel Mago y Reymundo Calvo querían llevarla acabo. Diferentes filosofía en el desarrollo del software podría haber salvado la vida del operador Mateo Engracia. Me ha dado una gran experiencia y no creas me duele mucho la muerte de Mateo Engracia.Escena 4 Mabel y Juana Andrade Modelos usados para el desarrollo del software podría ser la falla de CX30 y no la mala interpretación de Raúl Murcia es lo que ahora se ventila Mabel ha investigado que CX30 tenia su falla desde el inicio. 1998) que incluye Análisis de riesgo y no solo tomo en cuenta la retroalimentación de los usuarios sino el ambiente y el impacto de los usuarios y también abogaba por SoDIS “Software development Impact Statements” que es una aplicación que atravez de declaraciones de impacto analiza detalladamente los riesgos de cada etapa del desarrollo del software. Debo de asegurarme que mi trabajo no daña a otros seres ni al ambiente. Juana. Mabel presenta a Juana Andrade. El tiene una filosofía de desarrollo de prototipo que ha sido muy exitoso en el mundo interactivo y en el que yo confiaba mucho. Juana Mira yo respeto la experiencia de Samuel Mago. Yo proponía una versión mas avanzada que usa como base el modelo prototipo “modelo Espiral” (Bohem. Yo no pienso que solamente Raúl es responsable. Quizás era mi deber parar el proyecto. . Yo hubiese renunciado. El profile es construido con las básicas funcionalidades pero las funcionalidades siguen refinando hasta conseguir la especificación final. Sin embargo para el tipo de tarea que teníamos enfrente no era el mas apropiado por los riesgo de seguridad del proyecto.

.

Como Presidente yo siempre he insistido y apoyado la calidad como nuestra primera misión. Profesor Ingeniero muy conocido por sus investigaciones. . Miguel: Inmediatamente después de conocer la tragedia yo personalmente contrate al mejor experto.Escena 5 Narrador: presenta a Miguel Morton presidente de Techtronics Sociedad Anónima. Quiero decir públicamente que quien haya sido responsable por ese descuido Serra despedido de nuestra compañía. Pedro Ponce a que condujera una investigación imparcial en la calidad de software y los procedimientos de calidad que Techtronics. Yo soy el primero en saber la verdad de esta tragedia y puedo asegurar que nuestros procedimientos siempre están enfocados a la calidad y no se ha escatimado ningún recurso para conseguir unos procedimientos de alta calidad en el desarrollo del software que fue empotrado en el Robot CX30.

Mabel: Profesor quisiera Explicarnos por que el software no es de fiable en muchas situaciones como lo hemos visto con nuestra experiencia del los sistemas Operativos en Windows 90”s sistemas operativos que es el software mas usado y por que no confia en aplicaciones controladas unicamente por software de ordenadores empotrados. Eso me podría entenderse de diversas maneras. Ponce. Otra prueba es tomar el modulo y correrlo en un programa especial “analizador estático” que busca por patrones sospechosos que pueden indicar errores como infinitos loops. Profesor Ponce. “procesos de control de calidad son metodologías aceptadas para asegurar que el software es fiable. El Presidente Miguel me ha contratado porque quizás confía en lo que le han dicho los supervisores que ellos se apegan a los estándares de procesos de control de calidad. Empieza desde que el programador escribe las instrucciones para una clase o modulo. Mis estudiantes graduados llevaron a cabo una exhaustiva prueba de cada clase a la misma vez de una prueba integrada “Caja Blanca y Caja Negra” Se comprobó que Tectronic sigue unos procedimientos que son estándares pero hubieron discrepancia entre los datos arrojados por el robot asesino y de los de archivo dados por el departamento de prueba. .Escena 6. Piense que todos las clases o módulos son probados estáticamente como dinámicamente. sus aviones están controladas casi completamente por software y poca intervención del Piloto. La investigación se llevo a cabo en los procedimientos y verificación de los procedimientos. en cualquier momento el ordenador puede tomar un estado de las innumerables estados que se dan. una que hubo sabotaje. Prácticamente no es posible probar todos los estados en todas las condiciones. Luego la integración de esos módulos o clases necesitan una prueba integrada. si existieran. Las pruebas que se hacen son heurísticas. una versión no aprobada fue instalada en vez de la versión instalada o que los datos archivados y usados para la aprobación del proyecto fueron falsificados. Narrador: Entrevista Mabel con el profesor Pedro Ponce quien es muy reconocido especialmente después de su articulo de “cuales son las aerolíneas que hay que evitar” razón dada en su articulo. la primera medida es probarlo con una prueba de datos “prueba dinámica”. Profesor Ponce advierte que el ha hecho una investigación imparcial mandada por la corporación. el tiempo que se necesitaría es en medida exponencial. en las que los mas probables es que se encuentren bugs(desperfectos). Aplicaciones programadas son los mas complejos artefactos creados por los humanos. Estos métodos son aplicados el todo el ciclo de vida del desarrollo del software.