El Software Que (A Veces) Te Mataba Con Radiación 

Yo recuerdo en mis clases de informática que los profesores nos repetían "cualquier cosa que programen, háganlo a prueba de idiotas, aunque la instrucción sea agregar un número entre 1 y 5, siempre habrá alguien que agregará una letra". Y ver este video me recuerda a eso, parece que las cosas que programas están bien pero no tomas en cuenta muchos factores externos.

Impecable video, hace 13 años que soy programador y pase por varias empresas (algunas internacionales muy muy grandes) y te puedo asegurar que no siempre se aplican procesos correctos de testeo, revisión, etc, es la interminable lucha entre intentar bajar el costo y ser bueno al mismo tiempo.

Hubo negligencias gravísimas por todas partes. Que una máquina de la que literalmente depende la vida de personas pueda seguir funcionando después de dar códigos de error del tipo que sean es una incompetencia imperdonable. Pero que tanto el hospital como la empresa la pusieran en funcionamiento de nuevo afirmando que habían conseguido multiplicar por 100000 la seguridad sin entender cuál y cómo fue el error que costó la vida y salud a varias es una negligencia que sobrepasa lo criminal.

¡¡Espectacular vídeo!! Curiosidades: Soy técnico en radioterapia en España, además de estudiante de medicina xD. La dosis habitual de un tratamiento no son 10 Grays, sino 60. Igualmente, 200 Gray es suficiente para asar a un paciente. Aquí en España, en Zaragoza, creo que en los años 90, hubo un problema parecido, pero no sé si de Hardware o de Software. La máquina en cuestión adminsitraba una dosis mucho más alta de la prescrita, con un resultado fatal para los pacientes. Desde entonces, todos los días por la mañana, se calibran todos los equipos de radioterapia con un dispositivo para garantizar que la dosis programada coincide con la dosis real administrada por la máquina. Por cierto, efectivamente los electrones se usan para tratar tumores superficiales, como los de piel, y algunas enfermedades no tumorales, mientras que los rayos X permiten irradiar tumores en profundidad. Hoy en día los electrones apenas se usan. La novedad es el tratamiento con protones. Me encanta tu contenido !!! Un saludo

yo soy Analista QA y cuando me certifiqué, este fue el ejemplo que salió en la clase, yo soy de los que se encargan de encontrar estos tipos de errores... excelente canal, suscrito!

En una de las primeras clases de introducción a la computación nos hablaron de este caso y el del avión que automatizaba los controles con software

Hola. Soy desarrollador de software, me llama la atención que el área de informática haya hecho "copy-paste" del software, evidentemente al haber actualizado el hardware se requiere actualizar el software. Muchas veces se asume que el esquema de un software es entrada-proceso-salida, lo correcto es entrada-validacion-proceso-validacion-salida, esto evita muchos errores, además nunca es bueno asumir que nuestro trabajo está bien, siempre debemos verificar. Saludos.

Persona necesita radiación: Doctor: bien. Máquina: *Poner la pata de elefante dice.

Muy interesante el video. Soy físico médico en España. Aquí denominado Radiofísico Hospitalario. Es muy curioso conocer todo esto, saber de donde venimos, donde estamos y donde quizás irá el futuro. Hoy en día los tratamientos ya no los introduce el operador, son diseñados previamente a través del físico médico mediante software, este tratamiento con todos los parámetros es volcado a una red y finalmente la red comunica con el acelerador para realizar el tratamiento. Existen estándar básicos para evitar cualquier tipo de confusión en este aspecto con todos los parámetros físicos de hz. La emisión de radiación genera en toda la sala señales luminosas de aviso. No mediante software ni hardware si no mediante detectores independientes del propio acelerador. Me resulta increible que se pueda irradiar y que el operador en dichos años no era consciente de que el acelerador estaba en funcionamiento. Además es necesario pulsar físicamente un botón para iniciar la irradiación, nunca una irradiación se puede iniciar exclusivamente por software. Los enclavamientos (interlogs) de hardware, hoy es impensabe que solo por software se pudiese irradiar sin un control electrónico de hardware en el que se verifica que los parámetros básicos de irradiación son correctos antes de generar el haz. Diariamente se controla que el acelerador acepta de forma correcta los parámetros y que la dosis de haz es correcta. Además mensualmente se realiza una verificación con detectores más finos de que el acelerador irradia de forma correcta. Hoy en día, los tratamientos antes de ser irradiados en pacientes son verificados al irradiarse en un detector, teniendo que ser coincidente la dosis. Al no existin variable humana de introducción de parámetros y ser los parámetros de la red los que configuran el haz permite verificar que el tratamiento es correcto. En España se han tenido incidente importante como fue el incidente de Zaragoza, este incidente fue producido porque un técnico de la empresa responsable del acelerador puenteó las energías irradiando siempre con la energía superior. En dicha época los físicos médicos eran testimoniales en el país y no existía legislación que obligara a prueba ninguna. Hoy en día esto es imposible, tras la intervención de un técnico de la emrpesa, el radiofísico, o físico médico debe verificar que los parámetros de haz se mantiene mediante mediciones independientes. Agradezco enormemente este video, conocer de donde vienen los mecanismos de seguridad actuales y además un toque de atención para estar siempre alerta pues tanto software o hardware no siempre es perfecto debiendo existir varios mecanismos de seguridad que impidan un accidente en radioterapia.

Otro tema de error de software y hardware en cierto modo de era moderna, fue el 737 max8, que esta detectaba que el avión estaba entrando en perdida, y le quitaba el control a los pilotos y corregía el trim mientras este estuviera en automático. Ojala lo pudieras investigar y hablaras de ello en un futuro video. Creo recordar que parte del problema era que el procesador se sobrecargaba y el software empezaba a fallar.

El verdadero "Pero no le di importancia"

Siempre tuve esa sensación de probable falla en el momento de irradiar ya sea por el simple cambio de un switch, o filtros en aparatos menos complejos, pero no por causa del software y menos que lo descubran en el hospitalel problema ; muy buen video, soy de Mantenimiento Elecronico

No sé porque RU-vid me mostró esto, pero increíblemente interesante y sobre todo bien explicado, ya tengo con que pasar el insomnio.

Ya se lo estoy compartiendo a mis amigos "las actualizaciones de Software son innecesarias", "No se toca lo que ya funciona". Excelente vídeo 👍🏽

Es increíble cómo una coincidencia puede ser tan letal en tantas ocaciones, esto solo deja en claro que nosotros como humanos no podemos evitar un asistente pero si evitar su causa.

En la lista de lecciones aprendidas yo agregaría, también, que es muy importante tener registros de eventos (log) para poder repasar los pasos que llevaron al error. Pienso que el error se podría haber evitado, si después de configurar el equipo, se pasaba a una pantalla de carga donde se configuraba todo el hardware y una vez configuraba todo, mostraba un reporte de como estaba configurado y preguntaba si quería iniciar o no.

Ahora que estás hablando de fallos catastróficos de software me acordé de la vez que una zonda espacial, que costó millones de dólares, se estrelló por el simple hecho de qué en uno de los pasos se les pasó el realizar una conversión del sistema inglés al internacional.

Este canal vale oro, no le canso de recomendarlo en los foros, ojalá tengas mucho más audiencia

Me paso parecido hace poco, en 2 computadoras con el controlador de una tarjeta wifi usb inalambrica aunque no estuviera conectada, solo en 1 computadora de cada 50 causa problemas, lo que causaba era congelaba como de 2 o 3 segundos cada 30 minutos y seguia funcionando normalmente no se apagaba o daba pantallaso asi todo el dia, se asocia normalmente a problemas de sectores dañados en el disco duro o el cable en mal estado, pero revisabas sectores dañados todo bien, el cable por si si o no lo cambias por uno nuevo, y seguia dando problemas, hasta llegas a pensar que es la tarjeta madre, formateabas y igual mismo problema, querias grabar un dvd, cd, transferir archivos o cualquier tarea que demore buen tiempo y la maquina con este problema no era confiable por que en cuanto ocurria eso te hechaba a perder la grabaciones y tareas programadas pendientes... POR FIN que di con el error despues de meses, de que era el driver de las tarjetas wifi que instalaba eran unas Netgear WG111v2 tipo G de 54mbps, en ciertas computadoras con chip de video intel G31 y G41 trabajando con sistema windows XP con su version de driver wifi mas reciente, que por cierto son muy pocas ya por eso me costo dar con ese error, el santo remedio fue instalarle un driver mas antiguo a ese sistema y sin la utilidad de netgear dejando que el sistema gestione las redes inalambricas, por cierto se consiguieron esas antiguas tarjetas inalambricas a buen precio y se ve que son de calidad, a pesar de ser antiguas tienen antenas potentes en distancias un poco alejadas son muy estables trabajan mejor en la practica que una usb wifi china tipo N de 150mbps, cumplen bien para el trabajo y hasta ahora ninguna se ha dejado de funcionar, solo por ese pequeño problema muy raro y especifico con el driver, salieron buenas en general esas usb netgear

Cuando veo estos casos de negligencia me tiembla la mandíbula de rabia, pobre de la gente que murió por culpa de eso

Definitivamente este se está volviendo poco a poco uno de los mejores canales de divulgación sobre software que hay en youtube.

Dios!!! Necesito más vídeos, son adictivos. Excelente narración y trabajo investigativo amigo.

Alguien fue a la cárcel por 3 muertes directas?

Cómo estudiante de ingeniería biomédica este tipo de videos me encantan, magnífico contenido el que subes, me encanta.

Maestro Saitama, siempre es un placer verle por este medio, sobre todo cuando se pone a divulgar... un abrazo!

Impresionante video, enhorabuena por el detalle y por la buena explicación.

Es realmente importante hacer este tipo de revisiones, personalmente nunca digo que tengo algo listo hasta que no estoy seguro que tengo todo tipo de situaciones posibles en el codigo. Muchas gracias

Es común que aveces pasen errores, yo trabajo programando y diseñando hardware para robots y maquinas de minería y cuando uno programa comete el error aveces de ver todo como que el usuario haría las cosas igual que nosotros y aveces por eso quedan bug, se debe pensar como un usuario común para tratar de ver todas las posibilidades. Una vez me paso en una maquina de minería que el equipo funciono bien varios meses estaba recién entregado y no fallaba nada, pero un día cambiaron al operario e hizo una combinación extraña de comandos, botones que era casi imposible que pasara y paso jaja bueno la maquina fallo y se rompieron un para de cosas pero nada grave ya que era teleoperada , desde ese día después de desarrollar hacemos pruebas con todas las posibles formas de uso que podria dar un operario comun sobre todo en mineria que son brutos y apretan cosas sin ver manuales.

Buenas tardes , muchas gracias, demasiada calidad en el contenido del canal y la forma de difundir estos temas, da un punto de vista muy diferente. simplemente gracias 10/10

¡Muy buen video! Es genial como elaboras tus videos, sigue subiendo contenido por favor!

Me encantó tu video, tus explicaciones, el tema etc. Me gustaria ver mas videos como este.

Tu contenido siempre es de mucha calidad, lo he recomendado a mis colegas, ¡saludos!

Exelente contenido. Acabo de descubrir este genial canal, ojalá tengas muchos éxitos en tu canal.🙏🏻

Lo prometido es deuda!!! Excelente video Rodrigo, Siempre aprendiendo algo nuevo...

Exelente video, gracias por compartir la información. Esperemos más vídeos.

Impresionante video. Y un tema muy muy poco tratado. Por favor necesitamos más videos asi

De los mejores videos sobre desarrollo de software que he visto, muchas gracias.

una marravilla la calidad de divulgación y investigación, me gustaria seguir viendo videos como este !!!

lo use como podcast mientras hacia un trabajo para la universidad relacionado con el software en las instituciones publicas, muy interesante, y estoy de acuerdo con las reflexiones al final del video, el uso y mantenimiento del software es de vital importancia para su correcto funcionamiento eso es básico, en especial para esta clase de situaciones una lastima que se perdieran vidas por estos errores...

Excelente e interesante contenido. Deberían mostrar este video en todas las escuelas y universidades donde impartan programación!, saludos

Excelente video, un deleite total. Ya estas para hacer documentales sobre tecnologia 👏👏

muy buen video ringa! la importancia de testear los programas y máquinas

Buenísimo el vídeo, muy informativo sin ser aburrido. Me suscribo..

Que genial información! Y qué buenas lecciones!

Muy interesante y bien expuesto como paciente de radio terapia me causo terror saber que podrían pasar este tipo de cosas en tratamiento por suerte actualmente hay más precaución con estos fallos.

! Excelente video! 😲 es la primera vez que veo tu contenido y ya tienes un nuevo suscriptor.

Muchas gracias por el contenido, es un excelente contenido, se agradece mucho. saludos.

Trabajo en el departamento de validaciones, y me encargo de validaciones de sistemas computarizados/automatizados, realmente mi profesion no es relacionada con software o hardware, pero si con la industria farma, donde se usan equipos automaticos, mi curiosidad por los computadores y ganas de juguetear se pueden usar adecuadamente oara encontrar errores en el software de los equipos, y es parte del trabajo de validacion, este ejemplo sirve mucho para aprender

Excelente video amigo, mucho éxito!!

hacía días que no veía un tremendo vídeo así!, muchísimas gracias!

Que buen video loco, ademas de que el tema es interesante, tu forma de contarlo lo hace aún mas.

Gracias por estos videos tan informativos. Ojalá RU-vid recomendará más este tipo de canales.

Yo he recibido radiación y no sé cómo explicarlo pero sí se siente, si hubieran dejado hablar a la paciente en vez de darle varias veces radiación pensando que no pasaba nada lo hubieran notado

Gracias, excelente video y un caso terrible de fallas de software.

acabo de encontrar tu canal y quiero decir que estan muy chingones tus videos saludos y mucha suerte.. saludos

Muy interesante, ahora miraré la fase de QA con otros ojos.

soy ingeniero de software en USA y sinceramente tu video es increible!!!! gracias por tu esfuerzo.

q bien explicado, da gusto seguir tus comentarios, ojalá esto sirva a muchos creadores de software a no pecar de exceso de confianza, murphy siempre se cumple. por otra parte, creo necesario q todas estas tecnologias de alto riesgo, con el tiempo, se vean obligadas a seguir un protocolo de seguridad en capas, como ocurre con los aviones comerciales, y q cada fase del proceso haga su propio testeo de configuacion coherente antes de continuar. Gracias y felicitaciones.

Buenísimo el video la verdad, según lo que llego a ver como desarrollador de software y acorde a lo que pude aprender de la vida, puedo ver cómo el desarrollo tiene que ser de lo más orgánico posible. Cosa que en casos como estos no lo es, más que nada porque los individuos que suelen estar a cargo de empresas intentan responder a una demanda rápida de las solicitudes de diferentes individos en instituciones siempre ligadas a contratos burocráticos que se interponen en una relación orgánica entre ambas partes para conseguir productos que sean seguros como se necesitan en estos casos y que además, si llegan a conseguir algo tan importante como la máquina, los individuos pueden conseguir tanto poder en un sistema que salen impunes ante determinados eventos como la muerte de algún paciente porque no se corra la voz. Muchos pensarán seguro que las regulaciones de seguridad establecidas para estos desarrollos son lo que va a evitar que en futuras invenciones sucedan accidentes tan horribles. Sin embargo no puedo evitar ver a estas regulaciones como desinsentivos y dificultades de nuevos competidores para que desarrollen mejores sistemas con menor presupuesto, cosa que los que ya están dentro de los ámbitos tecnológicos, ya tienen por sus propios medios el dinero para, o pagar el desarrollo de diferentes parámetros de seguridad exaustivos, o para pagarle a los burócratas de turno que viven de estas regulaciones. Y que aún así terminan con accidentes como el del Samsung Galaxy S7 si no me equivoco, que estallaba la batería por física básica. Ojo que no estoy proponiendo sistemas ni estar en contra de algo, lo que sí estoy viendo es cómo siempre se desarrollan desinsentivos al crecimiento orgánico por medio de diferentes burocracias, y todo lo que rompa paradígmas cada vez es más dificil de crear y siempre termina siendo por los mismos actores que tienen el dinero para poder realizarlas y hasta normalmente se basan en un conjunto de pequeños cambios ya creados independientemente. Que ojo, no está mal que se hagan este conjunto de cambios, pero las trabas para la proyección orgánica a gran escala se hace cada vez más notoria.

Este video esta muy bien elaborado, aunque no estudie ingeniería en sistemas, incidentes como este pueden pasar en cualquier otro campo laboral, las fallas de seguridad están en todos lados y nunca debemos dejarlos pasar por alto

Muy buen video, me gusta mucho la forma en la que narras!!!

Que gran caso, mas videos como este!, todo tu contenido me parece interesante como Ingeniero de profesión.

Excelente vídeo y clara explicación. Resulta atrapante el tono con el que lo relatas, dan ganas de ver hasta el último segundo. Otra cosa que noté y que me gustó mucho, fue que en la animación de la pantalla del Terac25 al cambiar la X por la E, en la parte inferior derecha aún sigue seleccionado el tratamiento para rayos X. Esos pequeños detalles de producción que ayudan a comprender el relato valen oro.🙌

Están geniales estos videos. 👏👏👏

Este canal es pura calidad ... Si youtube promocionara más este tipo de contenido, ahora seriamos una mejor sociedad. Podrías hablar de Stuxnet ... Me gustaría tu magistral explicación, y como abordarías el tema !!!

Muy buen contenido! Aporta mucho valor y utilidad para las mejores practicas.

Te escuché desde principio a fin, impresionante. Gracias por tu video.

Excelente trabajo!!

Fantástico vídeo. Gracias.

no tengo mucha idea sobre programacion pero es muy interesante los casos que comentas, me gusta tu canal!

Que buen vídeo, cómo el del A346. Ojalá sigas subiendo más así. Saludos desde Colombia.

uffffff me encanta este tipo de videos siendo del área de ingeniería de sistemas Ringa seguí con este tipo de casos de software que falla y explicando las fallas, excelente

Buen video amigo, te felicito!

Que clase de video! Excelentes habilidades comunicacionales y contenido. Nuevo suscriptor por acá.

Me encanto el video.Y por supuesto me encantaria seguir viendo videos de estos temas. Me quede asombrado de todo lo que se tuvo que investigar para detectar el problema de los 8 segundos y que era debido a que la operadora era muy buena con el teclado. Siempre es dificil programar para el peor caso.

Interesante informacion, no me cabe en mi cabeza que un software de los años 80 pudiese tener esos errores graves, normalmente al pasar los años y ser mucho mas complejos los sistemas operativos y el software, tienen tendecia a contener errores. Tambien es muy critico dejar todo en manos del software y no en llaves de seguridad de hardware, es como tener un horno de microondas y que los swhitchs sean solo sensores que informan a la computadora de control!

Soy fan de la manera que explicas casos de fallos de software... haz más plis

Me encantan tus videos ringa, me impulsaron a irme por la ingeniería en sistemas

me encantas estos videos, sigue así 💪

Espectacular historia quiero más, Lo que más me ha gustado, ha sido la explicación, el énfasis en los detalles

Que video tan increible, me encanta que no solo cuentas una historia, sino que lo haces desde una perspectiva de programador. Con este tipo de material solo me apasiono más por mi carrera. Increíble, nuevo sub!

Muy interesante y buen video, se agradece.

Muy informativo. Buen video.

Impresionante. No sabía nada de esta historia. Me sonaba de niño en los 80, alguna noticia pero poco más. Lo más fuerte para mí es el error 54. Ún número que me persigue a donde vaya.

Excelente.....por supuesto que este tipo de videos son muy útiles como cultura general......eso sí por favor no dejes de hacer videos donde programas, también son geniales.

Muy buen video sabes ahora pensando si no tenemos cuidado y usamos nuestro se sentido comun como humanos y dejamos muchas cosas en manos de la inteligencia artificial y pensamos que cada cosa que nos indica es segura y precisa creo que a futuro podremos ver muchos problemas como este por eso nunca debemos fiarnos por completo de nada. Saludos desde Costa Rica y sigue con este tipo de contenido vas muy bien.

Muy buen contenido bien trabajado

Gran video como siempre

Super interesante e informativo, imposible no terminar de ver el video

Muy interesante video Ringa Tech.

Gracias por la info!

Muy bueno, no conocía los detalles de la historia. Saludos y éxitos.

Tus videos son muy interesantes Sigue asi

Muchas gracias, muy buen video.

Que buen docu alto laburo de investigación muchas gracias, nunca había escuchado de este caso, siento que de alguna forma esto me afecta, soy electrónico a punto de obtener mi título, estos aspectos de la seguridad en las máquinas siempre me han puesto muy paranoico al diseñar algo.

Wooww no me había puesto a pensar que un programa puede fallar en algo y tenga consecuencias devastadoras. Buena información en tu video 👍 sigue adelante.

Super interesante y aparte poco"visto"lo que habla este video,aparte de las demandas legales a las empresas implicadas,es mala prensa y seguramente a nadie le conviene demasiado ventilar estas cosas,por eso no se conocen estos incidentes,saludos desde Argentina.

Muy buenos videos, ta termine de ver todos tus videos, podrías seguir haciendo videos de inteligencia artificial y todo relacionado con eso. Saludos

En el año 1991 en España sucedió un caso similar, se le conoció como el fallo del acelerador lineal del hospital clínico de Zaragoza.

Excelente video, me despertó mucha más curiosidad por el software :)