Muy buen artículo, sobre todo porque bajas el debate al terreno de la responsabilidad y no solo al de la precisión técnica.
En mi caso reciente lo viví de forma muy práctica. Hace poco tuve una gastroenteritis fuerte, con vómitos y dolor abdominal. A las dos de la mañana no tienes a tu médico al teléfono, así que pregunté dudas a la IA para orientarme y entender qué podía estar pasando. Me ayudó a ordenar ideas y a no entrar en pánico. Pero por la mañana fui a que me viesen para asegurarme de que no había un tránsito intestinal detenido ni nada más serio. Eso no lo mide un chatbot, eso lo valora un profesional explorándote.
Para mí ahí está la clave, la IA puede ayudarte a entender mejor lo que te pasa, a formular mejores preguntas, a no ser un paciente pasivo pero el sentido común de acudir al médico cuando toca no lo sustituye ninguna herramienta.
También creo que el paciente tiene que implicarse más en su propia salud. En mi experiencia, si me hubiera limitado a lo básico, probablemente solo me mirarían el LDL y poco más. Al formarme por mi cuenta, leyendo artículos científicos, escuchando podcasts y usando la IA para comprender mejor conceptos, he podido pedir en analíticas marcadores que nunca me habrían solicitado de rutina y que me permiten evaluar mi salud con más criterio.
Lo peligroso no es usar IA, lo peligroso es no aprender nada y depender ciegamente de una sola fuente, sea un algoritmo o un profesional. El futuro, seguramente no es sustitución, es pacientes más informados, médicos responsables y herramientas bien gobernadas.
Creo que esa es la idea del artículo: poner en contexto la IA y reconocer sus valores intrínsecos sin caer en la necedad de la idolatría de la sustitución. Pero su aportación con un caso particular me ha dado un input extra. Creo que mi comprensión lectora es buena pero un buen ejemplo me lleva a interpretar —sentir— un texto con otra profundidad. Así que gracias a las dos.
Gracias, Fernando. Me alegra que el ejemplo haya sumado. A veces los datos convencen a la cabeza, pero los casos concretos aterrizan el debate y lo vuelven más humano.
Creo que ahí está el punto, no es idolatrar ni demonizar, es integrar con criterio. La IA puede ser una herramienta potentísima, pero el aprendizaje y la responsabilidad siguen siendo personales y cuando combinamos tecnología con conciencia, el nivel sube para todos.
Yo te lo compro todo pero creo que como paciente, los profesionales de la medicina tendéis a ver esto en blancos o negros. Pero la IA puede ser muy útil para decirte si el fluimicil se toma por la mañana o por la noche, si tal y tal medicamento tienen interacciones peligrosas y como distinguir tos seca de mocos. Eso sí es información de salud que probablemente no consultarías a un médico y que por tanto no sustituye al médico sino a la improvisación. Digo yo.
Qué buen artículo. Me encanta leerte porque conectas tus textos con material histórico, científico y de actualidad.
No es el caso, pero personalmente, reconozco que desde octubre pasado que me partí la falange distal en el trabajo, y debido a la mala profesionalidad de la sanitaria que me atendió, no he parado de preguntar al chat gpt; ¿Por qué la Mutua me manda a trabajar con el dedo roto?¿Por qué se me ha quedado torcido hacia abajo y no va hacia atrás aunque lo fuerce? ¿Por qué la mutua normaliza mi dedo deformado? Y ya el dichoso chat ya sabe que trabajo en una fundición de acero, con maquinaria pesada y así recopila información mía, pero mi dedo quedó mal...
Manu, siento mucho lo de tu dedo. Cuando una lesión queda mal resuelta y además sientes que no te han escuchado, es normal buscar respuestas donde sea, más aún trabajando en un entorno como una fundición, donde la mano no es un detalle menor.
Que preguntes a la IA no me parece raro. Cuando el sistema no te da explicaciones claras, uno intenta entender qué ha pasado y qué opciones tiene. El problema no es preguntar, el problema sería quedarte solo con eso.
Si el dedo ha quedado en flexión y no extiende bien, ahí ya no estamos en el terreno de opiniones, sino de valoración física, movilidad, tendones, posible lesión mal consolidada, etc. Eso requiere exploración directa y si no te convence lo que te dijeron, una segunda opinión de traumatología fuera de la mutua si puedes.
La IA puede orientarte y ayudarte a hacer mejores preguntas pero no puede palpar, no puede medir rango de movimiento ni valorar funcionalidad real, y en tu caso con maquinaria pesada de por medio, eso es importante.
Lo que cuentas no es tanto un debate IA sí / IA no, es un tema de calidad asistencial y de derecho a una valoración adecuada.
Si algo no encaja, no te conformes con “es normal”. Tu mano es tu herramienta de trabajo y eso merece que se revise bien.
Sí, tienes razón. Mi comentario al post respondía más como ejemplo personal de la necesidad que tuve en recurrir a una IA cuando consideré para nada profesional el diagnóstico de la sanitaria de una mutua.
Espero que tengas un buen día. Yo voy a dormir, que acabo de llegar de trabajar de noche😀🙏🏻
Manu, gracias por aclararlo y te entiendo perfectamente.
Cuando sientes que no te han atendido bien, lo que buscas no es tecnología, buscas comprensión y seguridad y si eso no te lo da el sistema, lo intentas encontrar donde puedes.
Me parece muy legítimo lo que hiciste. Lo importante es que no te quedes solo con respuestas digitales si algo físicamente no está bien.
Descansa ahora, que después de noche el cuerpo pide tregua.
Muy interesante. Respecto al sesgo de anclaje hay que recordar que los modelos de lenguaje lo que hacen es darte la respuesta más probable. No la más ajustada a la realidad. Por tanto, no es sorprendente que si minimizas, ellos también lo hagan.
El problema es que mucha gente piensa que son como una gran base de datos con mucha información y que te buscam la respuesta correcta, pero no es así. Hay con otros temas que da más igual pero con temas médicos hay que tener especial ciudado.
No creí que tanta gente consulta sus síntomas con IA. Lo más que he hecho ha sido pedir "traducción" a una jerga que yo entienda mis informes de resultados.
Excelente artículo, con datos, ejemplos y fuentes, venía pensando en esto hace meses porque cada vez más gente usa la IA para consultas médicas. Creo que aclaré mis dudas, muchas gracias.
La IA es un campo muy amplio. En concreto pareces estar hablando de la IA generativa basada en transformers (CHATGPT).
Este tipo de IA simplemente intenta adivinar que palabra es más congruente que aparezca a continuación. Y así, palabra a palabra va construyendo frases, párrafos y, si se lo pides, un texto entero.
Es asombrosamente buena redactando. Dice cosas que parecen tener mucho sentido. Si se trata de un tema común (que tenia muchos ejemplos en su entrenamiento) te dará una respuesta veridica.
Pero esta IA no es capaz de entender absolutamente nada de lo que te está diciendo. No hay comprensión, no hay ni un solo concepto detrás, no hay entendimiento.
Esta IA construirá frases que suenen bien y parezcan congruentes. Y está entrenada para construir siempre frases, aunque no tenga ni idea de lo que está diciendo. Y cuando no tiene ejemplos en su entrenamiento, simplemente se inventa las cosas.
Este comportamiento se llama "alucinar", ya que "mentir" implicaría intención (cosa que una IA no tiene). Para que no alucine mucho se le ponen límites, cosa que hacen trabajadores indios (o de Bangladesh) que tiene tanta idea de medicina como tu cuñado.
Sabiendo esto, si le haces caso en algo importante, ¿qué puede salir mal?
No tenemos ni las más remota idea de dónde va a estar esta tecnología en 5 años. Creo que ya lo sabremos cuando lleguemos, lo demás es especulación (la que agiganta y la que minimiza).
Tan simple como que la IA en medicina puede ser útil si a la IA le enseña un médico y la consultan médicos. Si la consulta un lego solo es información que debe ser contrastada con un médico.
Chat GPT miente más que habla , como para fiarse. Yo a veces le pregunto cosas de salud, pero procuro verificar, con mis propios conocimientos o busco. Y sí a veces es útil pero otras no. Por ejemplo la estoy usando mucho para estudiar una opo y que me explique cosas que vienen en las leyes que no entiendo porque el texto legislativo es más enrevesado que el ovillo de un gato epiléptico. Sin embargo a veces le hago preguntas sobre un PDF de una ley que le he integrado para que me de sus respuestas sobre él y aún así es capaz de soltar cualquier cosa. Funciona bastante bien si pegas una parte del texto y haces una pregunta sobre ese texto, pero no tan bien cuando tiene que revisar un PDF de 100 páginas. De hecho siempre le digo que me diga de qué artículo saca sus respuestas y reviso y le echo la bronca cuando se equivoca 😂 y me da la razón y me pide perdón, creo que nos supera en empatía 😝.
Con esto quiero decir que tienes toda la razón, no podemos fiarnos pero ostrás ojalá alguna gente hablara antes con la IA y ésta le diga “no, un corte con un folio no requiere atención médica urgente y menos a las 3 de la mañana”.
Gracias de corazón (y otros órganos). Me pregunto si muchas de las ideas que sugiere y comenta podrían extrapolarse a otros campos en los que la intervención humana tiene un valor ontológico y espiritual que no logrará replicar ninguna IA. Saludos
Justo acabo de vivir en propias carnes el ejemplo del articulo. Entré en Urgencias con lo que se vio después que era una cetoacidosis euglucemica, mas oculta en los sintomas incluso que una cetoacidosis clasica, y lo primero que dijo el medico que me colocó en la camilla, antes de hacerme cualquier prueba, fue: "el aliento le huele absolutamente a acetona"... ¿Existe alguna IA con olfato? Gracias Sr medico.
Extraordinario, otra vez, ojala que lo lean todos los millones que recurren a CHATGPT todos los días. Ya Dr. Google fue desplazado por la IA, pero nosotros imposible, años y años de trabajo, años y años de estudio, años y años de evidencia clínica.
Muy buen artículo, sobre todo porque bajas el debate al terreno de la responsabilidad y no solo al de la precisión técnica.
En mi caso reciente lo viví de forma muy práctica. Hace poco tuve una gastroenteritis fuerte, con vómitos y dolor abdominal. A las dos de la mañana no tienes a tu médico al teléfono, así que pregunté dudas a la IA para orientarme y entender qué podía estar pasando. Me ayudó a ordenar ideas y a no entrar en pánico. Pero por la mañana fui a que me viesen para asegurarme de que no había un tránsito intestinal detenido ni nada más serio. Eso no lo mide un chatbot, eso lo valora un profesional explorándote.
Para mí ahí está la clave, la IA puede ayudarte a entender mejor lo que te pasa, a formular mejores preguntas, a no ser un paciente pasivo pero el sentido común de acudir al médico cuando toca no lo sustituye ninguna herramienta.
También creo que el paciente tiene que implicarse más en su propia salud. En mi experiencia, si me hubiera limitado a lo básico, probablemente solo me mirarían el LDL y poco más. Al formarme por mi cuenta, leyendo artículos científicos, escuchando podcasts y usando la IA para comprender mejor conceptos, he podido pedir en analíticas marcadores que nunca me habrían solicitado de rutina y que me permiten evaluar mi salud con más criterio.
Lo peligroso no es usar IA, lo peligroso es no aprender nada y depender ciegamente de una sola fuente, sea un algoritmo o un profesional. El futuro, seguramente no es sustitución, es pacientes más informados, médicos responsables y herramientas bien gobernadas.
Creo que esa es la idea del artículo: poner en contexto la IA y reconocer sus valores intrínsecos sin caer en la necedad de la idolatría de la sustitución. Pero su aportación con un caso particular me ha dado un input extra. Creo que mi comprensión lectora es buena pero un buen ejemplo me lleva a interpretar —sentir— un texto con otra profundidad. Así que gracias a las dos.
Gracias, Fernando. Me alegra que el ejemplo haya sumado. A veces los datos convencen a la cabeza, pero los casos concretos aterrizan el debate y lo vuelven más humano.
Creo que ahí está el punto, no es idolatrar ni demonizar, es integrar con criterio. La IA puede ser una herramienta potentísima, pero el aprendizaje y la responsabilidad siguen siendo personales y cuando combinamos tecnología con conciencia, el nivel sube para todos.
Yo te lo compro todo pero creo que como paciente, los profesionales de la medicina tendéis a ver esto en blancos o negros. Pero la IA puede ser muy útil para decirte si el fluimicil se toma por la mañana o por la noche, si tal y tal medicamento tienen interacciones peligrosas y como distinguir tos seca de mocos. Eso sí es información de salud que probablemente no consultarías a un médico y que por tanto no sustituye al médico sino a la improvisación. Digo yo.
Qué buen artículo. Me encanta leerte porque conectas tus textos con material histórico, científico y de actualidad.
No es el caso, pero personalmente, reconozco que desde octubre pasado que me partí la falange distal en el trabajo, y debido a la mala profesionalidad de la sanitaria que me atendió, no he parado de preguntar al chat gpt; ¿Por qué la Mutua me manda a trabajar con el dedo roto?¿Por qué se me ha quedado torcido hacia abajo y no va hacia atrás aunque lo fuerce? ¿Por qué la mutua normaliza mi dedo deformado? Y ya el dichoso chat ya sabe que trabajo en una fundición de acero, con maquinaria pesada y así recopila información mía, pero mi dedo quedó mal...
Manu, siento mucho lo de tu dedo. Cuando una lesión queda mal resuelta y además sientes que no te han escuchado, es normal buscar respuestas donde sea, más aún trabajando en un entorno como una fundición, donde la mano no es un detalle menor.
Que preguntes a la IA no me parece raro. Cuando el sistema no te da explicaciones claras, uno intenta entender qué ha pasado y qué opciones tiene. El problema no es preguntar, el problema sería quedarte solo con eso.
Si el dedo ha quedado en flexión y no extiende bien, ahí ya no estamos en el terreno de opiniones, sino de valoración física, movilidad, tendones, posible lesión mal consolidada, etc. Eso requiere exploración directa y si no te convence lo que te dijeron, una segunda opinión de traumatología fuera de la mutua si puedes.
La IA puede orientarte y ayudarte a hacer mejores preguntas pero no puede palpar, no puede medir rango de movimiento ni valorar funcionalidad real, y en tu caso con maquinaria pesada de por medio, eso es importante.
Lo que cuentas no es tanto un debate IA sí / IA no, es un tema de calidad asistencial y de derecho a una valoración adecuada.
Si algo no encaja, no te conformes con “es normal”. Tu mano es tu herramienta de trabajo y eso merece que se revise bien.
Muy bien artículo!! 👏🏻👏🏻👏🏻👏🏻
Hola, Darío. Muy buenos días🫂
Sí, tienes razón. Mi comentario al post respondía más como ejemplo personal de la necesidad que tuve en recurrir a una IA cuando consideré para nada profesional el diagnóstico de la sanitaria de una mutua.
Espero que tengas un buen día. Yo voy a dormir, que acabo de llegar de trabajar de noche😀🙏🏻
Recibe un abrazo 🫂🫂
Manu, gracias por aclararlo y te entiendo perfectamente.
Cuando sientes que no te han atendido bien, lo que buscas no es tecnología, buscas comprensión y seguridad y si eso no te lo da el sistema, lo intentas encontrar donde puedes.
Me parece muy legítimo lo que hiciste. Lo importante es que no te quedes solo con respuestas digitales si algo físicamente no está bien.
Descansa ahora, que después de noche el cuerpo pide tregua.
Un abrazo grande.
Muy interesante. Respecto al sesgo de anclaje hay que recordar que los modelos de lenguaje lo que hacen es darte la respuesta más probable. No la más ajustada a la realidad. Por tanto, no es sorprendente que si minimizas, ellos también lo hagan.
El problema es que mucha gente piensa que son como una gran base de datos con mucha información y que te buscam la respuesta correcta, pero no es así. Hay con otros temas que da más igual pero con temas médicos hay que tener especial ciudado.
No creí que tanta gente consulta sus síntomas con IA. Lo más que he hecho ha sido pedir "traducción" a una jerga que yo entienda mis informes de resultados.
Una pena que la gente se fie para diagnosticarse.
Excelente artículo, con datos, ejemplos y fuentes, venía pensando en esto hace meses porque cada vez más gente usa la IA para consultas médicas. Creo que aclaré mis dudas, muchas gracias.
La IA es un campo muy amplio. En concreto pareces estar hablando de la IA generativa basada en transformers (CHATGPT).
Este tipo de IA simplemente intenta adivinar que palabra es más congruente que aparezca a continuación. Y así, palabra a palabra va construyendo frases, párrafos y, si se lo pides, un texto entero.
Es asombrosamente buena redactando. Dice cosas que parecen tener mucho sentido. Si se trata de un tema común (que tenia muchos ejemplos en su entrenamiento) te dará una respuesta veridica.
Pero esta IA no es capaz de entender absolutamente nada de lo que te está diciendo. No hay comprensión, no hay ni un solo concepto detrás, no hay entendimiento.
Esta IA construirá frases que suenen bien y parezcan congruentes. Y está entrenada para construir siempre frases, aunque no tenga ni idea de lo que está diciendo. Y cuando no tiene ejemplos en su entrenamiento, simplemente se inventa las cosas.
Este comportamiento se llama "alucinar", ya que "mentir" implicaría intención (cosa que una IA no tiene). Para que no alucine mucho se le ponen límites, cosa que hacen trabajadores indios (o de Bangladesh) que tiene tanta idea de medicina como tu cuñado.
Sabiendo esto, si le haces caso en algo importante, ¿qué puede salir mal?
Muy buen artículo. Genial.
No tenemos ni las más remota idea de dónde va a estar esta tecnología en 5 años. Creo que ya lo sabremos cuando lleguemos, lo demás es especulación (la que agiganta y la que minimiza).
Tan simple como que la IA en medicina puede ser útil si a la IA le enseña un médico y la consultan médicos. Si la consulta un lego solo es información que debe ser contrastada con un médico.
Chat GPT miente más que habla , como para fiarse. Yo a veces le pregunto cosas de salud, pero procuro verificar, con mis propios conocimientos o busco. Y sí a veces es útil pero otras no. Por ejemplo la estoy usando mucho para estudiar una opo y que me explique cosas que vienen en las leyes que no entiendo porque el texto legislativo es más enrevesado que el ovillo de un gato epiléptico. Sin embargo a veces le hago preguntas sobre un PDF de una ley que le he integrado para que me de sus respuestas sobre él y aún así es capaz de soltar cualquier cosa. Funciona bastante bien si pegas una parte del texto y haces una pregunta sobre ese texto, pero no tan bien cuando tiene que revisar un PDF de 100 páginas. De hecho siempre le digo que me diga de qué artículo saca sus respuestas y reviso y le echo la bronca cuando se equivoca 😂 y me da la razón y me pide perdón, creo que nos supera en empatía 😝.
Con esto quiero decir que tienes toda la razón, no podemos fiarnos pero ostrás ojalá alguna gente hablara antes con la IA y ésta le diga “no, un corte con un folio no requiere atención médica urgente y menos a las 3 de la mañana”.
Gracias de corazón (y otros órganos). Me pregunto si muchas de las ideas que sugiere y comenta podrían extrapolarse a otros campos en los que la intervención humana tiene un valor ontológico y espiritual que no logrará replicar ninguna IA. Saludos
Buena información. Gracias
Justo acabo de vivir en propias carnes el ejemplo del articulo. Entré en Urgencias con lo que se vio después que era una cetoacidosis euglucemica, mas oculta en los sintomas incluso que una cetoacidosis clasica, y lo primero que dijo el medico que me colocó en la camilla, antes de hacerme cualquier prueba, fue: "el aliento le huele absolutamente a acetona"... ¿Existe alguna IA con olfato? Gracias Sr medico.
Extraordinario, otra vez, ojala que lo lean todos los millones que recurren a CHATGPT todos los días. Ya Dr. Google fue desplazado por la IA, pero nosotros imposible, años y años de trabajo, años y años de estudio, años y años de evidencia clínica.
Extraordinario, felicidades!!