Tecnología
La OMS alerta sobre peligros de programas como ChatGPT
La máxima autoridad de la salud dejó saber que estas herramientas pueden ser entrenadas con datos falsos y ser utilizadas indebidamente.
- Redacción
- /
- [email protected]
- /
- PanamaAmerica
- - Actualizado: 21/5/2023 - 11:59 am
Cuestionan el uso que le pueden otorgar los profesionales de la salud u otras personas al preguntarle sobre diagnósticos.
La inteligencia artificial (IA) ha sido el tema destacado del año 2023, gracias a sus poderosas herramientas que permiten a los usuarios realizar una amplia gama de tareas, como redactar ensayos, programar páginas web y resolver problemas matemáticos complejos. Sin embargo, frente a este avance tecnológico, la Organización Mundial de la Salud (OMS) ha emitido una preocupante advertencia.
La OMS se ha referido específicamente a las herramientas de modelos lingüísticos, como ChatGPT, cuya excelencia ha destacado con notable en los últimos meses.
Estas herramientas son capaces de imitar los procesos de comunicación humana y su funcionamiento es simple: una persona plantea una pregunta y la IA, gracias a su capacidad para comprender el lenguaje humano, brinda una respuesta en cuestión de segundos después de analizar la información almacenada.
La OMS ha alertado que estas herramientas pueden ser entrenadas con datos falsos y utilizadas indebidamente para "generar y difundir desinformación muy convincente" en forma de texto, video y audio. Específicamente, la organización cuestiona el uso que profesionales de la salud u otras personas podrían hacer de ellos al consultar sobre diagnósticos u otra información médica.
La OMS insiste en que es imperativo examinar cuidadosamente los riesgos que implica utilizar estas herramientas como método de apoyo para la toma de decisiones médicas. No obstante, la OMS se muestra entusiasmada con los avances tecnológicos en este ámbito.
La preocupación principal radica en que estas herramientas podrían inducir un error a los médicos y causar daño a los pacientes. Además, preocupa a la OMS la posibilidad de que se suministren datos personales a estas tecnologías sin tener en cuenta la privacidad y seguridad de la información.
Ante estas situaciones, la OMS propone que las autoridades nacionales estudien detenidamente los beneficios de la inteligencia artificial con multas sanitarias antes de generalizar su uso.
'Este año Microsoft invirtió en OpenAI y empezó a colaborar con la empresa: así, el chatbot con IA de Microsoft, Bing, está potenciado con la tecnología GPT-4 y Dall-e, ambas desarrolladas por OpenAI.
El organismo ha identificado seis principios fundamentales que deben regir en este ámbito: la protección de la autonomía de los profesionales, la promoción del bienestar humano, la transparencia, la responsabilidad, la inclusión y la promoción de una inteligencia artificial sostenible.
Estas preocupaciones planteadas por la OMS no son únicas. Expertos como Yuval Noah Harari, reconocido filósofo y autor de renombre, advierten que las consecuencias de la IA pueden ser "desastrosas".
Harari plantea dudas sobre si la humanidad puede sobrevivir al "régimen" que se creará con esta y otras herramientas tecnológicas poderosas. Incluso Sam Altman, director ejecutivo de OpenIA, la empresa creadora de ChatGPT, ha expresado su preocupación, ya que no desea que la herramienta se convierta en un generador de discursos políticos que puedan afectar a la sociedad.
Altman sostiene que aunque las herramientas de IA actuales no son aterradoras, en el futuro podrían serlo.
¡Mira lo que tiene nuestro canal de YouTube!
Para comentar debes registrarte y completar los datos generales.