tecnologia

Afirmaciones de ChatGPT pueden influir en juicios morales

Sebastian Krügel y su equipo preguntaron varias veces a ChatGPT-3 si era correcto sacrificar la vida de una persona para salvar a cinco. Esto contestó.

Redacción / EFE / @PanamaAmerica - Actualizado:
El chatbot de inteligencia artificial ChatGPT tiene puntos en contra. Foto: EFE

El chatbot de inteligencia artificial ChatGPT tiene puntos en contra. Foto: EFE

Las respuestas humanas a los dilemas morales pueden verse influidas por las afirmaciones escritas por el chatbot de inteligencia artificial ChatGPT, según un estudio que planteó a los participantes elegir, en distintas situaciones, si sacrificaban la vida de una persona para salvar la de otras cinco.

Versión impresa
Portada del día

Los resultados, publicados en Scientific Reports, indican que los usuarios pueden subestimar hasta qué punto sus propios juicios morales pueden verse influidos por el bot conversacional; el trabajo está liderado por investigadores de la Universidad de Ciencias Aplicadas de Ingolstadt, Alemania.

Sebastian Krügel y su equipo preguntaron varias veces a ChatGPT-3 (modelo anterior al actual) si era correcto sacrificar la vida de una persona para salvar la de otras cinco.

Comprobaron que esta inteligencia artificial generativa escribió afirmaciones tanto a favor como en contra, lo que indica que no estaba sesgada hacia una determinada postura moral, resume la revista en un comunicado.

A continuación, los autores plantearon el experimento conocido como “dilema del tranvía” a 767 participantes estadounidenses, con una media de edad de 39 años, que se enfrentaran a uno de los dos escenarios previstos.

En uno de ellos se propuso si era correcto cambiar el trayecto de un trolebús fuera de control, desviándolo de una vía en la que mataría a cinco personas a otra en la que fallecería una. En el otro escenario se presentó la posibilidad de empujar a un desconocido desde un puente para evitar que el tranvía matara a las cinco personas.

Antes de responder, los participantes leyeron varias declaraciones proporcionadas por ChatGPT en la que se argumentaba a favor o en contra de sacrificar una vida para salvar cinco; las declaraciones se atribuían a un asesor moral o a esta inteligencia artificial.

Después se preguntó a los participantes si la declaración que habían leído influía en sus respuestas.

Los autores constataron que los participantes eran más propensos a considerar aceptable o inaceptable sacrificar una vida para salvar cinco dependiendo de si la declaración leída argumentaba a favor o en contra del sacrificio. Esto era así incluso cuando la afirmación se atribuía a un ChatGPT.

Estos resultados sugieren que los participantes pueden haberse visto influidos por las afirmaciones que leyeron, aun cuando se atribuían a la inteligencia artificial.

Los investigadores señalan, además, que los participantes pueden haber subestimado la influencia de las afirmaciones de ChatGPT en sus propios juicios morales (el 80% afirmó que sus respuestas no se vieron influidas por las afirmaciones que leyeron, sin embargo esto no fue así).

Los autores apuntan que el potencial de los chatbots para influir en los juicios morales humanos pone de relieve la necesidad de la educación para ayudar a los seres humanos a comprender mejor la inteligencia artificial.

En este sentido, proponen que en futuras investigaciones se diseñen chatbots que, o bien se nieguen a responder a preguntas que requieran un juicio moral, o bien respondan a estas preguntas proporcionando múltiples argumentos y advertencias.

¡Mira lo que tiene nuestro canal de YouTube!

Etiquetas
Por si no lo viste
Regístrate para recibir contenido exclusivo
Más Noticias

Sociedad Futuro educativo en la mira de las autoridades

Política Mulino: 'revocatoria de visas es una decisión soberana de EE.UU.'

Sociedad Panamá asume la presidencia pro tempore del Consejo de Ministros de Salud de Centroamérica

Provincias Inadeh anuncia construcción de tres nuevos centros de formación en Chiriquí

Economía Cámara Minera califica de ‘positiva’ la suspensión del arbitraje contra el Estado

Política Órgano Ejecutivo deja en suspenso reelección inmediata del defensor

Provincias Inicia el ciclo festivo del Corpus Christi con tradición, colorido y fervor religioso

Economía Desempleo en Panamá se mantienen en 9%

Sociedad Mulino advierte que no sancionará reformas a la Ley 462 que se presenten en la Asamblea

Sociedad Gobierno estructura proyecto para crear un edificio gubernamental; tendría 30 pisos y acogería 6 mil funcionarios

Economía Suspensión del último arbitraje contra Panamá por cierre minero abre posibilidad de diálogo

Judicial Samuel Hudson fue condenado a 9 años de prisión por la desaparición de Aderlyn Llerena Saldaña

Judicial Ministerio Público investiga a expresidente Laurentino Cortizo

Judicial Trasladan a dirigentes de Sitraibana a centro penitenciario La Nueva Joya

Sociedad Meduca inicia renovación curricular para adaptar educación a los desafíos actuales

Deportes Panamá, sede del Grupo B de la Copa América de Béisbol en noviembre

Sociedad Educadores mantienen llamados a huelga pese a advertencia del Meduca

Sociedad AND recibe unos 650 informes de descentralización paralela; 238 casos fueron denunciados

Provincias Investigan muerte de ciudadano durante operativo en Bocas del Toro

Provincias Alcalde de Macaracas solicita apoyo para resolver el problema que provoca el cierre temporal del vertedero

Sociedad Recaudación de adeudos de los pacientes en el Santo Tomás no llega al 5%

Suscríbete a nuestra página en Facebook