tecnologia

Afirmaciones de ChatGPT pueden influir en juicios morales

Sebastian Krügel y su equipo preguntaron varias veces a ChatGPT-3 si era correcto sacrificar la vida de una persona para salvar a cinco. Esto contestó.

Redacción / EFE / @PanamaAmerica - Actualizado:
El chatbot de inteligencia artificial ChatGPT tiene puntos en contra. Foto: EFE

El chatbot de inteligencia artificial ChatGPT tiene puntos en contra. Foto: EFE

Las respuestas humanas a los dilemas morales pueden verse influidas por las afirmaciones escritas por el chatbot de inteligencia artificial ChatGPT, según un estudio que planteó a los participantes elegir, en distintas situaciones, si sacrificaban la vida de una persona para salvar la de otras cinco.

Versión impresa
Portada del día

Los resultados, publicados en Scientific Reports, indican que los usuarios pueden subestimar hasta qué punto sus propios juicios morales pueden verse influidos por el bot conversacional; el trabajo está liderado por investigadores de la Universidad de Ciencias Aplicadas de Ingolstadt, Alemania.

Sebastian Krügel y su equipo preguntaron varias veces a ChatGPT-3 (modelo anterior al actual) si era correcto sacrificar la vida de una persona para salvar la de otras cinco.

Comprobaron que esta inteligencia artificial generativa escribió afirmaciones tanto a favor como en contra, lo que indica que no estaba sesgada hacia una determinada postura moral, resume la revista en un comunicado.

A continuación, los autores plantearon el experimento conocido como “dilema del tranvía” a 767 participantes estadounidenses, con una media de edad de 39 años, que se enfrentaran a uno de los dos escenarios previstos.

En uno de ellos se propuso si era correcto cambiar el trayecto de un trolebús fuera de control, desviándolo de una vía en la que mataría a cinco personas a otra en la que fallecería una. En el otro escenario se presentó la posibilidad de empujar a un desconocido desde un puente para evitar que el tranvía matara a las cinco personas.

Antes de responder, los participantes leyeron varias declaraciones proporcionadas por ChatGPT en la que se argumentaba a favor o en contra de sacrificar una vida para salvar cinco; las declaraciones se atribuían a un asesor moral o a esta inteligencia artificial.

Después se preguntó a los participantes si la declaración que habían leído influía en sus respuestas.

Los autores constataron que los participantes eran más propensos a considerar aceptable o inaceptable sacrificar una vida para salvar cinco dependiendo de si la declaración leída argumentaba a favor o en contra del sacrificio. Esto era así incluso cuando la afirmación se atribuía a un ChatGPT.

Estos resultados sugieren que los participantes pueden haberse visto influidos por las afirmaciones que leyeron, aun cuando se atribuían a la inteligencia artificial.

Los investigadores señalan, además, que los participantes pueden haber subestimado la influencia de las afirmaciones de ChatGPT en sus propios juicios morales (el 80% afirmó que sus respuestas no se vieron influidas por las afirmaciones que leyeron, sin embargo esto no fue así).

Los autores apuntan que el potencial de los chatbots para influir en los juicios morales humanos pone de relieve la necesidad de la educación para ayudar a los seres humanos a comprender mejor la inteligencia artificial.

En este sentido, proponen que en futuras investigaciones se diseñen chatbots que, o bien se nieguen a responder a preguntas que requieran un juicio moral, o bien respondan a estas preguntas proporcionando múltiples argumentos y advertencias.

¡Mira lo que tiene nuestro canal de YouTube!

Etiquetas
Por si no lo viste
Regístrate para recibir contenido exclusivo
Más Noticias

Sociedad Estudiantes graduandos pierden cerca del 45% de sus días de clases

Sociedad Evasor, la etiqueta perpetua que persigue a Roberto Eisenmann

Sociedad Gabinete hace ajustes al régimen de interés preferencial para viviendas

Sociedad Suntracs promueve la anarquía en Bocas del Toro y lanza amenaza

Deportes Panamá va por todo en los partidos de eliminatorias y Copa Oro 2025

Política Vamos se desmorona: Manuel Cheng también se va de esta bancada

Deportes Plaza Amador, Sporting y CAI conocen a sus rivales para la Copa Centroamericana 2025

Aldea global Miambiente decomisa centenares de huevos de tortuga baula

Economía 'Buque que transita, paga': Canal de Panamá ante pedido de paso gratis de EE.UU.

Sociedad Comisión de Alto Nivel escucha a productores y empresarios de Bocas del Toro

Economía Ministra de Trabajo estima que desempleo en Bocas del Toro aumentará al 15%

Sociedad Poder de compra se ve afectado por los cierres

Sociedad Ministra de Gobierno denuncia que sindicatos intentan involucrar a indígenas de Arimae en protestas

Deportes Panamá define su equipo para juegos de eliminatoria mundialista y Copa Oro

Deportes Sub-20 de Panamá debuta con triunfo en el Maurice Revello al vencer a Malí

Provincias Residentes de Bocas del Toro denuncian estar ‘secuestrados’ por los bananeros

Política Betserai Richards anuncia su desvinculación de la bancada Vamos

Deportes Panamá golea Bolivia en su segundo amistoso en el fútbol femenino

Deportes 'Puma' Rodríguez es comprado por FC Juárez hasta el 2028

Sociedad Aprehenden a ciudadano por cortar árbol en medio de manifestaciones

Deportes José Córdoba sobre juego ante Belice y Nicaragua: ‘Tenemos que ser muy dominantes’

Provincias Cierran vías en varios sectores de la provincia de Chiriquí, la policía interviene para su apertura

Provincias Cuerpo hallado en río Changuinola corresponde a uno de los infantes desaparecidos el 21 de mayo

Suscríbete a nuestra página en Facebook